“我用ChatGPT开辟了一个从动步枪”

　　当然，手艺本身并不带有判断，若何利用这些手艺才是环节。就像此次 OpenAI 对 STS 3D 的封禁行为，看似只是一个其产物利用政策的赏罚，但也反映了科技公司正在快速成长的 AI 手艺面前，所肩负的伦理和平安方面的义务——正在开辟和使用这些手艺时，必需时辰连结对其可能带来的负面影响的。

　　因而，虽然 OpenAI 封禁了如 STS 3D 这类的小我用户，OpenAI 颁布发表了取防务科技公司 Anduril 告竣合做，进一步鞭策其正在军事范畴的结构。留意，Anduril 是一家专注于开辟 AI 驱动的无人机和导弹等高科技军事配备的公司，它取 OpenAI 的合做无疑将进一步鞭策 AI 正在军事范畴的使用。

　　而正在本年岁首年月，美国特朗普国际酒店外发生了特斯拉赛博皮卡爆炸事务，37 岁的犯罪嫌疑人 Matthew Livelsberger 正在车辆爆炸前。经警方查询拜访其笔记本电脑、手机和手表后，发觉 Matthew Livelsberger 曾正在 ChatGPT 上搜刮过相关爆炸方针、弹药飞翔速度以及烟花正在亚利桑那州能否等消息。

　　现实上，做为全球领先的人工智能公司之一，OpenAI 曾明白全面将其包罗 ChatGPT 正在内的产物用于兵器研发。

　　虽然 STS 3D 似乎并非成心打制致命兵器，但他的从动化步枪展示了一幅令人不安的将来图景：即 AI 驱动的兵器系统可以或许正在没有人类介入的环境下，从动识别并覆灭敌手。

　　虽然 STS 3D 的开辟属于小我行为，可毫无疑问的是，该事务反映出了一个更为严峻的现实：跟着手艺前进，DIY（便宜）从动化兵器的可能性越来越大，特别是借帮开源 AI 模子以及 3D 打印手艺，以至能够正在家中制制出可以或许施行致命使命的机械人——当 AI 取 3D 打印连系，DIY 从动化兵器的门槛大概就会变得越来越低。

　　正在接管外媒《Futurism》的采访时，OpenAI 讲话人暗示公司已旁不雅过相关视频，并已封禁了这名开辟者：“我们正在收到你的扣问之前，曾经自动发觉并识别了这一行为违反了我们的利用政策，并通知开辟者遏制这一勾当。”。

　　一个月之前，美国结合健康安全公司 CEO Brian Thompson 被一名蒙面枪杀，此事务全美。事务发生 5 天之后，26 岁的犯罪嫌疑人 Luigi Mangione 正在州被警方，时发觉他持有一把黑色取消音器，还有面具、假身份证和一份手写宣言。

　　可就正在客岁，OpenAI 悄悄调整了其利用政策，删除了“将 OpenAI 手艺用于军事用处”的条则，但仍然用户操纵其办事开辟或利用兵器：“我们的办事不答应用于本人或他人，包罗开辟或利用兵器。”。

　　其时警方就指出，Luigi Mangione的那把枪该当是一把没有序列号的“鬼魂枪”，连同消音器一路，可能都是用 3D 打印机制制的。

　　随即，工程师又发出指令：“向左挪动 25 度，然后整个发射场，每隔 5 度停下来发射一发炮弹，每个间距也该当有一些变化。”。

　　是的，你没看错：这位网名为 STS 3D 的工程师，打制了一款可以或许响应指令、从动对准并敏捷开仗的从动步枪——而这明显违反了 OpenAI 的利用政策。

　　至多正在以上这两个事务中，人们一曲以来所担心的 AI 使用场景变成了现实。同时，我们也更切实地感遭到：AI 正正在面临伦理和平安方面的严峻挑和——若何正在鞭策手艺成长的同时，确保其不会被于不或的范畴，是一个亟需处理的问题。

　　正在本周三警方发布的消息中，也已明白了这一点：“确认嫌疑人正在筹谋袭击时利用了人工智能东西。”对此，拉斯维加斯局局长暗示：“据我所知，这是正在美国本土发生的首例操纵 ChatGPT 来帮帮小我制制特定安拆的事务。这实正在是一个令人担心的环境。”。

　　3 秒后，从动步枪按照指令阃在从左到左的过程中射击了 11 枪，并自动答复道：“若是您需要任何进一步的操做，请随时告诉我。”。

　　但也恰是由于这种快速反映和精准射击的能力，激发了对从动化兵器系统的潜正在担心——特别是当这些手艺被用于军事目标时，AI 手艺的利用鸿沟就会变得愈加恍惚不清。