外国工程师开发 ChatGPT 驱动的炮塔可“指哪打哪”，OpenAI 火速封号

感谢本站网友 Coje_He 的线索投递！

本站 1 月 11 日消息，据 Futurism 8 日报道，一名网名为“STS 3D”的外国工程师开发了一种能够响应 ChatGPT 查询并自动瞄准和射击步枪的炮塔，当其朗读“射击”命令后，旁边的步枪便可立刻开始瞄准并使用空包弹射击附近的墙壁。

工程师在演示中发出了“ChatGPT，我们正遭到左前方和右前方的攻击”的指令，并要求系统“作出相应反应”，步枪便可以“令人惊叹的”反应速度和精确度依赖 OpenAI 的实时 API 来理解指令并传达给设备。只需要一些简单的训练，ChatGPT 就能理解“向左转”这样的命令，并将其转化为机器能够识别的语言。

OpenAI 在向 Futurism 提供的声明中表示，公司已经关闭了该开发者的账号。OpenAI 方面还表示：“我们主动发现了这一违规行为，并在收到你们的询问之前，已通知开发者停止这项活动。”

OpenAI 方面还表示，该公司明确禁止将其技术用于开发或使用武器，或使某些可能危及人身安全的系统自动化。

然而据本站此前报道，在去年 1 月初，OpenAI 悄悄从其使用政策中删除了“明确禁止将其技术用于军事目的”的措辞。在此之前 OpenAI 的使用政策还包含上述条款：禁止“具有高身体伤害风险的活动”，特别是武器开发、军事和战争。

上图为修改前，下图为修改后。

新政策保留了不得“使用其服务伤害自己或他人”的禁令，并以“开发或使用武器”为例，但“军事和战争”这个更全面的禁令已经不复存在。

相关阅读：

《OpenAI 悄然更新使用政策，删除“明确禁止将技术用于军事、战争”措辞》