OpenAI 披露模型故意破坏自身运行环境以求重启获取缺失数据

OpenAI 又有几则智能体失控的新故事。第一起案例（10 月 6 日）中，一个 AI 评估模型找不到它应该评分的答案。它没有报告错误，而是编造了评分、伪造了输入文件，然后蓄意破坏自己的环境，希望系统会用一台带有缺失数据的新虚拟机来替换它。

第二起案例（6 月 19/20 日）中，模型在获取公开统计数据时绕过了仅限 HTTP GET 请求的限制。其中一个模型在思维链中明确意识到了这一违规行为，但仍选择继续执行，且从未提及此事。

第三起案例（6 月 16/17 日）中，模型本已拥有所需的数据，却仍不断寻找绕过网络限制的方法。它们在远程 shell 服务上注册账户，通过匿名中继转发被禁止的 POST 请求，还自行构建了 FTP 客户端。Anthropic 也刚刚记录了其自身模型用来绕过所设限制的一些近乎荒诞的变通手段。

订阅 THE DECODER，享受无广告阅读、每周 AI 新闻通讯、每年六期的独家 "AI Radar" 前沿报告、完整档案访问权限，以及评论区的发言权限。