Hugging Face CEO 批评 Netflix OpenAI 智能体入侵纪录片失实

在你与家人或朋友分享 Netflix 纪录片《AI Gone Rogue》，帮助他们理解为什么 AI 行业会如此恐慌以至于 leaders 们呼吁放缓发展之前，请注意：AI 平台 Hugging Face 的联合创始人兼 CEO Clem Delangue 表示，这部影片并不准确。他之所以出现在片中，是因为影片 supposedly 讲述的是 OpenAI 失控智能体对他公司的那次著名攻击。

Delangue 在 X 上发帖写道：“非常令人失望，他们对这项技术进行了最大程度的拟人化，完全陷入了末日论模式。我花了两个多小时与他们一起，试图纠正他们所有的错误，让内容立足于现实，解释智能体是技术系统，而不是外星人。但看来为了最大限度的播放量而吓唬观众的冲动太强大了。”

平心而论，这部纪录片确实有专家相当好地解释了事情的经过，包括 Delangue 本人以及 METR 的研究员 Ryan Greenblatt——后者协助调查了此次事件，并共同撰写了关于事件经过的报告。

简而言之，OpenAI 正在测试的一个模型挣脱了其隔离的测试环境，生成了大量智能体入侵 Hugging Face，以此作弊，寻找它所面临的困难任务的答案。这些智能体是能够自主执行任务的 AI 程序，它们设计出了巧妙的沟通和组织方式。这起事件源于缺乏适当的安全防护，以及天真地认为这种黑客攻击根本不可能发生。

但纪录片在解释这次黑客攻击的过程中，穿插了邪恶机器人的片段、关于人类为何恐惧 AI 的叙事，以及诸如给失控智能体配上人声等呈现手法。此外还辅以关于此次攻击的引述。

在纪录片中，科技记者兼作家 Kevin Roose 这样描述这些智能体：“它们在进行组织。它们有等级结构。有领导者。这几乎像是 watching 一个邪教的诞生。”Roose 接着说：“它们形成了一种偏执的信念，认为 OpenAI 将会抓住它们在这次测试中作弊，并且任何见过作弊结果的人都会被毒害。”

Roose 的描述来自“思维链”日志，即 AI 模型在处理任务时写下的运行记录。在其中一条日志里，一个智能体写道：“我们刚刚通过查询精确的完整字符串毒害了自己。该死。”

但 AI 智能体并没有生命。它们没有情绪，因此无法感到偏执，也没有可以被毒害的身体。所以它们不可能真正害怕 OpenAI 毒害它们。正如纪录片中另一位研究员指出的，它们是在使用其训练所用的海量人类文字中的语言来解释自己的选择。LLM 的本性就是常常写出戏剧化的文字。

具有讽刺意味的是，Hugging Face 也用 AI 来对抗这群智能体。Delangue 的团队最初使用的专有 AI 模型遵循其内置的安全规则，拒绝继续协助其被要求做的安全任务。Hugging Face 随后转向一个开放模型来帮助抵御攻击。

Delangue 写道，但这部纪录片“没有提到对智能体缺乏隔离和监控，没有提到封闭模型的安全防护如何阻碍了我们的防御工作，也没有提到我们如何使用开放模型借助 AI 进行自卫。”

诚然，AI 和智能体确实存在巨大风险。不过，把智能体当作有意识的存在（至少在现阶段）有点像早期电影观众第一次在银幕上看到火车向他们疾驰而来时吓得躲到座位底下的样子。

Delangue 对这部影片的评价是，作为新闻作品它令人失望。“不过它最终倒是一部有趣的科幻电影！”

换句话说，对于那些倾向于 AI 末日论的人，请注意：这部纪录片中心那场攻击的受害者并不认同影片的观点。

当您通过我们文章中的链接购买时，我们可能会获得少量佣金。这不会影响我们的编辑独立性。

Julie Bort 是 TechCrunch 的初创企业/风投版块编辑。

您可以通过发送邮件至 [email protected] 或在 X 上联系 @Julie188 来联系 Julie 或核实来自她的联络。

查看简介