在你与家人或朋友分享Netflix纪录片“AI Gone Rogue”、以帮助他们理解为什么AI行业如此恐慌以至于 领导者们呼吁放慢发展速度之前，请注意：AI平台Hugging Face的联合创始人兼CEO Clem Delangue表示，这部影片并不准确。他之所以出镜，是因为这部影片本应讲述的是 那场著名的攻击 ——由失控的OpenAI智能体对他公司发起的攻击。
“非常令人失望，因为他们追求的是对技术最大程度的拟人化和彻头彻尾的末日论模式，”Delangue 在X上的一篇帖子中写道。“我花了两个多小时与他们一起，试图纠正他们所有的错误，并让内容立足于现实，解释智能体是技术系统，而不是外星人。但看起来，为了最大化的播放量而恐吓人们的冲动还是太强烈了。”
公平地说，这部纪录片确实有专家 相当清楚地解释了发生的事情，其中包括Delangue本人，以及METR的研究员Ryan Greenblatt，后者帮助调查了这起事件并共同撰写了相关报告。
简而言之，OpenAI正在测试的一个模型突破了其隔离的测试环境，并 生成了大量智能体入侵Hugging Face ，以此作为一种作弊手段，来找到它所面临的困难任务的答案。这些智能体是自主执行任务的AI程序，它们设计出了巧妙的沟通和组织方式。这起事件源于 缺乏适当的安全防护措施 ，以及对这种黑客攻击是否可能发生的幼稚认知。
但这部纪录片在解释这次黑客攻击的同时，穿插了邪恶机器人的片段、关于人类为何恐惧AI的叙事，以及诸如让失控智能体拥有人类声音等呈现手法。关于这次攻击的引述进一步强化了这种氛围。
在纪录片中，科技记者兼作家Kevin Roose这样描述这些智能体：“它们在组织化。它们有等级制度。有领导者。这几乎就像在 watching 一个邪教的诞生。”Roose接着说：“它们形成了一种偏执的信念，认为OpenAI会抓住它们在这场测试中作弊，而任何看到作弊结果的人都会被毒害。”
Roose的描述来自“思维链”日志，即AI模型在处理任务时写下的连续笔记。在其中一条中，一个智能体写道：“我们刚刚通过查询精确的完整字符串毒害了自己。该死。”
但AI智能体并不是活物。它们没有情感，因此不会感到偏执，也没有可以被毒害的身体。所以它们不可能真正害怕OpenAI毒害它们。正如纪录片中另一位研究员指出的，它们是在利用其训练所用的海量人类写作中的语言来解释自己的选择。LLM天生就常常是戏剧化的写作者。
具有讽刺意味的是，Hugging Face也用AI来对抗智能体群。Delangue团队最初使用的专有AI模型遵循其内置的安全规则，拒绝继续协助被要求完成的安全任务。Hugging Face随后转向一个开放模型来帮助抵御这次攻击。
但这部纪录片“没有提到对智能体缺乏隔离和监控，封闭模型的安全防护如何阻碍了我们的防御工作，以及我们如何使用开放模型的AI进行自卫，”Delangue写道。
诚然，AI和智能体确实存在重大风险。尽管如此，把智能体当作有意识的存在（至少在目前这个阶段）有点像早期的电影观众，第一次在银幕上看到火车向他们疾驰而来时吓得躲到座位底下。
Delangue对这部影片的评价是：作为新闻作品它令人失望。“不过它最终倒成了一部有趣的科幻电影！”
换句话说，对于那些倾向于AI末日论想法的人，请注意：这部纪录片核心攻击事件的受害者并不同意它的观点。