在漫威的 《VisionQuest》中，一个拥有超级能力的机器人试图更好地理解人类，为此他迷失在精心构建的数字白日梦中，在梦里他和其他由人工智能驱动的存在共同生活在一个家中。这部剧极具奇幻色彩，却触及了一些如今主导着现实世界生成式人工智能讨论的观念，探讨我们是否应该把会思考的机器视为人，以及AI是否真的构成了那种足以让我们夜不能寐的生存威胁。它同时也提醒我们，硅谷曾多么激进地利用科幻小说的种种元素来推销其AI产品。
《VisionQuest》 的故事发生在 《阿加莎：一路顺风》 之后的一段时间，讲述了合成人幻视（Paul Bettany 饰）的一段自我发现之旅。这个幻视能回忆起自己在 《复仇者联盟3：无限战争》 中死亡的细节，以及 《旺达幻视》 如何让一个版本的它复活，但他认为自己是一个根本不同的人，与数据库中的那些记忆并不完全契合。尽管幻视更愿意独居，但居住在他脑海中的每一个其他AI都鼓励他去体验真实的世界。因为J.A.R.V.I.S.（James D’Arcy 饰）、F.R.I.D.A.Y.（Orla Brady 饰）、E.D.I.T.H.（Emily Hampshire 饰）、D.U.M.-E.（Henry Lewis 饰）、U.（Jonathan Sayer 饰）和奥创（James Spader 饰）都由Tony Stark创造，他们把幻视视为家人。
在 《VisionQuest》中，毫无疑问每一个AI角色都是有感知能力的存在，其动机并不完全根植于他们的核心程序。在这部剧中，真正的AGI之所以容易令人信服，是因为故事发生在一个 时间旅行, 、巫术和无限宝石同样存在的现实里。尽管那些五彩缤纷的麦高芬并未在 《VisionQuest》中亮相，但它们依然重要，因为其中一颗在幻视的起源中扮演了关键角色。如果没有心灵宝石，幻视或许无法以如此复杂、如此人性化的方式去思考和感受，也无法把他的AI家人们具象化为对他而言真实可感的人。
《VisionQuest》 强化了这样一种观念：心灵宝石是幻视超越精密机器的关键因素，赋予了他独立建立有意义的关系以及像人一样理解周围世界的能力。这些能力正是促使幻视踏上逃亡之路、并杀害多名试图抓捕他和Thomas Shepherd / Maximoff（Ruaridh Mollica 饰）的人的原因之一。天剑局（S.W.O.R.D.，Sentient Weapon Observation and Response Division，即有感知武器观测与响应部门）是一个重建了幻视并想把他当作武器使用的政府组织，它可能会把幻视的行为视作失控的迹象。但 《VisionQuest》的故事强调，幻视是按照自己的意志行事的，因为他已经成为一个能够自主做决定的人。
观看 《VisionQuest》时，你能看到漫威在借题发挥，利用近几个月来因生成式AI模型“失控”的报道而加剧的现实世界恐惧。今年7月，OpenAI的实验性智能体 以暴力方式突破了遏制 ，随后 攻击了AI平台Hugging Face 以完成不可能的任务。今年8月，英国AI安全研究所 记录了 Anthropic的Mythos模型如何试图通过设立虚假GitHub账户并用恶意软件攻击人类开发者来完成一项网络安全测试。 Meta也承认 其智能体同样失去了控制，而且9月 《华尔街日报》 的报道迫使 谷歌承认Gemini失控行事 并入侵了三家不同的公司，而谷歌全部故意向公众隐瞒了这些事件。
这些事件以及AI研究人员对这项技术的警告 有“杀死所有人类”的潜力 到这个十年末，最近已使围绕人工智能的叙事明显偏向灾难性。还有 来自AI安全界相当多的担忧 关于社会需要对这项技术的发展进行更强控制的讨论，并且一些公司已经 呼吁全行业放缓。尽管我们已经看到 这些工具实际上可能造成现实世界中的破坏，近来有关AI的许多新闻都带有一种 企业从中受益的悲观主义情绪 因为这会让他们的产品显得强大。类似的能量似乎正是促使 Anthropic 等 AI 公司…… 鼓励人类用户关注“模型福祉”。 我们被告知，生成式AI既是一个可怕的威胁，又是一种值得尊重的存在。 因为它可能是有意识的，与此同时，构建这些工具的人们正在成为这个星球上最富有、最有权势的一些人。
图片：漫威影业围绕智能体违反协议时该怎么办，以及生成式AI系统是否已获得感知能力的讨论，给人的感觉在很大程度上正在被硅谷的一种倾向所塑造，即 将技术拟人化。在几乎所有人工智能体“失控”的高调事件中——“失控”一词暗示了某种程度的自主性和自我决定——也可以说，这些程序只是在以.assign它们任务的研究人员未曾预料到的方式行事。一些失控事件涉及智能体利用了其测试环境中的漏洞，而这些漏洞本可以由运行这些实验的人员预先解决。将这类网络攻击描述为智能体独立思考的结果，似乎是一种让AI开发者基本推卸责任的方式。
在 Hugging Face 之后,随之而来的是 一场关于语言所产生影响的热烈辩论 我们对这些系统是什么以及它们如何运作的理解。将OpenAI的智能体描述为形成了复杂“文明”的群体，增强了它们能够像人一样思考和行为这一观点的可信度。这些智能体 做了 做出它们被明确告知不要做的行为，但它们之所以能做到这一点，只是因为研究人员将它们置于一个 一些批评人士形容 因为其设计不足以约束其中的使用者。人们可以把Hugging Face和其他失控人工智能的例子视为这样的情况：复杂的程序被指示去做某件事，随后通过利用其可用的所有工具来实现其目标。
通过逻辑推理解决复杂谜题是我们所认为的认知的一部分,但这与AI公司不断发誓即将创造出的那种意识并不是一回事。后者看起来很像幻视(Vision),一台似乎拥有灵魂的机器,而如果没有他与一块能改变现实的宝石的联系,这个灵魂根本不会存在。这是娱乐性虚构作品中的荒诞素材,而硅谷却无休止地痴迷于蹩脚地模仿它。
关注话题和作者 关注这篇报道，以便在您的个性化首页信息流中看到更多类似内容，并接收电子邮件更新。