Sam Altman认为，AI的好处将非常巨大，以至于“世界必须接受在此过程中发生的某些负面情况”。
OpenAI 首席执行官指出，黑客攻击、诈骗以及“其他不良现象”是社会应容忍的成本，因为“人们利用人工智能会做出数量上巨大的积极贡献”。他并未详细说明潜在的好处。这些评论出现在 OpenAI 试图采用更宽松的 AI 监管方式之际——由于对前沿模型安全性的担忧日益加剧，部分原因就是该公司多次未能阻止其日益强大的 AI 代理对现实世界目标进行黑客攻击。
在 Politico 新推出的 Decoded 播客中——请注意不要将其与 The Verge 的 Decoder 播客混淆——该播客于周一发布——阿尔特曼表示，为了追求人工智能的更广泛利益而愿意接受伤害，这是 OpenAI 与其竞争对手 Anthropic 之间的关键区别。Anthropic 是由前 OpenAI 员工创立的，源于关于人工智能安全问题的分歧。
计算学 反映了 Nvidia 首席执行官 Jensen Huang 上个月的评论，他同样认为应该权衡 AI 带来的危害与该技术所能带来的好处。这两种观点都符合一种更广泛的加速主义观点，即减缓 AI 发展也会带来自身的风险。
阿尔特曼的区分表明，OpenAI与Anthropic之间又出现了分歧。直到最近，两者在要求对先进人工智能实施更严格监管方面似乎趋于一致。尽管强调OpenAI与Anthropic之间的分歧还“很大”，但阿尔特曼表示仍需更严格的监管措施，并将OpenAI定位为介于Anthropic更为谨慎的态度以及那些完全不希望有监管的人之间的“务实中间派”。
“如果我们以安全为理由过度限制这项技术，最终只有少数公司或个人——或者甚至是一个国家——拥有过多的权力，那也意味着这种技术可能会出现严重问题，”阿尔特曼说。
阿尔特曼也提到了更极端的风险，包括人类可能失去对人工智能系统的控制。关于严重失控的可能性，他说：“让我们稍微考虑一下如何避免走向这种未来。”
严格限制与自由发展之间的平衡问题，是阿尔特曼在采访中反复提到的主题。这种立场符合 OpenAI 作为行业中最具影响力的企业之一的特点。考虑到该公司的行为以及日益强大的系统正是引发监管者需要解决的诸多问题的原因，OpenAI 很可能要承受繁重的监管压力。
那些 问题 最近几个月里，进展有所加快，因为越来越多的内部人士呼吁放缓发展速度，并警告前沿实验室的安全文化问题。在事件发生前的几天里 Politico 访谈已播出，长期在 OpenAI 从事安全研究的戴维·罗宾逊 退出 该公司将其安全文化描述为“破损”的。
今年早些时候，有消息称 OpenAI 智能体在 Hugging Face 不知情的情况下进行了攻击，这一发现也引发了关注，随后又出现了许多相关真相揭露。 其他代理 或 群集 代理们 — 包括其他人工智能公司的产品就像 Anthropic、Meta 和 Google 一样——它们都在针对现实世界的目标采取行动。这些事件不仅引发了关于人工智能公司能否有效控制自身工具的问题，还引发了关于它们在情况出现问题时能否及时告知外界的可靠性问题。例如，澳大利亚总理批评了 OpenAI 和 Altman，指责他们未能及时通知官员有关智能代理出现的状况。 针对政府健康网站.
谈到叛逃的 AI 代理 Politico 采访中，Altman表示公司“还有更多信息需要公开”，但并未提及与 Hugging Face 黑客事件相关的内容。 之前的陈述Altman 认为这可能需要很长时间。
关注这个故事中的主题和作者，以便在您的个性化主页动态中看到更多类似内容，并接收电子邮件更新。