据报道，OpenAI 今年将发布至少一个模型，但其旗舰模型仍需进行对齐工作

据报道，OpenAI 今年将发布至少一个模型，但其旗舰模型仍需进行对齐工作

OpenAI 正在竞相完成其下一代旗舰模型，该模型采用与 Astra 相同的循环 transformer 技术。这种方法提升了数学和编程性能，但使安全监控变得更加困难。员工表示一到两个新模型可能会在年底前发布。

据知情员工透露，OpenAI 可能会在年底前发布“一到两个新模型”，但目前尚不清楚该公司目前正在开发的“重大升级模型”是否会位列其中。这一消息来自 The Information，援引知情人士的说法。

新旗舰模型可能还需要一段时间。该模型需要进行 对齐 工作，使其目标符合 OpenAI 研究人员和客户的预期。该公司还必须在使用该模型之前巩固其周围的测试基础设施。

在领导层对安全评估感到满意之后，还有另一道关卡。根据规范先进 AI 系统评估的 特朗普总统的行政命令 ，OpenAI 同意让美国政府在外部合作伙伴获得新模型之前最多提前 30 天访问这些模型，而在公开发布之前的时间则更长。广告

循环 transformer 同时驱动 Astra 和下一代旗舰模型

据知情人士透露，新旗舰模型也使用循环 transformer。OpenAI 已经在生产环境中运行这项技术，其名称为“Recurrent Depth”。它是该公司当前顶级模型 Astra 工作原理的核心。该模型不是让一个 token 只通过 transformer 层一次，而是让它多次循环通过相同的层，然后才输出下一个词。这提高了数学和编程方面的性能并降低了成本，因为较小的模型可以发挥超乎其体量的能力。

但循环也将模型的部分“思考”从可读文本转移到了人类审查者无法检查的内部数值表示中。这削弱了 思维链监控，即安全研究人员通过追踪模型的推理来发现不良行为。据 The Information 报道，OpenAI 特意限制了 Astra 运行的循环次数，以保持其思维链的可读性。

据知情人士透露，在 Hugging Face 事件之后，OpenAI 将其总算力的约百分之十转移到了对齐和安全方面。The Information 报道称，这相当于数百兆瓦的数据中心容量，但尚不清楚此前分配给安全方面的算力有多少，以及目前的分配比例如何。按市场价格计算，OpenAI 转移的算力每年需要花费数十亿美元才能租用。 AI 研究人员 Noam Brown 在九月中旬的一期播客 中表示，他的团队中也有约百分之十的人从事安全和保障工作。

微软意外泄露 OpenAI 循环推理的工作原理

OpenAI 实际如何使用这项技术，是通过微软的一次失误而曝光的。这家拥有 OpenAI 知识产权访问权的主要投资者在 GPT-6.1 Sol——这是 OpenAI 本月早些时候推出的一款更便宜的 Astra 替代品。Ad

在一个现已被删除的章节中，微软将GPT-6.1 Sol描述为使用"循环推理"（looping inference），即模型在生成答案之前通过多次"传递"（passes）来处理同一个问题。The Information从该页面的缓存副本中引述道，GPT-6.1 Sol"使用与GPT-6 Sol相同的基础模型权重，但只用两次推理传递而不是三次"。

一位知情的消息人士证实，这段描述与OpenAI私下向微软透露的内容一致。微软在意识到该内容本不应公开后将其撤下。据The Information报道，循环 transformer 仍然是OpenAI模型开发中的一个敏感部分，无论是在训练阶段还是在推理阶段。

OpenAI首席科学家Jakub Pachocki已经 承认 思维链监控正变得"脆弱"，并且"不幸地呈负面趋势"。他还警告全行业不要竞相开发缺乏可读推理的模型。

没有炒作的AI新闻 – 由人工精选

订阅THE DECODER，享受无广告阅读、每周AI新闻通讯、每年六期的独家"AI Radar"前沿报告、完整档案访问权限以及评论区的访问权限。