谷歌表示，自我改进的人工智能根本不存在

谷歌表示，自我改进型人工智能与目标相差甚远

Google 工程师 Haydn Belfield 表示，尽管显著的自动化正在普及，但自我改进型 AI 仍远未实现。

根据贝尔菲尔德的说法，Google Deepmind发现由人工智能本身推动的人工智能研究并未出现可测量的加速。不过这并不意味着显著的自动化尚未发生：目前人工智能撰写了超过75%的生产代码。但据贝尔菲尔德称，约88%的代码变更仍需人工监督或审查，且每次变更在提交前都需经过人工审核。完全由人工智能处理的代码变更比例从7.5%上升到了11.9%。

任务越复杂、耗时越多，AI独自处理它的可能性就越小。在1,389次内部 Argon 智能体运行中，没有人类干预的成功率随着复杂度增加而急剧下降。对于创造性研究、新颖实验设计、诊断细微训练不稳定现象以及长期规划而言，人类仍然至关重要，Belfield 说道。对十二位 Deepmind 高级研究人员的调查也证实了这一趋势：自动化在定义明确、可验证的任务中表现最佳，而在开放式的科学构想方面则表现最差。

在 Deepmind 自研的 RE-Bench 基准测试中，该测试包含 74 项真实的机器学习工程任务，Argon 能够解决其中约一半。这与 Gemini 3.7 Flash 的 27% 成绩相比有了显著提升，但距离完全自动化的近乎完美性能仍相差甚远。

谷歌自身的能力指数显示，人工智能研究没有加速

为了系统地跟踪进展，团队构建了一个涵盖 123 种模型和 92 项基准的通用能力指数（GCI）。Gemini 模型的能力以每月约 0.1 个 GCI 点的稳定速度增长，速度没有显著变化。团队认为，Gemini 4 Argon 略微位于趋势线上方，是由于更多的计算资源和组织架构投入，而非人工智能驱动的加速效应。

该团队目前将人工智能驱动的研究自动化带来的风险评为低，但正在构建相应的测量基础设施，以便后续跟踪发展速度加快的迹象。

Belfield的研究结果与 近期的研究一致，但该领域并非所有人都同意这一观点。包括Geoffrey Hinton、Yoshua Bengio和OpenAI的Jakub Pachocki在内的20多位AI研究人员，在一项研究论文中警告称可能存在“智能爆炸”的情况。他们认为，AI系统可能在几年内就能自动化所有AI研究与开发工作，将通常需要数年才能完成的进展压缩到仅几个月内完成。

AI新闻——无炒作，由人类整理

订阅 THE DECODER，即可享受无广告阅读体验、每周人工智能通讯、每年六次的独家“AI Radar”前沿报告、完整存档功能，以及评论区访问权限。