Googleは、自己改善型AIは全く存在しないと述べています

Googleは、自己改善型AIは全く存在しないと述べています

Googleのエンジニア、ヘイデン・ベルフィールドは、重要な自動化がすでに進んでいるにもかかわらず、自己改善型AIはまだ遠い未来のことだと述べています。

ベルフィールドによると、Google DeepmindはAI自体が推進するAI研究において、測定可能な加速が見られない。しかし、重大な自動化が起きていないわけではない。現在、AIは75％以上のプロダクションコードを生成している。しかし、約88％のコード変更は依然として人間の監査やレビューが必要であり、各変更は提出前に人間によってレビューされる。AIに完全に委ねられたコード変更の割合は、7.5％から11.9％に上昇した。

タスクが複雑で時間がかかるほど、AIが単独で対応する可能性は低くなる。1,389回の内部Argonエージェント実行において、複雑性が高まるにつれて人間の介入なしでの成功率は急落した。創造的な研究、新しい実験の設計、微妙なトレーニング不安定さの診断、長期的な計画策定には人間が不可欠である。Belfieldが言った。Deepmindの12人の上級研究者による調査でもこのパターンが確認され、明確で検証可能なタスクでは自動化が最も高く、自由な科学的アイデアの生成では最も低かった。

Deepmindが自社で開発したRE-Benchバッチでは、74の現実的なMLエンジニアリングタスクが含まれており、Argonはその約半分を解決しています。これはGemini 3.7 Flashの27％という性能から大きく向上していますが、完全な自動化が求めるほどのほぼ完璧な性能にはまだ遠いです。

Google自身の能力インデックスでは、AI研究における速度向上は見られない

体系的に進捗を追跡するために、チームは123モデルと92のベンチマークを含む一般能力指数（GCI）を構築した。Geminiモデルの能力は、月に約0.1 GCIポイントの安定したペースで向上しており、速度に大きな変化はない。チームは、Gemini 4 Argonがトレンドラインよりもわずかに上にあることを、AI駆動型の加速ではなく、より多くの計算処理と組織的な投資によるものだと考えている。

チームは現在、AI主導の研究自動化によるリスクを低いと評価しているが、今後は加速の兆候を追跡するための測定インフラを構築している。

ベルフィールドの発見 アラインすること 最近の研究しかし、業界全体で一致しているわけではありません。ジェフリー・ヒントン、ヨシュア・ベンギオ、OpenAIのヤクブ・パチョッキを含む20人以上のAI研究者が最近 「情報の爆発」が起こる可能性について警告 研究論文で、彼らはAIシステムが数年以内にすべてのAI研究と開発を自動化できると主張し、通常何年かかる進歩をわずか数ヶ月に短縮する可能性があると述べた。

アイAIニュース：大げさな要素なし – 人間が選んだもの

広告なしの読書、毎週のAIニュースレター、年に6回の独自の「AIラドル」フロンティアレポート、完全なアーカイブへのアクセス、コメントセクションへのアクセスなどができるTHE DECODERを購読してください。