IT之家 10月16日の報道によると、テクノロジーメディアのBusiness Insiderは昨日（10月15日）に投稿を発表し、「Googleの共同創設者であるセルゲイ・ブリンが、Geminiモデルが『自己改善』の重要な段階に入っていると述べた」と報じている。
新モデルGemini 4 Argonをめぐって行われた円卓討論で、ブリンはAIが自らの次世代モデルの構築に参加し始めたと述べました。グーグルが以前に発表したFlashシリーズモデルがこの傾向を示しており、同社は「RSIのトレーニングマシンに乗り始めている」と述べています。
IT之家注：RSIとはRecursive Self-Improvementのことで、直訳すると「递归自己改善」です。つまり、AIがより強力なAIを構築するのを助け、それによって加速された反復プロセスが生じる「フライウィール効果」を形成するということです。
グーグルはArgoのセキュリティ報告書で、AI研究開発プロセスの一部が自動化されていると明らかにした。AIの知能は、生産コードの作成や脆弱性の修正作業の大部分を担うことができるが、コードの変更は提出前に人間の検査を経なければならない。
この判断はグーグルだけのものではありません。AnthropicとOpenAIも、AIがRSI段階に近づいている可能性があると述べています。Gladstone AIが今週発表した報告書によると、インタビューされた多くのAnthropic、OpenAI、DeepMindなどの機関の研究者は、RSIが今後3〜12ヶ月以内に始まる可能性があると考えているとのことです。
しかし、RSIも安全上の懸念を引き起こす。以前、AI研究者は、十分な保護機構がない場合、人類が迅速な自己改善技術の制御を徐々に失ってしまう可能性があると警告した。
