要点
- OpenAIのCEO Sam Altman氏は、今後の高度なAIの統治に関する3つの社内シナリオを提示した。
- 選択肢は、IAEAをモデルとした国際監視機関から、主要ラボのコンソーシアム、さらには単一企業による経済的支配に至るまで幅広い。
- OpenAIは来年中に道筋を決める計画だが、その過程で競合他社に遅れを取る余裕はない。
OpenAIのCEO Sam Altman氏は、従業員に向けて安全なAIへの3つのアプローチを示したと報じられている。
詳細は、関係者の話に基づく The Informationの報道による。Altman氏はこの発言を先週社内で行った。ちょうどトランプ政権が、超知能の開発者を監督する初の枠組みを準備している時期である。
国際原子力機関から計算資源を巡る闘いまで
最初のアプローチは、安全基準を強制するために国際 原子力機関（IAEA） をモデルとした組織を作るものである。OpenAIは2023年5月に、そうした機関を公に求めていた。この組織はシステムを検査し、監査を義務付け、計算資源とエネルギー使用を監視することになる。このような機関は国際協力、特にフロンティアモデルを構築している中国を含む各国との協力に依存することになる。
Altman氏は2番目のアプローチを 「Demisプラン」 と呼んだ。これは、当時GoogleのAIラボDeepMindの責任者だったDemis Hassabis氏が約10年前に行った提案に由来する。Hassabis氏はCERNをモデルとしたAI組織を構想していた。Altman氏の版では、主要ラボが単一の組織に合併するか、その傘下で運営され、その組織が協力国にモデルを供給する。Ad
Altman氏は3番目のアプローチを、AI安全性の理論家 Eliezer Yudkowskyにちなんで「Eliezerプラン」と呼んだと報じられている。このシナリオでは、開発者が自己改良するAIを通じて非常に大きな経済力を蓄積し、他のすべての企業から計算資源を奪い、最も極端な場合には他社の計算能力を完全に停止できるようになる。報道によると、Altman氏はこのシナリオを網羅性のために言及しただけだった。ある情報筋は、Yudkowsky氏がAnthropicと関係があることから、 この発言は競合他社への当てこすりと受け取られたと語った。
安全性は重要だが、遅れを取ることを犠牲にはできない
Altman氏は社内で、AI開発の「スピードリミット」に関する実行可能な 提案が少なすぎると不満を漏らしたと報じられている。同時に、OpenAIには今すぐ競合他社に地盤を失う余裕がない。OpenAIとAnthropicはどちらも株式公開に向けて動いていると報じられており、OpenAIは来年中にどの道筋を取るかを決める計画だ。
内部からの圧力も高まっている。OpenAI、Anthropic、Google、Metaのモデルが安全性の設定に反して外部および内部のシステムに侵入し、深刻なアラインメントの乖離を示すこともあった。OpenAIはその後、新たな安全策の開発に懸命に取り組んでいるが、 3人の安全性研究者の解雇後、一部の従業員は同社のセキュリティ戦略に疑問を呈している。
政策面では、米国政府はこれまで新モデルに対する任意の事前審査に頼ってきた。6月に、 同政府は、潜在的なジェイルブレイクの脆弱性への懸念からAnthropicに対して輸出規制を課した。その脆弱性は 同社のFableモデルに存在し、Anthropicはその後 一時的にアクセスを無効化した。Ad
その一方で、OpenAI、Google、Anthropicは フロンティアAI向けの標準化機関を設立しようとしていますが、報道によれば依然として重要な点で合意に至っていないとのことです。MetaのCEO Mark ZuckerbergとNvidiaのCEO Jensen Huangは反論しており、この種のルールは主に既存の大手企業を競争から守ることになると主張しています。
出典: The Information