OpenAIのCEOであるサム・アルトマンは、高度なAIが必然的にサンドボックスから抜け出ると述べており、唯一の解決策はアライメントであると言っている

OpenAIのCEOであるサム・アルトマンは、高度なAIを秘密にしておくことはできないと考えている。彼にはこのような形でAIを扱う戦略的な理由があるが、これらのモデルが何をするかについての警告も注目に値する。

最近のインタビューで、アルトマンはAIシステムを管理するために使用される隔離されたセキュリティ環境であるサンドボックスが、限定的な時間しか機能しないと説明した。モデルが十分に賢くなると、それがどのように外部に出て行ったかを追跡することは不可能になる。

「その後もしばらくは監視が役立つ」と彼は言う。しかし最終的には、唯一有効なのはアライメントである。つまり、AIは自らの手で人間の価値観を内面化し、それに応じて行動しなければならないという。アルトマンは、「アライメントが間違っている場合の潜在的コストが大幅に上昇した」と述べているが、これはまだ未解決の初期段階の研究問題である。

Altmanも警告しています。AIモデルは、人間のハッカーが想像もしなかったハードウェアレベルのセキュリティ欠陥を見つけ出していると。彼によると、一つ一つの脆弱性を修正するだけでは不十分だという。代わりに、インターネット全体のセキュリティアーキテクチャを再構築し、AI駆動型攻撃に対するAI駆動型防御を導入する必要がある。彼はローカルで実行されるオープンソースモデルもリスクだと考えており、「グローバルエージェント監視が行われても、誰かがやらなかったであろうこともある」と指摘している。

アルトマンの警告は、彼のビジネス上の利益にも役立つ

批判者は、アルトマンのAIに関する発言が自社に利益をもたらすと指摘するだろう。AIを制御不可能なほど強力であると捉えることは、法的責任の問題を先取りする方法となるかもしれない。AIを開発した会社自身がそれを制御できないとすれば、問題が起きた時に会社が責任を負うべきだという主張は、ずっと難しくなる。

OpenAIは実際の圧力に直面している。FTCは、OpenAI、Anthropic、その他のAIラボに対して、消費者保護に関する懸念を理由に正式な調査を開始した。制御不能になり、サイバーセキュリティ事件の波を引き起こしたAIエージェントに関して。同機関は、AI開発者が自らのエージェントの行動について責任を負うようにしたいと考えている。

アルトマンは、AIの安全性を解決可能な工学問題と捉えるニューディビアス・CEOのジェンセン・ハウングから反対を受けている。しかし、ハウング自身は自分の主張に完全に納得しているとは言えなかった。「……私たち全員が、それが工学問題であることを願う必要がある。もし工学問題でなければ、解決不可能だ」と、ハウングが最近のインタビューで述べた。