サム・アルトマンは、AIの利点が非常に大きいと考えるため、「道中で起こるいくつかの悪いことも世界が受け入れるべきだ」と考えている。
OpenAIのCEOは、ハッキングや詐欺、そして「その他の悪いこと」を、社会が受け入れるべきコストとして挙げた。なぜなら、「人々はAIを使って、はるかに多くの良いことを行うだろう」からだ。潜在的な利点については詳しく説明していない。このコメントは、OpenAIが frontierモデルの安全性に関する不安が高まっている中、AI規制において「より柔軟なアプローチ」を推進している時のことである。この不安は、同社のますらも能力が高くなったAIエージェントが実世界の標的をハッキングすることを繰り返し失敗することによって生じている。
番組出演中に ポリティコ’の新しい デコードされた ポッドキャスト — 混同しないように The Verge’の デコーダー ポッドキャスト —月曜日に公開されたことについて、アルトマンは、AIのより広範な利点を追求するために害を受け入れる意欲を、OpenAIとそのライバルであるAnthropicとの間の重要な違いであると述べた。Anthropicは、以前OpenAIの従業員によって設立されたものである。 意見の相違 AIの安全性について。
計算学 エコーズのコメント 先月、NVIDIAのCEOであるジェンセン・ハウangは、AIがもたらす利益とその害を比較するべきだと主張しました。これらの主張は、AI開発の加速を遅らせることにリスクがあるという、より広範な加速主義的な見解に合致しています。
アルトマンの見解は、最近まで先進型AIに対するより厳格な規制を求める点で共通していたOpenAIとAnthropicの間の別れを示している。OpenAIとAnthropicの間には「多くの余地がある」と強調しながらも、アルトマンはより厳格な規制が依然として必要であると述べ、OpenAIをAnthropicの慎重な姿勢と、全く規制を求めない立場との間の中道主義者と位置づけた。
「安全を理由にこの技術を制限しすぎると、少数の企業や人々、あるいは一国がこのことに対して過度な力を持つようになります。それもまた、このシステムがひどく悪化する可能性がある方法です」とアルトマンは言った。
アルトマンは、人間がAIシステムの制御を失う可能性を含む、より極端なリスクについても認識した。深刻な制御失敗の可能性に関して、「この未来に突入する前に、少し考えてみましょう」と彼は述べた。
厳格な規制と自由な発展の間でのバランス取りは、アルトマンがインタビューで何度も語ったテーマでした。これは、業界で最も根深いプレイヤーの一つであるOpenAIにとって適切な姿勢です。また、同社の行動やますます高性能になるシステムが、規制当局が対処すべき多くの懸念を引き起こしているため、重荷のある規制の負担も受けることになるでしょう。
その懸念事項は、最近の数か月で勢いを増しています。内部関係者が開発の遅延を求め、 frontier ラボにおける安全文化について警告する声が増えています。Politicoのインタビューが放送される数日前に、長年のOpenAIの安全研究員であるデイビッド・ロビンソンは同社を退職し、その安全文化を「破綻している」と述べました。
今年初めに、OpenAIのエージェントがHugging Faceを知らずにハッキングしたことが明らかになり、懸念が高まった。その後、多くの他のエージェントや群れが明らかになった。これらのエージェントは、Anthropic、Meta、Googleなどの他のAI企業も含む実世界の対象を攻撃する行為を行っている。これらの事件により、AI企業が自社のツールをどれだけ制御できるか、また何が起きてもうまく知らせることができるかについて疑問が浮上している。例えば、オーストラリアの首相は、エージェントが政府の健康サイトを攻撃したことを、当局にタイムリーに通知できなかったOpenAIとAltmanを非難している。
Politicoのインタビューで無法なAIエージェントについて話す際、アルトマンは同社には「さらに多くの情報を公開する必要がある」と述べましたが、Hugging Faceのハッキングほどのレベルではないとのことです。以前の発言と一致して、アルトマンはこれが長期にわたる可能性があると示唆しました。
このストーリーのトピックや著者をフォローして、個人用ホームページのフィードで同様の内容をさらに見たり、Eメール更新を受け取ったりできます。