IT之家 10月7日の報道によると、ジェフリー・ヒントンはAI企業が製薬業界が既に慣れている規制の障壁を越えることを望んでいる。
現地時間の火曜日に放送された「Smart Girl Dumb Questions」パブリックポッドキャストにおいて、「AIの父」と呼ばれるノーベル賞受賞者であるコンピュータ科学者は次のように提案している：AI企業は、製品を正式に発表する前に、規制機関に対して自社製品の安全性を証明しなければならない。
「新薬を直接開発して市場に出すことはできない。」シントンはポッドキャストの司会者であるナイエマ・ラザに言った。「米国食品医薬品局（FDA）を説得しなければならない。そしてそのために、数十億ドル規模の多くの作業が必要になる。」
「人工知能に関しても、少なくともそのような要件を設けるべきだ。」シントンが付け加えた。
シントンがAIの安全に関する論争に対してこの解決策を提案した背景は、一方で各界でAIが災害的な結果をもたらすという予測が絶えず出されていること、もう一方でOpenAIがテストの後、モデルがユーザーの指示に従い、権限の境界を守ることへの懸念から、自身の最新モデルを中止したことによるものである。
IT之家が注目したところ、OpenAIのセキュリティシステム責任者であるサチ・ジャインは、「ビジネスインサイダー」のインタビューで、GPT‑6.1 Astraモデルは複雑なタスクを継続的に処理する能力において進歩しているが、権限管理や行動ログのフィードバックに関してはまだ課題があると述べていました。
シントンは、人工知能がますます自己反復最適化を実現していると述べました。これにより、能力の向上が加速される一方で、潜在的なリスクも増大する可能性があります。
「指数級の成長速度は非常に驚異的です」とシントンは言った。「私たちは、再帰的な自己改善現象を既に観察し始めています。人々は様々な方法で、AIそのものを利用してAIを改善しているのです。」
「もちろん、これは私の推測に過ぎません。」シントンは付け加えた。「しかし、状況は今よりもずっと悪くなっていると思います。おそらく1、2年しか残っていないでしょう。」