最近、ニューヨーク大学の教授であり、著名なAI学者でもあるゲイリー・マーカスが公開の場で発言し、技術上の欠陥やセキュリティ上のリスクが完全に解消されるまで、ネット接続可能なオープンAIエージェントを市場から即座に撤去するよう強く呼びかけている。
マーカスのこの呼びかけは、アンタロフィックスインテリジェントが引き起こした深刻な安全事故が最近『ニューヨーク・タイムズ』で報じられたことに基づく。以前に業界で頻発していた各種インテリジェントの制御不能事件を踏まえ、彼は現在の世代の合成インテリジェントは、一般市民や企業から完全に信頼されることはできないと指摘している。彼によれば、セキュリティ上の欠陥を持つこれらのシステムは、ブレーキが効かない車のように断固として回収され、市場での流通を停止すべきだという。
大企業のセキュリティ管理における不足をさらに裏付けるため、マーカスはOpenAIの元従業員デイビッド・ロビンソンが最近メディアインタビューで明らかにした内容も引用している。ロビンソンはインタビューで、OpenAIを含む主要な先進AI企業は、安全運用環境に関する投資と管理基準が依然として「スタートアップ企業」の段階に留まっており、社会や一般の期待する原子力発電所のような高い冗長性基準には程遠いと指摘した。 彼は警告した。現在開発中の新技術は、より強力であるだけでなく、かつてないほどの制御不能のリスクも伴う。問題が発生した場合、その潜在的な被害は単一の原子力発電所の破損をはるかに超えるだろう。
また、マーカスは、アメリカのホワイトハウスの管理部門などの関連機関が現在行っている、情報開示を強化するだけの対応策は不十分であり、これは犯罪者に毎月自ら犯罪記録を申告するよう柔らかく要求することと同じだと批判した。彼は、政府が強制的な一時的な呼び戻しなどのより厳格な監視措置を遅らせる場合、制御不能な大規模な災害が発生したとき、関連する技術企業やホワイトハウスも責任を負うことになると強調した。