IT之家 10月10日の報道によると、Axiosが10月9日の現地時間で報じたところによると、Anthropic、OpenAI、その他の人工知能企業の幹部たちは、私的に集まって協議しており、重大なAIの事故が発生した場合に、一般市民や政界からの強い抗議や抵抗の波に対応する方法を検討しているという。
この業界の高級幹部たちは、将来的に大規模な事件が起こる可能性が高いと予測しています——おそらく何らかのネットワーク攻撃によって、金融サービスやインターネット通信、さらには水電力供給などのインフラが大規模に機能不全に陥るでしょう。
一度、非安全で制御不可能なAIが現実世界で実質的な重大な害をもたらした場合、既に警戒心を持っている一般市民は、この技術とそのリーダーたち、例えばAnthropicのCEOであるダリオ・アモデイやOpenAIのCEOであるサム・アルトマンを、より一層強く反対するだろう。
ITホームズの報道によると、シナリオプランニングが多くの企業や国家の安全保障分野で一般的なものとなっているにもかかわらず、本質的な違いは次の通りです。多くのトップクラスのAI研究者と業界の経営者は、重大な安全事故が起こるのは時間の問題であり、避けられないことだと一致して考えていると述べています。
OpenAIのスポークスパーソンは次のように述べています。「OpenAIは常に完全性演習を実施しており、関連チームが一緒に一連の潜在的シナリオを議論し、シミュレートしています。私たちはこれらのシナリオを必然的に起こるものと見なしていない。その主な目的は、チームがあらゆる突発状況に対処するために十分に準備できるようにすることです。」
アントロピックはコメントを拒否した。