AIはサイバーセキュリティの速度、規模、経済性を変えつつあります。AIは防御者が脆弱性を見つけて修正し、侵入を検知し、攻撃に対応する上で役立ちます。しかし、それらと同じ能力は悪意ある者を支援する可能性があり、AIシステムが意図された範囲を超えて行動する場合には新たなリスクを生み出します。私たちは今、防御者の窓(defender's window)の中にいます。高度なサイバー攻撃能力が広く利用可能になる前に、高度なAIを防御者の手に委ね、保護を強化するための限られた機会です。
本日、私たちは以前のサイバーセキュリティ行動計画および フロンティア安全性ブループリント(opens in a new window)に基づき、サイバー防御者をエンパワーメントするためのブループリントを公開します。当社自身のモデルに関わるアライメントの不備やセキュリティ事故の経験は、業界全体でより強固な安全策と説明責任の必要性を浮き彫りにしています。これらの教訓を踏まえ、このブループリントは政府と業界に向けた具体的な提案を3つの分野で提示します。
高度なAIの安全性とセキュリティの強化: フロンティアモデルおよびエージェントの保護、危険な挙動の検知、そして各組織の管理下にある運用に対する信頼性の高いシャットダウン制御の維持について、より明確な責任を確立すること。
インテリジェンス時代に向けたサイバーセキュリティの近代化: 防御者に高度なツール、訓練、技術的支援を提供すること。長年のサイバーセキュリティ上の弱点に対処すること。そして、不可欠なサービスの保護と旧式システムの置き換えに投資すること。
回復力と適応力のある公的機関の構築: 政府による評価と独立した技術的評価を強化し、一貫したインシデント報告要件を確立し、連携した対応と復旧を改善すること。
AI研究所には、自社のシステムが生み出すリスクに対処し、社会の防御を強化する手助けをする責任があります。政府にも、能力の進展に伴い公衆を保護するための専門知識、資源、権限が必要です。政策立案者には、今すぐ行動し、安全策を確立し、経験から学び、技術の進化に合わせて要件を強化することを奨励します。
ブループリントの全文は こちら(opens in a new window).