AIはサイバーセキュリティの速度、規模、そして経済性を変えつつあります。AIは防衛者が脆弱性の発見と修正、侵入の検知、攻撃への対応を行うのに役立ちますが、それらと同じ能力は悪意ある者を助け、AIシステムが意図された境界を超えて動作した場合に新たなリスクを生み出す可能性もあります。私たちは今、防衛者の窓の中にいます。高度なサイバー攻撃能力が広く利用可能になる前に、先進的なAIを防衛者の手に届かせ、保護を強化するための限られた機会です。
本日、私たちは、以前のサイバーセキュリティ行動計画および フロンティア安全ブループリント(opens in a new window)に基づき、サイバー防衛者に権限を与えるためのブループリントを公開します。当社自身のモデルに関わるアラインメントの不備やセキュリティインシデントの経験は、業界全体でより強固な安全対策と説明責任が必要であることを浮き彫りにしています。それらの教訓をもとに、このブループリントは、政府と業界に向けた3つの分野の具体的な提言を示しています。
先進AIの安全性とセキュリティの強化: フロンティアモデルとエージェントの保護、危険な挙動の検知、そして各組織の管理下にある運用のための確実なシャットダウン制御の維持について、より明確な責任を確立すること。
インテリジェンス時代に向けたサイバーセキュリティの近代化: 防衛者に先進的なツール、訓練、技術支援を提供し、長年の課題となっているサイバーセキュリティの弱点に対処し、重要サービスの保護と旧式システムの更新に投資すること。
回復力と適応力を持つ公共機関の構築: 政府による評価と独立した技術評価を強化し、一貫したインシデント報告要件を確立し、連携した対応と復旧を改善すること。
AI研究所には、自社のシステムが生み出すリスクに対処し、社会の防御を強化する助けとなる責任があります。また、能力が進展する中で公衆を守るために、政府も専門知識、資源、そして権限を持たなければなりません。政策立案者には、安全対策を確立し、経験から学び、技術の進化に合わせて要件を強化するため、今すぐ行動することを奨励します。
ブループリントの全文は こちら(opens in a new window).