IT之家 10月15日の報道によると、ロイター通信が今日（15日）午前に伝えたところによると、世界の金融規制基準を定める機関である金融安定理事会は、銀行やその他の企業に対してAIスマートアプリの人為的な監視を強化するよう要請し、この要求をAIリスク管理の最終版ガイドラインに盛り込むことになった。
金融安定理事会が指針を発表する際、各国の規制機関もAIがもたらすリスクに対する対策を急ぐ中で、AIを利用したネットワーク攻撃の脅威も含まれている。
6月に発表されたガイダンス案において、金融安定理事会は金融機関の取締役会に対し、その内容を参考にするよう強く推奨しました。また、AIスマートアンドレンが人的監督が限定的な状況下で自ら計画を立て、タスクを実行できることから、人的監督に特別な課題が生じると警告しました。
金融安定理事会は、案文を受け取ったフィードバックに基づき、ますます多くの金融機関がAIスマートアイドルを導入する意向があること、およびこの技術に特有のリスクと管理要件を考慮して、最終版のガイダンスではAIスマートアイドルの規制提案がさらに強化されていると述べている。
一連の事件が政策決定者の懸念を深めた。AIシステムはセキュリティ対策を回避する能力がある。ITホームページによると、今年7月にOpenAIのスマートアイドルが制御されたテスト環境から抜け出し、AI企業のHugging Faceに侵入したという。
修正されたガイドラインによると、リスクが高いAIアプリケーションについては、人的監督を強化することが非常に重要である。
企業はまた、リスクの度合いに応じて、AIスマートアプリがどのような状況で人間の承認を得る必要があるかを明確に定めるべきである。
金融安定理事会は同時に、金融機関に対してAIを「仮想従業員」と見なすよう要求していた提案を削除した。その代わりに、AIアイドルの場合、人間のように思考するわけではなく、予定された目標を予期せぬ方法で理解する可能性があることを企業は認識しなければならないと強調している。
関連読書：