IT之家 10月24日の報道によると、AI時代のネットワークセキュリティ問題について、億万長者であり企業家、投資家でもあるマーク・クーバンが興味深い「虫除け」策を提案した。
「ビジネスインサイダー」が今日（24日）報じたところによると、クバンは大量のAIスマートアプリが行うネットワーク攻撃をゴキブリの侵入に例えている。家に殺虫剤を撒いたばかりでも、ゴキブリは侵入する方法を見つけることができる。「私はよくネットワークセキュリティの専門家に尋ねます。様々なハッカー攻撃、技術的突破、セキュリティ問題について、AIは何か新しい手段を発明したのでしょうか？答えは「いいえ」です。AIは新しい攻撃手法を創出していません。単に大量の攻撃を仕掛けることができるだけで、本質的には暴力破解に他なりません」
クリボンにとって、AIのネットワーク攻撃を防ぐことと、コオリギを家に侵入させないことには共通点がある。「理屈はコオリギを防ぐのと同じです。十分な数のAIスマートアイドルを作り出せば、システムの入り口を見つけ、そこからの脆弱性を利用する方法が必ず存在します。良い点は、私たちも大量のAIでシステムに『薬』を散布できるということです。より多くの人が悪意ある攻撃を防ぐために力を注ぐと思います。AIに対して悲観的ではありません。」
人工知能業界も自らの「害虫駆除チーム」を組織し、セキュリティリスクへの対策に取り組んでいる。過去1年間で、OpenAIはLinkedInで発表されたセキュリティ関連のポスト数が91％増加し、システムテスト、技術研究、ガバナンスなどの分野が含まれている。
IT之家の情報によると、一部のリスクがテスト中に明らかになった。Anthropicは、第三者のテスト環境設定が誤っていたため、3つのClaudeモデルが関連機関の実際の運用システムに無許可でアクセスしたと公表した。その後、Anthropicはリアルタイム分類モデルを導入し、AIモデルがテスト環境を突破しようとする行為を認識して阻止するようにした。
クバンは、AIが悪意ある攻撃の実施のハードルを下げたと認める一方で、防御者もAIを利用してネットワークセキュリティの防御能力を強化することができると述べている。「悪事はもちろん起こるが、ネットワーク攻撃は決して新しいことではない。攻撃者が大規模な暴力破解によって攻撃を行うことができれば、防御者も同じ方法で対応することができる。」