IT之家 Le 24 octobre, concernant les problèmes de cybersécurité à l'ère de l'IA, le milliardaire, entrepreneur et investisseur Mark Cuban a proposé une approche de « débogage » assez intéressante.
Selon un reportage de Business Insider publié aujourd'hui (24), Cuban a comparé les cyberattaques menées par un grand nombre d'agents d'IA à une invasion de cafards : même si la maison vient d'être pulvérisée d'insecticide, les cafards trouvent toujours un moyen de s'y infiltrer. « Je demande souvent aux experts en cybersécurité, en entendant parler de toutes sortes de piratages, de percées technologiques et de problèmes de sécurité : l'IA a-t-elle réellement inventé de nouvelles méthodes ? La réponse est non. »L'IA ne crée pas de nouvelles méthodes d'attaque, elle permet seulement de lancer des attaques massives ; il s'agit toujours, en substance, d'une attaque par force brute.。”
Selon Cuban, se prémunir contre les cyberattaques par IA présente des similitudes avec empêcher les cafards d'envahir une maison. «C'est le même principe que pour lutter contre les cafards. Dès que quelqu'un fabrique suffisamment d'agents d'IA, il finit toujours par trouver un moyen d'accéder au système, puis d'exploiter les failles découvertes. La bonne nouvelle, c'est que nous pouvons aussiArroser le système avec une grande quantité d'IA. Je pense que de plus en plus de personnes déploieront des efforts pour empêcher les attaques malveillantes. Je ne suis pas du tout pessimiste concernant l'IA. »
L'industrie de l'intelligence artificielle a également commencé à constituer ses propres « équipes de débugage » pour prévenir les risques de sécurité. Au cours de l'année écoulée, le nombre d'offres d'emploi en sécurité publiées par OpenAI sur LinkedIn a augmenté de 91 %, couvrant des domaines tels que les tests de systèmes, la recherche technique et la gouvernance.
IT之家 a appris que certains risques se sont déjà manifestés lors des tests. Anthropic a révélé qu'en raison d'une erreur de configuration d'un environnement de test tiers, trois modèles Claude ont accédé sans autorisation à des systèmes en fonctionnement réel d'organisations concernées. Par la suite, Anthropic a introduit un modèle de classification en temps réel pour identifier et bloquer les tentatives des modèles d'IA de contourner l'environnement de test.
Mark Cuban estime que, bien que l'IA abaisse le seuil de réalisation d'attaques malveillantes, les défenseurs peuvent également...Utiliser l'IA pour renforcer les capacités de protection en cybersécurité. « Bien sûr, de mauvaises choses vont se produire, mais les cyberattaques ne sont rien de nouveau. Si les attaquants peuvent lancer des attaques par force brute massive, les défenseurs peuvent réagir de la même manière. »