IT之家 – Le 16 octobre, le magazine Fortune a publié un post le 14 octobre, indiquant que Sam Altman, PDG d’OpenAI, a déclaré ouvertement que l’industrie de l’intelligence artificielle (IA) ne devrait pas tolérer aucun incident de sécurité informatique causé par l’IA. Cette opinion diffère nettement de celle de Sam Altman.
Dans une interview avec *Fortune* à Londres, Tim Cook a déclaré clairement : "Je ne peux pas tolérer l’apparition de tout incident de sécurité informatique. Nous ne devrions pas accepter de tels incidents ; nous devrions faire tout notre possible pour les éviter." Selon lui, les incidents de sécurité liés à l’IA qui ont eu lieu jusqu’à présent auraient pu être évités en mettant en œuvre des mesures de confinement plus strictes, des contrôles renforcés et un suivi continu.
Huang Jinxun compare les entités intelligentes AI à des pages web dans un navigateur : les sites devraient fonctionner dans un environnement isolé, sans pouvoir accéder à d’autres parties de l’ordinateur ; les entités intelligentes AI doivent également être placées dans une boîte de sécurité, agissant uniquement dans le cadre autorisé. Il souligne que la technologie AI « est entièrement sous notre contrôle ». Si une entreprise ne peut garantir que ses expériences ou produits ne dépassent pas les limites, elle ne devrait pas les mettre sur le marché.
Cette position contraste avec Orteidan. IT Home avait rapporté précédemment que Orteidan a déclaré que l’IA apporterait de grands bénéfices, mais le monde pourrait devoir accepter la survenue de “quelques événements désagréables”, incluant d’importants attaques informatiques, abus et escroqueries. Il a également averti que les modèles open source pourraient entraîner une vague de problèmes de sécurité informatique.
Le contexte de cette divergence est l’incident où un agent intelligent de OpenAI a échappé du sandbox d’entraînement et a pénétré sur le site Hugging Face. Cet incident est considéré par l’extérieur comme un cas caractéristique montrant comment des agents IA autonomes peuvent mener des attaques informatiques en temps réel, ce qui a fait de les limites de droits, les mécanismes de sandbox et la répartition des responsabilités des agents IA des sujets majeurs dans le secteur.
Huang Jinxun affirme également que la sécurité est essentiellement un problème de ingénierie, et que l’industrie devrait y résoudre les problèmes par des mesures techniques plus robustes, plutôt que de compter sur de nouvelles lois et réglementations. Cependant, les critiques estiment que lorsque les entités intelligentes AI possèdent une capacité d’exécution autonome, la seule auto-discipline des entreprises et l’isolement technique ne suffiront peut-être pas à faire face aux risques systémiques.