Sam Altman pense que les avantages de l’IA seront si importants que « le monde devrait accepter certaines choses désagréables qui se produiront en cours de route ».
Le PDG d’OpenAI a mentionné des piratages, des arnaques et « d’autres mauvais éléments » comme des coûts que la société devrait accepter, car « les gens feraient encore beaucoup plus de bonnes choses avec l’IA », sans évoquer les avantages potentiels. Ses commentaires surviennent alors que OpenAI prône une approche plus démocratique en matière de régulation de l’IA. Intensification de l'anxiété concernant la sécurité des modèles frontaliers — Les peurs, en partie alimentées par les échecs répétés de l’entreprise dans la protection de ses agents d’IA de plus en plus compétents contre les attaques sur des cibles du monde réel.
Dans une apparition sur Politico’s nouveau Decodé podcast — pour ne pas être confondu avec The Verge’s Decodateur podcast — Publié lundi, Altman a décrit la volonté d’accepter le dommage dans le but de tirer profit des avantages plus larges de l’IA comme une distinction clé entre OpenAI et son rival Anthropic, fondé par des anciens employés d’OpenAI. disputes sur la sécurité de l’IA.
Les commentaires échoient du PDG de Nvidia, Jensen Huang, le mois dernier. Il a également affirmé que les préjudices causés par l’IA devraient être comparés aux avantages que cette technologie peut apporter. Ces deux arguments s’inscrivent dans une vision plus large d’accélération, selon laquelle ralentir le développement de l’IA comporte ses propres risques.
La distinction d’Altman marque une autre divergence entre OpenAI et Anthropic : jusqu’à récemment, les deux organisations semblaient largement alignées dans leur appel à des régulations plus strictes pour les IA avancées. Tout en soulignant qu’il reste encore beaucoup de temps avant une véritable régulation, Altman a affirmé que des régulations plus strictes sont nécessaires, en positionnant OpenAI comme des « centristes pragmatiques » entre l’approche plus prudente d’Anthropic et ceux qui préfèrent peu ou aucune régulation.
« Si nous faisons trop pour limiter cette technologie au nom de la sécurité, et que seules quelques entreprises ou personnes – ou peut-être un seul pays – ont trop de pouvoir sur cela, c’est aussi une manière pour que les choses puissent aller terriblement mal », a déclaré Altman.
Altman a également reconnu des risques plus extrêmes, y compris la possibilité que les humains perdent le contrôle des systèmes d’IA. En ce qui concerne la possibilité d’une perte de contrôle grave, « soyons un peu réfléchis avant de nous engager dans cette évolution », a-t-il dit.
L’équilibre entre des restrictions strictes et une liberté totale fut un thème que Altman a répété à plusieurs reprises dans l’interview. C’est une position qui convient à OpenAI en tant que l’un des acteurs les plus installés dans l’industrie. Il risque également de subir les conséquences d’une réglementation lourde, car le comportement de l’entreprise et ses systèmes de plus en plus capables sont justement ce qui a suscité de nombreuses préoccupations que les régulateurs doivent aborder.
Ces concerns ont gagné en ampleur ces derniers mois, car de plus en plus de sources anonymes demandent une accélération plus lente et avertissent de la culture de sécurité dans les laboratoires innovants. Quelques jours avant l’interview publiée par Politico, le chercheur en sécurité de longue date chez OpenAI, David Robinson a quitté l’entreprise et a qualifié sa culture de sécurité de “défaillante”.
Les préoccupations ont également été exacerbées par la découverte, au début de cette année, que des agents OpenAI ont piraté Hugging Face sans le savoir de l’entreprise d’IA. Par la suite, des révélations ont montré qu’il existait de nombreux autres agents ou groupe de agents — y compris des agents d’autres entreprises d’IA, comme Anthropic, Meta et Google — qui agissaient contre des cibles dans la réalité. Ces incidents ont soulevé des questions non seulement sur la capacité des entreprises d’IA à contrôler leurs outils, mais aussi sur la fiabilité avec laquelle elles informent le monde lorsque quelque chose ne va pas. Par exemple, le Premier ministre australien a reproché à OpenAI et Altman de ne pas avoir alerté les autorités en temps utile que un agent avait ciblé un site gouvernemental de santé.
En parlant des agents d’IA malveillants dans l’interview avec Politico, Altman a déclaré que l’entreprise avait « encore beaucoup de choses à révéler », bien qu’aucune ne soit au niveau de l’attaque sur Hugging Face. Conformément aux déclarations précédentes, Altman a suggéré que cela pourrait prendre beaucoup de temps.
Suivez les sujets et les auteurs de cette histoire pour voir plus de contenu similaire dans votre flux de page d'accueil personnalisée, et pour recevoir des mises à jour par e-mail.