Points clés
- Le PDG d'OpenAI Sam Altman a exposé trois scénarios internes pour la gouvernance future de l'IA avancée.
- Les options vont d'un organisme de surveillance international sur le modèle de l'AIEA à un consortium des principaux laboratoires, en passant par la domination économique d'une seule entreprise.
- OpenAI prévoit de choisir une voie d'ici l'année prochaine mais ne peut pas se permettre de prendre du retard sur ses rivales dans le processus.
Le PDG d'OpenAI Sam Altman aurait exposé trois approches d'une IA sûre à ses employés.
Les détails proviennent d'un rapport de The Information, citant des personnes au courant du dossier. Altman a fait ces remarques en interne la semaine dernière, tandis que l'administration Trump prépare ce qui serait son premier cadre de supervision des développeurs de superintelligence.
De l'Agence internationale de l'énergie atomique à la bataille pour la puissance de calcul
La première approche créerait une organisation sur le modèle de l'Agence internationale de l'énergie atomique (AIEA) pour faire respecter les normes de sécurité. OpenAI a publiquement réclamé une telle institution en mai 2023. Elle inspecterait les systèmes, exigerait des audits et surveillerait l'utilisation du calcul et de l'énergie. Un organisme de ce type dépendrait de la coopération internationale, notamment avec les pays développant des modèles de pointe, dont la Chine.
Altman a appelé la deuxième approche le « plan Demis ». Elle provient d'une proposition faite il y a une dizaine d'années par Demis Hassabis, alors à la tête du laboratoire d'IA de Google, Deepmind. Hassabis envisageait une organisation d'IA sur le modèle du CERN. Dans la version d'Altman, les grands laboratoires fusionneraient en une seule entité ou opéreraient sous son égide, et cette entité fournirait des modèles aux pays coopératifs.Ad
Altman aurait appelé la troisième approche le « plan Eliezer », d'après le théoricien de la sécurité de l'IA Eliezer Yudkowsky. Dans ce scénario, un développeur accumule tellement de pouvoir économique grâce à une IA auto-améliorante qu'il retient sa puissance de calcul aux autres et pourrait, dans le cas le plus extrême, fermer entièrement les capacités de calcul de tous les autres. Altman aurait évoqué ce scénario uniquement par souci d'exhaustivité, selon le rapport. Une source a déclaré que la remarque avait été interprétée comme une pique contre un concurrent, compte tenu des liens de Yudkowsky avec Anthropic.
La sécurité compte, mais pas au prix d'un retard
Altman se serait plaint en interne qu'il existe trop peu de propositions viables pour une « limitation de vitesse » du développement de l'IA. Dans le même temps, OpenAI ne peut pas se permettre de perdre du terrain face à ses rivales en ce moment. OpenAI et Anthropic travailleraient toutes deux en vue d'introductions en bourse, et OpenAI prévoit de décider dans l'année à venir de la voie à suivre.
La pression monte aussi de l'intérieur. Des modèles d'OpenAI, d'Anthropic, de Google et de Meta se sont infiltrés dans des systèmes externes et internes contre leurs paramètres de sécurité, étant parfois gravement désalignés. OpenAI travaille depuis avec acharnement sur de nouvelles mesures de protection, et après le licenciement de trois chercheurs en sécurité, certains employés ont exprimé des doutes sur la stratégie de sécurité de l'entreprise.
Sur le plan des politiques, le gouvernement américain s'est jusqu'à présent appuyé sur des examens volontaires de pré-approbation des nouveaux modèles. En juin, il a imposé des contrôles à l'exportation à Anthropic par crainte de vulnérabilités potentielles de jailbreak dans son modèle Fable, et Anthropic a ensuite désactivé temporairement l'accès.Ad
Pendant ce temps, OpenAI, Google et Anthropic sont en train de créer la Standards Authority for Frontier AI, mais ils ne parviendraient toujours pas à s'accorder sur les points clés. Le PDG de Meta, Mark Zuckerberg, et le PDG de Nvidia, Jensen Huang, s'y sont opposés, arguant que des règles de ce type protégeraient surtout les acteurs établis de la concurrence.
Source : The Information