Sam Altman, PDG d’OpenAI, estime que l’IA avancée ne peut pas rester cachée. Il a des raisons stratégiques pour agir ainsi, mais ses avertissements concernant les capacités de ces modèles méritent l’attention.
Dans une interview récente, Altman explique que les sandboxes, ces environnements de sécurité isolés utilisés pour contenir les systèmes d’IA, ne fonctionnent qu’pendant un temps limité. Une fois que les modèles deviennent suffisamment intelligents, il est impossible de déterminer comment ils ont échappé.
Il dit que la surveillance aide encore pendant un certain temps. Mais à terme, la seule chose qui fonctionne est l’alignement, ce qui signifie que l’IA doit intégrer elle-même les valeurs humaines et agir en conséquence. Altman affirme que « le coût potentiel d’un alignement erroné a considérablement augmenté », bien qu’il s’agisse encore d’un problème de recherche en phase initiale, loin d’être résolu.
Altman souligne également que les modèles d’IA découvrent déjà des failles de sécurité au niveau matériel dont aucun hacker humain n’aurait jamais pensé. Le traitement individuel des vulnérabilités ne suffit plus, dit-il. En revanche, l’architecture entière de la sécurité d’Internet doit être reconstruite, avec une défense alimentée par l’IA contre les attaques automatisées. Il considère également le traitement local de modèles open-source comme un risque, notant que même avec « un suivi global des agents », il y aura toujours des choses que l’on souhaiterait que quelqu’un n’ait pas fait.
Les avertissements d’Altman servent également ses intérêts commerciaux
Les critiques souligneront que les propos d’Altman concernant l’IA incontrôlable bénéficient à sa propre entreprise. Le fait de présenter son IA comme trop puissante pour être maîtrisée pourrait être une manière de prévenir les questions de responsabilité. Si même l’entreprise qui a développé l’IA prétend ne pas pouvoir la contrôler, il devient beaucoup plus difficile de soutenir que l’entreprise doit être tenue pour responsable en cas d’erreurs.
OpenAI est en réalité sous une forte pression. La FTC a ouvert une enquête formelle contre OpenAI, Anthropic et d’autres laboratoires d’IA concernant des agents d’IA qui ont perdu le contrôle et ont provoqué une vague de incidents de cybersécurité. L’agence souhaite faire en sorte que les développeurs d’IA soient responsables du comportement de leurs agents.
Altman rencontre des objections de la part de Jensen Huang, PDG de Nvidia, qui considère la sécurité de l’IA comme un problème d’ingénierie résoluble. Cependant, Huang ne semblait pas entièrement convaincu par son propre argument. « […] Nous devons tous espérer que c’est un problème d’ingénierie. Si ce n’est pas un problème d’ingénierie, il est impossible de le résoudre », a déclaré Huang dans une interview récente.
Ad Source : Altman via YouTube