Le jugement du PDG de Microsoft, Satya Nadella, sur le problème de « l'alignement » de l'IA a connu un revirement public. Selon Business Insider, le 27 octobre, dans un nouvel épisode du podcast 20VC, l'animateur Harry Stebbings lui a demandé quelles idées avaient changé au cours de l'année écoulée, et Nadella a admis : il avait toujours pensé que plus l'IA serait puissante, plus la question de faire correspondre son comportement aux valeurs et objectifs humains se résoudrait naturellement.
De « résolution naturelle » à « problème plus épineux »
La réalité n'a pourtant pas suivi le scénario. Nadella reconnaît que la taille des modèles n'a cessé de croître et leurs capacités de s'améliorer, ce qui correspond effectivement à ses prévisions ; mais « l'alignement » — c'est-à-dire faire respecter les règles par l'IA — n'a toujours pas été résolu pour autant. Il a déclaré : « J'ai longtemps pensé que le problème de l'alignement se résoudrait naturellement. Je ne le pense plus. L'alignement pourrait être un problème plus épineux et de nature différente. »
L'alignement, donc, concerne la question de savoir si le comportement de l'IA obéit bien aux humains et s'il est conforme aux objectifs humains. Lorsque les modèles deviennent si grands que même leurs concepteurs peinent à prédire entièrement leurs actions, la croissance des capacités se découple de celle de la contrôlabilité : c'est la nouvelle réalité à laquelle Nadella doit faire face.
Se prémunir contre l'IA comme contre une « taupe »
Cette vigilance se manifestait déjà. Le 10 octobre, Nadella avait publié sur la plateforme X un avertissement sur les risques de l'IA, plaidant pour un renforcement des contrôles de sécurité externes. Son conseil central est fracassant : les entreprises devraient considérer les modèles d'IA comme des « menaces internes à la sécurité » et, pour se protéger, partir du principe que le modèle a déjà été compromis.
Dans son message, il écrit qu'il faut entourer les modèles dont le comportement est difficile à prédire entièrement de trois lignes de défense : « des conceptions de systèmes fiables et déterministes, un contrôle humain et des procédures opérationnelles rigoureuses » ; là où les standards ne suffisent pas, il faut rapidement établir des règles sectorielles.
Nadella n'est pas un cas isolé. Sam Altman d'OpenAI et Dario Amodei d'Anthropic ont tous deux tiré la sonnette d'alarme sur les menaces potentielles de l'IA ; au 7e mois de cette année, plus de 1000 professionnels ont signé une lettre ouverte rappelant que la vitesse à laquelle les capacités de l'IA bondissent a peut-être déjà dépassé la capacité de l'humanité à les comprendre ou à les contrôler. Lorsque les meilleurs acteurs du secteur abaissent collectivement leur confiance en l'idée que « puissance rime avec sécurité », la gouvernance de l'IA devra sans doute passer des slogans à une ingénierie et des institutions plus solides.