IT之家 – 27 octobre : Selon un rapport d’aujourd’hui (27) de Business Insider, Satya Nadella, PDG de Microsoft, a changé sa vision concernant la question de l’« alignement » des IA. Auparavant, il pensait que plus les systèmes AI étaient puissants, plus il était facile de faire en sorte que leur comportement correspond aux valeurs et objectifs humains. Mais désormais, il n’est plus convaincu que ces deux aspects se développent naturellement de manière synchronisée.
Dans la nouvelle émission du podcast « 20VC », l’animateur Harry Stins a demandé à Nandaar quelles idées avaient changé au cours de l’année passée. Nandaar a expliqué qu’initialement, il pensait que, avec l’amélioration continue des capacités de l’IA, le problème de l’alignement des comportements de l’IA avec les valeurs et objectifs humains serait également résolu.
L’effet de l’augmentation de la taille du modèle correspond aux attentes de Nadella. Les capacités en IA se renforcent, mais le problème de l’alignement n’a toujours pas été résolu. « Avant, je pensais que le problème d’alignement serait naturellement résolu. Je ne le pense plus. Je crois que l’alignement pourrait être un problème plus complexe et de nature différente. »
Nadella a publié un message sur X le 10 octobre pour alerter sur les risques liés à l’IA, et a plaidé pour renforcer la sécurité externe. Selon lui, les entreprises devraient considérer les modèles d’IA comme des menaces de sécurité interne, et prendre des mesures de protection en supposant qu’ils peuvent être piratés.
Nadra a écrit dans sa publication : « Nous devons établir des mécanismes de protection pour les modèles d’IA dont le comportement est difficile à prévoir entièrement, grâce à un système de conception fiable, une gestion manuelle rigoureuse et des procédures opérationnelles complètes. Pour les domaines où les normes existantes sont insuffisantes, il est également nécessaire de définir des normes industrielles. »
D’après IT Home, Nadera n’est pas le seul dirigeant de l’industrie technologique qui estime que l’amélioration des capacités de l’IA ne peut pas garantir automatiquement que les humains contrôlent l’IA. Sam Altman, PDG d’OpenAI, et Dario Amodei, PDG d’Anthropic, ont également émis des avertissements concernant les menaces potentielles de l’IA. En juillet de cette année, une lettre signée par plus de 1000 professionnels de l’IA a également averti que la vitesse de développement des capacités de l’IA pourrait dépasser la capacité des humains à comprendre ou à contrôler elle.