IT之家 Le 16 octobre, le média technologique Business Insider a publié hier (15 octobre) un article dans lequel il est rapporté que Sergey Brin, cofondateur de Google, déclare que le modèle Gemini est en passe d’entrer dans une étape clé de « amélioration autonome ».
Lors d’une table ronde organisée autour du nouveau modèle Gemini 4 Argon, Brin a indiqué que l’IA avait commencé à participer à la création de sa prochaine génération de modèles. Les modèles de la série Flash que Google a introduits précédemment ont montré cette tendance, l’entreprise « commence à monter sur la machine de RSI ».
IT Home note : RSI est l’acronyme de Recursive Self-Improvement, qui signifie littéralement « amélioration auto-récursive », c’est-à-dire que l’IA aide à construire des IA plus fortes, ce qui entraîne un « effet roue de l’accélération » d’itération.
Google a révélé dans son rapport sur la sécurité d’Argon que certaines étapes du processus de développement de l’IA sont déjà automatisées : l’intelligence de l’IA peut assumer la plupart des tâches de rédaction du code de production et de correction des vulnérabilités, mais les modifications de code doivent encore être vérifiées manuellement avant leur soumission.
Cette conclusion n’est pas propre à Google. Anthropic et OpenAI ont également indiqué qu’une IA pourrait approcher une phase de RSI. Un rapport publié cette semaine par Gladstone AI indique que la plupart des chercheurs interrogés, provenant d’institutions telles qu’Anthropic, OpenAI et DeepMind, estiment que le RSI pourrait commencer dans les 3 à 12 mois à venir.
Cependant, le RSI soulève également des inquiétudes en matière de sécurité. Des chercheurs en IA ont auparavant averti que, si aucun mécanisme de protection suffisant n’est mis en place, les humains pourraient perdre progressivement le contrôle sur les technologies de progrès rapide et auto-amélioration.
