IT之家 Le 8 octobre, selon un reportage de Business Insider publié cette nuit (le 8), David Robinson, l'un des anciens responsables de l'équipe des systèmes de sécurité ayant quitté OpenAI la semaine dernière, estime que l'entreprise fait preuve d'un écart manifeste entre ses paroles et ses actes en matière de sécurité de l'IA.
Robinson a déclaré queOpenAI, tout en avertissant à répétition des risques potentiels liés au renforcement des capacités des nouveaux modèles et en parlant publiquement de ralentir le rythme du développement de l'IA, continuait en interne à avancer à pleine vitesse. « Ce qui me met vraiment mal à l'aise, c'est que nous publions sans cesse ces avertissements, pour finir par entraîner et déployer les modèles dont nous-mêmes signalons qu'ils sont dangereux. »
En juillet de cette année, des centaines d'employés d'OpenAI ont signé une lettre ouverte,demandant au gouvernement de mettre en place des mesures de régulationafin de ralentir le développement de l'IA.
Auparavant, le PDG d'Anthropic, Amodei, avait appelé les entreprises d'IA à se coordonner d'elles-mêmes pour ralentir collectivement le rythme du développement. En septembre de cette année, le PDG d'OpenAI, Altman, s'était déclaré d'accord. « Nous devons contrôler le rythme de développement de l'IA de pointe. Ces dernières semaines, c'est l'un des principaux sujets de discussion au sein d'OpenAI. »
Robinson a déclaré qu'au bureau d'OpenAI, l'ambiance restait pourtant celle d'un rythme effréné, et que beaucoup de personnes soutenaient leur travail enpuisant à fond dans leurs réserves d'énergie. Décrivant cette situation, il a dit : « On se sent presque comme dans un ballet, ou une sorte de danse, où le travail de tous les services converge en même temps. Tout le processus est bourré d'adrénaline. »
Les chercheurs d'OpenAI ne cachent pasles dangers potentiels du fait de laisser l'IA améliorer elle-même ses capacités. Ce processus d'amélioration continue de ses propres capacités par l'IA est appelé « auto-amélioration récursive ». En septembre de cette année, le scientifique en chef d'OpenAI, Jakub Pachocki, avertissait dans un article de blog consacré à l'auto-amélioration récursive : « Une extrême prudence est nécessaire en ce moment. »
Selon un précédent reportage d'IT之家, le 2, heure locale, un porte-parole d'OpenAI a confirmé que David Robinson, l'un des responsables de l'équipe des systèmes de sécurité d'OpenAI, avait quitté l'entreprise.
À lire aussi :