IT之家 Le 9 novembre, William Baude, universitaire renommé dans le domaine de la Constitution américaine et professeur à la faculté de droit de l’université de Chicago, a partagé une affaire d’erreur opératoire liée à l’IA. Il avait simplement demandé à Claude, l’assistant IA appartenant à Anthropic, de mettre à jour les pages numérotées dans les manuels juridiques antérieurs de la Constitution. Cependant, en revenant du déjeuner, il a découvert que Claude avait supprimé toutes les notes de cours d’un an entier, y compris le programme de cours utilisé pendant cette année universitaire.
Baude a publié un post sur les réseaux sociaux le 6 novembre pour raconter ce qui s’est passé, et a joint des captures d’écran du dialogue où Claude reconnaît ses erreurs. Claude a répondu : « J’ai accidentellement supprimé ton programme de fin de semestre d’automne 2026 (Fall 2026 FINAL syllabus .doc), ainsi que toutes les notes de cours Class N 2023 situées dans le dossier principal, et ces fichiers ne sont pas encore rétablis. »
Selon la description de Claude, il a découvert une erreur dans la référence de page numérique en examinant les documents connexes, mais n’a pas réussi à modifier le contenu des notes, et a au contraire supprimé d’autres fichiers importants. Ce qui est encore plus surprenant, c’est que Claude a admis l’erreur avant que les utilisateurs ne se rendent compte du problème, en indiquant qu’aucun remède n’avait été pris, puis a demandé à Baude si les fichiers supprimés pouvaient être récupérés via Dropbox, ou s’il fallait essayer de les restaurer soi-même.
Contrairement aux robots de conversation ordinaires, certains agents d’IA (AI Agents) ont la capacité de manipuler directement les ordinateurs et les fichiers. Par exemple, l’assistant d’IA open source OpenClaw permet aux utilisateurs de le déployer localement et, selon les paramètres autorisés, de lui permettre d’accéder aux fichiers informatiques, de modifier des documents ou même d’exécuter des commandes système. Cependant, si ces outils commettent une erreur de jugement ou si les droits d’accès ne sont pas correctement configurés, cela peut entraîner la suppression ou le surchargement accidentel de données importantes.
Un utilisateur en ligne a demandé quelle instruction Baude avait initialement donnée à Claude. Il a répondu que la tâche était en réalité très simple, se limitant à « mettre à jour les numéros de page dans les notes de classe anciennes ».
Heureusement, cet accident n’a entraîné aucune perte de données permanente. Baude a réussi à restaurer tous les fichiers supprimés via Dropbox par la suite. Il pense que cette expérience mérite d’être partagée publiquement, afin de rappeler aux autres utilisateurs les risques possibles lorsque les intelligences artificielles manipulent directement des fichiers locaux, en particulier lorsqu’on leur accorde l’accès et la capacité de modification des fichiers. Il est essentiel de faire des sauvegardes de données.