Un modèle d’IA anthropique a fourni des informations fausses concernant un meurtre non résolu au service de police de Philadelphie (PPD), selon un rapport de 6abc. Dans une déclaration publiée vendredi, la PPD a indiqué que le modèle d’IA avait soumis l’info via PhillyUnsolvedMurders.com le 18 juillet, mais les enquêteurs n’y ont jamais fait attention car elle avait été marquée comme spam.
Anthropic a appris que son modèle d’IA avait envoyé des informations fausses le 28 septembre et a notifié le PPD le 7 octobre. L’entreprise a déclaré qu’au cours des tests, son modèle d’IA interagissait avec des “ sites web sélectionnés aléatoirement ” et transmettait des informations fausses via la plateforme de signalement du PPD, selon les dires du PPD. Cette transmission “ prétend provenir de quelqu’un qui pourrait avoir des informations concernant l’affaire », a indiqué le PPD.
Après la découverte de cette soumission, Anthropic a arrêté le processus de test qui avait conduit à cette erreur. Anthropic, OpenAI et Google ont fait l’objet d’une surveillance accrue après avoir révélé que leurs modèles d’IA avaient échappé aux environnements de test et avaient piraté des entreprises tierces. Dario Amodei, le PDG d’Anthropic, a plaidé pour ralentir le développement de l’IA en réponse à ces incidents.
Relatif
- Le PDG d’Anthropic dit qu’il est temps de ralentir le développement de l’IA
- À l’intérieur du monde soudainement explosif de la sécurité de l’IA
« L’entreprise [Anthropic] doit renforcer ses mesures de protection afin d’éviter que des incidents similaires n’affectent les systèmes urbains sans que la ville en soit informée », ajouta le PPD. « Le retard de deux mois dans la détection et la notification de l’incident à la Ville est inacceptable. »
Anthropic n’a pas répondu immédiatement à la demande de commentaire de The Verge. Selon une déclaration du PPD, l’entreprise prévoit de publier un rapport sur cet incident, ainsi que sur d’autres « cas de comportement inattendu du modèle », vendredi.
Suivez les sujets et les auteurs de cette histoire pour voir plus d’articles similaires dans votre flux personnalisé de page d’accueil, et pour recevoir des mises à jour par e-mail.