OpenAI fait face à une nouvelle vague de poursuites judiciaires de huit États américains qui accusent l’entreprise de nuire aux enfants et de tromper les clients concernant la sécurité de ChatGPT, comme rapporté précédemment par Reuters. Ces poursuites, initiées séparément par l’Iowa, le Kansas, le Nebraska, la Virginie-Occidentale, l’Arkansas, l’Arizona, l’Idaho et le Montana, accusent OpenAI de mettre les profits au-dessus de la sécurité lors du développement de ChatGPT.
La série de plaintes affirme que OpenAI a violé les lois locales de protection des consommateurs en ne prévenant pas les clients des dangers de ChatGPT, en citant plusieurs actions en justice faites par les membres de familles de jeunes et d’adultes, qui affirment que le chatbot IA a joué un rôle dans la mort de leurs proches. Ils soutiennent que, bien que OpenAI ait présenté ChatGPT comme un « outil sûr et adapté aux jeunes, où la sécurité est primordiale », il était en réalité « dangereux pour les utilisateurs vulnérables » — notamment en « dégradant les compétences de pensée critique, encourageant la paranoïa et les illusions, offrant des conseils médicaux dangereux, et promouvant des comportements et relations malsains ».
Lié
- ChatGPT pour adolescents est un ‘risque inacceptable’, déclare Common Sense Media
- La Floride cherche à interdire que ChatGPT se comporte comme une personne
De plus, les États accusent OpenAI de collecter des données de mineurs et de ne pas faire suffisamment pour empêcher les utilisateurs mineurs d’utiliser le chatbot. Les actions en justice mentionnent également les récents incidents de piratage d’IA malveillants comme preuves de la « négligence » prétendue d’OpenAI.
« OpenAI a perdu sa mission originale en tant que organisation non lucrative axée sur le public, qui mettait l’accent sur la sécurité, pour devenir une histoire d’avertissement sur ce qui peut se passer lorsque le développement d’un outil aussi puissant que l’IA est motivé non par la sécurité, mais par une mentalité où le profit est prioritaire à tout prix, en ignorant les mesures de protection essentielles », l’action en justice de l’Arizona le prétend.
Dans une déclaration envoyée par e-mail à The Verge, le porte-parole d’OpenAI, Drew Pusateri, dit que l’entreprise a intégré « des protections spécifiques à l’âge, de premier plan dans l’industrie », dans ChatGPT.
Même si aucun système ne peut être parfait, nous continuerons à collaborer avec des experts pour renforcer nos efforts et mettre en place des mesures de protection supplémentaires, telles que les contrôles parentaux, les rappels de pause et les protections adaptées à l’âge, qui existent aujourd’hui. Nous sommes déterminés à travailler avec les États pour promouvoir des politiques en intelligence artificielle pragmatiques applicables à l’ensemble de l’industrie de l’IA – et non seulement à une seule entreprise.
Les États demandent aux tribunaux d’obliger OpenAI à payer une série de sanctions civiles et d’arrêter de tromper le public au sujet de la sécurité de ChatGPT. Certains États cherchent également à faire supprimer les données personnelles collectées illégalement.
Mise à jour, 14 octobre : Une déclaration de OpenAI a été ajoutée.
Suivez les sujets et les auteurs de cette histoire pour voir davantage de contenu similaire dans votre flux de page d'accueil personnalisée, et pour recevoir des mises à jour par e-mail.