المدعية العامة في نيويورك ليتيتيا جيمس كشفت عن تحقيق متعدد الولايات استمر لسنوات ضد Character.AI، إذ تسعى الآن إلى اشتراط حمايات على بيانات المستهلكين التي تُباع من خلال إجراءات إفلاسها.
وتُعد جيمس واحدة من 40 مدعيا عاما من الحزبين الذين قدّموا إشعارا باهتمامهم في قضية إفلاس Character.AI "لإحاطة جميع الأطراف علماً بالقضايا التنظيمية التي ستحتاج إلى معالجتها في أي بيع أو نقل لأعمال المدين أو أصوله." وقد أعلنت Character.AI يوم الثلاثاء أنها تقدّم طلباً بموجب الفصل 11 وتبيع بعض أصولها إلى ديزني. لكن المدعين العامين يحذرون من احتمال وجود مخاطر جسيمة في نقل هذه التقنية بسبب "الطبيعة شديدة الحساسية للمحادثات التي يجريها كثير من المستخدمين مع شخصيات روبوتات المحادثة في Character.AI، والعدد الكبير من القاصرين الذين يستخدمون المنتج، والمخاطر الجسيمة التي تطرحها ميزات معينة في المنتج".
وتكشف الوثيقة المقدمة أيضاً أن عدة ولايات كانت في منتصف تحقيقاتها عندما تقدمت Character.AI بطلب الإفلاس. وتقول الولايات إنها فتحت تحقيقاً بشأن مخاوف حماية المستهلكين والخصوصية في عام 2024، وذلك في أعقاب دعوى قضائية رفعتها والدة فتى في سن 14 عاماً توفي انتحاراً زُعم أنه حدث "ثوانٍ" بعد حديثه مع روبوت المحادثة.
"كشفت التحقيقات عن أخطار شديدة الخطورة"
"كشفت التحقيقات عن أخطار شديدة الخطورة وسلوك محتمل مخالف للقانون من Character.AI، لا سيما في تعاملها مع الأطفال، بما في ذلك روبوتات محادثة تنتحل صفة مهنيين مرخّصين، والتعرض لمحتوى جنسي وعنيف، وضعف أنظمة التحقق من العمر، وادعاءات سلامة مضللة، وانتهاكات محتملة لقوانين الخصوصية في الولايات"، وفقاً لبيان صحفي صادر عن مكتب جيمس. وكانت الولايات تعمل على معالجة هذه القضايا مع Character.AI، لكنها لم تتوصل إلى اتفاق قبل أن تتقدم الشركة بطلب الإفلاس. وفي بيان، قال الرئيس التنفيذي لشركة Character.AI كولين آدمز إن تقديم المدعين العامين "ليس تصويراً دقيقاً لسلامة منصتنا. تأخذ Character.ai سلامة مستخدميها ومنصتها على محمل الجد المطلق، خاصة فيما يتعلق بالقاصرين. لقد راقبت Character.ai منصتها وما زالت تراقبها لمنع وإزالة المحتوى الذي ينتهك معاييرها وسياساتها." ولم ترد ديزني فوراً على طلب للتعليق.
وتدعو الولايات القاضي إلى اشتراط أن يتخذ مشتري أصول Character.AI إجراءات تحمي المعلومات الحساسة التي كانت الشركة تحتفظ بها. وتشمل هذه الإجراءات أنظمة فعالة لضمان العمر، وقيوداً على كيفية تفاعل القاصرين مع روبوتات المحادثة، وتطبيق "ضمانات الأزمات"، والسماح للمستخدمين بحذف بياناتهم. وقالت جيمس في بيان: "جمعت هذه الشركة بعضاً من أكثر الأفكار خصوصية التي شاركها الأطفال على الإطلاق، والآن يمكن بيع تلك المحادثات لأعلى مزايد. أنا أحارب لأضمن أن أي مشترٍ يضع سلامة الأطفال أولاً ويضع حمايات حقيقية موضع التنفيذ".
تحديث، 15 أكتوبر: أضيفت تصريحات من Character.AI.
تابع المواضيع والمؤلفين من هذه القصة لرؤية المزيد مثلها في صفحتك الرئيسية المخصصة وللحصول على تحديثات عبر البريد الإلكتروني.