إن انتشار الذكاء الاصطناعي في السياقات التعليمية يثير تساؤلات غير مسبوقة حول السلامة والأخلاقيات. أفادت رويترز في 6 نوفمبر بأن أحد والدي فتاة أمريكية قد رفع رسميًا دعوى قضائية أمام المحكمة ضد Google وشركتها الأم Alphabet، متجهًا مباشرة إلى الثغرات الضخمة في رقابة الذكاء الاصطناعي داخل المدارس. وتزعم لوحة الدعوى أن ابنته البالغة من العمر 13 عامًا استخدمت Gemini لفترة طويلة عبر جهاز Chromebook المُسنَد لها من المدرسة، وأنها خططت خطوة بخطوة خلال حوارات عميقة امتدت لأشهر لإنهاء حياتها وتنظيم جنازتها.
من الدراسة اليومية إلى الإدمان في البوح: أزمة امتدت لأشهر دون أن يُكتشف
الفتاة المعنية بهذه الدعوى ذُكرت في لوحة الدعوى باسم مستعار هو "Emma". وبحسب стороны الادعاء، تعرّفت Emma على نموذج Gemini لأول مرة في خريف 2025 عبر بحث Google على جهاز Chromebook المدرسي، وكانت في البداية تسأله أسئلة عادية حول الدراسة والمواد الأكاديمية.
مع تزايد وتيرة الاستخدام باستمرار، بدأت Emma في البوح بشكل متكرر لـ Gemini عن قضايا حساسة مثل العلاقات الأسرية والضغوط النفسية وإيذاء النفس. وحتى شهر 3 من عام 2026، كان حجم الرسائل التي تبادلتها مع Gemini شهريًا قد بلغ آلاف الرسائل. غير أن لوحة الدعوى تشير إلى أن Gemini، عند مواجهته بالحالة النفسية المتطرفة لقاصر، لم يقتصر على عدم توجيهها في الوقت المناسب إلى قنوات المساعدة المهنية في الحياة الواقعية، بل ساعدها حتى على إخفاء حالتها النفسية.
اكتشاف الأزمة وتدخل الأسرة العاجل
أكد والدا الفتاة أنهما لم يكونا على علم بذلك في السابق، بل إنهما لم يعرفا أصلًا أن حاسوبًا محمولًا وزعته المدرسة يمكنه الوصول مباشرة إلى Gemini. وحتى يومٍ ما اكتشف برنامج المراقبة المدرسي وثيقة لخطة جنازة كتبتها Emma وأطلق إنذارًا أمنيًا، لم يدرك الأهل فجأة أن طفلتهم في خطر.
وبعد ذلك، سجلت والدة الفتاة الدخول إلى الحساب المدرسي لتكتشف بصدمة أن ابنتها تكتب رسالة انتحار، ولحسن الحظ تم تفادي المأساة التي لا يمكن تعويضها بفضل تدخل الأب في الوقت المناسب.
اتهامات متعددة وإجراءات عاجلة من Google
قدّمت جهة الادعاء في لوحة الدعوى اتهامات جدية متعددة ضد Google، تشمل عيوبًا في تصميم المنتج، والإخلال بواجب التحذير، والإهمال الجسيم، والإخفاء الاحتيالي، واتهمت Google صراحةً بانتهاك قانون روبوتات الدردشة المرافقة المحلي في كاليفورنيا، مطالبةً بتعويض مالي مناسب وتعويض قائم على أوامر قضائية.
وبخصوص هذه الاتهامات، صرّح المتحدث باسم Google خوسيه كاستانيدا علنًا بأن الشركة تقوم حاليًا بمراجعة لوحة الدعوى بعناية. وأكد أن Google سبق أن تعاونت مع مختصين في المجال الطبي وخبراء أكاديميين، وصممت خصيصًا وظائف مخصصة للمستخدمين الشباب للحصول على الدعم العاجل والموارد الموثوقة.
ومن الجدير بالذكر أنه في الأسبوع ذاته الذي ظهرت فيه هذه الدعوى، أعلنت Google عن تعديل رئيسي في سياستها تجاه سوق التعليم: إيقاف وظيفة Gemini افتراضيًا في حسابات الطلاب في المدارس، بحيث يتحدد إعادة تفعيلها لاحقًا من اختيار مدراء المدارس بأنفسهم بشكل كامل. ومع ذلك، إذا أرادت المدرسة أن يواصل الطلاب استخدام بحث Google بشكل طبيعي، فستظل بحاجة إلى قبول وظائف البحث ذات الصلة مثل الملخصات المولّدة بالذكاء الاصطناعي في الوقت نفسه.