وأفادت Gizmodo مؤخراً بأن دراسة أجراها فريق العالمة في معهد ماساتشوستس للتكنولوجيا باتي ميس (Pattie Maes) تشير إلى أن المحتوى المولّد بالذكاء الاصطناعي وتقنيات التزييف العميق تنجح في تشويه الذاكرة البشرية، بل وتزرع ذكريات كاذبة مختلقة بالكامل في عقول المشاركين.
وأظهرت التجربة أن الأشخاص الذين تعرّضوا لصور معدّلة بالذكاء الاصطناعي لم يسهُل عليهم فقط تذكّر الصور الأصلية بشكل خاطئ، بل أبدوا أيضاً ثقة بالغة الارتفاع بذكرياتهم الخاطئة. وتكون هذه الظاهرة أوضح ما يكون في سيناريوهات مثل الفضائح السياسية، حيث لا تخفّل رغبة الجمهور في التصويت فحسب، بل تستمر في التأثير على القرارات السياسية حتى بعد تصحيح المعلومات.
ومع التعمّق العميق للذكاء الاصطناعي التوليدي في مختلف القطاعات، ورغم ترجي الصناعة على نطاق واسع أن «الخبراء الرفيعين المستوى» في «التعاون بين الإنسان والآلة» سيراجعون مخرجات هذه الأنظمة، تشير الدراسة إلى أن المستخدمين البشريين لا يكادون قادرين على تمييز هلوسات الذكاء الاصطناعي باستمرار، وأن أحكامهم الخاصة تتأثر بسهولة بالتحريض من المعلومات الخاطئة.
وفي السابق، كشف تحقيق داخلي في وزارة الدفاع الأمريكية، فيما يتعلق بحدث الضربة الجوية التي شنّها الجيش الأمريكي على مدرسة ابتدائية في إيران وأسفرت عن خسائر بشرية جسيمة، أن أحد أسباب ذلك جزئياً كان الاعتماد المفرط على نظام الذكاء الاصطناعي من بالانتير (Palantir) المدفوع ببيانات قديمة. وتبرز هذه السلسلة من المخاطر أنه في ظل غياب آلية تصحيح مضمونة في الوقت الراهن، فإن الثقة العمياء بنظم الذكاء الاصطناعي ونشرها تُحدث آثاراً بعيدة المدى وكارثية محتملة على الحقيقة والأمن في المجتمع.