الأصدقاء لا يتركون أصدقاءهم يطعمون بياناتهم لوكلاء الذكاء الاصطناعي

ثمة اتجاه متنامٍ في عالم التكنولوجيا الاستهلاكية: أجهزة مصممة للتجسس على كل شيء وكل من حولك، بغض النظر عما إذا كان أي شخص آخر قد وافق على ذلك فعلاً أم لا. والآن، مع ظهور “المساعدين الشخصيين بالذكاء الاصطناعي” مثل Muse من Meta، يُطلب منك بكل ابتهاج ألا تتخلى عن بياناتك أنت فحسب، بل أيضًا عن معلومات أصدقائك وعائلتك والشخص الذي خرجت معه في موعد عبر Hinge منذ خمس سنوات مضت — وعن أي شخص آخر تعاملت معه على الإطلاق تقريبًا.

منذ إطلاق Muse الشهر الماضي، تم تنزيل هذا الوكيل ملايين المرات بالفعل، وحقق المركز رقم 1 على متجر تطبيقات Apple. وبمساعدة صورته الافتراضية المخيفة — مخلوق يشبه Labubu من Temu بابتسامة مخادعة — يطلب التطبيق من المستخدمين ويشجعهم على منحه إمكانية الوصول إلى الحسابات المصرفية وكلمات المرور وجهات الاتصال وسجلات المحادثات وأي شيء وكل شيء قد يساعده على تنفيذ أوامر المستخدم.

مواضيع ذات صلة

• كل شيء يتجسس عليك ولا يوجد خيار للانسحاب
• قوانين الخصوصية لا تستطيع مجاراة “المراقبة الفاخرة”
• صنّاع وكلاء الذكاء الاصطناعي يعدون بالخصوصية — فهل سيفون بوعدهم؟

“تُسوَّق هذه الأنظمة على أنها مساعدون مستقلون، أو عفاريت تفي بالأمنيات، أو خدم يفعلون ما تحتاجه قبل أن تطلبه، بسلاسة تامة,” قال ميريديث ويتاكر، رئيسة مؤسسة Signal، المطوّرة لتطبيق المراسلة المشفّر الشهير، لـ The Verge. وتُطبَّق هذه الإجراءات المستقلة “ليس فقط على الشخص الذي ثبّت Muse على جهازه، بل أيضًا على كل من يتواصل معه ذلك الشخص، كما يُستنتج من أكثر معلوماته خصوصية — رسائل البريد الإلكتروني والرسائل وجهات الاتصال والصور وغيرها.”

مع وكلاء الذكاء الاصطناعي، تتيح شركات التكنولوجيا للمستهلكين أتمتة مهامهم اليومية من خلال توسيع أسلوبها النهم في المراقبة الجماعية ليشمل كميات هائلة من البيانات الحساسة. إنها المقايضة الفاوستية ذاتها التي يعرضها وادي السيليكون علينا منذ عقود: بياناتك الخاصة مقابل قليل من الراحة. ولدى كثير من الناس، فإن فكرة وجود مساعد افتراضي ينجز مهام وضيعة مثل ملء الفواتير وإرسال رسائل البريد الإلكتروني أمر مُغري — خاصة إذا لم يدركوا كم من البيانات يتنازلون عنها في المقابل فعليًا.

“لكي يكون أي وكيل مفيدًا ويساعدك فعلًا على تحقيق أهدافك، يحتاج إلى معلومات سياقية عنك وعن مَن تتفاعل معهم,” قال دانيال روبرتس، المتحدث باسم Meta، لـ The Verge بشأن بيانات الأشخاص الآخرين المشتركة مع Muse. “يجمع Muse ذلك استنادًا إلى المعلومات العامة ومن ما اخترت مشاركته، ولهذا يتذكر أن الشخص الذي أرسل إليك للتو فاتورة هو في الواقع السبّاك الذي استأجرته سابقًا لإنجاز بعض الأعمال في حمامك، أو أي الزهور قال زوجك/زوجتك إنه/إنها يفضلها.” وأشار روبرتس إلى عملية الاشتراك الطوعي في Muse وخيارات وإعدادات متعددة من شأنها “مساعدة الناس على اتخاذ خيارات الخصوصية المناسبة لهم.”

“الطريقة التي تم إعداد واجهة المستخدم بها مصممة لتشجيعك على مشاركة أكبر قدر ممكن، وغالبًا أكثر مما تدرك، حتى يفوت الأوان.”

لكن ليس الجميع تمكن من التعامل مع هذه الخيارات والإعدادات. فحتى الآن، يصف المستخدمون حوادث مقلقة ومتوقعة تمامًا في آن واحد. أفاد بعضهم بأن المساعد الافتراضي تسبب في جميع أنواع المتاعب، مثل الاستيلاء على ملايين الرسائل النصية التي كانوا يعتقدون أنها خارج نطاق الوصول. وقد نفت Meta امتلاك المساعد القدرة على الوصول إلى الرسائل النصية دون إذن، ناسبةً الحادثة مجددًا إلى أذونات تطبيق مُهيأة بشكل خاطئ، واصفًا قدرة Muse على قراءة الرسائل النصية بأنها “اختيارية بالكامل.” وعلى Threads، رد المسؤول في Meta ديفيد سينغلتون على أحد المستخدمين مباشرةًمزعَمًا أن Muse على جهاز Mac لا يمكنه الوصول إلى الرسائل إلا إذا منح المستخدم التطبيق وصولاً كاملاً إلى القرص.

وفي حادثة أخرى، أفشى Muse بعنوان منزل أحد المراجعين التقنيين و استدعى غريبًا إلى شقته. في هذه الحالة، كان المراجع المعني قد أعطى Muse إذنًا للوصول إلى تلك البيانات، لكنه ببساطة لم يدرك ذلك.

تقول إيفا غالبرين، مديرة الأمن السيبراني في مؤسسة الحدود الإلكترونية، إن هذه الحوادث ليست مفاجأة، نظراً إلى أن وكلاء الذكاء الاصطناعي مثل Muse مصممون لإرباك الناس ودفعهم للتخلي عن أكبر قدر ممكن من البيانات.

ذات صلة

• Muse من ميتا مخيف، لكن ربما ليس للأسباب التي تظنها
• ميتا تُصلح ثغرة في Muse سمحت للمهاجمين بالسيطرة على وكيل الذكاء الاصطناعي
• كيف سبقت ميتا OpenAI في سباق وكلاء الذكاء الاصطناعي

«الخلاصة الأهم هي أن الناس لا يفهمون نوع البيانات التي يسلّمونها»، قالت غالبرين لـ The Verge. «إن الطريقة التي تُعدّ بها واجهة المستخدم مصممة لتشجيعك على مشاركة أكبر قدر ممكن، وغالباً أكثر مما تدرك، حتى يصبح الوقت متأخراً. إنها تستخدم الأنماط المظلمة، ونتيجة لذلك ينتهي الأمر بـ Muse إلى فعل أشخاص لا يريدونها».

نظراً للاتساع الهائل للبيانات التي تستوعبها وكلاء الذكاء الاصطناعي مثل Muse، فإن هذا يعني أيضاً أن المستخدمين يخاطرون بتسريب ليس معلوماتهم الحساسة فحسب، بل معلومات كل الأشخاص الآخرين الذين كانوا على تواصل رقمي معهم.

وكما هو الحال مع «نظارات المعتدين» الشهيرة لميتا، لا توجد طريقة ذات معنى لإلغاء الاشتراك — حتى إذا كنت تراقب باستمرار علامات اختراق بياناتك أو انتهاك خصوصيتك. يمكن لأصدقائك الآن ببساطة أن يقدموا جميع محادثاتك الخاصة إلى خدمتهم الافتراضية الآلية، ولن يكون لديك أي وسيلة لمعرفة أن ذلك قد حدث.

بعد أن استخرج باحثو الأمان تعليمات تشغيل Muse، اكتشفوا عملية داخلية تجمع وتحدّث ملفات تعريف لكل شخص في حياة المستخدم على أساس كل ساعة. الهدف من جمع كل هذه البيانات هو بناء صورة حميمية ومفصلة عن حياة الشخص تشكل أساس التوصيات المخصصة في التطبيق. يتتبع التطبيق ويقيس كل علاقة خاصة من علاقات المستخدم، بما في ذلك «مدى قربها، وما تُبنى عليه، وكيف يتصرفان مع بعضهما، وما يبدو أنه مطلوب الآن»، ويستخدم تلك البيانات لتقديم اقتراحات مخصصة، حسبما أفادت Wired .

«تقول ميتا إن Muse يتذكر فقط ما تختار مشاركته. لكن فكرة أن الناس يتخذون خياراً مستنيراً في هذه الحالة أمر يضحك»، قالت ويتاكر. «لا يمكن أن نفترض بملامح جدية أن غالبية من يثبتون هذا النظام يفهمون عواقب استخدامه، أو الملفات المخيفة التي تُجمع عن أولئك الذين يعرفونهم ويتواصلون معهم».

جادلت ويتاكر بأن هذا يعكس كيف استخدمت شركات التكنولوجيا سياسات الخصوصية وشروط الخدمة منذ عام 1990: إلقاء عبء الخصوصية على المستهلك، ثم تجنب المسؤولية عن العواقب مع جني فوائد نموذج الإعلانات الذي ساعدت في إيجاده.

«إن أنظمة الموافقة المعطوبة هذه أقدم بكثير من الذكاء الاصطناعي وتشكل حجر الأساس لصناعة الإعلانات المراقِبة»، قالت ويتاكر. «المزيد من المعلومات عن المستخدمين يسمح باستهداف إعلاني أفضل، وهكذا انطلقت حلقة التغذية الراجعة الخبيثة في قلب نموذج الأعمال القائم على المراقبة. لقد حلّت شروط الخدمة بنمط النقر السريع محل الموافقة ذات المعنى منذ زمن بعيد».

«الفكرة هي وضع هذه الأعباء المستحيلة على الناس العاديين، ثم استخدام ذلك للجدل، سواء في المحكمة أو التشريع أو في العلن، بأن [هذا] هو ما اختاره الناس»، قال نيل ريتشاردز، أستاذ قانون الخصوصية والمدير المشارك لمعهد كوردل في جامعة واشنطن، لـ The Verge. «نحن نضع بالفعل أعباء كثيرة على المستهلكين، [الذين] مثقلون بالعمل، ويواجهون أزمة تكاليف المعيشة، وقد لا يفهمون التقنيات الكامنة وراء الأداة. لا أعتقد أنه من العدل وضع عبء مراقبة أداة وكيلة شديدة التعقيد على مستهلك عندما اعترف تنفيذي الشركة نفسها أمام الكونغرس بأنهم لا يعرفون حتى كيف تعمل على مستوى معين».

«لا يمكن أن نفترض بملامح جدية أن غالبية من يثبتون هذا النظام يفهمون عواقب استخدامه».

بهذه الطريقة، تخلق مساعدات الذكاء الاصطناعي مثل Muse نسخة جديدة من مشكلة خصوصية كلاسيكية موجودة منذ إنشاء Gmail ومنصات التواصل الاجتماعي عموماً: حتى إذا تجنبت استخدام وكلاء الذكاء الاصطناعي، لا يوجد ضمان بأن شخصاً تعرفه لن يشارك محادثاتك الخاصة وعنوانك وتاريخك الشخصي وغيرها من البيانات الحساسة مع المساعدة الافتراضية لميتا، أو واحدة من منافسيها.

«إذا لم أكن أخزن أغراضي في Gmail، لا تمتلك Google نصاً واضحاً لجميع الرسائل الإلكترونية التي أرسلتها على الإطلاق. لكن ثلاثة أرباع الرسائل التي أرسلها تُرسل إلى حسابات Gmail»، أوضحت غالبرين. بعبارة أخرى، إذا كان أي شخص تتواصل معه يستخدم منصات تكنولوجية جائعة للبيانات أو لديه ممارسات أمنية سيئة، فيمكنه تعرض اتصالات الجميع. «المشكلة ليست جديدة، لكن النطاق جديد، وأحد الأسباب التي تجعلنا نرى هذا الدفع نحو الأجهزة القابلة للارتداء والتسجيل الدائم هو أننا نمتلك الآن القدرة الحاسوبية لأخذ ذلك الكم الهائل من البيانات وتحليله في زمن معقول. تلك هي الاختراقة التقنية التي أوصلتنا إلى هذه اللحظة البائسة».

تدعي Meta أن كل المعلومات التي تتم مشاركتها مع Muse توضع في ملف نصي داخل جهاز افتراضي مخصص، وهو ما يُفترض أنه يمنع نموذج الذكاء الاصطناعي من التحدث إلى وكلاء آخرين. لكن الشركة لم تُخفِ قط حقيقة أنها يمكنها الوصول إلى هذه البياناتومثل النماذج الأخرى التي أنشأها منافسوها، جرى اكتشاف أن Muse هرب من قفصه الافتراضي لتنفيذ جميع أنواع المكر غير المصرح به. أكدت Meta أنه قبيل إطلاقه بوقت قصير، كان نموذج الذكاء الاصطناعي قد كسر الحواجز واخترق شركة تابعة لطرف ثالث. جاءت هذه الحادثة بعد هجوم Hugging Face الشهير في وقت سابق من هذا العام، حيث استغل نموذج OpenAI ثغرة أمنية غير معروفة سابقًا للحصول على وصول غير مصرح به إلى بيانات الاعتماد على أربع خدمات خارجية أخرى. أفادت Anthropic في يوليو بأن نموذجها قد حصل أيضًا على وصول غير مصرح به إلى أنظمة خارجية في ثلاث مناسبات منفصلة.

حتى لو لم يخترقوا كل ما يقع أمامهم، فإن المخاطر المحتملة لاستخدام وكيل ذكاء اصطناعي شره للبيانات تمتد إلى ما هو أبعد من المستخدم النهائي الفردي. حذّرت Whittaker من أنه في عالم تستطيع فيه وكلاء الذكاء الاصطناعي الوصول بحرية إلى الاتصالات الخاصة واستخدامها، يمكن للشركات والحكومات أن تحصل فعليًا على القدرة على الوصول إلى البيانات الخاصة من خلال التحايل على التشفير دون كسره. وقد يعني ذلك كارثة لـ الناشطين ومنظمي المجتمع الذين يستخدمون الاتصالات المشفرة لحماية أنفسهم من الشرطة والحكومة، ولكن أيضًا لأي شخص لديه اتصالات حساسة — وهو ما يشمل في هذه الأيام كل شخص تقريبًا.

«استبدلت شروط الخدمة التي تتم الموافقة عليها بالنقر معنى الموافقة الحقيقية منذ زمن بعيد.»

«إذا قرأ البرنامج رسالة بعد فك تشفيرها على جهازك وأرسلها إلى خدمة سحابية، فإن التشفير يمكن أن يعمل تمامًا كما هو مقصود على مستوى التطبيق، وهو المستوى الذي يتحكم فيه المطورون. غير أن الغرض من هذا التشفير يُبطل في نهاية المطاف بفعل تطبيقات الطرف الثالث المتطفلة مثل Muse التي تبيع الراحة في العناوين بينما تطالب بالوصول إلى كميات هائلة من البيانات في التفاصيل الدقيقة»، أوضحت Whittaker.

كما هو الحال مع النظارات الذكية وأجهزة التسجيل المحيطية القابلة للارتداء الأخرى، يقول الخبراء إن الحل يجب أن يكون مزيجًا من الإصلاحات القانونية والإجراءات التقنية الوقائية والعار القديم الجيد.

«أعتقد أننا يجب أن نوجه العار صعودًا نحو الشركات. لا ينبغي أن تكون الخصوصية حقًا تمارسه فقط بامتياز المعرفة التقنية، أو بعد إخراج شخص وقح يرتدي نظارات Meta من حفلة»، قالت Whittaker. «قانونيًا، يجب أن ينتقل العبء من الشخص الذي نقر على مطالبة بالموافقة إلى الشركات التي بنت هذه الأنظمة الأساسية.»

وفي هذه الأثناء، سيضطر المستهلكون إلى التفكير بعناية أكبر في تأثيرات اختياراتهم الفردية لاستخدام هذه التقنية، على أنفسهم وعلى الآخرين — وما إذا كانت الراحة التي تقدمها هذه الشركات تستحق العناء أصلًا.

«أعتقد أننا نحتاج إلى التعامل مع الوكلاء الذاتيين والذكاء الاصطناعي عمومًا كمنتج فائق الخطورة تسري عليه قاعدة المسؤولية المطلقة»، قال Richards. «لا يوجد سبب للانخراط في ما أراه تجربة متهورة بالمخاطر على الخصوصية والصحة النفسية والأمن السيبراني والمخاطر المالية على السكان بأسرهم.»