في يوم تطوير OpenAI هذا العام، أعلن الرئيس التنفيذي سام ألتمن عن وكيل الذكاء الاصطناعي الجديد لشركة OpenAI وهو Dots، وقال للجمهور إن الشركة تريد “وضع معيار جديد للخصوصية في الذكاء الاصطناعي”. استغرقت شركة OpenAI اليوم في انتقادات ضمنية لموقع Meta الرئيسي المنافس، Muse، بسبب عدم حماية بيانات المستخدمين. لكن Muse نفسه، قبل بضعة أشهر، تم إطلاقه كبديل أكثر أمانًا من وكيل الذكاء الاصطناعي OpenClaw السابق – وكان الرئيس التنفيذي مارك زوكربيرج. مُحتمل تم بناؤه من الصفر من أجل الخصوصية والأمان.
في عصر يُحتفظ فيه بالبيانات الشخصية للمستخدمين من قبل الشركات، والهجمات الإلكترونية شائعة جدًا، تحاول مختبرات الذكاء الاصطناعي إقناع المستخدمين بمشاركة المزيد من المعلومات مع وكلاءهم. استراتيجيتهم الأحدث للنجاح هي التفوق على المنافسين من خلال وعودهم بأنهم، على عكس روادهم، سيحتفظون ببيانات المستخدمين بعيدًا عن أعين المتطفلين. السؤال هو هل يمكن للشركات الوفاء بهذه الوعود.
نات فريدمن، رئيس المنتجات في مختبرات Meta Superintelligence Labs كتب على منصة X، كان هدف الشركة هو إنشاء شيء مثل OpenClaw، بحيث يمكننا جعله آمنًا ومُستقرًا وسهل الاستخدام وقابلًا للتوسيع لملايين الأشخاص. تُخزن بيانات المستخدمين في خادم افتراضي آمن، وهو ما وصفه زوكربرج بأنه “كمبيوتر لينكس معزول يحتوي على متصفح، ووحدة معالاة الذاكرة، والذاكرة، والتخزين”. الشركة قال إن معظم الجهد في بناء Muse كان مرتبطًا بـ“التصميم الهندسي الدقيق لتشغيله بشكل أكثر أمانًا“. واصلت مقالات مدونة Meta قائلة: “يمكن لـMuse أن ترتكب أخطاء، وسترتكب أخطاء، لكننا نتوقع أن تكون أخطاؤه أقل تكرارًا وأقل ضررًا بسبب الأنظمة الأمنية التي بنيناها“.
مرتبط
لكن على الرغم من أن Muse احتل المرتبة الأولى في قوائم App Store، ووفقًا لشركة Apptopia، حصل على 600,000 مستخدم نشط يوميًا في الولايات المتحدة خلال أسابيع، إلا أن وعود Meta بدت غير مكتملة. وعلى الرغم من أن البيانات متفرقة عن المستخدمين الآخرين، و... الشركة تخطط لإدخال طريقة “لمنع Meta من الوصول إلى البيانات في خادمك الافتراضي بطريقة سرية وقابلة للتحقق في المستقبل هذا العام”， لا يزال بإمكان Meta نفسه الوصول إلى البيانات. باحث أمني سريع. مكشوف ثغرة يوم الصفر يمكن من خلالها للشخص أن يسيطر على Muse (التي تم إصلاحها منذ ذلك الحين)، مما يثير مخاوف من هجمات خارجية. وقد ظهرت عدة مشاكل أمنية خطيرة وفقًا للتقارير. في اللحظة الأخيرة قبل الإطلاق، واحد منهم كان يمكن أن يسمح للمستخدمين بالوصول إلى قواعد البيانات الداخلية لشركة ميتا نفسها، 404 الوسائط.
يبدو أن Muse تجمع البيانات بشكل واسع، وفي بعض الحالات توزعها أيضًا. بشكل افتراضي، يسمح للمتصفح Meta بتدريب النماذج على ما يضعه المستخدمون، لكن من الممكن الانسحاب من ذلك. Inc. اشتكى المراسل أن موسي قام برفع الملف. قرأ رسائله الخاصة دون أن يطلب منه ذلك، وقال مُعلّم يوتيوب إنه قد قدمه. عنوان لغريب من خلال Marketplace – في كلا الحالتين، كان Muse يعمل كما هو مخطط له، لكن المستخدم لم يدرك مدى قدرته. المنصة يخلق “ملفات تفصيلية عن جميع أصدقائك وعائلتك”، كما وايبرد تم الإبلاغ عن ذلك. لا يُعتبر أي من هذا أمرًا غير متوقع من شركة Meta، لكنه بالتأكيد لا يدعم الفكرة بأن Muse وحدها واقعية فيما يتعلق بحماية الخصوصية والأمان.
لقد لاحظت شركة OpenAI هذه الحقيقة عند إعلانها عن Dots في أواخر سبتمبر. أعلن ألكسندر إمبيريكوس، رئيس منتج Codex في OpenAI، على المنصة خلال فعالية DevDay أن OpenAI تركز على إنشاء “مساعد موثوق وآمن”، وأظهر الرئيس التنفيذي سام ألتمان طرقًا يمكن من خلالها للناس التحكم في Dots الخاصة بهم، مثل وضع قاعدة تمنعه من إجراء أي شراء عند حد معين من المال. وقال جلين كويتس، رئيس منصة التطبيقات في OpenAI، على المنصة: “أعتقد أننا في موقف مختلف عن Meta، حيث لا تمتلك Meta منتجًا ذا الذكاء الاصطناعي ويحظى باستخدام 1.2 مليار مستخدم”. وأضاف أن “إطلاق شيء يرتكب أخطاء من هذا النوع هو شيء نحاول تجنبه بكل جهد”.
كما دفع ألتمن نفسه زاوية الخصوصية خلال حدث DevDay. من أجل جذب عملاء الأعمال، قدم القادة إطارًا يسمح للشركات بامتلاك “ضوابط أقوى” على بياناتها، مع خيارات بدون سياسة الاحتفاظ بالبيانات (أي لا يتم تخزين أي بيانات على خوادم OpenAI). في الواقع، حتى الآن لم تحدث الكثير من فضائح الخصوصية المتعلقة بـ Dots — رغم أنها متاحة فقط في مستويات اشتراك ChatGPT التي تزيد قيمتها عن 100 دولار، لذا من المحتمل أن يكون عدد المستخدمين أقل.
قد لا يشعر الناس بالراحة في مشاركة بياناتهم الشخصية مع OpenAI، وذلك جزئيًا لأن عملاء الذكاء الاصطناعي يحتاجون إلى الكثير من هذه البيانات. على سبيل المثال، الفيرجأليسون جونسون شعرت بعدم الراحة عند كتابة معلومات البنك الخاصة بها عندما يسأل الروبوت كجزء من مهمة ذات صلة (لدى Muse دمج مع Stripe لتوفير ذلك).
بالطبع، ليست جميع الشركات تعد بتعهدات تتعلق بالخصوصية. الغريزة كانت... تعرض للانتقادات العامة بسبب الشروط الخدمية الواسعة للغاية التي منحتها وصولًا غير محدود إلى البيانات؛ منذ ذلك الحين، الشركة يبدو أن تم إجراء تعديلات. حتى الآن، يبدو أن مختبرات الذكاء الاصطناعي تعتمد على نهج ثلاثي الأجزاء لتعزيز استخدام الوكلاء الذكاء الاصطناعي بين الجمهور العام: جعلهم مفيدين، وجعلهم لطيفين وآمنين لتقليل الشعور بعدم الأمان، وتقديم وعود بشأن الخصوصية – ونتوقع أن تفي بتلك الوعود.
تابع المواضيع والمؤلفين من هذه القصة لترى المزيد من المحتويات المماثلة في صفحة الإخبار الخاصة بك، ولتستلم تحديثات بريدية.