قالت شركة OpenAI يوم الاثنين في بيان: ستبدأ OpenAI في إضافة علامة مائية غير مرئية إلى النصوص التي ينتجها ChatGPT وCodex في الاتحاد الأوروبي للامتثال لقانون الذكاء الاصطناعي في الاتحاد الأوروبي. مقالة مدونة.
قواعد الشفافية في قانون الذكاء الاصطناعي للاتحاد الأوروبي، الذي دخل حيز التنفيذ في 2 أغسطس، يلزم شركات الذكاء الاصطناعي بتحديد المحتوى المُولد بالذكاء الاصطناعي بطريقة يمكن لأنظمة أخرى التعرف عليها.
قالت شركة OpenAI إن علامة الماء ستُطبق على مستخدمي ChatGPT وCodex الذين يستوفون الشروط على جميع الخطط، لكن فقط في الاتحاد الأوروبي. يمكن للمطورين الذين يستخدمون واجهة برمجة التطبيقات الخاصة بشركة OpenAI في أي مكان في العالم تفعيلها للنماذج المختارة ابتداءً من اليوم؛ وهي مفعلة بشكل افتراضي. وقالت شركة OpenAI إنها لن تجعل تصحيح علامة الماء النصية أمرًا افتراضيًا على مستوى العالم عند الإطلاق.
علامة الورقة المائية ليست رمزًا حقيقيًا، بل تعمل عن طريق تشكيل خفيف في اختيارات الكلمات للنموذج، مما يترك نمطًا لا يمكن للقراء رؤيته، لكن جهاز الكشف يمكنه اكتشافه. نظرًا لأنها موجودة داخل الكلمات نفسها، فإنها تنتقل مع النص عند نسخه ووضعه. قالت شركة OpenAI إن علامة الورقة المائية لا تحدد الشخص، وأنها لم ترصد أي تغيير ذي مغزى في أداء النماذج عند تشغيلها.
نشرت OpenAI أيضًا تقرير تقني حول طريقتها، التي تُسمى textGrain، إلى جانب الإعلان. تم تأليف هذا التقرير مع باحثين من جامعة بنسلفانيا وجيلو، ويوضح التقرير مثالًا على استخدام مفتاح سرّي لتصنيف توقعات الكلمة التالية لإنهاء الجملة. عند دمج مئات هذه المحاولات معًا، يمكن للكاشف اكتشاف المحتوى المولد بواسطة الذكاء الاصطناعي باستخدام النص والمفتاح فقط.
هل يمكن إزالة العلامة المائية عن طريق التعديل؟ تشير اختبارات OpenAI إلى أن ذلك ممكن. في أحد الاختبارات، عند استبدال 10% من الكلمات بمرادفاتها، انخفضت نسبة اكتشافها من حوالي 92% إلى 66%. كما قالت الشركة إن الفقرات القصيرة، وإجابات الحساب، والنصوص المترجمة أصعب في الكشف عنها.
قالت الشركة: “تساهم هذه القيود في قرارنا بتوفير الوصول الأولي للكاشفات فقط للباحثين المعتمدين والمنظمات الخبرية، الذين يمكنهم مساعدتنا في تقييم موثوقية الاستخدامات المسؤولة”.
حذرت شركة OpenAI أيضًا من أن عدم وجود علامة الماء “لا يثبت أن الكتابة من صنع إنسان”. قد يكون النص قصيرًا جدًا أو معدل بشكل مفرط، أو قد يأتي من الذكاء الاصطناعي الخاص بشركة أخرى.
“يمكن للعلامات المائية أن تشير إلى أن نظام OpenAI قد قام بإنشاء أو معالجة جزء من النص، لكنها لا توضح مدى التدخل البشري في التحرير أو الإبداع”， كما قالت الشركة.
الإعلان يأتي بعد شهرين من قول شركة Anthropic إنها ستضع علامات وسم على النصوص التي تم إنشاؤها بواسطة نموذج Claude الخاص بها، وهو إجراء يتم تطبيقه في جميع أنحاء العالم. هذا القرار تسبب في رد فعل سلبي من بعض مستخدمي Claude، حيث ادعوا أنهم قدموا “التعليمات والسياق والقرارات” بينما كان Claude مجرد “الأداة”.
بنت شركة OpenAI علامة مائية نصية من قبل، لكنها توقفت عن إصدارها، جزئيًا بسبب مخاوف من أن المستخدمين سينتقلون إلى المنافسين الذين لا يستخدمون العلامة المائية، وقد أفادت صحيفة وول ستريت جورنال في عام 2024.
تقع شركات أنثروبيك، جوجل، ميتا، مايكروسوفت، وأوبنهاي في بين الشركات التي التزمت باتباع مدونة الممارسات التابعة للاتحاد الأوروبي بشأن المحتوى المولود بواسطة الذكاء الاصطناعي.