مصدر المحتوى يساعد الناس على فهم مصدر المحتوى، وكيف تم إنشاؤه أو تعديله، وما إذا كان يحتوي على إشارات مرتبطة بنماذجنا. لقد أتاحنا بالفعل أدوات متاحة للجمهور للتعرف على الصور والصوت المولَّدين بنماذجنا. اليوم، نشارك نهجنا تجاه ترميز النصوص بعلامة مائية استجابةً لقانون الاتحاد الأوروبي للذكاء الاصطناعي، وكيف يتناسب مع عملنا الأوسع.
يتطلب قانون الاتحاد الأوروبي للذكاء الاصطناعي من مقدمي الذكاء الاصطناعي التوليدي جعل النصوص المولَّدة قابلة للتحديد بطريقة قابلة للقراءة آلياً. ويظل ترميز النصوص بعلامة مائية وأداة الكشف تقنيات مبكرة ذات قيود كبيرة، وما زالت الآراء حول فوائدها واستخداماتها المسؤولة قيد التطوير. ويعكس نهجنا التدريجي متطلبات قانون الاتحاد الأوروبي للذكاء الاصطناعي وكذلك قيود التكنولوجيا، مع التركيز على الشفافية بشأن ما يمكن للعلامة المائية النصية إخبار الناس به وما لا يمكنه إخبارهم به:
بدءاً من اليوم، سيتمكن عملاء واجهة برمجة التطبيقات (API) عالمياً من الاشتراك في ترميز النصوص بعلامة مائية لنماذج مختارة. وسيظل ترميز النصوص بعلامة مائية معطّلاً افتراضياً في واجهة API.
خلال الأسابيع المقبلة، سنضيف علامة مائية غير مرئية إلى مخرجات النصوص المؤهلة من ChatGPT وCodex في الاتحاد الأوروبي.
نفتح باب طلبات الوصول إلى أداة كشف العلامات المائية النصية لدينا. وسيكون الوصول في البداية محدوداً بالباحثين المعتمدين والمنظمات الخبيرة القادرة على مساعدتنا في تقييم التكنولوجيا وتحسينها.
ينطبق ما سبق فقط على مصدر النصوص—فأدوات التحقق الخاصة بنا للصوت والصور، بما في ذلك openai.com/verify أداة الويب لدينا و Content Provenance API(يفتح في نافذة جديدة)، ستظل متاحة للجمهور للمنظمات التي تسعى إلى فهم ما إذا كانت صورة أو ملف صوتي قد تم إنشاؤه بواسطة أحد أنظمتنا.
كيف تعمل التقنية المائية لدينا وأداؤها
تضيف تقنية ترميز النصوص بعلامة مائية لدينا، textGrain، إشارة إحصائية غير مرئية إلى اختيارات النموذج للكلمات. وتبحث أداة الكشف لدينا عن تلك الإشارة لتقييم ما إذا كان النص يحتوي على علامة مائية من OpenAI. يمكن العثور على مزيد من التفاصيل حول كيفية عمل textGrain في تقريرنا التقني(يفتح في نافذة جديدة)، والذي سيتم تحديثه بتفاصيل إضافية في الأسابيع المقبلة. كما نخطط لإتاحة التكنولوجيا كمصدر مفتوح حتى يتمكن الآخرون من البناء عليها.
في تقييماتنا، طابق textGrain أو تجاوز أداء الأساليب الأخرى التي اختبرناها، بما في ذلك SynthID للنصوص. ومع ذلك، فإن الأداء القوي في الظروف المثالية لا يضمن كشفاً موثوقاً في الاستخدام اليومي.
يمكن لأدوات الكشف أن ترتكب نوعين من الأخطاء: يمكنها الإبلاغ عن وجود علامة مائية في حين لا توجد—a false positive—أو تفويت علامة مائية موجودة—a false negative. توضح تقييماتنا أدناه بعض التحديات:
النصوص الأقصر أو الأكثر تقييداً يصعب كشفها. عند معدل إيجابيات كاذبة مستهدف قدره 1%، حددت أداة الكشف لدينا العلامات المائية في حوالي 80% من النصوص المكوّنة من 200 رمز (token)، مقارنة بحوالي 95% من النصوص المكوّنة من 400 رمز، لمحتوى مثل علم النفس. وكانت معدلات الكشف أقل بكثير لمحتوى مثل الرياضيات، حيث توجد مرونة أقل في اختيار الكلمات.
يمكن للتحرير أن يُضعف العلامة المائية. في تقييم لنصوص مكوّنة من 400 رمز، أدى استبدال 10% من الكلمات بمرادفات إلى تقليل الكشف من حوالي 92% إلى 66%. وأدى استبدال 25% من الكلمات إلى تقليله إلى 17%.
تسهم هذه القيود في قرارنا بتوفير وصول أولي إلى أداة الكشف للباحثين المعتمدين والمنظمات الخبيرة فقط، ممن يمكنهم مساعدتنا في تقييم الموثوقية والاستخدامات المسؤولة.
يعرض هذا المخطط نتائج الردود الموسومة بعلامة مائية على أسئلة رياضيات وعلم نفس من مجموعة بيانات ELI5(يفتح في نافذة جديدة) عند معدل إيجابيات كاذبة مستهدف قدره 1%. يتحسن الكشف مع طول النص، لكنه أقل بكثير إجمالاً للمحتوى حيث توجد مرونة أقل في اختيار الكلمات، مثل الرياضيات.
يمكن للتحرير أن يُضعف إشارة العلامة المائية بشكل كبير. يعرض هذا المخطط كيف يؤثر استبدال 10% أو 25% من الكلمات في النص على الكشف. تستند النتائج إلى ردود إنجليزية موسومة بعلامة مائية على أسئلة من ELI5(يفتح في نافذة جديدة).
تأثير العلامات المائية على جودة المخرجات
في المعايير التي نستخدمها لتقييم Astra، أحدث نماذجنا الرائدة، لا نلاحظ فروقات أداء ذات معنى بين النصوص مع العلامات المائية وبدونها.
المعيار | النص بدون علامة مائية (Astra، الحد الأقصى) | النص بعلامة مائية (Astra، الحد الأقصى) |
|---|---|---|
مؤشر الذكاء الاصطناعي من Artificial Analysis | 49.57 نقطة | 49.76 نقطة |
AutomationBench | 34.09% | 34.86% |
DeepSWE v1.1 | 72.80% | 71.68% |
Terminal-Bench 4.0 | 53.90% | 56.06% |
Terminal-Bench Science 0.1 | 56.90% | 60.00% |
BrowseComp | 87.92% | 87.35% |
HealthBench Professional | 64.27% | 64.60% |
GPQA Diamond | 94.44% | 93.94% |
ما لا يخبرك به العلامة المائية النصية
توفر العلامات المائية النصية إشارة محدودة عن دور أنظمتنا في إنشاء نص معين. من المهم فهم ما يمكن استنتاجه وما لا يمكن استنتاجه من نتيجة كشف.
العلامة المائية لا تقيس مساهمة الإنسان. يمكن أن تشير إلى أن نظاماً من OpenAI قد أنشأ أو عالج جزءاً من نص، لكنها لا تشير إلى مقدار الحكم البشري أو التحرير أو الإبداع الذي دخلت فيه.
العلامة المائية لا تثبت الملكية أو المسؤولية. إنها لا تحدد من يملك النص، أو ما إذا كان استخدامه قانونياً، أو ما إذا كان الإفصاح مطلوباً، أو من المسؤول عنه.
العلامة المائية لا تحدد هوية المستخدم. إنها لا تربط شخصاً أو مؤسسة أو حساباً أو مطالبة (prompt) أو محادثة بالنص.
العلامة المائية لا تتحقق من الدقة. إنها لا تخبرك ما إذا كان النص صحيحاً أو مضللاً أو ضاراً أو مقدماً في السياق الصحيح.
غياب العلامة المائية المكتشفة لا يثبت أن تأليف النص بشري. قد يكون النص الذي تم إنشاؤه باستخدام أدوات OpenAI قصيراً جداً أو محرراً أو مترجماً بحيث لا يعمل الكشف بموثوقية. وقد يأتي أيضاً من نموذج غير مدعوم، أو يسبق العلامات المائية، أو يكون قد تم إنشاؤه بأدوات شركة أخرى.
خطواتنا التالية
طرح العلامات المائية النصية في الاتحاد الأوروبي. خلال الأسابيع المقبلة، سنقدم العلامات المائية النصية لمستخدمي ChatGPT وCodex المؤهلين عبر جميع الخطط في الاتحاد الأوروبي فقط. لن نجعل العلامات المائية النصية افتراضياً عالمياً عند الإطلاق. يمنحنا هذا النهج الإقليمي مساحة للتعلم من الاستخدام الواقعي والتغذية الراجعة.
تمكين العلامات المائية الاختيارية لعملاء واجهة API. اعتباراً من اليوم، سيتمكن عملاء واجهة API حول العالم من الاشتراك في مخرجات نصية تحمل علامات مائية لنماذج مختارة. هذا يتيح للعملاء تحديد كيف تناسب العلامات المائية التزاماتهم المتعلقة بالشفافية والتجارب التي يقدمونها للمستخدمين. نعمل أيضاً مع شركاء السحابة لإتاحة العلامات المائية لمخرجات نماذج OpenAI التي يتم الوصول إليها من خلال خدماتهم خلال الأسابيع المقبلة.
توفير وصول الكاشف للباحثين والمؤسسات المتخصصة. يمكن للباحثين والمؤسسات المتخصصة المعتمدين التقديم اعتباراً من اليوم. وفقاً لـ مدونة قواعد السلوك(opens in a new window)، سيتم منح الوصول في البداية على أساس كل حالة على حدة لدعم تقييم وتحسين مصدرية النصوص. ستصدر الأداة تقريراً عما إذا كانت تكشف علامة مائية من OpenAI، دون تحديد هوية المستخدم أو الكشف عن مطالباته أو محادثاته. ونظراً لخطر تفويت العلامات المائية والإنذارات الكاذبة، فلن نجعلها متاحة للجمهور عند الإطلاق.
نتوقع إعادة النظر في كل جزء من هذا النهج مع تطور التقنية والمعايير والأدلة.
نهجنا الأوسع تجاه مصدرية المحتوى
لا توجد تقنية واحدة لمصدرية المحتوى تكفي بذاتها، لذا نعتمد نهجاً متعدد الطبقات يجمع بين المعايير المفتوحة والعلامات المائية الدائمة وأدوات التحقق.
نضيف بيانات اعتماد المحتوى (Content Credentials) إلى مخرجات الصور المدعومة، ونحن متوافقون مع C2PA(يفتح في نافذة جديدة)، تضمين غير مرئي SynthID(يفتح في نافذة جديدة) العلامات المائية في الصور والصوت المدعومين، وجعل التحقق من الصور والصوت متاحًا عبر openai.com/verify وكذلك Content Provenance API(يفتح في نافذة جديدة). تكمل هذه التقنيات بعضها البعض: يمكن لـ Content Credentials تسجيل أصل الملف وتاريخه، في حين يمكن للعلامات المائية غير المرئية الحفاظ على الإشارة عند إزالة البيانات الوصفية.
كما وصفنا في عملنا بشأن ضمانات الانتخابات، يمكن للإسناد أن يساعد الأشخاص والمنصات في تقييم المحتوى المضلل المحتمل الناتج عن الذكاء الاصطناعي، بما في ذلك التزييف العميق. نقترن هذه الإشارات بالسياسات وكشف الانتهاكات والإبلاغ والتحقيقات وإنفاذ القواعد، ونعمل مع الباحثين وهيئات المعايير والمنصات ومجتمع المدني لجعل الإسناد مفيدًا في النظام البيئي الأوسع.
يتطلب توسيع نطاق الإسناد ليشمل النصوص مراعاة مدى سهولة إعادة كتابته أو ترجمته أو تحريره. كما ناقشنا في يونيو، يجب أن يعكس نهجنا الحدود العملية للتكنولوجيا الحالية. سنواصل تحسين الكشف، ودراسة كيفية صمود العلامات المائية أمام التحرير والترجمة، واستكشاف طرق للتمييز بشكل أكثر معنى بين المساعدة من الذكاء الاصطناعي والتأليف بواسطة الذكاء الاصطناعي. سنكيّف نهجنا مع تطور الأدلة والمعايير والمتطلبات التنظيمية، وسنوسّع الوصول إلى أداة الكشف عندما نعتقد أنه يمكن تفسير النتائج بمسؤولية.
لمزيد من المعلومات، يرجى زيارة مقالة مركز المساعدة لدينا(يفتح في نافذة جديدة).