مصدر المحتوى يساعد الناس على فهم مصدر المحتوى، وكيف تم إنشاؤه أو تحريره، وما إذا كان يحتوي على إشارات مرتبطة بنماذجنا. لقد أتاحنا بالفعل أدوات للجمهور لتحديد الصور والصوت المُنشأة بواسطة نماذجنا. واليوم، نشارك منهجنا في وضع علامات مائية على النصوص استجابةً لقانون الاتحاد الأوروبي للذكاء الاصطناعي، وكيف يندرج هذا ضمن عملنا الأوسع.
يتطلب قانون الاتحاد الأوروبي للذكاء الاصطناعي من مزودي الذكاء الاصطناعي التوليدي جعل النصوص المولَّدة قابلة للتحديد بطريقة قابلة للقراءة آليًا. ويظل ترميز النصوص بالمائية وكشفها تقنيتين مبكرتين محدودتين بشكل كبير، وما زالت الآراء حول فوائدهما واستخداماتهما المسؤولة قيد التطور. ويعكس نهجنا التدريجي كلاً من متطلبات قانون الاتحاد الأوروبي للذكاء الاصطناعي وقيود التقنية، مع التركيز على الشفافية بشأن ما يمكن للعلامة المائية النصية إخبار الناس به وما لا يمكنه إخبارهم به:
ابتداءً من اليوم، سيتمكن عملاء واجهة برمجة التطبيقات (API) حول العالم من تفعيل ترميز النصوص بالمائية اختياريًا لنماذج مختارة. وسيظل ترميز النصوص بالمائية معطلاً افتراضيًا في الـ API.
خلال الأسابيع المقبلة، سنضيف علامة مائية غير مرئية إلى مخرجات النصوص المؤهلة في ChatGPT وCodex داخل الاتحاد الأوروبي.
نفتح باب التقديمات للوصول إلى أداة كشف العلامات المائية النصية لدينا. وسيقتصر الوصول في البداية على الباحثين المعتمدين والمؤسسات المتخصصة الذين يمكنهم مساعدتنا في تقييم التقنية وتحسينها.
ينطبق ما سبق على مصدر النصوص فقط—أدواتنا للتحقق من الصوت والصور، بما في ذلك openai.com/verify أداة الويب الخاصة بنا وأداة Content Provenance API(opens in a new window)، ستظل متاحة للعامة للمؤسسات التي تسعى لفهم ما إذا كانت صورة أو ملف صوتي قد تم توليده بواسطة أحد أنظمتنا.
كيف تعمل العلامة المائية لدينا وأداؤها
تضيف تقنية ترميز النصوص بالمائية لدينا، textGrain، إشارة إحصائية غير مرئية إلى اختيارات النموذج للكلمات. وتبحث أداة الكشف لدينا عن تلك الإشارة لتقييم ما إذا كانت المقطوعة تحتوي على علامة مائية من OpenAI. يمكن العثور على مزيد من التفاصيل حول كيفية عمل textGrain في technical report(opens in a new window)الذي سيتم تحديثه بتفاصيل إضافية في الأسابيع المقبلة. كما نخطط لإتاحة التقنية كمصدر مفتوح ليتمكن الآخرون من البناء عليها.
في تقييماتنا، حافظت textGrain على أداء يساوي أو يتجاوز أداء الأساليب الأخرى التي اختبرناها، بما في ذلك SynthID للنصوص. ومع ذلك، فإن الأداء القوي في الظروف المثالية لا يضمن كشفًا موثوقًا في الاستخدام اليومي.
يمكن لأدوات الكشف أن ترتكب نوعين من الأخطاء: يمكنها الإبلاغ عن علامة مائية غير موجودة—وهو إيجابي كاذب—أو تفويت علامة مائية موجودة—وهو سلبي كاذب. وتوضح تقييماتنا أدناه بعض هذه التحديات:
النصوص الأقصر أو الأكثر تقييدًا يصعب كشفها. عند معدل إيجابيات كاذبة مستهدف قدره 1%، حدّت أداة الكشف لدينا العلامات المائية في حوالي 80% من المقطوعات المكوّنة من 200 رمزًا، مقارنة بحوالي 95% من المقطوعات المكوّنة من 400 رمزًا، لمحتوى مثل علم النفس. وكانت معدلات الكشف أقل بكثير لمحتوى مثل الرياضيات، حيث توجد مرونة أقل في اختيار الكلمات.
التحرير يمكن أن يُضعف العلامة المائية. في تقييم لمقطوعات مكوّنة من 400 رمزًا، أدى استبدال 10% من الكلمات بمرادفات إلى انخفاض الكشف من حوالي 92% إلى 66%. واستبدال 25% من الكلمات خفّضه إلى 17%.
تسهم هذه القيود في قرارنا بتوفير الوصول الأولي إلى أداة الكشف فقط للباحثين المعتمدين والمؤسسات المتخصصة، الذين يمكنهم مساعدتنا في تقييم الموثوقية والاستخدامات المسؤولة.
يعرض هذا المخطط النتائج للردود الموسومة بعلامة مائية على أسئلة في الرياضيات وعلم النفس من مجموعة البيانات ELI5 dataset(opens in a new window) عند معدل إيجابيات كاذبة مستهدف قدره 1%. يتحسن الكشف مع طول النص، لكنه يكون أقل بكثير إجمالًا للمحتوى حيث توجد مرونة أقل في اختيار الكلمات، مثل الرياضيات.
يمكن للتحرير أن يُضعف إشارة العلامة المائية بشكل كبير. يعرض هذا المخطط كيف يؤثر استبدال 10% أو 25% من الكلمات في مقطوعة ما على الكشف. وتستند النتائج إلى ردود إنجليزية موسومة بعلامة مائية على أسئلة من ELI5(opens in a new window).
تأثير العلامة المائية على جودة المخرجات
عبر المعايير التي نستخدمها لتقييم Astra، أحدث نماذجنا الحدودية، لا نلاحظ فروقات ذات معنى في الأداء مع ترميز العلامة المائية وبدونه.
المعيار | نص غير مُعلّم بعلامة مائية (Astra, max) | نص مُعلّم بعلامة مائية (Astra, max) |
|---|---|---|
مؤشر الذكاء الاصطناعي من Artificial Analysis | 49.57 نقطة | 49.76 نقطة |
AutomationBench | 34.09% | 34.86% |
DeepSWE v1.1 | 72.80% | 71.68% |
Terminal-Bench 4.0 | 53.90% | 56.06% |
Terminal-Bench Science 0.1 | 56.90% | 60.00% |
BrowseComp | 87.92% | 87.35% |
HealthBench Professional | 64.27% | 64.60% |
GPQA Diamond | 94.44% | 93.94% |
ما لا يخبرك به العلامة المائية النصية
توفر العلامات المائية النصية إشارة محدودة عن دور أنظمتنا في جزء من النص. من المهم فهم ما يمكن استنتجه وما لا يمكن استنتجه من نتيجة كشف.
العلامة المائية لا تقيس مساهمة الإنسان. يمكنها الإشارة إلى أن نظاماً من OpenAI أنشأ أو عالج جزءاً من نص، لكنها لا تشير إلى مقدار الحكم البشري أو التحرير أو الإبداع الذي دخل فيه.
العلامة المائية لا تثبت الملكية أو المسؤولية. إنها لا تحدد من يملك النص، أو ما إذا كان استخدامه قانونياً، أو ما إذا كان الإفصاح مطلوباً، أو من المسؤول عنه.
العلامة المائية لا تحدد هوية المستخدم. إنها لا تربط شخصاً أو منظمة أو حساباً أو طلباً أو محادثة بالنص.
العلامة المائية لا تتحقق من الدقة. إنها لا تخبرك ما إذا كان النص صحيحاً أو مضللاً أو ضاراً أو مُقدَّماً في السياق الصحيح.
غياب علامة مائية مكتشفة لا يثبت أن التأليف بشري. قد يكون النص المُنشأ بأدوات OpenAI قصيراً جداً أو محرراً أو مترجماً بحيث لا يعمل الكشف بشكل موثوق. وقد يأتي أيضاً من نموذج غير مدعوم، أو يسبق وضع العلامات المائية، أو يكون قد أُنشئ بأدوات شركة أخرى.
خطواتنا التالية
طرح العلامات المائية النصية في الاتحاد الأوروبي. خلال الأسابيع القادمة، سنقدم العلامات المائية النصية للمستخدمين المؤهلين لـ ChatGPT وCodex عبر جميع الخطط في الاتحاد الأوروبي فقط. لن نجعل العلامات المائية النصية افتراضياً عالمياً عند الإطلاق. يمنحنا هذا النهج الإقليمي مساحة للتعلم من الاستخدام الفعلي والملاحظات.
تمكين العلامات المائية الاختيارية لعملاء واجهة برمجة التطبيقات API. ابتداءً من اليوم، سيتمكن عملاء API حول العالم من الاشتراك في مخرجات نصية تحمل علامات مائية لنماذج مختارة. هذا يتيح للعملاء تحديد كيف تناسب العلامات المائية التزاماتهم بالشفافية والتجارب التي يقدمونها للمستخدمين. نعمل أيضاً مع شركاء الحوسبة السحابية لإتاحة العلامات المائية لمخرجات نماذج OpenAI التي يتم الوصول إليها عبر خدماتهم خلال الأسابيع القادمة.
توفير أداة الكشف للباحثين والمنظمات الخبيرة. يمكن للباحثين والمنظمات الخبيرة المعتمدين التقديم ابتداءً من اليوم. وفقاً لـ مدونة قواعد الممارسات(يفتح في نافذة جديدة)، سيُمنح الوصول في البداية على أساس كل حالة على حدة لدعم تقييم مصادر النصوص وتحسينها. ستُبلّغ الأداة ما إذا كانت تكشف عن علامة مائية من OpenAI، دون تحديد هوية المستخدم أو الكشف عن طلباته أو محادثاته. ونظراً لخطر تفويت العلامات المائية والنتائج الإيجابية الخاطئة، فلن نجعلها متاحة للعامة عند الإطلاق.
نتوقع إعادة النظر في كل جزء من هذا النهج مع تطور التقنية والمعايير والأدلة.
ن soakedمنهجنا الأوسع تجاه إسناد المحتوى إلى مصادره
لا تكفي أي تقنية واحدة لإسناد المحتوى إلى مصدرها بمفردها، لذلك نتبع نهجاً متعدد الطبقات يجمع بين المعايير المفتوحة والعلامات المائية المتينة وأدوات التحقق.
نضيف بيانات اعتماد المحتوى (Content Credentials) إلى مخرجات الصور المدعومة، ونكون متوافقين مع C2PA(يفتح في نافذة جديدة)، ونضمّن غير مرئية SynthID(يفتح في نافذة جديدة) في الصور والمواد الصوتية المدعومة، وجعل التحقق من الصور والصوت متاحًا عبر openai.com/verify وعبر Content Provenance API(يفتح في نافذة جديدة). تكمل هذه التقنيات بعضها البعض: يمكن لـ Content Credentials تسجيل أصل الملف وتاريخه، بينما يمكن للعلامات المائية غير المرئية الحفاظ على إشارة عند إزالة البيانات الوصفية.
كما وصفنا في عمل ضمانات الانتخابات، يمكن للمنشأ أن يساعد الأشخاص والمنصات في تقييم المحتوى المضلل المحتمل المُولّد بالذكاء الاصطناعي، بما في ذلك التزييف العميق. نجمع هذه الإشارات مع السياسات، واكتشاف إساءة الاستخدام، والإبلاغ، والتحقيقات، وإنفاذ القواعد، ونعمل مع الباحثين وهيئات المعايير والمنصات والمجتمع المدني لجعل المنشأ مفيدًا في النظام البيئي الأوسع.
ويتطلب توسيع نطاق المنشأ ليشمل النصوص مراعاة مدى سهولة إعادة كتابته أو ترجمته أو تعديله. كما ناقشنا في يونيو، يجب أن يعكس نهجنا الحدود العملية للتكنولوجيا الحالية. سنواصل تحسين الكشف، ودراسة كيفية صمود العلامات المائية أمام التحرير والترجمة، واستكشاف طرق للتمييز بين المساعدة من الذكاء الاصطناعي والتأليف بواسطته بطريقة أكثر دلالة. سنكيّف نهجنا مع تطور الأدلة والمعايير والمتطلبات التنظيمية، وسنوسّع الوصول إلى أداة الكشف عندما نعتقد أنه يمكن تفسير النتائج بطريقة مسؤولة.
لمزيد من المعلومات، يرجى زيارة مقال مركز المساعدة(يفتح في نافذة جديدة).