تعمل شركة “أوبن إيه آي” على إضافة علامة مائية غير مرئية إلى النصوص التي ينتجها نموذجا ChatGPT وCodex داخل الاتحاد الأوروبي، في خطوة تسهل التعرف آلياً على المحتوى المنشأ باستخدام نماذج الذكية، استجابة لمتطلبات قانون الذكاء الاصطناعي الأوروبي.
ومن المقرر أن تطبق التقنية الجديدة تدريجياً خلال الأسابيع المقبلة على النصوص المؤهلة التي ينتجها النموذجين لمستخدمي جميع الخطط داخل الاتحاد الأوروبي. لكن لن تطبق “أوبن إيه آي” العلامة المائية افتراضياً على النصوص التي تنتجها نماذجها لمستخدميها في بقية أنحاء العالم.
وتتيح الشركة، منذ 5 أكتوبر الجاري، لعملاء واجهتها البرمجية API، حول العالم، إمكانية اختيار تفعيل العلامة المائية على النصوص التي تنتجها مجموعة محددة من نماذجها، لكنها ستظل معطلة افتراضياً.
علامة مائية داخل نصوص ChatGPT
لا يعني إدراج العلامة المائية إضافة رمز، أو عبارة ظاهرة، تخبر القارئ بأن النص منشأ بواسطة ChatGPT؛ إذ تعتمد OpenAI على تقنية طورتها تحت اسم “textGrain”، تزرع إشارة إحصائية غير مرئية داخل الطريقة التي يختار بها النموذج الكلمات أثناء كتابة النص.
وبمعنى أبسط، عندما يكتب النموذج إجابته، تكون أمامه في كل خطوة مجموعة من الكلمات المحتملة التي يمكن استخدامها لاستكمال الجملة.
وتعمل تقنية textGrain على إجراء تعديلات طفيفة ومدروسة في عملية اختيار الكلمات، بحيث يتشكل عبر مئات الاختيارات نمط إحصائي معين لا يلاحظه القارئ، لكنه يصبح قابلاً للرصد باستخدام أداة الكشف التي طورتها أوبن إيه آي.
وبذلك لا تعتمد العلامة على بيانات وصفية مرتبطة بالملف يمكن التخلص منها بسهولة، وإنما تصبح الإشارة مدمجة في صياغة النص نفسه، ما يعني إمكانية استمرار وجودها عند نسخ النص ولصقه في مكان آخر.
وأكدت الشركة أنها تخطط أيضاً لإتاحة التقنية مفتوحة المصدر مستقبلاً، ما يسمح لباحثين وجهات أخرى بالبناء عليها وتطويرها.
العلامة المائية وأداء ChatGPT
بحسب اختبارات OpenAI، لم يؤد تفعيل العلامة المائية إلى اختلافات جوهرية في أداء نموذجها المتقدم Astra عبر مجموعة من الاختبارات التي تستخدمها الشركة لقياس قدرات نماذجها.
لكن التقنية الجديدة تواجه مشكلة أساسية، وهي أن العلامة المائية يمكن إضعافها بصورة كبيرة عبر تحرير النص. وأظهرت اختبارات “أوبن إيه آي” أنه في نصوص بطول 400 وحدة نصية Token، تمكن نظامها من اكتشاف العلامة المائية في نحو 92% من الحالات، لكن استبدال 10% فقط من كلمات النص بمرادفات خفض معدل الكشف إلى نحو 66%. وعندما ارتفعت نسبة الكلمات المستبدلة إلى 25%، هبط معدل اكتشاف العلامة إلى 17% فقط.
وتتراجع قدرة النظام على الكشف كلما كان النص أقصر؛ فعند ضبط معدل النتائج الإيجابية الخاطئة False Positive عند 1%، تمكن النظام من اكتشاف العلامة في نحو 80% من النصوص المكونة من 200 وحدة نصية، مقابل نحو 95% في النصوص التي يبلغ طولها 400 وحدة، في اختبارات لمحتوى يسمح بمرونة أكبر في اختيار الكلمات مثل موضوعات علم النفس.
أما النصوص التي تقل فيها حرية النموذج في اختيار الكلمات، مثل الإجابات الرياضية، فتكون عملية اكتشاف العلامة المائية أكثر صعوبة.
دلالات العلامة المائية في ChatGPT
وحذرت أوبن إيه آي من التعامل مع أداة الكشف باعتبارها وسيلة قاطعة لتحديد ما إذا كان الإنسان أو الذكاء الاصطناعي قد كتب نصاً معيناً؛ فاكتشاف العلامة يعني أن أحد أنظمة الشركة أنشأ أو عالج جزءاً من النص، لكنه لا يستطيع تحديد حجم المساهمة البشرية فيه، أو معرفة ما إذا كان المستخدم قد أجرى تعديلات واسعة على النص بعد إنشائه.
كما لا تستطيع العلامة تحديد هوية المستخدم الذي طلب إنشاء النص، أو المؤسسة التي ينتمي إليها، أو حسابه، أو المحادثة التي أُنشئ النص خلالها، كما أنها لا تكشف الـPrompt الذي استخدمه.
ولا تثبت العلامة ملكية المحتوى أو المسؤولية عنه، ولا تحدد ما إذا كان استخدامه قانونياً، كما لا تقدم أي دليل على دقة المعلومات الواردة في النص.
وفي المقابل، فإن عدم اكتشاف العلامة المائية لا يعني بالضرورة أن النص كتبه إنسان؛ إذ قد يكون النص أقصر من اللازم، أو خضع للتحرير، أو الترجمة بدرجة أضعفت الإشارة، أو أنشيء بواسطة نموذج غير مدعوم بالتقنية، أو أُنتج قبل بدء تطبيق نظام العلامات المائية، أو أنشأه نموذج ذكاء اصطناعي تابع لشركة أخرى.
إطلاق محدود
وبدأت أوبن إيه آي استقبال طلبات من الباحثين والمؤسسات المتخصصة للحصول على الأداة، على أن تمنح إمكانية الوصول إليها في البداية على أساس كل حالة على حدة.
وستكتفي الأداة بإخبار الباحث بما إذا كانت قد رصدت علامة أوبن إيه آي داخل النص، دون الكشف عن هوية المستخدم أو الـPrompts أو المحادثات المرتبطة بإنشاء المحتوى.
وبررت الشركة هذا النهج باحتمال وقوع النظام في نوعين من الأخطاء؛ الأول هو False Positive، أي اعتبار نص غير موسوم على أنه يحمل العلامة، والثاني False Negative، عندما يفشل النظام في اكتشاف علامة موجودة بالفعل.
وترى أوبن إيه آي أن تلك القيود تجعل إتاحة الأداة للجميع في الوقت الحالي أمراً سابقاً لأوانه، خصوصاً إذا جرى الاعتماد على نتائجها لاتخاذ قرارات تتعلق بالدراسة، أو العمل، أو تحديد صاحب النص.