النص يبدو عاديًا.. لكن ChatGPT يترك داخله إشارة خفية

أعلنت OpenAI عن تقنية جديدة تحمل اسم "textGrain"، تعتمد على تعديل إحصائي في طريقة اختيار النموذج للكلمات أثناء توليد النص، بحيث يتشكل نمط يمكن لأداة كشف متخصصة البحث عنه لاحقًا، من دون إضافة أحرف مخفية أو مسافات غير مرئية أو علامات تظهر للقارئ.

كيف تعمل البصمة الخفية؟

بدل وضع رمز داخل النص، تؤثر التقنية في الطريقة التي يختار بها النموذج بين الكلمات المحتملة أثناء الكتابة، ومع تراكم هذه الاختيارات يتشكل نمط إحصائي يمكن لأداة الكشف البحث عنه، فيما تقول OpenAI إن التقنية صُممت بحيث لا تؤثر بشكل ملحوظ في جودة المخرجات.

وأوضحت الشركة أن العلامة المائية لا تكشف هوية المستخدم، ولا تحدد مقدار التدخل البشري في النص، كما أن أداة الكشف لن تكون متاحة للجمهور عند إطلاقها، إذ سيقتصر الوصول إليها في البداية على باحثين ومؤسسات متخصصة ومعتمدة.

أين ستُستخدم؟

قالت OpenAI إن عملاء واجهة البرمجة API حول العالم يستطيعون بدءًا من 5 أكتوبر تفعيل العلامة المائية اختياريًا على نماذج محددة، فيما تبقى الميزة متوقفة افتراضيًا، بينما ستبدأ خلال الأسابيع المقبلة بإضافتها إلى مخرجات ChatGPT وCodex المؤهلة للمستخدمين في الاتحاد الأوروبي.

وتأتي الخطوة استجابة لمتطلبات قانون الذكاء الاصطناعي الأوروبي، الذي يتجه إلى جعل المحتوى الناتج عن أنظمة الذكاء الاصطناعي قابلًا للتعرّف عليه آليًا، مع استمرار تطوير تقنيات وضع العلامات المائية والكشف عنها.

لكن OpenAI تؤكد أن العلامة المائية لا تثبت وحدها أن النص كُتب بالكامل بواسطة الذكاء الاصطناعي، إذ يمكنها الإشارة إلى أن أحد أنظمتها أنتج جزءًا من النص أو عالجه، من دون تحديد حجم المساهمة البشرية، كما أن غياب العلامة لا يعني بالضرورة أن النص كتبه إنسان.

حمّلوا تطبيق الشمس الأخبار والبث المباشر بين يديكم App Store Google Play

تابعوا الشمس على تلغرام أخبار عاجلة · تقارير حصرية · بث مباشر انضم للقناة

وتشير اختبارات الشركة إلى أن تعديل النص يمكن أن يضعف الإشارة بشكل كبير، كما تكون عملية الكشف أقل دقة في النصوص القصيرة وبعض أنواع المحتوى مثل النصوص الرياضية، وهو ما دفع OpenAI إلى إبقاء أداة الكشف في مرحلتها الأولى ضمن نطاق محدود.