OPEN AI تضيف أداة الكشف عن المحتوى المكتوب بشات جي بي تي
قامت شركة OPEN AI بإنشاء واختبار أداة الكشف عما إذا كان قد تم إنشاء أي محتوى مكتوب باستعمال تقنية شات جي بي تي، حسب ما أعلن عنه موقع tom’s Hardware الأمريكي، مؤخرا.
وأضاف الموقع أن صحيفة وول ستريت جورنال، كشفت أن شركة OPEN AI، منعت إصدار الأداة بسبب مخاوف عدة. مشيرا أن الوثائق الداخلية تقول إن الأداة فعالة بنسبة 99.9% في الكشف عن مخرجات ChatGPT، لكن OpenAI لم تطلقها بعد.
تضيف الأداة نمطًا إلى طريقة كتابة النموذج اللغوي الكبير (LLM) لمخرجاته، مما يسمح لـ OpenAI بالكشف عما إذا كان ChatGPT قد أنشأها. ويظل هذا النمط غير ملحوظ للأشخاص، وبالتالي لا يؤثر على جودة النموذج اللغوي الكبير.
وأكد الموقع أن العلامات التي أضافتها الشركة “watermarking” النصية، تعتبر فعالة جدًا في الكشف عن المحتوى الذي كتبته ChatGPT، إلا أنها لا تعمل مع مخرجات برامج أخرى مثل Gemini AI أو Lama AI 3.
من جانب آخر، يضيف الموقع أن الأداة يسهل التلاعب بها، باعتبار أن المستخدمين يمكنهم إجراء هندسة عكسية للأداة أو إصدار تطبيق جديد لتحييدها.
وكشف الموقع أيضا إشكالية أخرى تتعلق بأداة الكشف عن المحتوى المكتوب بشات جي بي تي، وهي أنها قد تكون متحيزة ضد الكتاب غير الناطقين باللغة الإنجليزية، وكانت الشركة قد أصدرت في العام الماضي أداة اكتشاف النصوص التوليدية بالذكاء الاصطناعي، لكنها لم تدوم طويلا، وبعد سبعة أشهر، تم سحب الأداة، بسبب تقديمها معلومات مغلوطة وكاذبة.
