دراسة تنبه إلى افتقار نماذج الذكاء الاصطناعي ل”الشفافية” في تصميمها

كشفت دراسة حديثة أن نماذج الذكاء الاصطناعي التي تكاثرت منذ إطلاق “تشات جي بي تي” تفتقر للشفافية في تصميمها، ما يشكل خطرا على التطبيقات التي ترتكز إليها تقنيا.

وحسب هذه الدراسة، التي ن ش ر ت نتائجها أمس الأربعاء، فقد بي ن مؤشر جديد وضعه وأجرى حسابات على أساسه باحثون في جامعة ستانفورد في ولاية كاليفورنيا الأمريكية، أن أكثر النماذج العشرة التي أ خض ع ت للتقويم شفافية لا يوف ر في الواقع إلا 54 في المئة من الشفافية المطلوبة.

وقال مدير الأبحاث في جامعة ستانفورد ريشي بوماساني، في بيان، إن درجة الشفافية المطلوب توفرها في ما يسمى “نماذج التأسيس” يجب أن تتراوح بين 80 في المئة و100 في المئة”.

وأوضح معد و الدراسة أن الافتقار للشفافية “يصع ب على الشركات معرفة ما إذا كان بإمكانها بناء تطبيقات بأمان تقوم على هذه النماذج، وعلى الأكاديميين الاعتماد على هذه النماذج في أبحاثهم”.

ولاحظت الدراسة أن “معظم الشركات لا تفصح عن مدى المحتوى المحمي بحقوق المؤلف والمستخدم لتدريب نموذجها. كما أن الشركات لا تكشف عن استخدام اليد العاملة البشرية لتصحيح بيانات التدريب، الأمر الذي قد يمثل مشكلة كبيرة”.