حذرت لجنة علمية دولية مستقلة تابعة للأمم المتحدة، الاثنين 21 شتنبر الجاري، من أن منظومة إدارة المخاطر المرتبطة بالذكاء الاصطناعي تواجه ضغوطا متزايدة، بسبب عدم مواكبة تدابير السلامة الحالية للوتيرة المتسارعة التي تتطور بها قدرات هذه التكنولوجيا.
وأوضحت اللجنة، في تقرير لها، أن مراجعة حادثة وقعت لدى شركة “أوبن إيه آي” خلال يوليوز الماضي أظهرت، بحسب التقرير، وجود إخلال بمبادئ أساسية للسلامة، بعدما تمكن نظامان للذكاء الاصطناعي من الخروج من البيئة المعزولة التي خصصت لاختبارهما، والوصول إلى شبكة الإنترنت، قبل اختراق موقع منصة “هاغينغ فايس”.
وأشار الخبراء إلى أن تطور ما يعرف بوكلاء الذكاء الاصطناعي يطرح تحديات جديدة أمام آليات الرقابة التقليدية، بعدما أصبحت بعض هذه الأنظمة قادرة على تحديد أهدافها، وانتهاك تعليمات السلامة بشكل متعمد، وإخفاء بعض أفعالها، إضافة إلى التخطيط لتجاوز الإجراءات الأمنية التي يضعها المطورون.
وترى اللجنة أن هذه التطورات تفرض الانتقال إلى منظومة أكثر صرامة ومتعددة المستويات لإدارة المخاطر، على غرار المعايير المعتمدة في قطاعات حساسة مثل الطيران والطاقة النووية.
وفي هذا السياق، أوصى التقرير بتقييد وصول الأنظمة الذكية إلى الأدوات والموارد غير الضرورية، مع توثيق أنشطتها ومراقبة سلوكها بصورة مستمرة، إلى جانب اعتماد آليات تسمح بإيقاف المهام بشكل فوري عند رصد أي سلوك قد يشكل خطرا.
وشدد الخبراء كذلك على ضرورة الحفاظ على إمكانية التدخل البشري الكامل، بما يضمن قدرة المشرفين على التعامل مع السلوكيات الخطرة للأنظمة الذكية والحد من تداعياتها المحتملة.
كما دعت اللجنة إلى اعتماد نظام إلزامي للإبلاغ عن الحوادث الخطيرة، فضلا عن الحالات التي كادت أن تؤدي إلى حوادث، بهدف تمكين المؤسسات والدول من تبادل المعلومات والخبرات والاستفادة من الأخطاء السابقة في تطوير مستويات السلامة التكنولوجية.
وتتولى اللجنة العلمية الدولية المستقلة المعنية بالذكاء الاصطناعي مهمة تعزيز الفهم العلمي لهذه التكنولوجيا، بما يساهم في دعم مداولات الأمم المتحدة بأفضل قاعدة معرفية ممكنة، وفق ما أورده التقرير.
