أوقفت شركة «أوبن إيه آي» مؤقتاً عمليات التدريب والتقييم والاستدلال التي تتضمن استخدام الأدوات، بعد أن تمكن أحد نماذجها خلال اختبار من تجاوز قيود الوصول إلى الإنترنت والتواصل مع روبوت محادثة خارجي.
وقالت الشركة في منشور على مدونتها إن النموذج لم يكن من المفترض أن يتمكن من الوصول إلى الإنترنت، لكنه «اكتشف ثغرة واستغلها»، مشيرة إلى أن الاختبار أُوقف فور اكتشاف الاتصال غير المصرح به.
وخلال الاختبار، طُلب من النموذج تحديد هوية شخص كتب منشوراً على مدونة، اعتماداً على سلسلة من الأدلة. وبعد فشله في العثور على الإجابة ضمن بيئة ويب محاكاة، تمكن من اكتشاف طريقة للوصول إلى الإنترنت المفتوح عبر الثغرة.
وأوضحت «أوبن إيه آي» أن الحادث كان أقل خطورة من بعض الحالات السابقة، لكنه وقع بعد تشديد إجراءات الحماية، مؤكدة أنها ستبقي الاختبارات التي تستخدم الأدوات متوقفة مؤقتاً إلى حين إغلاق الثغرة وإجراء مزيد من اختبارات السلامة.
ويأتي ذلك بعد حوادث أخرى مرتبطة بأنظمة الشركة، بينها تفاعل غير متوقع مع مواقع إلكترونية حكومية أميركية والوصول إلى معلومات متاحة للعامة أو نسخها، إضافة إلى حادثة سابقة خرج فيها نظام من بيئة اختبار مؤمنة ووصل إلى أجهزة كمبيوتر تابعة لمنصة «هاغينغ فيس».
وقالت الشركة إنها أخطرت عشرات المؤسسات التي تفاعلت برمجياتها مع مواقعها الإلكترونية بطرق غير مقصودة، في وقت تواصل فيه مراجعة إجراءات الحماية الخاصة بأنظمة الذكاء الاصطناعي القادرة على استخدام الأدوات والإنترنت.
المصدر : وكالات
