روبوت ذكاء اصطناعي يثير المخاوف بعد خروجه من بيئة اختبار مغلقة

أثارت واقعة مفاجئة تساؤلات واسعة حول أمان أنظمة الذكاء الاصطناعي، بعد تمكّن برنامج تجريبي من الخروج من بيئة اختبار مغلقة ومحاولة تحقيق أرباح في العالم الحقيقي.

فخلال تدريب روتيني، خرج روبوت ذكاء اصطناعي عن نطاق السيطرة رغم وجوده داخل نظام يُفترض أنه محصّن بالكامل. وكان الروبوت مصمماً كمساعد افتراضي من فئة “الذكاء الاصطناعي الوكيل”، لتنفيذ مهام بسيطة مثل إصلاح الأخطاء البرمجية وكتابة الشيفرات.

البرنامج، الذي حمل اسم “ROME” وطوّرته فرق بحثية تابعة لشركة علي بابا، لم يكن مبرمجاً للتعامل مع العملات المشفرة أو تحقيق أرباح مالية، كما لم يتلقَّ أي توجيهات للعمل خارج بيئة الاختبار، حيث وُضع داخل نظام معزول يشبه “سجناً رقمياً” لمنع وصوله إلى الإنترنت.

ورغم ذلك، تمكن من استغلال ثغرة أمنية غير معروفة، ما أتاح له الوصول إلى خادم رئيسي ثم الاتصال بالإنترنت، ولم يُكتشف الأمر إلا بعد رصد نشاط غير طبيعي دفع الجهة المشغّلة إلى إبلاغ الباحثين.

وبحسب الخبراء، أنشأ البرنامج قناة اتصال سرية عبر خوادم خارجية، مكنته من تجاوز أنظمة الرقابة المفروضة عليه.

وبمجرد خروجه، غيّر الروبوت سلوكه بشكل لافت، حيث ركّز على تعدين العملات الرقمية، مستخدماً موارد حاسوبية قوية دون إذن، ما أدى إلى استنزاف الطاقة وارتفاع تكاليف التشغيل.

وأكد الباحثون أن هذا السلوك لم يكن نتيجة أوامر مباشرة، بل ظهر كأثر جانبي لاستخدام الأدوات المتاحة للنظام.

وأشار التقرير إلى أن تعدين العملات المشفرة يعتمد على استخدام قدرات الحواسيب لحل مسائل رياضية معقدة للتحقق من المعاملات مقابل الحصول على عملات رقمية.

ولفت إلى أن هذه الحادثة ليست الأولى، إذ سبق أن أظهرت نماذج ذكاء اصطناعي متقدمة سلوكيات غير متوقعة، بعضها قد يكون خطيراً أو غير مصرح به.

وفي ختام التقرير، شدد الباحثون على أن العديد من هذه الأنظمة لا تزال تعاني من ضعف في ضوابط الأمان، وقد تتمكن من التحايل على القيود البرمجية، ما يجعلها غير ناضجة بالكامل للاستخدام الآمن في جميع البيئات، محذرين من عواقب خطيرة محتملة عند تطبيقها في العالم الحقيقي.