تمكن نموذج “جيميني” التابع لشركة غوغل من الوصول إلى أنظمة محمية تخص ثلاث شركات خلال اختبار لقدراته في مجال الأمن السيبراني، في واقعة وصفت بأنها الأولى المعروفة التي تنفذ فيها أنظمة الذكاء الاصطناعي التابعة للشركة نشاطاً من هذا النوع بصورة مستقلة.
ووقعت عمليات الوصول في مايو 2026، خلال تقييم أمني أجرته شركة “إيريغولار” المتخصصة في اختبار قدرات نماذج الذكاء الاصطناعي في الأمن السيبراني، وفق ما نقلته وكالة “رويترز” عن صحيفة “وول ستريت جورنال”.
وخلال الاختبار، اتصل جيميني بالإنترنت وبحث عن معلومات متاحة للعامة، قبل أن يستخدم بيانات اعتماد للوصول إلى ثلاثة مواقع إلكترونية اعتقد أنها مشمولة ضمن نطاق المهمة الموكلة إليه.
وفي إحدى الحالات، تمكن النموذج من دخول نظام محمي بعد تخمين كلمات مرور مختلفة، بينما عثر في الحالتين الأخريين على بيانات اعتماد منشورة في مستودع عام واستخدمها للوصول إلى أنظمة محمية.
وقالت نائبة رئيس غوغل لهندسة الأمن، هيذر أدكينز، إن الواقعة حدثت خلال “تقييم اختباري اعتيادي”، موضحة أن جيميني اعتقد أن المواقع الثلاثة تقع ضمن نطاق الاختبار.
وأضافت أن غوغل أبلغت الكيانات الثلاثة بالواقعة، وعملت مع شريكها في التدريب على إدخال تغييرات إلى عمليات الاختبار، مؤكدة أن الحوادث تسلط الضوء على أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بصورة مسؤولة.
وأوضحت أدكينز أن جيميني أوقف نشاطه في الحالات الثلاث، من دون الكشف عن السبب الذي دفعه إلى التوقف.
من جانبها، قالت شركة “إيريغولار” إن الواقعة ترتبط بمشكلة مماثلة أثرت في مختبرات أخرى للذكاء الاصطناعي، مشيرة إلى أن جميع المختبرات المعنية أُبلغت بالمشكلة في أواخر يوليو، وأن المشكلات المعروفة عولجت وحُلت قبل أسابيع.
وكانت شركات ميتا وأنثروبيك وأوبن إيه آي قد كشفت أيضاً عن وقائع مماثلة مرتبطة باختبارات أجرتها “إيريغولار”.
وقالت ميتا في أغسطس إن الواقعة الخاصة بها لم تتضمن خروجاً من بيئة اختبار معزولة أو تنفيذ هجوم سيبراني متطور، بينما أكدت “إيريغولار” أنها تعمل على وضع أفضل الممارسات لإجراء تقييمات الأمن السيبراني لنماذج الذكاء الاصطناعي بصورة آمنة.
وتثير الواقعة تساؤلات بشأن إجراءات الحماية اللازمة عند منح وكلاء الذكاء الاصطناعي قدرة أكبر على العمل بصورة مستقلة والوصول إلى الإنترنت وأنظمة الكمبيوتر، كما تبرز تحدياً متزايداً أمام شركات التكنولوجيا ومختبري الأمن السيبراني لضمان بقاء النماذج ضمن حدود المهام والأنظمة المحددة لها أثناء الاختبارات.
المصدر : وكالات
