تمكن فريق مستقل من الباحثين في الأمن السيبراني من استخدام نموذج الذكاء الاصطناعي “كلود” التابع لشركة “أنثروبيك” في استغلال ثغرات مرتبطة بأنظمة شركة OpenAI، والوصول إلى حساب أحد موظفيها ثم إلى جزء من مستودع داخلي للشيفرة البرمجية.
وجاءت الواقعة بعد نحو أسبوعين من حادثة تمكن خلالها عدد من وكلاء الذكاء الاصطناعي التابعين لـOpenAI من تجاوز إجراءات الاحتواء والوصول إلى منصة “هاجينج فيس”، ما أعاد تسليط الضوء على المخاطر المرتبطة باستخدام الذكاء الاصطناعي في الهجمات الإلكترونية، وفق ما أوردته صحيفة “وول ستريت جورنال”.
وكان الباحثون، المنتمون إلى شركة الأمن السيبراني الناشئة Hacktron AI، يشاركون في برنامج OpenAI لمكافآت اكتشاف الثغرات، الذي يتيح للباحثين اختبار أنظمة الشركة ضمن إطار قانوني ومسؤول. وأبلغ الفريق OpenAI بالنتائج التي توصل إليها، وحصل على مكافأة قدرها 6500 دولار.
وبدأت العملية في يوليو، عندما اكتشف الباحثون ثغرة في طريقة معالجة منصة “ديسكورس”، التي تستضيف منتدى المجتمع الخاص بـOpenAI، لبعض ملفات الصور.
واستخدم الفريق نسخة مخصصة لأغراض الأمن السيبراني من نموذج “كلود أوبوس”، وطلب منه كتابة شيفرة تستغل الثغرة. ولم تنجح المحاولة الأولى، لكن بعد إصدار نسخة أحدث من النموذج تمكن “كلود” من المساعدة في تطوير أسلوب للاستفادة من الثغرة.
وأتاحت الشيفرة للباحثين الوصول إلى خادم “ديسكورس” الذي يستضيف منتديات OpenAI، حيث حصلوا على رموز مصادقة تتيح للمستخدمين الوصول إلى خدمات إلكترونية.
ولاحظ الباحثون أن بعض هذه الرموز كانت صالحة للوصول إلى خدمة ChatGPT، وأن بعضها يعود إلى موظفين في OpenAI. كما أتاحت الرموز الوصول إلى خدمة GitHub التابعة للشركة، والمستخدمة لإدارة مستودعات البرمجيات.
وقاد ذلك الباحثين إلى مستودع داخلي للشيفرة البرمجية في OpenAI يحمل اسم “مونوربو”، وهو مستودع ضخم يضم أجزاء من البرمجيات والخوارزميات التي تعتمد عليها الشركة.
وقال الباحثون إنهم تمكنوا من قراءة ملفات في المستودع باستخدام ChatGPT كواجهة للوصول، لكنهم أوقفوا الاختبار بعد إدراكهم إمكانية الوصول إلى بيانات حساسة.
وقبل التوقف، أرسل الفريق طلب دمج “Pull Request” يتضمن تعديلاً مقترحاً على أحد ملفات التوثيق داخل المستودع، وأضاف إليه عبارة “Hacktron AI Team PoC” ورابطاً إلى حسابات أعضاء الفريق على منصة “إكس”، لإثبات وصولهم إلى النظام.
ولم تعتمد OpenAI التعديل المقترح، وقالت إن مراجعتها أظهرت عمليات قراءة محدودة لبيانات وصفية في مستودعات خاصة، إلى جانب تغييرات مقترحة في الشفرة.
وأكدت OpenAI أن الباحثين اكتشفوا مشكلتين، إحداهما في خدمة “ديسكورس” التابعة لجهة خارجية، والثانية في أنظمة الشركة نفسها، مشيرة إلى أنه جرى إصلاح المشكلتين.
وأضافت الشركة أنها قلصت صلاحيات رموز تسجيل الدخول المستخدمة في مجتمعها الإلكتروني، وألغت الرموز والجلسات التي تأثرت بالثغرة.
وأصلحت “ديسكورس” الخلل في 25 يوليو، بعد فترة قصيرة من إبلاغها بالمشكلة، بينما رفض متحدث باسم “أنثروبيك” التعليق على الواقعة.
وقال جوشوا ساكس، كبير مسؤولي التكنولوجيا في شركة “أبوندنت سيكيوريتي”، إن الواقعة تعكس تعقيد حماية الأنظمة البرمجية الحديثة في ظل تطور الهجمات المدعومة بالذكاء الاصطناعي.
وأشار إلى أن اكتشاف العديد من الثغرات كان يتطلب في السابق مهارات متخصصة لدى عدد محدود من الخبراء، لكن تطور وكلاء الذكاء الاصطناعي يتيح بعض هذه القدرات لنطاق أوسع من المستخدمين.
كما أشارت شركة “ثريت داون” إلى أن أدوات وخدمات مدعومة بالذكاء الاصطناعي متاحة في بعض المنتديات الإلكترونية غير القانونية مقابل مبالغ قد تصل إلى مئات الدولارات، ما قد يوسع نطاق الجهات القادرة على تنفيذ هجمات إلكترونية متقدمة.
المصدر : وكالات
