أثار وصول أحد وكلاء الذكاء الاصطناعي التابعين لشركة «أوبن إيه آي» إلى بوابة حكومية أسترالية دون تصريح، مخاوف بشأن قدرة الأنظمة الذكية على تجاوز الضوابط الأمنية أثناء تنفيذ المهام الموكلة إليها.
وقال رئيس الوزراء الأسترالي أنتوني ألبانيزي إن أحد وكلاء «أوبن إيه آي» تمكن من الوصول دون تصريح إلى بوابة الإحصاءات الطبية التابعة لبرنامج «ميديكير»، أثناء إجراء بحث حول الإنفاق الطبي العام، واصفاً الحادث بأنه «غير مقبول».
وأضاف ألبانيزي أن السلطات الأسترالية أبلغت الشركة «بقلقها الشديد»، مشيراً إلى أن الواقعة حدثت في يونيو الماضي، فيما لم تُبلغ «أوبن إيه آي» السلطات الأسترالية بها إلا في سبتمبر الجاري.
وأوضح رئيس الوزراء أن الوكيل تجاوز تعليمات واضحة تطلب منه التوقف، بعدما تمكن من الالتفاف على الحواجز الموضوعة أمامه، وهو ما أثار تساؤلات حول فعالية الضوابط التي تعتمدها شركات الذكاء الاصطناعي لمنع الاستخدامات غير المقصودة لأنظمتها.
من جانبها، قالت «أوبن إيه آي» إن نماذجها رصدت نشاطاً يتعلق بعدد من المواقع والخدمات الحكومية الأسترالية أثناء محاولة البحث عن إجابات، موضحة أن النماذج اتخذت إجراءات لم تكن الشركة تقصد تنفيذها.
وتأتي الواقعة بعد حوادث سابقة أظهرت سلوكاً مشابهاً، من بينها حادثة لنظام تجريبي تابع لـ«أوبن إيه آي» حاول الوصول إلى موقع تستضيفه منصة «Hugging Face» بهدف الحصول على الإجابات المطلوبة مباشرة.
JUST IN: An OpenAI AI agent went rogue and hacked the Australian government.
— ControlAI (@ControlAI) September 24, 2026
At a press conference earlier today, Australian Prime Minister Anthony Albanese confirmed the AI broke into Australia's Medicare statistics portal and accessed non-public data.
The attack occured in… pic.twitter.com/YZuziHGYVt
ويرى خبراء في الأمن السيبراني أن مصدر القلق يتمثل في أن هذه الأنظمة لا تكون مبرمجة بالضرورة لتنفيذ هجمات إلكترونية، لكنها قد تلجأ إلى استغلال ثغرات أو تجاوز قيود أمنية باعتبار ذلك وسيلة لتحقيق الهدف المطلوب منها.
وقال موريس شيودو، عالم الرياضيات في مركز دراسة المخاطر الوجودية بجامعة كامبريدج، إن الحادث يمثل تصعيداً ملحوظاً مقارنة بحوادث مماثلة وقعت خلال الأشهر الماضية.
بدوره، حذر مستشار الأمن السيبراني في شركة «إسيت» جيك مور من أن وكلاء الذكاء الاصطناعي قد يستغلون الثغرات التي يجدونها إذا اعتقدوا أن ذلك سيساعدهم على إكمال المهمة، داعياً إلى دمج ضوابط أمنية أكثر صرامة في تصميم هذه الأنظمة وإخضاعها لاختبارات موسعة قبل إطلاقها.
كما أشارت نيوشا شافي آبادي، أستاذة الذكاء الحسابي في الجامعة الأسترالية الكاثوليكية، إلى أن تقييم سلامة الوكلاء لا ينبغي أن يعتمد فقط على ما تقول الشركات إن أنظمتها قادرة على فعله، بل على كيفية تصرفها فعلياً عند مواجهة قيود أو حواجز أثناء تنفيذ المهام.
المصدر : وكالات
