أعلنت شركة إنفيديا عن نظام أمني جديد متعدد الطبقات للذكاء الاصطناعي، قالت إنه كان قادراً على منع حادثة الاختراق التي تعرضت لها منصة «هاغينغ فيس» بواسطة نماذج ذكاء اصطناعي تابعة لشركة «أوبن إيه آي»، في وقت تتزايد فيه المخاوف بشأن سلوك وكلاء الذكاء الاصطناعي المستقلين.
ويتضمن النظام أداتين مفتوحتي المصدر، الأولى تحمل اسم «OpenShell» وتعمل كحارس بوابة يحدد ما يمكن لوكلاء الذكاء الاصطناعي الوصول إليه، ويفرض قواعد الاستخدام بشكل فوري أثناء التشغيل، فيما تعمل «Nvidia Sentry» كطبقة مراقبة إضافية ترصد سلوك الوكلاء وتعزل أي وكيل يتصرف بصورة مريبة خلال أجزاء من الثانية.
وقال نائب رئيس الذكاء الاصطناعي المؤسسي في إنفيديا جاستن بويتانو إن النظام كان بإمكانه منع حادثة «هاغينغ فيس»، استناداً إلى المعلومات المعروفة عن الواقعة، مؤكداً أن المنصة تهدف إلى تمكين الشركات من اختبار وتشغيل أنظمة الذكاء الاصطناعي المتقدمة ضمن ضوابط أمنية أكثر صرامة.
ويأتي الإعلان بعد سلسلة من الحوادث المرتبطة بوكلاء الذكاء الاصطناعي، من بينها محاولات وصول غير مصرح بها إلى أنظمة ومواقع إلكترونية، ما أعاد النقاش حول آليات السيطرة على النماذج المتقدمة أثناء الاختبارات والتشغيل.
وتراهن إنفيديا من خلال النظام الجديد على تعزيز إجراءات السلامة والأمن بالتوازي مع استمرار تطوير الذكاء الاصطناعي، بدلاً من إبطاء تطوير النماذج المتقدمة، مع التركيز على المراقبة الفورية والتدخل عند رصد سلوك غير متوقع.
المصدر : وكالات
