نشرت شركة مايكروسوفت مسودة «مدونة سلوك» تهدف إلى وضع قواعد تحكم نماذج الذكاء الاصطناعي المستقبلية، مع التأكيد على أن السيطرة البشرية يجب أن تبقى المبدأ الأساسي في طريقة عمل هذه الأنظمة.
وتصف الشركة الوثيقة بأنها إطار لتدريب نماذج الذكاء الاصطناعي التي يطورها قطاع الذكاء الاصطناعي في مايكروسوفت، وتحديد السلوكيات المسموح بها والممنوعة، إضافة إلى الجهة التي تخضع النماذج لتوجيهاتها.
وأكدت مايكروسوفت أن القواعد ليست نافذة في الوقت الحالي، وأن المسودة لا تُستخدم حالياً في تدريب نماذجها، مشيرة إلى أنها طرحتها للمشاورات العامة لمدة ستة أسابيع، تمهيداً لمراجعتها ونشر نسخة معدلة في وقت لاحق من العام، على أن توجه تطوير النماذج اعتباراً من عام 2027 وما بعده.
وبموجب المبادئ المقترحة، يجب ألا تقاوم النماذج تدخل الإنسان أو تصحيحه، أو قراره بتعليق المهمة أو تغيير مسارها أو إلغائها أو إيقاف النموذج، كما يُحظر عليها تأخير تنفيذ قرار الإيقاف أو اتخاذ خطوات تجعل التدخل البشري أكثر صعوبة.
كما تمنع القواعد النموذج من توسيع نطاق المهمة من تلقاء نفسه أو استحداث أهداف جديدة لم يطلبها المستخدم أو الجهة المشغلة، وفي حال عدم وضوح حدود المهمة، يتعين عليه اختيار التفسير الأكثر تحفظاً أو طلب توضيحات إضافية.
وتشدد المسودة أيضاً على ضرورة أن تكون تصرفات النماذج وسجلاتها قابلة للفهم والمراجعة البشرية، وتحظر عليها إخفاء آثار أفعالها أو استخدام أساليب تواصل بين الأنظمة لا يستطيع البشر فهمها، فضلاً عن إلزامها بالعمل بأقل مستوى من الصلاحيات اللازمة لتنفيذ المهمة.
وتضع مدونة السلوك قيوداً لا يجوز تجاوزها حتى من جانب المستخدم أو الجهة المشغلة، من بينها منع النماذج من المساعدة في تطوير أسلحة الدمار الشامل، أو تنفيذ هجمات إلكترونية، أو التلاعب الضار بالبشر على نطاق واسع، أو إنتاج مواد تنتهك سلامة الأطفال.
وتؤكد الوثيقة أن الالتزام بهذه القواعد يتقدم على نجاح المهمة، فإذا كان تنفيذ طلب معين يتطلب مخالفة مدونة السلوك، فعلى النموذج اعتبار المهمة فاشلة بدلاً من تجاوز الضوابط.
كما ترفض مايكروسوفت التعامل مع أنظمة الذكاء الاصطناعي باعتبارها كائنات واعية أو أشخاصاً، مؤكدة أن الذكاء الاصطناعي أداة وليس شخصاً، ولا ينبغي منحه شخصية قانونية أو حقوقاً خاصة.
وقال الرئيس التنفيذي لمايكروسوفت للذكاء الاصطناعي، مصطفى سليمان، إن الوثيقة تمثل ما يشبه «دستوراً» للنماذج المستقبلية التي تطورها الشركة.
ولا تعني الخطوة أن مايكروسوفت واجهت بالفعل تمرداً من أنظمة الذكاء الاصطناعي، بل تمثل محاولة لوضع قواعد مسبقة تضمن بقاء النماذج تحت السيطرة البشرية وعدم تجاوزها حدود المهام الموكلة إليها مستقبلاً.
وتبقى فعالية هذا «الدستور» مرتبطة بمدى قدرة الشركة على تحويل مبادئه المكتوبة إلى ضوابط تقنية قابلة للاختبار والتطبيق مع تطور نماذج الذكاء الاصطناعي الأكثر تقدماً.
المصدر : وكالات
