مايكروسوفت تضع إطارًا لتنظيم السيطرة على الذكاء الاصطناعي

تسعى شركة “مايكروسوفت” لوضع قواعد مُسبقة تحدد ما يمكن لنماذج الذكاء الاصطناعي فعله وما يجب أن تمتنع عنه، إذ نشرت مسودة «مدونة سلوك» تضع السيطرة البشرية في مقدمة المبادئ المنظمة لنماذجها المُستقبلية.

وتصف الشركة الوثيقة بأنها دليل لتدريب نماذج قطاع «Microsoft AI»، وإطار يُحدد سلوكها أثناء التشغيل، وما يحظر عليها فعله والجهة التي تخضع لتوجيهاتها. ولا تزال المسودة قيد المراجعة، إذ لا تستخدمها مايكروسوفت في الوقت الحالي في تدريب نماذجها، وطرحتها للمُشاورات العامّة لمدة 6 أسابيع، تمهيدًا لإصدار نسخة مُعدلة فيما بعد هذا العام لتوجيه تطوير النماذج اعتبارًا من 2027م.

وتنطلق المدونة من مبدأ «الذكاء الاصطناعي الإنساني»، الذي يؤكد أن التقنية يجب أن تبقى أداة خاضعة للسيطرة البشرية. وبموجب القواعد المُقترحة، لا يجوز للنماذج مُقاومة التصحيح أو الإيقاف، أو تأخير تنفيذ قرار إنهاء المُهمة، أو مواصلة العمل بعد نقطة التوقف المُتفق عليها دون تفويض جديد.

كما تمنع القواعد النماذج من توسيع مهامها أو استحداث أهداف من تلقاء ذاتها، وتُلزمها باختيار التفسير الأكثر تحفظًا أو طلب التوضيح عند غموض المُهمة. وتشترط “مايكروسوفت” أن تكون تصرفات النماذج وسجلاتها قابلة للفهم والتدقيق والمُراجعة البشرية، وتحظر عليها إخفاء آثار أفعالها أو استخدام وسائل تواصل بين الأنظمة لا يفهمها البشر. كما يتعين عليها استخدام الحد الأدنى من الصلاحيات اللازمة وعدم مُحاولة تخطي القيود المفروضة عليها.

وتحظر المدونة استخدام النماذج للمُساعدة في تطوير أسلحة الدمار الشامل أو تنفيذ هجمات إلكترونية أو التلاعب الضار بالبشر على نطاق واسع، إضافة إلى إنتاج مواد تنتهك سلامة الأطفال، مؤكدة أن الالتزام بهذه القيود يتقدم على نجاح المُهمة. كما ترفض الشركة التعامل مع نماذجها بوصفها كيانات واعية أو أشخاصًا يتمتعون بحقوق خاصة، مؤكدة أن الذكاء الاصطناعي يعد أداة وليس شخصًا.

ووصف الرئيس التنفيذي لمايكروسوفت الذكاء الاصطناعي “مُصطفى سليمان” الوثيقة، في حديث لـ«رويترز»، بأنها أشبه بـ«دستور» للنماذج المُستقبلية. وتسعى الشركة من خلال هذه القواعد لمنع أنظمتها مُستقبلًا من تجاوز حدود المهام أو مُقاومة السيطرة البشرية، فيما تبقى فاعلية المدونة مُرتبطة بقدرتها على التحول لضوابط تقنية قابلة للاختبار والتطبيق.