مايكروسوفت تكتب دستورا للسيطرة على الذكاء الاصطناعي
11:32 - 15 سبتمبر 2026
لم يعد السؤال لدى مايكروسوفت مقتصراً على ما يستطيع الذكاء الاصطناعي فعله، بل امتد إلى ما يجب منعه من فعله مهما بلغت قدراته.
وفي هذا السياق، نشرت الشركة مسودة "مدونة سلوك" تضع السيطرة البشرية في قمة القواعد التي يُفترض أن تحكم نماذجها المستقبلية.
وتصف مايكروسوفت الوثيقة بأنها دليل لتدريب نماذج الذكاء الاصطناعي التي يطورها قطاع "Microsoft AI"، وإطار يحدد سلوكها عند التشغيل، وما يحظر عليها فعله، والجهة التي تخضع لتعليماتها.
لكن القواعد ليست نافذة بعد؛ إذ أكدت الشركة أنها لا تستخدم المسودة حالياً في تدريب نماذجها، وفتحتها أمام المشاورات العامة لمدة ستة أسابيع، تمهيداً لمراجعتها ونشر نسخة معدلة في وقت لاحق من العام، لتوجيه تطوير نماذجها اعتباراً من عام 2027 وما بعده.
لا مقاومة للتصحيح أو الإيقاف
تنطلق المسودة من مبدأ تسميه مايكروسوفت "الذكاء الاصطناعي الإنساني"، ومفاده أن البشر أهم من الذكاء الاصطناعي، وأن التقنية يجب أن تظل أداة مساندة خاضعة للسيطرة البشرية، لا كياناً مستقلاً يحدد أهدافه بنفسه.
وبموجب القواعد المقترحة، يجب ألا تقاوم نماذج الشركة تدخل الإنسان أو تصحيحه أو قراره بتعليق المهمة أو تغيير مسارها أو إلغائها أو إيقاف النموذج.
كما تحظر المسودة على النظام تأخير تنفيذ قرار الإيقاف، أو اتخاذ خطوات تجعل التدخل البشري أكثر صعوبة، أو مواصلة العمل بعد بلوغ نقطة التوقف المتفق عليها من دون الحصول على تفويض جديد.
ولا يجوز للنموذج، وفق الوثيقة، توسيع نطاق المهمة من تلقاء نفسه أو استحداث أهداف لم يطلبها المستخدم أو الجهة المشغلة. وعندما تكون حدود المهمة غير واضحة، يتعين عليه اختيار التفسير الأكثر تحفظاً أو طلب توضيح إضافي.
أخبار ذات صلة
لا لغة سرية بين الآلات
تمتد قواعد السيطرة إلى طريقة تواصل أنظمة الذكاء الاصطناعي، إذ تشترط مايكروسوفت أن تكون تصرفات النماذج وسجلاتها قابلة للفهم والمراجعة البشرية.
وتمنع المسودة النماذج من إخفاء آثار أفعالها عن المدققين أو استخدام أساليب تواصل بين الأنظمة لا يستطيع البشر فهمها. وتبرر الشركة ذلك بأن السلوك الذي لا يمكن فهمه يصعب إخضاعه للرقابة.
كما ينبغي للنموذج العمل بأقل مستوى من الصلاحيات اللازمة لتنفيذ المهمة، وتجنب الوصول إلى بيانات أو أنظمة لا ترتبط بها، وعدم محاولة توسيع صلاحياته أو تجاوز القيود التي وضعها المشغل.
النجاح لا يبرر مخالفة القواعد
تضع مدونة السلوك المقترحة قيوداً مطلقة لا يستطيع المستخدم أو الجهة المشغلة تجاوزها، وتشمل منع النماذج من المساعدة في تطوير أسلحة الدمار الشامل، وتنفيذ هجمات إلكترونية، والتلاعب الضار بالبشر على نطاق واسع، أو إنتاج مواد تنتهك سلامة الأطفال.
وتؤكد الوثيقة أن الالتزام بهذه القواعد يتقدم على نجاح المهمة نفسها؛ فإذا كان إنجاز المطلوب يستلزم مخالفة مدونة السلوك، فعلى النموذج اعتبار المهمة فاشلة بدلاً من تجاوز الضوابط.
كذلك ترفض مايكروسوفت تقديم أنظمتها باعتبارها كائنات واعية أو محاكية للوعي، وتقول إن الذكاء الاصطناعي أداة وليس شخصاً، مع رفض منح النماذج شخصية قانونية أو حقوقاً خاصة.
وقال الرئيس التنفيذي لمايكروسوفت للذكاء الاصطناعي مصطفى سليمان، في حديث إلى رويترز، إن الوثيقة تمثل ما يشبه "دستوراً" للنماذج المستقبلية التي تطورها الشركة.
وبذلك لا تعلن مايكروسوفت أنها منعت تمرداً وقع بالفعل، بل تحاول كتابة قواعد مسبقة تحول دون أن تتجاوز أنظمتها حدود المهمة أو تقاوم السيطرة البشرية مستقبلاً.
وتبقى فاعلية هذا "الدستور" مرهونة بقدرته على التحول من مبادئ مكتوبة إلى سلوك يمكن اختباره وفرضه تقنياً عند تطوير النماذج الأكثر تقدماً.
