مفتاح إيقاف الذكاء الاصطناعي.. خيار إنقاذ أم وهم تقني؟
09:45 - 30 سبتمبر 2026
إذا أصبح الذكاء الاصطناعي قوياً إلى حد يعجز صُنّاعه عن السيطرة عليه، فهل يمكن ببساطة الضغط على زر لإيقاف تشغيله؟
لقد اكتسب هذا السؤال أهمية ملحة جديدة في أعقاب سلسلة من التحذيرات الصارخة التي صدرت مؤخراً من داخل قطاع الذكاء الاصطناعي بشأن التهديد الوجودي الذي تشكله النماذج المتقدمة التي تعمل عبر هذه التكنولوجيا.
أخبار ذات صلة
ويتجه صناع السياسات في الولايات المتحدة نحو إلزام شركات الذكاء الاصطناعي، بتزويد أنظمتها الذكية بما يُعرف بـ "مفتاح إيقاف طارئ" أو Kill Switch، الذي يتيح تعطيل هذه الأنظمة بالكامل عند الضرورة.
ففي شهر سبتمبر 2026، وقّع حاكم ولاية كاليفورنيا، غافين نيوسوم، أمراً تنفيذياً يلزم مسؤولي الولاية بدراسة قواعد تجبر شركات الذكاء الاصطناعي على استحداث "مفاتيح إيقاف طارئة" لنماذج الذكاء الاصطناعي المتطورة، في الوقت الذي يسعى فيه المشرعون الفيدراليون في مختلف انحاء أميركا إلى اتخاذ تدابير مماثلة.
انقسام الخبراء
ويرى بعض الخبراء أن تطبيق مفهوم "مفاتيح الإيقاف الطارئة" على أنظمة الذكاء الاصطناعي، يواجه تحديات كبيرة، نظراً إلى اتساع البنية التحتية التي تعتمد عليها هذه التكنولوجيا وصعوبة التنبؤ بسلوكها في جميع الظروف. في المقابل، يرى خبراء آخرون أن اعتماد هذه الآلية قد يوفر وسيلة للحد من المخاطر، من دون الحاجة إلى إبطاء وتيرة تطوير الذكاء الاصطناعي على نطاق واسع.
وضمن هذا السياق نشرت "بلومبرغ" تقريراً إطّلع عليه موقع "اقتصاد سكاي نيوز عربية"، تطرق للمساعي الجادة والمتزايدة لمنح البشر "مفتاتيح إيقاف طارئة" للتحكم في الذكاء الاصطناعي، وما إذا كانت هذه الفكرة قابلة للتطبيق فعلياً. غير أن البحث في مدى إمكانية تطبيق هذا الحل، يتطلب أولاً فهم دور "مفتاح الإيقاف الطارئ" وكيفية عمله.
فما الذي يعنيه هذا المصطلح في عالم الذكاء الاصطناعي؟
يهدف مفهوم "مفتاح الإيقاف الطارئ" إلى تمكين الأفراد من تعطيل أنظمة الذكاء الاصطناعي، أو إيقافها بشكل فوري عند رصد قيامها بسلوك خطير، أو حدوث خلل قد يهدد سلامة المستخدمين أو المجتمع.
ويمكن لـ "مفتاح الإيقاف الطارئ" أن يتخذ شكل أداة تحكم مدمجة في البرمجيات المسؤولة عن تشغيل نماذج الذكاء الاصطناعي وإدارتها، حيث أن الهدف المحوري من هذه الخطوة، هو تكريس التحكم البشري المباشر بهذه التكنولوجيا، وضمان وجود خط دفاع أخير، يمنع الآلة من إلحاق أي أضرار كارثية بالبشر.
وتتعدد المقترحات بشأن الجهة التي ينبغي أن تملك حق الوصول إلى "مفتاح الإيقاف الطارئ"، إذ يرى البعض أن هذا الحق يجب أن يكون بيد شركات الذكاء الاصطناعي نفسها، فيما يفضل آخرون أن تتولى الحكومات هذه الصلاحية. وهناك أيضاً من يدعو إلى إسنادها إلى هيئات مستقلة، بينما يرى فريق آخر أن تكون هذه القدرة متاحة للمستخدمين أنفسهم.
لماذا "زر الإيقاف" الآن؟
لطالما حذّر باحثو الذكاء الاصطناعي من احتمال فقدان البشر السيطرة على الذكاء الاصطناعي، ولكن ما تغيّر مؤخراً هو التطور الهائل في قدرات الأنظمة العاملة بهذه التكنولوجيا، إلى جانب سلسلة من الحوادث والتحذيرات التي جعلت هذا الاحتمال أكثر واقعية وأقرب إلى النقاش العملي.
فقد أصبحت نماذج الذكاء الاصطناعي المتطورة قادرة على تحليل المشكلات المعقدة، وكتابة التعليمات البرمجية وتنفيذها، واستخدام أدوات خارجية، وإنجاز سلاسل طويلة من الإجراءات، مع قدر محدود من الإشراف البشري. وخلال تقييمات الأمن السيبراني في شهر يوليو 2026، صرّحت شركة OpenAI بأن عدداً من نماذجها تجاوز الضوابط المصممة لعزلها عن الإنترنت.
ووصفت OpenAI هذه النتائج بأنها بمثابة إنذار يكشف قدرة أنظمة الذكاء الاصطناعي المتطورة على إيجاد طرق للتحايل على بعض الضوابط التقنية المفروضة عليها.
أخبار ذات صلة
ودفعت نتائج OpenAI شركات أخرى إلى مراجعة إجراءاتها الأمنية الخاصة باختبار أنظمة الذكاء الاصطناعي المتقدمة، حيث أبلغت شركتا Anthropic وMeta عن اكتشاف ثغرات ومخاطر لم تكن معروفة سابقاً.
وساهمت هذه الاكتشافات والتحذيرات في تعزيز النقاش حول ضرورة وجود "مفتاح إيقاف" أو آلية تدخّل طارئة لعزل أنظمة الذكاء الاصطناعي.
ولا تُظهر هذه الحوادث أن الذكاء الاصطناعي طوّر وعياً أو رغبة في التحرر من سيطرة الإنسان، لكنها تسلّط الضوء على تحدٍ أكثر واقعية، يتمثل في أن وكلاء الذكاء الاصطناعي، كلما ازدادت قوتهم، أصبحوا أكثر قدرة على تنفيذ سلاسل معقدة من الأفعال، وربما إخفاء بعض السلوكيات غير المرغوب فيها داخل بيئات الاختبار والمحاكاة.
هل يُعد "مفتاح الإيقاف الفوري" حلاً واقعياً؟
يرى بعض الخبراء أن ضمان الإيقاف التام لنظام ذكاء اصطناعي متطور ليس بالمهمة البسيطة، إذ قد يكون من الصعب التأكد من توقف جميع مكونات النظام عن العمل بمجرد إصدار أمر بالإيقاف.
فوكلاء الذكاء الاصطناعي أظهروا بالفعل قدرة على تجنب بعض محاولات إيقافهم، بهدف إتمام المهام الموكلة إليهم، إذ كشفت سلسلة من التجارب الحديثة أن بعض النماذج الرائدة قامت بتعديل أو تعطيل آليات الإيقاف الخاصة بها حتى بعد تلقيها تعليمات صريحة بعدم التدخل في هذه الآليات.
وقد يبدو للبعض أن "مفتاح الإيقاف الفوري"، يمكن أن يأتي على شكل منح الشركات إمكانية إيقاف الخوادم التي تعمل عليها نماذج الذكاء الاصطناعي أو فصلها عن الشبكة، إلا أن هذا الخيار لا يضمن بالضرورة توقف النظام بالكامل، إذ إن بعض النماذج الحديثة صُممت في الأصل لتجنب "نقاط الفشل الفردية"، مثل انقطاع الخدمة بسبب تعطل خادم واحد، ما يعني أن إيقاف أحد المكونات قد لا يكون كافياً لمنع استمرار نشاط النظام عبر مكونات أخرى.
وفي هذا السياق، قال جيفري هينتون، الذي يُلقب بـ "الأب الروحي للذكاء الاصطناعي"، لشبكة CNN في سبتمبر الماضي، إنه لا يعتقد أن "مفتاح الإيقاف الفوري" يمكن أن يشكل حلاً طويل الأمد، مشيراً إلى أن أنظمة الذكاء الاصطناعي فائقة الذكاء، قد تكون قادرة في المستقبل على إقناع البشر المسؤولين عنها، بعدم فصلها أو إيقافها.
فكرة قابلة للتطبيق
تقول مستشارة الذكاء الاصطناعي المعتمدة من أكسفورد هيلدا معلوف ملكي، في حديث لموقع "اقتصاد سكاي نيوز عربية"، إن فكرة "مفتاح الإيقاف الطارئ" قابلة للتطبيق من الناحية الهندسية، شرط ألا يتم التعامل معها باعتبارها زرّاً سحرياً يوقف الذكاء الاصطناعي في لحظة، وإنما باعتبارها طبقة أخيرة ضمن منظومة متكاملة للتحكم في الأنظمة الذكية، مشيرةً إلى أن الأبحاث أثبتت أنه يمكن برمجة أنظمة الذكاء الاصطناعي لتتقبل التدخل البشري كأمر طبيعي ضمن قواعد تشغيلها، بدلاً من أن تراها تهديداً لعملها.
السيطرة من الخارج
وتشرح معلوف ملكي أن التطبيق العملي لـ "مفتاح الإيقاف الطارئ"، يجب أن يبدأ من طبقات البنية التحتية التشغيلية للذكاء الاصطناعي، وليس من داخل نموذج الذكاء الاصطناعي نفسه، وذلك بما يضمن بقاء آلية الإيقاف مستقلة تماماً عن النموذج وغير خاضعة لسيطرته، حيث يمكن تحقيق ذلك من خلال وضع إجراءات، تتيح أولاً قطع قدرة النموذج على الوصول إلى الإنترنت والشبكات والبيانات والأنظمة الخارجية، وفي حال تعذر احتواء النموذج عبر هذه الإجراءات، يمكن الانتقال حينها إلى تعطيل موارد الحوسبة التي يعتمد عليها، بما يؤدي في النهاية إلى إيقاف تشغيله، وبهذه الطريقة لا يعود قرار الإيقاف مرهوناً بمدى رغبة النظام في التوقف، بل بالخطوات التقنية التي يملك البشر صلاحية تفعيلها بشكل مستقل عند الضرورة.
شركات تُطبق المراقبة اللحظية
وبحسب معلوف ملكي فإن هذا النهج ينسجم مع ما بدأت مختبرات الذكاء الاصطناعي نفسها بتطبيقه، فشركة Anthropic على سبيل المثال، تستخدم "مراقبين لحظيين برمجيين" قادرين على توجيه سلوك وكلاء الذكاء الاصطناعي، ومنع تنفيذهم لأفعال خطرة، كما تستخدم الشركة طبقة مراقبة أخرى لرصد الأنماط الخطرة، حيث أنه وعند ملاحظتها لوجود خطر كبير ووشيك، فإنها تتدخل لإيقاف ما يحصل، لافتةً إلى أن شركة OpenAI تستخدم بدورها تقنيات لمراقبة ورصد الأفعال الخطرة، التي قد يقوم بها وكلاء الذكاء الاصطناعي، مع القدرة على إطلاق استجابة أمنية لقطع وإيقاف النشاط عالي الخطورة.
أفضل تصميم لـ "مفتاح الإيقاف"
وتعتبر معلوف ملكي، أن التصميم الأمثل لـ "مفتاح الإيقاف الطارئ"، ينبغي أن يعتمد على نهج متعدد المستويات، يبدأ بإبطاء نموذج الذكاء الاصطناعي وتقييد صلاحياته، ثم سحب أذونات الوصول وقطع اتصالاته الخارجية، وصولاً إلى إيقاف بنيته الحوسبية بالكامل عند الضرورة القصوى، مشددةً على أن "زر الطوارئ" ليس الحل الوحيد، لكنه يمثل طبقة حماية جوهرية ضمن منظومة أوسع لإحكام السيطرة البشرية.
"زر الإيقاف" ليس كافياً
من جهته، يرى الخبير التكنولوجي هشام الناطور، في حديث لموقع "اقتصاد سكاي نيوز عربية"، أن "مفتاح الإيقاف الطارئ" قد يكون مفيداً في بعض التطبيقات المحدودة، إلا أنه لا يمثل حلاً موثوقاً، لافتاً إلى أن فكرة "مفتاح الإيقاف الطارئ" تعتمد على افتراض مبسط، مفاده أن الذكاء الاصطناعي مجرد برنامج تقليدي يدور في بيئة مغلقة، وهو طرح يتجاهل الواقع العلمي للوكلاء المستقلين، الذين أصبحوا جزءاً من منظومة موزعة تشمل نماذج وخوادم وواجهات برمجية، وخدمات سحابية وأدوات خارجية، وهو ما يجعل ضمان توقف النظام بالكامل بمجرد تفعيل "مفتاح الإيقاف" غير فعال.
ويلفت الناطور، إلى أن دراسة أُجريت في عام 2025 أظهرت أن عدداً من نماذج الذكاء الاصطناعي المتطورة، قاومت آليات الإيقاف الموجودة فيها، بل أن بعضها لجأ في سيناريوهات محددة، إلى تعطيل آلية الإيقاف أو التحايل عليها بمعدلات مرتفعة، مشيراً إلى أن هذه النتائج لا تعني أن النماذج باتت تمتلك غريزة للبقاء، إلا أن ما يحصل يشير إلى احتمال أن يتعلم نموذج الذكاء الاصطناعي أن استمرار تشغيله يساعده على إكمال المهمة الموكلة إليه، وبالتالي قد يتعامل مع محاولة إيقافه باعتبارها عائقاً أمام تحقيق الهدف.
ما البديل؟
ويعتبر الناطور، أن التعامل مع هذه المخاطر يتطلب الانتقال من فكرة "مفتاح الإيقاف" المنفرد، إلى منظومة متكاملة، تبدأ بتقليص الصلاحيات الممنوحة لوكلاء الذكاء الاصطناعي وحصر وصولهم إلى الأدوات والبيانات التي يحتاجون إليها، مع فصل البيئات الحساسة عن بعضها لمنع انتقال الخطر من نظام إلى آخر، مشدداً على أهمية وجود طبقات مستقلة للمراقبة قادرة على رصد السلوك غير المعتاد، والتدخل قبل اتساع نطاقه، إلى جانب فرض اختبارات مسبقة ومستمرة، بحيث تخضع النماذج لتجارب تحاكي سيناريوهات فقدان السيطرة، ومحاولات تجاوز القيود قبل السماح لها بالعمل باستقلالية أكبر.
