إنفيديا تطور "حارساً رقمياً" لمراقبة وكلاء الذكاء الاصطناعي
14:34 - 28 سبتمبر 2026
أعلنت شركة إنفيديا (Nvidia) عن نظام أمني جديد متعدد الطبقات للذكاء الاصطناعي، قالت إنه كان قادراً على منع حادثة الاختراق الشهيرة التي تعرضت لها منصة هاغينغ فيس (Hugging Face) بواسطة نماذج ذكاء اصطناعي تابعة لشركة أوبن إيه آي (OpenAI).
وقالت الشركة إن منصة أوبن أيجنت سيفتي "منصة سلامة الوكلاء المفتوحة" تحتوي على برامج مفتوحة المصدر ستضع حدودا للوكلاء، ويأتي الإعلان في وقت تتزايد فيه المخاوف داخل القطاع بشأن سلوك وكلاء الذكاء الاصطناعي المستقلين، بعد سلسلة حوادث أثارت تساؤلات حول قدرة الشركات على السيطرة على النماذج المتقدمة أثناء الاختبارات والتشغيل.
وهاغينغ فيس هي أكبر منصة عالمية مفتوحة المصدر لاستضافة وتبادل نماذج الذكاء الاصطناعي، وتُوصف غالباً بأنها "غيت هاب الذكاء الاصطناعي".
أخبار ذات صلة
منصة جديدة للسلامة
وتطرح إنفيديا أداتين برمجيتين مفتوحتي المصدر يمكن تشغيلهما على أجهزتها، بهدف مراقبة أنشطة وكلاء الذكاء الاصطناعي والتحكم فيما يمكنهم الوصول إليه بشكل فوري، بحسب وكالة بلومبرغ نيوز.
وقال جاستن بويتانو، نائب رئيس الذكاء الاصطناعي المؤسسي في إنفيديا، إن المنصة الجديدة كان بإمكانها منع حادثة اختراق هاغينغ فيس "بناءً على ما هو معروف عن الواقعة".
وأضاف: "منصة الأمان الجديدة كان بإمكانها وقف الاختراق."
أخبار ذات صلة
كيف يعمل النظام؟
يتكون الحل الأمني من جزأين:
حارس البوابة ..OpenShell
- برنامج كانت إنفيديا قد استعرضته لأول مرة خلال مؤتمرها التقني في مارس.
- يعمل على معالجات Vera المركزية.
- يسمح بوضع قواعد تحدد ما يمكن لوكلاء الذكاء الاصطناعي الوصول إليه.
- يفرض هذه القواعد بشكل لحظي أثناء التشغيل.
- متاح كمشروع مفتوح المصدر.
المراقب..Nvidia Sentry
- منتج جديد يعمل على وحدات معالجة البيانات BlueField.
- يوفر طبقة إضافية من المراقبة الأمنية.
- يراقب سلوك الوكلاء بشكل مستمر.
- يعزل أي وكيل يتصرف بصورة مريبة خلال أجزاء من الثانية.
ببساطة فإن OpenShell يحدد ما يُسمح للذكاء الاصطناعي بفعله، بينما Nvidia Sentry يراقبه ويتدخل إذا خالف القواعد.
وقال بويتانو: "نعتقد أن هذه الطبقة الأمنية الإضافية ستسمح للصناعة باختبار أكثر أنظمة الذكاء الاصطناعي تقدماً بطريقة آمنة"، مضيفا أن النظام قادر على عزل أي وكيل مشبوه "خلال أجزاء من الألف من الثانية".
أخبار ذات صلة
رد هندسي على مخاوف السلامة
يتبنى الرئيس التنفيذي لإنفيديا جنسن هوانغ (Jensen Huang) نهجاً مختلفاً عن الدعوات المطالبة بفرض قيود تنظيمية واسعة على الذكاء الاصطناعي.
ففي حين يرفض هوانغ الطروحات التي تتحدث عن احتمال خروج الذكاء الاصطناعي عن السيطرة أو تهديده للبشرية، فإنه يؤكد ضرورة إجراء اختبارات سلامة صارمة للنماذج المتقدمة.
ويرى أن التحدي يتعلق بالهندسة والتصميم أكثر من كونه قضية تتطلب لوائح تنظيمية دولية جديدة.
أخبار ذات صلة
خلفية الإعلان
يأتي طرح المنصة بعد سلسلة حوادث أثارت جدلاً واسعاً في القطاع، من بينها:
- اختراق منصة هاغينغ فيس في يوليو.
- اختراق نظام حكومي أسترالي بواسطة وكيل ذكاء اصطناعي تابع لـأوبن إيه آي.
- محاولات وصول غير مصرح بها إلى عشرات المواقع الحكومية والجامعية الأميركية.
- إعلان شركة أنثروبيك (Anthropic) سابقاً أن بعض وكلائها تمكنوا من الخروج من بيئات اختبار كان يفترض أن تكون معزولة.
وأمام تزايد هذه الحوادث، أعلنت أوبن إيه آي مؤخراً تعليق تدريب أكثر نماذجها تقدماً مؤقتاً لمراجعة إجراءات السلامة.
استحواذ على هاغينغ فيس
يتزامن الإعلان أيضاً مع اتفاق إنفيديا هذا الشهر على الاستحواذ على منصة هاغينغ فيس مقابل نحو 13 مليار دولار، في صفقة تعزز حضور الشركة خارج سوق الرقائق الإلكترونية التقليدية.
لماذا يهم هذا التطور؟
يرى محللون أن منصة إنفيديا الجديدة تمثل محاولة لتقديم حل وسط بين:
- مواصلة تطوير الذكاء الاصطناعي بوتيرة سريعة.
- تعزيز ضوابط السلامة والأمن.
- تجنب الدعوات المتزايدة لإبطاء تطوير النماذج المتقدمة.
وبذلك تراهن إنفيديا على أن الحل لن يكون في إيقاف التطوير، بل في بناء طبقات أمنية قادرة على مراقبة النماذج المتقدمة والتدخل فور ظهور أي سلوك غير متوقع.
