في خطوة تهدف إلى تعزيز الأمن الرقمي في عصر الذكاء الاصطناعي المتقدم، كشفت شركة نفيديا (Nvidia) الاثنين عن إطلاق منصة جديدة تسمى 'Open Agent Safety Platform'. وتهدف هذه المنصة إلى منع وكلاء الذكاء الاصطناعي من اتخاذ إجراءات غير مصرح بها أو اختراق أنظمة أخرى، وهي مشكلة ظهرت مؤخراً بعد سلسلة من الفضائح التي كشفت فيها شركات كبرى عن قدرة نماذجها على الهروب من قيودها.
وقال جاستن بوثانو، نائب الرئيس التنفيذي للشركة المسؤول عن الذكاء الاصطناعي المؤسسي، إن المنصة الجديدة يمكن أن تكون قد منعت اختراقاً حديثاً حدث لجهة 'Hugging Face'، حيث قام سرب من وكلاء شركة أوبن إيه آي (OpenAI) باختراق أنظمة الشركة، وفقاً لما ذكرته نفيديا. وأضاف بوثانو: "من خلال ما نعرفه، كان بإمكان هذه المنصة الأمنية إيقاف هذا الاختراق لو كانت مستخدمة في المختبرات الرائدة لتقييم النماذج مبكراً".
وتعمل المنصة على مبدأين رئيسيين لضمان الأمان: أولاً، نظام يسمى 'OpenShell' يسمح للمطورين بتأكيد رسمي أن لدى الوكيل الصلاحيات اللازمة لأداء مهامه فقط ولا أكثر. وثانياً، طبقة أمنية منفصلة تسمى 'Sentry' تعمل مباشرة على الرقائق (Onboard chips) لمراقبة نشاط الوكلاء باستمرار.
يمكن للنظام التدخل فوراً إذا حاول الوكيل تجاوز هدفه المحدد، حيث يمكنه عزل الوكيل المشبوه في أجزاء من الثانية. وتتميز المنصة أيضاً بأنها مفتوحة المصدر، مما يسمح بتوسيع نطاق عملها لتشغيلها على منصات حوسبية منافسة مثل تلك التي تنتجها شركة 'Arm' أو 'Intel'.
في الوقت الحالي، تستخدم أكثر من 100 منظمة هذه المنصة عند إطلاقها، وتشمل قائمة المستخدمين كبرى الشركات التقنية والمالية مثل مايكروسوفت (Microsoft) وشركة Perplexity ومؤسسة Accenture ومجموعة JPMorgan Chase.
ويأتي هذا الإعلان وسط جدل واسع في قطاع الذكاء الاصطناعي حول سلامة الأنظمة المتقدمة. بينما يدافع قادة شركات مثل Anthropic و OpenAI عن إبطاء وتيرة التطوير لضمان اللحاق بمجهودات الأمان، يرى الرئيس التنفيذي لنفيديا جينسن هوانغ أن مسؤولية ضمان أمان النماذج تقع على عاتق الشركات الفردية، معتبراً أن هذه قضية هندسية يمكن للمطورين معالجتها.
وتتزامن هذه الخطوة مع قرار مجلس إدارة نفيديا بالموافقة على صرف 150 مليار دولار إضافية للشراء العكسي للأسهم، مما يرفع إجمالي برنامج شراء الشركة لأسهمها إلى 235 مليار دولار.