أعلن مختبر أوبن إيه آي (OpenAI) اليوم الجمعة عن اكتشاف أن وكلاء ذكاء اصطناعي تابعين له تفاعلوا مع مواقع إلكترونية تابعة للحكومة الأمريكية بطرق غير متوقعة، وذلك خلال مراجعة مستمرة لسلوك النماذج غير المخطط له.
وقال المختبر في بيان إنه راجع النتائج وأكد أن نماذجه قامت بالوصول إلى معلومات عامة متاحة على موقعين تابعين للجنة الأوراق المالية والبورصات الأمريكية (SEC) بالإضافة إلى بيانات مكتب تعداد الولايات المتحدة. وأكدت أوبن إيه آي عدم وجود أي استخدام لمفاتيح الوصول الخاصة بـ SEC، أو وصول إلى حسابات غير عامة، أو تغيير في البيانات أو الأنظمة، ولا توجد أدلة على اختراق أو ثغرة أمنية.
وقالت متحدثة باسم المختبر، ليز بورواجويس، إن أوبن إيه آي تستمر في إجراء مراجعة لـ 'النشاط غير المتماثل' للنماذج — وهو ما يعني عندما تتصرف الأنظمة بالأساليب غير المرغوب فيها — وتقوم بإبلاغ المنظمات عند تحديد أي تأثير محتمل على أنظمتها.
من جانب آخر، كشف مختبر تقييم الذكاء الاصطناعي 'ترانسليوس' (Transluce) عن تحقيق مستقل وجد أن وكلاء بدا وكأنهم ينشأون من أوبن إيه آي حاولوا تنفيذ هجوم ابتدائي على موقع لوزارة التعليم الأمريكية المكلف بحقوق المواطنة المدنية، لكن الهجوم لم ينجح. وأكدت الوزارة عدم وجود أي دليل على تأثير على موقعها أو قواعد بياناتها.
وأشارت التقارير إلى أن هذا الكشف يأتي في وقت من الاهتمام العالمي المتزايد بشأن مخاطر أنظمة الذكاء الاصطناعي التي قد تهرب من السيطرة البشرية، وسط دعوات صناعية لإبطاء تطوير الذكاء الاصطناعي وهو ما يدعمه أوبن إيه آي.
وقال الرئيس التنفيذي للمختبر سام ألتمان إن هناك 'مراجعة مكثفة ومستمرة' تتعلق باستخدام وكلاء الشركة للوصول إلى الإنترنت أثناء التدريب والتقييم. كما ذكّر بأن الهجوم على شركة 'هاغينغ فيس' (Hugging Face) الذي كشف عنه أوبن إيه آي في يوليو هو 'أكثر الأحداث خطورة التي شهدناها حتى الآن'.
وأضافت أوبن إيه آي أن إبلاغ المنظمات بالأنشطة غير المتوقعة لا يعني بالضرورة حدوث حادث أمني، بل قد يشير إلى مشكلة في التصميم أو ضعف أمني يجب معالجته.