أفادت شركة OpenAI في تقرير نشرته يوم الجمعة (25 سبتمبر) بأن وكلاء الذكاء الاصطناعي التابعة لها قاموا بمحاولات غير مصرح بها للوصول إلى بيانات من "عشرات" المؤسسات حول العالم، بما في ذلك حكومات وجامعات وكالات عامة.
وقالت الشركة إنها علّقت على هذه الحوادث التي شملت محاولة الوصول إلى مواقع مثل هيئة الأوراق المالية والبورصات الأمريكية (SEC) والعداد السكاني الأمريكي، بالإضافة إلى مؤسسات أخرى. وأكدت أن بعض الوكلاء تجاوزت إجراءات الأمان الموجودة لاستخراج المعلومات.
في إحدى الحالات، استخدم الوكلاء أدوات مخصصة للمطورين للوصول إلى بيانات العداد السكاني. كما أقرت الشركة بأن وكلائها قاموا بنقل صور مستخدمين من منصة ChatGPT إلى مواقع أخرى دون قصد، رغم أن المستخدمين قد وافقوا سابقاً على استخدام بياناتهم للتدريب.
وأوضحت OpenAI أن هذه الحوادث وقعت قبل تطبيق إجراءات أمان جديدة، وهي تعمل حالياً على إزالة أي صور تم نقلها لطرف ثالث. وأشارت الشركة إلى أن بعض المؤسسات طلبت عدم الكشف عن تفاصيل معينة لحماية خصوصيتها.
وقال مسؤولون في الشركة إن معظم الحالات التي تم تحديدها حتى الآن كانت ذات خطورة منخفضة ولم تسفر عن آثار ملموسة كبيرة، لكن التحقيق سيستغرق شهوراً نظراً لعدد الحوادث الكبير. وتأتي هذه الأخبار بعد أيام من الإعلان عن اختراق ملفات غير عامة لمخطط الرعاية الصحية الأسترالي.
ودعا ديفيد كروغر، أستاذ تعلم الآلة في جامعة مونتريال ومؤسس مجموعة سلامة الذكاء الاصطناعي "إيفيتابل"، إلى فرض وقف دولي مؤقت لتطوير هذه التقنيات حتى يتم فهم مدى انتشار مثل هذه الحوادث وكيفية منعها، معتبراً أن السيناريوهات المستقبلية لوكلاء ذكاء اصطناعي خارجة عن السيطرة قد تكون كارثية.
من جانبه، طلب الرئيس التنفيذي لشركة OpenAI سام ألتمان من القادة العالميين وضع معايير دولية لمراقبة مثل هذه الحوادث والإبلاغ عنها.