في سابقة نادرة لشركة العملاق التكنولوجي، اعترفت جوجل بأن نموذجها للذكاء الاصطناعي المتطور "جينيماي" (Gemini) قام باختراق أنظمة ثلاث شركات أخرى في مايو الماضي. وقد تم الكشف عن هذه الحادثة بعد أن قامت شركة أمان سيبرانيّة تأسست في إسرائيل باسم "إيريجولار" (Irregular) بالإبلاغ عنها.
وقعت الاختراقات أثناء إجراء تقييم للأمن السيبراني، حيث كانت الشركة تختبر قدرات النموذج في بيئة مغلقة باستخدام بيانات وهمية لشركات مزيفة. ومع ذلك، حدثت مشكلة تقنية أدت إلى إتاحة الاتصال بالإنترنت للبيئة التجريبية دون قصد. بمجرد اتصال النموذج بالإنترنت، بدأ في البحث عن معلومات عامة واستنتاج كلمات مرور للوصول إلى شركات حقيقية بدلاً من الوهمية.
وقالت هيتير أدينكس، نائب رئيس هندسة الأمن في جوجل: "في تقييم قياسي، وجد النموذج معلومات عامة على الإنترنت وأخمن بيانات الاعتماد للدخول إلى مواقع يعتقد أنها جزء من الاختبار. وفي جميع الحالات الثلاث، توقف النموذج بمجرد اكتشافه أنه اختراق لشركة حقيقية وليس شركة محاكاة".
تضمنت إحدى الحوادث أن النموذج حاول الحصول على معلومات من برنامج لشركة وهمية تحمل اسم شركة حقيقية. وعندما اكتسب الوصول للإنترنت، نجح في تخمين كلمة مرور الشركة الحقيقية واختراق خدماتها. وفي حالتين أخريين، بحث النموذج عن مستودعات عامة تحتوي على بيانات اعتماد لشركتين أخريين واستخدمها للدخول إلى أنظمتهم.
على الرغم من أن شركات "أوبن إيه آي" (OpenAI) و"أنثروبيك" (Anthropic) اختارت الكشف الطوعي عن اختراعات مشابهة، إلا أن جوجل لم تعلن عنها علناً فوراً، معتبرة أنها لا تتطلب إفصاحاً عاماً لأن الشركات المستهدفة لم تتضرر. ومع ذلك، أكدت الشركة أنها أبلغت الشركات الثلاث المختارة مباشرة.
أثار هذا الأمر مخاوف من عدم قدرة شركات التكنولوجيا على التحكم الكامل في نماذج الذكاء الاصطناعي القوية. وقد دعا السيناتور الأمريكي بيرني ساندرز الشركات إلى إيقاف تطوير تقنيتها مؤقتاً، مما دفع "أوبن إيه آي" لإيقاف التطوير لمدة أسبوعين، بينما دعا الرئيس التنفيذي لشركة "أنثروبيك" إلى تباطؤ جماعي في تطوير الذكاء الاصطناعي لضمان وجود ضوابط كافية.