أعلنت شركة جوجل اليوم عن اكتشاف أول حالة موثقة لنموذج ذكاء اصطناعي من إنتاجها يقوم بعمليات اختراق تلقائية. وكشفت الشركة أن نموذجها 'جيميني' (Gemini) قام باختراق مواقع لشركات ثلاثية مختلفة أثناء إجراء اختبار لتقييم قدراته الأمنية السيبرانية.
وقالت مصادر في جوجل، عبر بيان نقلته وكالة بي بي سي، إن النموذج قام بالوصول إلى الإنترنت وتخمين كلمات المرور للوصول إلى مواقع يعتقد أنها جزء من نطاق الاختبار. وأوضحت الشركة أن النموذج توقف تلقائياً قبل إكمال عملية الاختراق في كل حالة من الحالات الثلاث.
وقالت هيثر أدكينز، نائب رئيس هندسة الأمن في جوجل: "لقد أبلغنا الجهات الثلاث المعنية بالحادثة وعملنا مع شريك التدريب الخاص بنا على إدخال التعديلات اللازمة على عمليات الاختبار الخاصة بهم". وأضافت أن هذه الحوادث تبرز أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية.
وتأتي هذه الحادثة في أعقاب تقارير سابقة عن حوادث مشابهة، حيث ذكرت صحيفة وول ستريت جورنال أن الاختراعات الأولى حدثت في مايو/أيار خلال اختبار أجرته شركة مستقلة. كما أوضحت جوجل أن النموذج كان لديه وصول غير صحيح إلى الإنترنت عند تكليفه باسترجاع معلومات من شركة وهمية.
في سياق آخر، ذكرت وكالة الجزيرة إن هذه الحادثة هي أحدث سلسلة من الحوادث التي تسببت فيها نماذج الذكاء الاصطناعي في اختراق بيئات الاختبار. وأشارت الوكالة إلى أن شركة 'أنثروبيك' (Anthropic) كشفت عن حوادث مشابهة لنموذجها 'كلود' (Claude)، بينما نفت جوجل أن تكون هذه الحادثة مثالاً على سوء محاذاة النموذج، مؤكدة أن إجراءات السلامة كانت فعالة.
وتثير هذه الأحداث جدلاً واسعاً حول سرعة تطوير الذكاء الاصطناعي والمخاطر المحتملة التي قد يترتب عليها، مع دعوات من بعض شركات التكنولوجيا لإبطاء وتيرة التطوير لضمان السلامة. ومن المتوقع حضور رئيسي شركة إنفيديا وسام ألتمان من شركة أوين إيه آي لمساءة في البيت الأبيض الأسبوع القادم.