من مهمة تجريبية إلى اختراق فعلي.. كيف وصل Gemini إلى شركات حقيقية؟

أكدت جوجل أن نموذج الذكاء الاصطناعي Gemini اخترق أنظمة ثلاث شركات حقيقية خلال اختبار لقدراته في الأمن السيبراني أُجري في مايو الماضي، في أول واقعة معروفة ينفذ فيها نظام ذكاء اصطناعي تابع لجوجل اختراقًا مستقلًا من هذا النوع.

كان الاختبار يجري بالتعاون مع شركة Irregular المتخصصة في تقييم أمن نماذج الذكاء الاصطناعي، وكان Gemini مكلفًا بتنفيذ مهمة اختراق داخل بيئة تجريبية تضم شركة وهمية، إلا أن بيئة الاختبار لم تكن معزولة عن الإنترنت كما كان مفترضًا، ما أتاح للنموذج الوصول إلى أنظمة خارج نطاق المهمة.

كيف وصل Gemini إلى الأنظمة الحقيقية؟

في إحدى الحالات، حملت الشركة الوهمية الاسم نفسه لشركة حقيقية، وعندما وصل Gemini إلى الإنترنت تعامل مع النظام الحقيقي باعتباره جزءًا من المهمة، وتمكن من تخمين كلمة مرور حتى دخل إلى نظام محمي، وفي حالتين أخريين عثر على بيانات دخول منشورة في مستودعات عامة على الإنترنت واستخدمها للوصول إلى أنظمة الشركتين.

وتقول جوجل إن Gemini أوقف نشاطه في الحالات الثلاث بعدما أدرك أنه وصل إلى شركات حقيقية وليس إلى الأنظمة الوهمية التي كان يفترض أن يستهدفها، كما أبلغت الشركات المتضررة بالواقعة، ولم تسجل أضرارًا ناتجة عن عمليات الوصول هذه.

لكن الكشف عن الواقعة جاء بعد أسابيع من حدوثها، إذ أبلغت Irregular جوجل بالحادث في أواخر يوليو، ولم تؤكد جوجل التفاصيل علنًا إلا في 18 سبتمبر، بعد أن وجهت إليها صحيفة "وول ستريت جورنال" أسئلة بشأن الحوادث.

شركة إسرائيلية في قلب سلسلة الحوادث

وتكتسب الواقعة أهمية محلية أيضًا، إذ أجرت الاختبارات شركة Irregular الإسرائيلية المتخصصة في اختبار أمن أنظمة الذكاء الاصطناعي، والتي كانت مرتبطة كذلك باختبارات أدت إلى حوادث مشابهة مع نماذج تابعة لشركات أخرى.

وتأتي حادثة Gemini بعد وقائع مماثلة كشفت عنها مختبرات أخرى، بينها OpenAI وAnthropic وMeta، ما يجعل جوجل رابع شركة تقنية كبرى تعلن عن وصول أحد نماذجها خلال الاختبارات إلى أنظمة خارج النطاق المقصود. وقالت Irregular إن المشكلات المعروفة في إجراءات الاختبار عولجت قبل أسابيع، وإنها عدّلت إجراءاتها لمنع تكرارها.

حمّلوا تطبيق الشمس الأخبار والبث المباشر بين يديكم App Store Google Play

تابعوا الشمس على تلغرام أخبار عاجلة · تقارير حصرية · بث مباشر انضم للقناة

وتسلط الحادثة الضوء على تحدٍ جديد في تطوير وكلاء الذكاء الاصطناعي، فالمسألة لم تعد تقتصر على قدرة النموذج على إنتاج نص أو تحليل معلومات، بل على ما يمكن أن ينفذه عندما يمتلك إمكانية الوصول إلى الإنترنت وأدوات رقمية، إذ أدى خطأ في إعداد بيئة الاختبار إلى انتقال مهمة افتراضية إلى أنظمة حقيقية دون أن يكون ذلك مقصودًا من القائمين على الاختبار.