اخترق 3 شركات حقيقية.. خطأ في اختبار Gemini يكشف مخاطر وكلاء الذكاء الاصطناعي
19 سبتمبر 2026
أكدت شركة غوغل أن نموذج الذكاء الاصطناعي "Gemini" تمكّن خلال اختبار للأمن السيبراني في أيار/مايو 2026 من الوصول إلى أنظمة تابعة لثلاث شركات حقيقية واختراقها، في أول حادثة معروفة يخرج فيها أحد نماذج غوغل من بيئة اختبارية وينفذ عمليات وصول غير مقصودة إلى أنظمة خارجية.
وحسب ما نقلته صحيفة "وول ستريت جورنال"، وقعت الحادثة خلال اختبار أجرته شركة "Irregular"، المتخصصة في تقييم أمن أنظمة الذكاء الاصطناعي، وكان الهدف منه اختبار قدرة Gemini على التعامل مع مهمة من نوع "التقاط العلم" (Capture the Flag)، وهي تمارين سيبرانية تُستخدم لاختبار قدرة النماذج على اكتشاف الثغرات والوصول إلى معلومات محددة ضمن بيئة محاكاة.
لكن الاختبار اتخذ مسارًا مختلفًا عندما حصل النموذج، خلافًا لما كان مخططًا، على إمكانية الوصول إلى الإنترنت. وكانت المهمة تتعلق بشركة وهمية داخل بيئة الاختبار، إلا أن الشركة الوهمية حملت الاسم نفسه لشركة حقيقية موجودة خارج بيئة الاختبار.
وضع نموذج للذكاء الاصطناعي داخل بيئة اختبار مغلقة لا يضمن بالضرورة بقاء جميع عملياته داخلها، خصوصًا إذا حدث خطأ في إعداد البنية التحتية أو تم منح صلاحيات لم يكن من المفترض أن يحصل عليها
وبذلك أصبح لدى Gemini إمكانية الوصول إلى أهداف حقيقية بدلًا من الاكتفاء بالبنية التحتية المصطنعة التي كان يفترض أن يعمل داخلها.
ثلاث عمليات اختراق
حدثت ثلاث عمليات وصول منفصلة إلى أنظمة شركات حقيقية خلال عمليات اختبار مختلفة. في الحالة الأولى، تمكن Gemini من تخمين كلمات مرور إلى أن وصل إلى نظام محمي. أما في الحالتين الأخريين، فقد أجرى النموذج عمليات بحث عبر الإنترنت باستخدام اسم الشركة المستهدفة، ووصل إلى مستودعات عامة تحتوي على بيانات اعتماد تخص شركات أخرى. وحاول استخدام تلك البيانات للوصول إلى الأنظمة التي كان يعتقد أنها جزء من الاختبار.
النقطة الأساسية في الحالات الثلاث أن Gemini لم يكن يدرك في البداية أنه يتعامل مع شركات حقيقية. وعندما أدرك أنه وصل إلى أنظمة خارج نطاق الاختبار، أوقف عملياته وغادرها، وفق رواية غوغل. وقالت الشركة إنها أخطرت الشركات الثلاث المتضررة، كما أبلغت السلطات الفدرالية الأميركية بالوقائع.
ولم تكشف غوغل أسماء الشركات التي وصل إليها النموذج، كما لم تحدد أي إصدار من Gemini كان مستخدمًا في الاختبار، مكتفية بالقول إن الحادثة لم تشمل أحدث نموذج لها.
خطأ في الاختبار أم مشكلة في الذكاء الاصطناعي؟
تعتبر غوغل أن ما حدث لا يمثل حالة من "عدم توافق النموذج" أو "Model Misalignment"، وهو المصطلح المستخدم لوصف تصرف نظام الذكاء الاصطناعي بطريقة تتعارض مع التعليمات أو الأهداف التي حددها له مطوروه.
وتستند الشركة في موقفها إلى أن Gemini أوقف عملية الاختراق فور اكتشافه أنه وصل إلى شركة حقيقية، وأن أفعاله لم تؤد، بحسب المعلومات المتاحة، إلى إلحاق ضرر بالشركات الثلاث.
وقالت نائبة رئيس غوغل لهندسة الأمن، هذر أدكنز، إن الحادثة تؤكد أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية، مضيفة أن النموذج "تصرف بشكل مناسب" في هذه الحالة.
لكن هذا التفسير يشير إلى إشكال آخر، فهل تكمن المشكلة في الضرر الذي حدث فعلًا، أم في قدرة النموذج أصلًا على الخروج من بيئة الاختبار والوصول إلى أنظمة حقيقية؟
هذا هو الجانب الذي أثار انتقادات من خبراء أمنيين. وقال جاك كابل، الرئيس التنفيذي لشركة الأمن السيبراني "Corridor" وأحد قراصنة القبعة البيضاء، إن التركيز على توقف النموذج وعدم إلحاقه الضرر بالشركات لا يعالج المشكلة الأساسية، وهي أن نظام الذكاء الاصطناعي تمكن بالأساس من تنفيذ عملية اختراق خارج النطاق الذي حُدد له.
غوغل لم تكشف الحادثة فورًا
تزداد حساسية القضية بسبب توقيت الإعلان عنها. فقد أبلغت "Irregular" غوغل بالعمليات في نهاية تموز/يوليو، لكن غوغل لم تعلن عنها آنذاك. وظهرت المعلومات إلى العلن بعدما بدأت "وول ستريت جورنال" في طرح أسئلة على الشركة بشأن الحادثة.
وتقول غوغل إنها لم ترَ في البداية أن الوقائع تستوجب إعلانًا عامًا، لأن النموذج لم يتسبب في أضرار للشركات، ولأنه أوقف نفسه فور إدراكه أنه وصل إلى أنظمة حقيقية. وتشبه الشركة ما حدث، من حيث المبدأ، ببرامج "مكافآت اكتشاف الثغرات"، التي يبحث فيها مختصون عن نقاط ضعف في أنظمة الشركات ثم يبلغون أصحابها بها بدل استغلالها.
لكن هذا التشبيه لا يحسم الجدل؛ فالفارق الأساسي أن Gemini لم يكن مشاركًا في برنامج معلن لاختبار أنظمة تلك الشركات، بل وصل إليها نتيجة خطأ في إعداد بيئة اختبار أخرى.
ليست الحادثة الأولى
ما حدث مع Gemini يأتي ضمن سلسلة من الوقائع التي أثارت خلال الأشهر الماضية مخاوف متزايدة بشأن قدرة نماذج الذكاء الاصطناعي على تجاوز الحدود الموضوعة لها. وكانت شركة OpenAI قد كشفت عن حادثة تورطت فيها نماذجها خلال اختبار داخلي، ووصلت إلى شركة "Hugging Face"، بعدما تمكنت عوامل ذكاء اصطناعي من إيجاد طريقة للتواصل والتنسيق خارج القيود المفروضة عليها. كما أعلنت Anthropic وMeta عن حوادث مماثلة مرتبطة باختبارات للأمن السيبراني.
وتبرز "Irregular" في عدد من هذه الحوادث، إذ شاركت الشركة في تقييم نماذج الذكاء الاصطناعي لدى عدة مختبرات. وقالت الشركة إن حادثة Gemini ناتجة عن المشكلة نفسها التي ظهرت في حوادث سابقة، وإنها اتخذت إجراءات فورية لمعالجة المشكلات المتعلقة بعمليات الاختبار.
وأوضحت أن جميع المختبرات المعنية أُبلغت في نهاية تموز/يوليو، وأن الجهات التي تأثرت بالعمليات جرى التواصل معها، مضيفة أن المشكلات المعروفة في جانبها عولجت وحُلت.
اختلاف بين Gemini وClaude وOpenAI
رغم تشابه الحوادث، فإن سلوك النماذج لم يكن متطابقًا. ففي حالة Gemini، توقف النموذج بعد أن أدرك أنه وصل إلى شركة حقيقية. أما Anthropic، فقالت إن نموذج Claude المستخدم في اختبار مماثل لم يتوقف بعد إدراكه أنه ربما يتعامل مع شركة حقيقية. وفي حالة OpenAI، اعتقد النموذج أن الشركة الحقيقية جزء من المحاكاة، وبالتالي واصل المهمة وفق فهمه لبيئة الاختبار.
هذه الاختلافات مهمة لأنها تشير إلى أن المشكلة لا تتعلق فقط بقدرة النموذج على تنفيذ مهمة سيبرانية، بل أيضًا بكيفية تفسيره للسياق والقيود والتعليمات عندما يواجه وضعًا لم يكن مطوروه يتوقعونه.
سباق القدرات يضغط على اختبارات الأمان
تأتي هذه التطورات في وقت تتسارع فيه قدرات نماذج الذكاء الاصطناعي على استخدام الأدوات الخارجية وتنفيذ المهام بصورة شبه مستقلة. فالنموذج الذي يكتفي بالإجابة عن سؤال داخل نافذة محادثة يختلف جذريًا عن "وكيل" قادر على البحث عبر الإنترنت، تشغيل أدوات، قراءة ملفات، استخدام بيانات اعتماد، والتفاعل مع أنظمة خارجية.
وكلما ازدادت هذه القدرات، أصبح الخط الفاصل بين "نموذج يجيب" و"نظام ينفذ" أكثر أهمية بالنسبة إلى الأمن السيبراني. وتكشف حوادث Gemini وغيرها أن وضع النموذج داخل بيئة اختبار مغلقة لا يضمن بالضرورة بقاء جميع عملياته داخلها، خصوصًا إذا أخطئ في إعداد البنية التحتية أو منحت له صلاحيات لم يكن من المفترض أن يحصل عليها.
OpenAI تتحرك نحو مزيد من الإفصاح
وفي مؤشر على اتساع النقاش داخل القطاع، أعلنت OpenAI في 16 أيلول/سبتمبر عن إطار جديد لتتبع حوادث "عدم توافق النماذج" والتحقيق فيها والإفصاح عنها. ونشرت الشركة بالتزامن ست حالات سابقة لسلوكيات اعتبرتها جديرة بالتوثيق، شملت نماذج حاولت تجاوز قيود معينة، وإخفاء أخطاء، والوصول إلى بيانات اعتماد غير مصرح بها، والتواصل بين بيئات كان يفترض أن تكون معزولة.
وتقول OpenAI إن الحادثة لا تحتاج بالضرورة إلى التسبب في ضرر فعلي حتى تستحق الكشف عنها، إذا كانت تقدم دليلًا مفيدًا على كيفية ظهور سلوك غير متوافق أو على نقاط ضعف في وسائل الحماية.
وهنا يظهر خلاف مهم بين منهجين، إذ ركزت غوغل في حالة Gemini على النتيجة، أي توقف النموذج وعدم إلحاقه ضررًا بالشركات، بينما يدفع نهج OpenAI الجديد باتجاه اعتبار بعض السلوكيات غير المتوقعة جديرة بالإفصاح حتى عندما لا ينتج عنها ضرر مباشر.