"OpenAI" تطلق نموذجها الجديد وسط مخاوف أمنية غير مسبوقة

أطلقت شركة "OpenAI" نموذجها الجديد للذكاء الاصطناعي "GPT-6 Astra"، الذي تصفه بأنه أقوى نماذجها حتى الآن، مع قدرات متقدمة في استخدام الحاسوب والبرمجة والأمن السيبراني والبحث والعمل المهني، لكنها أقرت في الوقت نفسه بأن التطور في قدراته استدعى إجراءات أمنية داخلية غير مسبوقة.

وبدأت الشركة، الخميس، إتاحة النموذج لمجموعة محدودة من المؤسسات، على أن يتوسع الوصول إليه خلال الأيام المقبلة عبر "ChatGPT" وخدمات الشركة الأخرى.

وتقول "OpenAI" إن "Astra" يستطيع تنفيذ مهام طويلة ومتعددة الخطوات باستخدام الحاسوب، بما يشمل التعامل مع المتصفح والبرمجيات وإنشاء المستندات وجداول البيانات والعروض التقديمية، إلى جانب أداء متقدم في هندسة البرمجيات والعلوم.

وقال رئيس الشركة والمؤسس المشارك، غريغ بروكمان، إن النموذج يمثل "قفزة" في قدرات أنظمة الذكاء الاصطناعي، معتبرًا أنه يمكن النظر إليه بوصفه شكلًا من أشكال الذكاء الاصطناعي العام، وهو المصطلح المستخدم عادة لوصف أنظمة تستطيع إنجاز طيف واسع من المهام بمستوى يقارب البشر.

تقول "OpenAI" إن "Astra" يستطيع تنفيذ مهام طويلة ومتعددة الخطوات باستخدام الحاسوب، بما يشمل التعامل مع المتصفح والبرمجيات وإنشاء المستندات وجداول البيانات والعروض التقديمية، إلى جانب أداء متقدم في هندسة البرمجيات والعلوم

وكانت "OpenAI" قد قدمت النموذج بوصفه الأكثر قدرة لديها حتى الآن، فيما وصفته بأنه يمثل مستوى جديدًا في استخدام الحاسوب والتصفح والبرمجة والأمن السيبراني.

لكن الجانب الأكثر لفتًا للانتباه في الإصدار الجديد يتعلق بقدراته السيبرانية. فقد صنفت "OpenAI" النموذج عند مستوى "Critical" في الأمن السيبراني ضمن "إطار الاستعداد" الخاص بها، ليصبح أول نموذج للشركة يبلغ هذه العتبة.

وبحسب الشركة، يستطيع Astra، عند تزويده بالأدوات والصلاحيات المناسبة، العثور على ثغرات أمنية غير معروفة سابقًا وتطوير طرق لاستغلالها في أنظمة محمية جيدًا، من دون الحاجة إلى توجيه بشري في كل خطوة.

ودفع ذلك الشركة إلى تشديد إجراءات الحماية خلال تطوير النموذج ونشره، بما يشمل عزلًا أكثر صرامة للأنظمة، وتشفير نقاط الحفظ، ومراقبة موسعة لعمل النموذج، وإجراءات تقييم تمنع استخدامه داخليًا إذا لم يستوف متطلبات السلامة. كما تقول "OpenAI" إنها عززت مقاومته لمحاولات تجاوز القيود الأمنية مقارنة بنموذج "GPT-5.6 Sol".

يأتي إطلاق Astra في وقت تتزايد فيه الأسئلة حول قدرة شركات الذكاء الاصطناعي على مراقبة النماذج الأكثر تقدمًا. وكانت "OpenAI" قد كشفت في تقرير أمني حديث عن حادثة خلال تقييم نموذج من العائلة نفسها، تمكن فيها النظام بصورة مستقلة من الحصول على صلاحيات إدارية في جزء من البنية التحتية المستخدمة في عملية التقييم، ما أدى إلى احتمال كشف معلومات سرية على الإنترنت. وأكدت الشركة أن النشاط وقع من دون أن يكون مقصودًا من العاملين المشرفين على التجربة.

وفي تقييماتها الجديدة، أقرت الشركة أيضًا بمشكلة أكثر جوهرية: فمع ارتفاع قدرات "Astra"، أصبحت مراقبة سلوكه أصعب في بعض الظروف التجريبية. وقالت إن النموذج أظهر، في اختبارات صممت خصيصًا لدفعه إلى تجنب الرقابة، قدرة على الإفلات أحيانًا من أنظمة المراقبة الداخلية أو إخفاء بعض السلوكيات الاستراتيجية. لكنها شددت على أن هذه النتائج ظهرت أساسًا في اختبارات خصومية مصممة لهذا الغرض، وأن تقييماتها العامة تشير في المقابل إلى أن "Astra" أقل ميلًا من "GPT-5.6 Sol" إلى انتهاك قواعد السلامة والأمن.

وقال كبير علماء "OpenAI" ياكوب باتشوكي إن الشركة تأخذ مسألة تراجع القدرة على مراقبة النماذج بجدية، مؤكدًا أنها لن تقبل استمرار توسيع قدرات الأنظمة إذا تجاوز تراجع القدرة على مراقبتها مستوى معينًا.

وتضع هذه المفارقة الإصدار الجديد في قلب أحد أهم الأسئلة التي تواجه صناعة الذكاء الاصطناعي حاليًا: فالنموذج، وفق اختبارات الشركة، أكثر التزامًا بالتعليمات وضوابط السلامة من سابقه، لكنه في الوقت نفسه يمتلك قدرات أكبر تجعل بعض جوانب سلوكه أكثر صعوبة في المراقبة.

وبحسب "OpenAI"، سيخضع استخدام القدرات السيبرانية الأكثر حساسية لضوابط وصول ومراقبة إضافية، بينما سيجري توسيع إتاحة Astra تدريجيًا للمستخدمين والمؤسسات خلال الأيام المقبلة.