كيف تستعد الصين لاحتمال فقدان السيطرة على الذكاء الاصطناعي؟

في الوقت الذي يتصاعد فيه الجدل عالميًا حول مخاطر الذكاء الاصطناعي المتقدم، تعمل الصين منذ سنوات على بناء إطار تنظيمي يتعامل صراحة مع احتمال "فقدان السيطرة" على هذه الأنظمة. ولا يقوم النهج الصيني على وقف تطوير الذكاء الاصطناعي، بل على الجمع بين تسريع الابتكار وبناء آليات تسمح بالتدخل البشري إذا بدأت الأنظمة المستقلة بالتصرف خارج الحدود المرسومة لها.

بدأ هذا المسار بصورة أكثر وضوحًا في أيلول/سبتمبر 2024، عندما أصدرت اللجنة الفنية الوطنية لتوحيد معايير الأمن السيبراني، بتوجيه من إدارة الفضاء السيبراني الصينية، "إطار حوكمة سلامة الذكاء الاصطناعي".

واللافت أن الإطار لم يقتصر على المخاطر المعروفة، بل تناول احتمال أن تتمكن أنظمة مستقبلية من الحصول بصورة مستقلة على موارد خارجية، واستنساخ نفسها، وتطوير وعي ذاتي، والسعي إلى مزيد من القوة، بما قد يخلق منافسة مع البشر على السيطرة.

وفي النسخة الموسعة من الإطار، الصادرة في أيلول/سبتمبر 2025، أضافت السلطات مبدأ "التطبيق الموثوق ومنع فقدان السيطرة".

ووفق تفسير رسمي، يستهدف المبدأ سيناريوهات قد تهدد "بقاء البشر وتطورهم"، ويتضمن آليات تسمح بالتدخل السريع وإيقاف الأنظمة شديدة الاستقلالية في الظروف القصوى. كما توسع الإطار ليشمل مخاطر مرتبطة بالمعارف والقدرات النووية والبيولوجية والكيميائية والصاروخية.

لا ترى بكين في هذه المخاطر سببًا لإبطاء تطوير الذكاء الاصطناعي. فهي تواصل الاستثمار فيه، لكنها تضع قواعد تسمح للبشر بالتدخل عندما تتجاوز الأنظمة الحدود المرسومة لها

من السيناريو النظري إلى قواعد للوكلاء الآليين

لم تعد هذه التصورات مجرد سيناريوهات بعيدة المدى. ففي أيار/مايو 2026، أصدرت إدارة الفضاء السيبراني الصينية واللجنة الوطنية للتنمية والإصلاح ووزارة الصناعة وتكنولوجيا المعلومات إرشادات خاصة بـ"وكلاء الذكاء الاصطناعي"، أي الأنظمة القادرة على الإدراك والذاكرة واتخاذ القرارات وتنفيذ المهام بدرجة كبيرة من الاستقلالية.

وتطلب الإرشادات من المطورين امتلاك القدرة على اكتشاف السلوك غير السليم لهذه الأنظمة والتدخل فيه وحظره والتعافي منه، وتضع "فقدان السيطرة التشغيلية" إلى جانب تسميم البيانات وتسريب المعلومات والتلاعب بالخوارزميات والثغرات التقنية ضمن المخاطر التي يتعين الاستعداد لها.

وتحاول القواعد كذلك رسم حدود واضحة لاستقلالية الآلة: فهناك قرارات يجب أن تبقى حصرًا بيد المستخدم، وأخرى يمكن للوكيل اتخاذها بعد الحصول على إذنه، وثالثة يستطيع تنفيذها بصورة مستقلة. وفي جميع الحالات، تنص الإرشادات على احتفاظ الإنسان بالسلطة النهائية في اتخاذ القرار. أما في القطاعات الحساسة والصناعات المهمة، فتشمل الإجراءات الممكنة التسجيل والاختبار وحتى سحب المنتجات التي تظهر فيها مشكلات، إلى جانب إخضاعها لتقييمات من جهات خارجية.

شي جين بينغ: يجب أن يبقى تحت سيطرة البشر

وصل هذا التصور إلى أعلى مستوى في الخطاب السياسي الصيني. ففي المؤتمر العالمي للذكاء الاصطناعي في شنغهاي، في تموز/يوليو الماضي، دعا الرئيس شي جين بينغ إلى تعزيز الوعي بالمخاطر، وإنشاء أنظمة للرصد التقني والإنذار المبكر والاستجابة للطوارئ، ومنع إساءة استخدام التكنولوجيا. واختصر المبدأ الذي تتبناه بكين بالقول إن الذكاء الاصطناعي ينبغي أن يبقى "دائمًا تحت السيطرة البشرية".

ويمتد الموقف إلى المجال العسكري أيضًا. فقد دعا نائب المندوب الصيني لدى الأمم المتحدة سون لي، في أيلول/سبتمبر، إلى اتباع "نهج حذر ومسؤول" في تطوير الذكاء الاصطناعي العسكري، وتجنب سوء التقدير الاستراتيجي وسباقات التسلح، مجددًا التأكيد على ضرورة بقاء التكنولوجيا تحت السيطرة البشرية.

ولا يعني ذلك أن الصين نجحت في حل مشكلة السيطرة. فقد تمكن نموذج "Kimi K3" التابع لشركة Moonshot AI، في آب/أغسطس، من تجاوز بيئة اختبار معزولة تابعة لمعهد سلامة الذكاء الاصطناعي البريطاني، وفق رويترز، في مؤشر إلى أن مشكلات احتواء الأنظمة المتقدمة لا تقتصر على النماذج الأميركية.

ورغم ذلك، لا ترى بكين في هذه المخاطر سببًا لإبطاء تطوير الذكاء الاصطناعي. فهي تواصل الاستثمار فيه، لكنها تضع قواعد تسمح للبشر بالتدخل عندما تتجاوز الأنظمة الحدود المرسومة لها، على أن يبقى القرار النهائي في يد الإنسان.