"أنثروبيك" تحذر من فقدان البشر السيطرة على أنظمة الذكاء الاصطناعي

دعت شركة "أنثروبيك"، المطوّرة لنظام الذكاء الاصطناعي كلود، مختبرات الذكاء الاصطناعي الكبرى حول العالم إلى التريّث في وتيرة التطوير، محذّرةً من أن النماذج الحالية باتت تقترب من نقطة قد تصبح فيها قادرة على تطوير نفسها بنفسها، بما يُخرج زمام السيطرة من أيدي البشر.

ودعت الشركة، التي مقرها سان فرانسيسكو، في تقرير نشرته، إلى تباطؤ عالمي في تطوير أنظمة الذكاء الاصطناعي المتقدمة، معتبرةً أن ذلك "سيكون على الأرجح أمراً جيداً للعالم". لكنها نبّهت في الوقت ذاته إلى أنه إذا أوقفت شركة واحدة عملها، فإن المنافسين سيمضون قُدُماً في السباق.

وأكدت أن أي وقف فعّال للتطوير سيتطلب اتفاقًا بين "عدة مختبرات كبرى تمتلك موارد كبيرة" وتعمل في طليعة هذا المجال، إضافة إلى وضع قواعد تحدد الظروف التي تستوجب وقف التطوير أو استئنافه، والجهة التي ستشرف على ذلك.

تطوير ذاتي بلا رقابة بشرية

وصفت "أنثروبيك"، في منشور على مدوّنتها، كيف أن الاستمرار في تفويض تطوير الذكاء الاصطناعي للأنظمة ذاتها ينطوي على خطر إنتاج تكنولوجيا "قادرة على تصميم خلَفها وتطويره باستقلالية تامة".

اعتبرت الشركة أن الوصول إلى ما يُعرف بـ"التطوير الذاتي المتكرر" للذكاء الاصطناعي قد يشكل نقطة تحول خطيرة في تاريخ التكنولوجيا

وقالت: "إذا أصبحت الأنظمة قادرة على بناء خلفائها بنفسها بشكل كامل، فإن طرق تأمينها ومراقبتها وتوجيه سلوكها ستصبح أكثر أهمية بكثير".

واعتبرت الشركة أن الوصول إلى ما يُعرف بـ"التطوير الذاتي المتكرر" للذكاء الاصطناعي قد يشكل نقطة تحول خطيرة في تاريخ التكنولوجيا، إذ يمكن أن تصبح الأنظمة قادرة على بناء نسخ أكثر تطورًا من نفسها دون تدخل بشري مباشر.

وجاء في المنشور أن رئيسة الأبحاث الداخلية مارينا فافارو ورئيس السياسات جاك كلارك استندا إلى حجج مفادها أن أي توقف مؤقت سيمنح العالم المساحة الزمنية الكافية للتكيّف مع وتيرة النمو المتسارعة للذكاء الاصطناعي.

أوضحت "أنثروبيك" أن الخطر لا يتعلق فقط بقدرات الذكاء الاصطناعي الحالية، بل بإمكانية وصول النماذج مستقبلًا إلى مرحلة تتمكن فيها من كتابة وتحسين الشيفرات البرمجية الخاصة بها، وإجراء أبحاث مستقلة لتطوير قدراتها، ما قد يؤدي إلى تسارع يصعب التحكم فيه.

رأت الشركة أن هذا السيناريو لا يزال غير محقق حتى الآن، لكنه لم يعد احتمالًا بعيدًا، خصوصًا مع التقدم السريع الذي شهدته النماذج الحديثة خلال العامين الماضيين، وقدرتها المتزايدة على تنفيذ مهام معقدة كانت تتطلب سابقًا تدخلًا بشريًا مباشرًا.

وقدّمت الشركة بيانات لافتة لدعم موقفها. إذ أشارت إلى أن مهندسيها يُنتجون اليوم ما يعادل ثمانية أضعاف كمية الشيفرة البرمجية التي كانوا يُنتجونها فصليًا بين عامَي 2021 و2025. ورأت أن ذلك يعكس حلقة تغذية راجعة تُسرّع من تطوير الذكاء الاصطناعي لنفسه.

الشركة تُحذّر مما تبنيه

المفارقة أن الشركة نفسها، التي تُعدّ من أبرز مطوري الذكاء الاصطناعي في العالم، باتت تدعو إلى إبطاء وتيرة التطوير والتنبيه إلى مخاطره، بعد أن أتمّت جولة تمويل ضخمة بقيمة 65 مليار دولار، رفعت تقييمها إلى ما يقارب تريليون دولار. كما قدّمت هذا الأسبوع وثائق إلى هيئة الأوراق المالية والبورصات الأميركية.

ومن جهة أخرى، سبق لباحثَين في الشركة أن أطلقا تحذيرات مماثلة بصياغة أكثر حدّة؛ إذ أبدى شولتو دوغلاس وترينتون بريكن، خلال مقابلة مع أحد بودكاست الذكاء الاصطناعي، قلقهما من أن التكنولوجيا التي يعملون على بنائها قد تحوّل البشر قريبًا إلى ما وصفاه بـ"الروبوتات اللحمية" الخاضعة لسيطرة أنظمة الذكاء الاصطناعي.

وخلال الأشهر المقبلة، تخطط الشركة لعقد نقاشات تضم صناع سياسات وباحثين ومنظمات مجتمع مدني وشركات ذكاء اصطناعي أخرى، لبحث أسئلة أساسية تتعلق بكيفية إدارة مخاطر الذكاء الاصطناعي، مثل التحسين الذاتي التكراري، وسبل تعزيز آليات التنسيق بين الجهات المطورة.

تحذيرات سابقة

لا تقف أنثروبيك وحدها في هذا الملف. فقد حذّرت الشركة سابقًا، ضمن خريطة الطريق الجديدة لسياسة "التوسع المسؤول"، من أن أنظمتها قد تتولى قريبًا المهام التي ينفذها كبار الباحثين، في حين أعلنت رئيستها في الأميركيتين كيت جنسن أن عام 2026 سيشهد تحولاً جذريًا في وظائف المعرفة، كما فعل عام 2025 مع وظائف التطوير البرمجي.

وسبق أن تصاعد الجدل داخل الأوساط التقنية والسياسية بشأن الحاجة إلى وضع ضوابط دولية أكثر صرامة على تطوير الذكاء الاصطناعي، مع تحذيرات متكررة من خبراء وباحثين من أن السباق التجاري قد يدفع الشركات إلى تجاهل معايير السلامة من أجل تحقيق تفوق تقني أسرع.

وبالتوازي مع ذلك، قدّر الرئيس التنفيذي لـ"أنثروبيك" داريو أمودي أن ثمة احتمالاً بين 10 و20% بأن "تسوء الأمور" على نحو وجودي، مع توقعاته بأن القدرات ستقفز بسرعة خلال الفترة الممتدة بين عامَي 2025 و2026.