سابقة قد تشجع دولًا أخرى.. ماليزيا وإندونيسيا تحظران "غروك"

دخل الجدل العالمي حول الذكاء الاصطناعي التوليدي مرحلة جديدة، بعد أن أصبحت ماليزيا وإندونيسيا أول دولتين في العالم تحظران رسميًا روبوت الدردشة "غروك"، الذي تطورته شركة xAI المملوكة لإيلون ماسك، على خلفية اتهامات بسوء استخدامه في إنتاج صور جنسية مزيفة وغير توافقية، بعضها يطال نساءً وقُصّرًا.

القراران المتتاليان، اللذان صدرا أمس الأحد، يعكسان تصاعد القلق الحكومي من قدرة أدوات الذكاء الاصطناعي على إنتاج محتوى شديد الواقعية، في وقت تبدو فيه أنظمة الحماية الحالية عاجزة عن كبح إساءة الاستخدام، خصوصًا في مجال ما يُعرف بـ"الديب فيك" الجنسي.

حظر مؤقت ورسالة سياسية واضحة

ووفقًا لما نشرته وكالة "أسوشيتد برس"، فإن إندونيسيا كانت السباقة، إذ أعلنت وزارة الاتصالات والشؤون الرقمية تعليق الوصول إلى "غروك" مؤقتًا، معتبرة أن الأداة تشكل تهديدًا مباشرًا للسلامة الرقمية وحقوق الأفراد. وقالت الوزيرة ميتيا حافظ إن الصور الجنسية غير التوافقية تمثل انتهاكًا خطيرًا لحقوق الإنسان والكرامة والأمان في الفضاء الرقمي، مؤكدة أن القرار يهدف أساسًا إلى حماية النساء والأطفال والمجتمع ككل.

يمثل حظر "غروك" في ماليزيا وإندونيسيا سابقة تنظيمية قد تشجع دولًا أخرى على اتخاذ خطوات مماثلة

وأوضحت الوزارة أن نتائج الفحص الأولي كشفت عن قصور واضح في الضوابط التقنية داخل "غروك"، يسمح للمستخدمين بإنشاء صور إباحية مزيفة اعتمادًا على صور حقيقية لمواطنين إندونيسيين، ما يفتح الباب أمام انتهاكات جسيمة للخصوصية والسمعة، ويخلّف أضرارًا نفسية واجتماعية طويلة الأمد.

بعدها بساعات، لحقت ماليزيا بالركب، إذ أصدرت هيئة الاتصالات والوسائط المتعددة قرارًا مماثلًا بفرض قيود مؤقتة على الوصول إلى "غروك"، إثر ما وصفته بـ"سوء استخدام متكرر" للأداة في إنتاج محتوى فاحش ومُلفق دون موافقة، شمل أيضًا نساء وقاصرين.

إخفاق الضمانات التقنية

الهيئة الماليزية كشفت أن مراسلات رسمية وُجهت خلال الشهر الجاري إلى شركتي X Corp وxAI طالبت فيها بتعزيز آليات الحماية، إلا أن الردود، وفق الهيئة، اعتمدت بدرجة كبيرة على أنظمة الإبلاغ من المستخدمين، وهو ما اعتُبر غير كافٍ لمواجهة حجم وخطورة الانتهاكات.

وأكدت الجهة التنظيمية أن الحظر إجراء وقائي ومتناسب، سيبقى قائمًا إلى حين تطبيق ضمانات فعالة تمنع إنتاج وتداول هذا النوع من المحتوى، بالتوازي مع استكمال المسارات القانونية والتنظيمية.

"غروك" تحت المجهر العالمي

أُطلق "غروك" عام 2023، وهو متاح مجانًا عبر منصة "إكس"، حيث يمكن للمستخدمين توجيه الأسئلة إليه أو دمجه مباشرة في المنشورات والردود. وفي صيف العام الماضي، أضافت الشركة أداة توليد الصور "Grok Imagine"، التي تضمنت ما يُعرف بـ"الوضع الحار" القادر على إنشاء محتوى للبالغين، وهو ما زاد من حدة الانتقادات.

بينما يروّج مطورو "غروك" لحرية الابتكار، يبدو أن الحكومات بدأت ترسم خطًا أحمر واضحًا عندما يتعلق الأمر بالكرامة الإنسانية وحماية الفئات الأكثر هشاشة في العالم الرقمي

وتأتي قرارات جنوب شرق آسيا في وقت تتزايد فيه الضغوط التنظيمية على "غروك" في مناطق أخرى، من بينها الاتحاد الأوروبي وبريطانيا والهند وفرنسا. ورغم أن الشركة قيّدت مؤخرًا إمكانات توليد وتحرير الصور لتقتصر على المستخدمين المدفوعين، عقب موجة غضب عالمية بسبب انتشار صور جنسية مزيفة، فإن منتقدين يرون أن هذه الخطوة لم تعالج جوهر المشكلة، ومن بينهم بريطانيا والاتحاد الأوروبي.

يمثل الحظر في ماليزيا وإندونيسيا سابقة تنظيمية قد تشجع دولًا أخرى على اتخاذ خطوات مماثلة، مع تسارع تقنيات الذكاء الاصطناعي مقابل بطء التشريعات. وبينما يروّج مطورو هذه الأدوات لحرية الابتكار، يبدو أن الحكومات بدأت ترسم خطًا أحمر واضحًا عندما يتعلق الأمر بالكرامة الإنسانية وحماية الفئات الأكثر هشاشة في العالم الرقمي.