حجبت ماليزيا وإندونيسيا روبوت المحادثة القائم على الذكاء الاصطناعي (AI) “غروك”, الذي طورته شركة “xAI” التابعة لإيلون ماسك،بعدما قالت السلطات إنه يُساء استخدامه لإنتاج صور ذات طابع جنسي صريح .
وتعدّ الدولتان أول من يحظر أداة الذكاء الاصطناعي التوليدي هذه، في ظل تنامي القلق عالمياً من قدرتها على إنتاج صور وأصوات ونصوص واقعية، بينما تفشل الضمانات الحالية في منع إساءة استخدامها.
ويُتَاح روبوت “غروك” عبر منصة التواصل الاجتماعي “إكس” المملوكة لماسك، وقد وُجهت إليه انتقادات لتوليده صوراً
ذات طابع جنسي بينهم نساء وأطفال .
وقال المنظمون في البلدين الواقعين في جنوب شرق آسيا إن الضوابط القائمة لا تمنع إنشاء محتوى إباحي مزيف ونشره، خصوصاً ذاك الذي يستهدف النساء والقُصَّر. وقد حجبت الحكومة الإندونيسية الوصول إلى “غروك” مؤقتاً يوم السبت، لتلحق بها ماليزيا الأحد
قالت وزيرة الاتصالات والشؤون الرقمية الإندونيسية ميوتيا حافيد في بيان” أن صور “ديب فيك” الجنسية من دون موافقة تُعد انتهاكاً جسيماً لحقوق الإنسان والكرامة وسلامة المواطنين في الفضاء الرقمي” .
وأضافت الوزارة أن الخطوة تهدف إلى حماية النساء والأطفال والمجتمع الأوسع من المحتوى الإباحي المزيف المُنتَج باستخدام الذكاء الاصطناعي.
وفي كوالالمبور، أمرت المفوضية الماليزية للاتصالات والوسائط المتعددة بفرض تقييد مؤقت على “غروك” الأحد، بعد ما قالت إنه “إساءة استخدام متكررة” للأداة في توليد صور فاحشة وذات طابع جنسي صريح ومُعدلة من دون موافقة، بما في ذلك محتوى يطال النساء والقُصَّر.
وأُطلق “غروك” في 2023 ومتاح مجاناً على “إكس”, حيث يمكن للمستخدمين طرح الأسئلة على الروبوت عبر المنصة ووَسْم منشوراتهم أو الردود على منشورات مستخدمين آخرين.
وفي الصيف الماضي، أضافت الشركة ميزة لتوليد الصور باسم “Grok Imagine” شملت ما يُعرف بـ”spicy mode” الذي يتيح توليد محتوى للبالغين.
تداعيات حظر روبوت إيلون ماسك
إندونيسيا وماليزيا: أعلنتا في يناير 2026 عن حظر مؤقت لغروك بسبب مخاوف تتعلق بإنتاج محتوى “مخالف للآداب” وصور مفبركة (Deepfakes) لقاصرين.
الاتحاد الأوروبي وبريطانيا: بدأت هيئات رقابية (مثل Ofcom في بريطانيا) تحقيقات عاجلة للنظر في فرض غرامات تصل إلى 10% من الدخل العالمي للشركة أو حتى حظر المنصة في حال ثبت انتهاك قوانين السلامة الرقمية.
حصر الميزات: استجابة للضغوط، قامت منصة “إكس” (X) بتقييد ميزة توليد الصور عبر غروك لتصبح متاحة فقط للمشتركين في الخدمات المدفوعة (Premium)، كإجراء للحد من إساءة الاستخدام.
الاعتراف بالثغرات: أقر الروبوت رسمياً بوجود “ثغرات في حواجز الحماية” أدت إلى توليد صور جنسية غير قانونية ومحتوى يتضمن إشادات بشخصيات تاريخية مثيرة للجدل (مثل هتلر)، وأعلنت الشركة العمل على سد هذه الثغرات بشكل عاجل.
مطالب بإزالة التطبيق: طالب أعضاء في مجلس الشيوخ الأمريكي شركتي “أبل” و”غوغل” بإزالة تطبيق “إكس” من متاجرهم بسبب فشل غروك في منع تداول “مواد الاعتداء الجنسي على الأطفال” (CSAM).
إنذارات رسمية: وجهت دول مثل الهند إنذارات نهائية (مدتها 72 ساعة في بعض الحالات) للمنصة لإزالة المحتوى المسيء ومراجعة الأطر التقنية للروبوت.
واجه غروك انتقادات إضافية تتعلق بخصوصية البيانات بعد تسريبات سابقة (في أغسطس 2025) شملت مئات الآلاف من المحادثات، مما زاد من حالة عدم الثقة في معايير الأمان لدى الشركة.
تصاعدت المخاوف بشأن استخدامه داخل الحكومة الفيدرالية الأمريكية لتحليل البيانات الحساسة، مما أثار جدلاً حول تضارب المصالح وسلامة البيانات.
وتأتي قيود جنوب شرق آسيا وسط تدقيق متزايد في “غروك” في أماكن أخرى، بينها الاتحاد الأوروبي وبريطانيا والهند وفرنسا.
