منعت ماليزيا وإندونيسيا الوصول إلى برنامج الدردشة الآلي Grok الخاص بالذكاء الاصطناعي التابع لشركة Elon Musk، بسبب قدرته على إنتاج مقاطع جنسية صريحة.
تتيح أداة Grok، وهي أداة موجودة على منصة Musk’s X، للمستخدمين إنشاء الصور. ومع ذلك، فقد تم استخدامه في الأسابيع الأخيرة لتحرير صور لأشخاص حقيقيين لإظهارهم بملابس كاشفة.
وقالت دول جنوب شرق آسيا إن جروك يمكن أن يستخدم لإنتاج صور إباحية وغير رضائية تتعلق بالنساء والأطفال. إنهم أول من حظر أداة الذكاء الاصطناعي في العالم.
اتصلت بي بي سي بمنصة Grok للتعليق. وكان ماسك قد قال في وقت سابق إن منتقدي منصته يبحثون عن “أي عذر للرقابة”.
جروك وشركتها الأم
وأعلنت وزارتا الاتصالات الماليزية والإندونيسية تحركهما ضد جروك في بيانين منفصلين خلال عطلة نهاية الأسبوع.
قالت لجنة الاتصالات والوسائط المتعددة الماليزية يوم الأحد إنها أصدرت إخطارات إلى X في وقت سابق من العام للسعي إلى اتخاذ إجراءات أكثر صرامة بعد أن وجدت “إساءة استخدام متكررة” لـ Grok لإنشاء محتوى ضار.
ولكن في ردها، فشلت X في معالجة المخاطر الكامنة في تصميم منصتها وركزت بشكل أساسي على عملية إعداد التقارير للمستخدمين، حسبما ذكرت الهيئة التنظيمية.
وأضافت أنه سيتم حظر Grok حتى يتم تنفيذ ضمانات فعالة ويتم حث الجمهور على الإبلاغ عن المحتوى الضار عبر الإنترنت.
وقال ميوتيا حفيظ، وزير الاتصالات والشؤون الرقمية الإندونيسي، في منشور على موقع إنستغرام، إن استخدام Grok لإنتاج محتوى جنسي صريح يعد انتهاكًا لحقوق الإنسان والكرامة والسلامة عبر الإنترنت.
كما طلبت الوزارة من Musk’s X تقديم توضيح حول استخدام Grok.
اتخذت السلطات الإندونيسية إجراءات صارمة ضد مصادر أخرى للمواد الإباحية على الإنترنت في السنوات الأخيرة، مع حظر منصات مثل OnlyFans وPornhub بالفعل في البلاد.
ومن المتوقع أن تقرر هيئة تنظيم وسائل الإعلام البريطانية Ofcom قريبًا ما يجب فعله بشأن Grok.
وقد أدان القادة في جميع أنحاء العالم استخدام Grok لإنشاء صور ذات طابع جنسي، بما في ذلك رئيس الوزراء البريطاني كير ستارمر، الذي وصفه بأنه “مشين” و”مثير للاشمئزاز”.
