أثارت منصة التواصل الاجتماعي X التابعة لشركة Elon Musk الغضب بعد أن استخدم الناس برنامج الدردشة الآلي Grok الخاص بها لتغيير صور النساء عن طريق إزالة ملابسهن.
وشاهدت بي بي سي عدة أمثلة على تجريد النساء من ملابسهن ليظهرن بالبكيني دون موافقتهن، فضلا عن وضعهن في أوضاع جنسية.
لم تستجب شركة XAI، الشركة التي تقف وراء Grok، لطلبات بي بي سي للتعليق، باستثناء الرد الذي تم إنشاؤه تلقائيًا والذي ينص على “أكاذيب إعلامية قديمة”.
وقال متحدث باسم وزارة الداخلية إنها أصدرت تشريعًا يحظر أدوات التعري، وبموجب جريمة جنائية جديدة، فإن أي شخص يقدم مثل هذه التكنولوجيا “سيواجه عقوبة السجن وغرامات كبيرة”.
وقالت الهيئة التنظيمية Ofcom إن شركات التكنولوجيا يجب أن “تقيم مخاطر” الأشخاص في المملكة المتحدة الذين يشاهدون محتوى غير قانوني على منصاتهم، لكنها لم تؤكد ما إذا كانت تحقق حاليًا في X أو Grok فيما يتعلق بصور الذكاء الاصطناعي.
Grok هو مساعد AI مجاني – مع بعض الميزات المدفوعة مقابل ميزات متميزة – يستجيب لمطالبات مستخدمي X عندما يقومون بوضع علامة عليه في منشور.
غالبًا ما يتم استخدامه لإعطاء رد فعل أو مزيد من السياق لملاحظات الملصقات الأخرى، ولكن الأشخاص على X قادرون أيضًا على تحرير الصورة التي تم تحميلها من خلال ميزة تحرير الصور المدعومة بالذكاء الاصطناعي.
وقد تعرضت لانتقادات لأنها سمحت للمستخدمين بإنشاء صور ومقاطع فيديو تحتوي على عُري ومحتوى جنسي، كما اتُهمت سابقًا بإنشاء مقطع جنسي صريح لتايلور سويفت.
وقالت كلير ماكجلين، أستاذة القانون في جامعة دورهام، إن X أو Grok “يمكن أن يمنعوا هذه الأشكال من الانتهاكات إذا أرادوا ذلك”، مضيفة أنهم “يبدو أنهم يتمتعون بالإفلات من العقاب”.
وقالت: “لقد سمحت المنصة بإنشاء هذه الصور وتوزيعها لعدة أشهر دون اتخاذ أي إجراء، ولم نشهد بعد أي تحدي من قبل المنظمين”.
تحظر سياسة الاستخدام المقبول الخاصة بشركة XAI “تصوير أشكال الأشخاص بطريقة إباحية”.
وفي بيان لبي بي سي، قالت Ofcom إنه من غير القانوني “إنشاء أو مشاركة صور حميمة أو مواد اعتداء جنسي على الأطفال دون رضاهم” وأكدت أنها تضمنت هذه الصور الجنسية العميقة التي تم إنشاؤها باستخدام الذكاء الاصطناعي.
وقالت منصات مثل
