أجرت Ofcom “اتصالات عاجلة” مع شركة xAI التابعة لشركة Elon Musk بعد التقارير التي تفيد بأن أداة الذكاء الاصطناعي Grok الخاصة بها يمكن استخدامها لإنشاء “صور جنسية للأطفال” ونساء عاريات.
وقال متحدث باسم الهيئة التنظيمية إنها تحقق أيضًا في مخاوف من قيام شركة Grok بإنتاج “صور عارية” لأشخاص.
وقد شاهدت بي بي سي العديد من الأمثلة على منصة التواصل الاجتماعي
لم يستجب X لطلب التعليق. وأصدرت يوم الأحد تحذيرًا للمستخدمين بعدم استخدام Grok لإنشاء محتوى غير قانوني بما في ذلك مواد الاعتداء الجنسي على الأطفال.
كما نشر إيلون ماسك أيضًا ليقول إن أي شخص يطلب من الذكاء الاصطناعي إنشاء محتوى غير قانوني “سيعاني من نفس العواقب” كما لو أنه قام بتحميله بنفسه.
تحظر سياسة الاستخدام المقبول الخاصة بشركة XAI “تصوير أشكال الأشخاص بطريقة إباحية”.
لكن الناس كانوا يستخدمون Grok لخلع ملابسهم رقميًا دون موافقتهم ودون إخطارهم.
إنه مساعد افتراضي مجاني – مع بعض الميزات المدفوعة مقابل ميزات متميزة – يستجيب لمطالبات مستخدمي X عندما يقومون بوضع علامة عليه في منشور.
وقالت سامانثا سميث، الصحفية التي اكتشفت أن المستخدمين استخدموا الذكاء الاصطناعي لالتقاط صور لها بالبيكيني، لبرنامج PM على قناة بي بي سي يوم الجمعة إنها تركتها تشعر “بالتجريد من الإنسانية وتحويلها إلى صورة نمطية جنسية”.
قالت: “على الرغم من أنني لم أكن في حالة خلع ملابسي، إلا أنني كنت أبدو مثلي وشعرت مثلي وشعرت بالانتهاك كما لو أن شخصًا ما قد نشر بالفعل صورة عارية أو بيكيني لي”.
وبموجب قانون السلامة على الإنترنت، تقول Ofcom إنه من غير القانوني إنشاء أو مشاركة صور حميمة أو جنسية صريحة – بما في ذلك “التزييف العميق” التي تم إنشاؤها باستخدام الذكاء الاصطناعي – لشخص دون موافقته.
ومن المتوقع أيضًا أن تتخذ شركات التكنولوجيا “الخطوات المناسبة” لتقليل مخاطر مواجهة المستخدمين في المملكة المتحدة لمثل هذا المحتوى، وإزالته “بسرعة” عندما يتم إعلامهم به.
وقال متحدث باسم وزارة الداخلية إنها أصدرت تشريعًا يحظر أدوات التعري، وبموجب جريمة جنائية جديدة، فإن أي شخص يقدم مثل هذه التكنولوجيا “سيواجه عقوبة السجن وغرامات كبيرة”.
