قالت مؤسسة مراقبة الإنترنت (IWF) إن محلليها اكتشفوا “صورًا إجرامية” لفتيات تتراوح أعمارهن بين 11 و13 عامًا والتي “يبدو أنه تم إنشاؤها” باستخدام برنامج Grok.
أداة الذكاء الاصطناعي مملوكة لشركة xAI التابعة لشركة Elon Musk. ويمكن الوصول إليه إما من خلال موقعه الإلكتروني وتطبيقه، أو من خلال منصة التواصل الاجتماعي
وقال الاتحاد الدولي لرفع الأثقال إنه عثر على “صور جنسية لفتيات عاريات الصدور” في “منتدى ويب مظلم” ادعى فيه المستخدمون أنهم استخدموا Grok لإنشاء الصور.
اتصلت بي بي سي بـ X وxAI للتعليق.
وقال نجيري ألكسندر، من الاتحاد الدولي لرفع الأثقال، لبي بي سي إن أدوات مثل جروك تخاطر الآن “بجلب صور الذكاء الاصطناعي الجنسية للأطفال إلى الاتجاه السائد”.
وقال إن المواد سيتم تصنيفها ضمن الفئة “ج” بموجب قانون المملكة المتحدة، وهي الفئة الأدنى خطورة من المواد الإجرامية.
لكنه قال إن المستخدم الذي قام بتحميلها استخدم بعد ذلك أداة ذكاء اصطناعي مختلفة، لم تصنعها شركة xAI، لإنشاء صورة من الفئة “أ”، وهي الفئة الأكثر خطورة.
وقال: “نحن قلقون للغاية بشأن السهولة والسرعة التي يمكن بها للأشخاص على ما يبدو إنشاء صور واقعية لمواد الاعتداء الجنسي على الأطفال (CSAM).”
تدير المؤسسة الخيرية، التي تهدف إلى إزالة مواد الاعتداء الجنسي على الأطفال من الإنترنت، خطًا ساخنًا حيث يمكن الإبلاغ عن الاشتباه في الاعتداء الجنسي على الأطفال، وتوظف محللين يقومون بتقييم شرعية وخطورة تلك المواد.
وعثر محللوها على المادة على شبكة الإنترنت المظلمة، ولم يتم العثور على الصور على منصة التواصل الاجتماعي
تم الإبلاغ سابقًا عن X وxAI بواسطة Ofcom، في أعقاب التقارير التي تفيد بإمكانية استخدام Grok لإنشاء “صور جنسية للأطفال” ونساء عاريات.
وقد شاهدت بي بي سي العديد من الأمثلة على منصة التواصل الاجتماعي
وقال الاتحاد الدولي لرفع الأثقال إنه تلقى تقارير عن مثل هذه الصور على X، ولكن لم يتم تقييمها حتى الآن على أنها تستوفي التعريف القانوني لـ CSAM.
وفي بيان سابق، قال X: “نحن نتخذ إجراءات ضد المحتوى غير القانوني على X، بما في ذلك CSAM، عن طريق إزالته، وتعليق الحسابات بشكل دائم، والعمل مع الحكومات المحلية وجهات إنفاذ القانون حسب الضرورة.
“أي شخص يستخدم Grok أو يدفعه لإنشاء محتوى غير قانوني سيعاني من نفس العواقب كما لو قام بتحميل محتوى غير قانوني.”
