رفعت آشلي سانت كلير، والدة أحد أبناء إيلون ماسك، دعوى قضائية ضد شركته xAI بسبب التزييف الجنسي العميق لها الذي تم إنشاؤه على منصة التواصل الاجتماعي X.
وتزعم الدعوى المرفوعة في نيويورك يوم الخميس أن أداة Grok AI أنشأت صورًا جنسية صريحة لسانت كلير.
قامت الشركة الأم لـ X and Grok، xAI، بمقاضاة شركة St Clair لانتهاكها شروط الخدمة الخاصة بها.
ولم يرد X مباشرة على استفسارات بي بي سي نيوز حول الدعاوى القضائية.
وقالت كاري غولدبرغ، محامية سانت كلير، لبي بي سي نيوز: “نعتزم محاسبة جروك والمساعدة في وضع حدود قانونية واضحة لمصلحة الجمهور بأكمله لمنع استخدام الذكاء الاصطناعي كسلاح لإساءة الاستخدام”.
وأضاف غولدبرغ: “من خلال تصنيع صور جنسية صريحة للفتيات والنساء دون رضاهن، فإن الذكاء الاصطناعي المتطور يمثل مصدر إزعاج عام ومنتج غير آمن إلى حد معقول”.
يزعم ملف محكمة سانت كلير ما يلي: “استخرج مستخدمو X صورًا لسانت كلير وهي ترتدي ملابسها بالكامل وهي في الرابعة عشرة من عمرها وطلبوا من جروك خلع ملابسها ووضعها في البيكيني. وقد استجاب جروك”.
وتقول إن الصور التي تم إنشاؤها لسانت كلير كانت “غير موافقة بحكم الأمر الواقع”، لكن مطوري جروك كان لديهم أيضًا “معرفة صريحة” بعدم موافقتها.
وتزعم أيضًا أن جروك قام بإنشاء صورة تظهر سانت كلير، وهي يهودية، “في بيكيني خيطي مغطى بالصليب المعقوف”.
وردًا على شكاواها، يقول الملف، إن الشركة “انتقمت منها، وأخرجتها من التداول
يمكن لبعض مستخدمي X المتميزين، الذين يدفعون رسومًا شهرية، الحصول على حصة من إيرادات الإعلانات المكتسبة من المنشورات التي تتلقى الكثير من التفاعل.
في دعوى مضادة، قالت شركة xAI إن سانت كلير انتهكت شروط الخدمة الخاصة بها من خلال رفع دعوى قضائية في نيويورك.
تنص شروط الشركة على أن النزاعات مع شركة XAI يجب أن يتم تقديمها في ولاية تكساس.
وقال غولدبرغ لبي بي سي نيوز إن البدلة المضادة للشركة كانت “صادمة”.
وقالت: “لم أسمع قط عن أي مدعى عليه رفع دعوى قضائية ضد شخص ما لأنه أبلغه بنيته استخدام النظام القانوني”.
“ويتم تقليد سوء معاملتهم لها عبر الإنترنت في استراتيجيتهم القانونية.”
وأضافت أن سانت كلير “ستدافع بقوة” عن قضيتها في نيويورك وأن “أي سلطة قضائية ستعترف” بالشكوى.
وكشفت سانت كلير في منشور على موقع X العام الماضي أنها أنجبت طفلاً من ملياردير التكنولوجيا، وهو واحد من 13 طفلاً على الأقل يعتقد أنه أنجبهم.
يُعتقد أن سانت كلير وماسك يخوضان معركة حضانة على طفلهما.
تعرض X لتدقيق مكثف من المستخدمين والسياسيين والمنظمين في جميع أنحاء العالم بسبب استخدام Grok في صنع صور جنسية بدون موافقة الأشخاص.
وتمكن المستخدمون من وضع علامة على حساب Grok في المنشورات أو الردود على المنشورات على المنصة ومطالبته بتحرير الصور للأشخاص الذين جردوا من ملابسهم.
استجابت شركة Grok للعديد من هذه الطلبات لإنتاج صور واقعية لنساء حقيقيات يرتدين البكيني والملابس الكاشفة – مع تقارير تفيد بأنها أنتجت أيضًا صورًا جنسية للأطفال.
وفي يوم الأربعاء، قبل تقديمها للمحكمة، قالت سانت كلير لبي بي سي نيوزنايت إن صورتها “تم تجريدها” لتبدو “عارية بشكل أساسي، ومنحنية” على الرغم من إخبارها لغروك بأنها لم توافق على الصور ذات الطابع الجنسي.
وقالت هي ونساء أخريات تم تحرير صورهن باستخدام برنامج Grok، إن الموقع لا يفعل ما يكفي لمعالجة المحتوى غير القانوني، بما في ذلك صور الاعتداء الجنسي على الأطفال.
وبعد رد فعل عنيف، غيرت X قواعدها بحيث لا يتمكن سوى المستخدمين المدفوعين من استخدام الوظيفة – مما أثار انتقادات من المجموعات النسائية وحكومة المملكة المتحدة.
وقالت الشركة يوم الأربعاء إن جميع مستخدمي X لن يتمكنوا بعد الآن من تحرير صور لأشخاص حقيقيين لإظهارهم في ملابس كاشفة في المناطق القضائية التي يكون فيها ذلك غير قانوني.
قامت لاحقًا بتحديث منشورها لتقول إنها ستنفذ “إجراءات حظر جغرافي مماثلة لتطبيق Grok”، المنفصل عن X.
يوم الجمعة، ذكرت صحيفة الغارديان أنه لا يزال من الممكن استخدام تطبيق Grok المستقل لإنشاء صور مزيفة ذات طابع جنسي لأشخاص حقيقيين ونشرها على X “دون أي علامة على أنها خاضعة للإشراف”.
تعمل حكومة المملكة المتحدة على تطبيق قانون سيجعل من غير القانوني إنشاء صور حميمة غير توافقية، ولا تزال الجهة التنظيمية Ofcom تحقق فيما إذا كان X قد خرق قوانين المملكة المتحدة الحالية.
