يتسبب تطبيق Lensa AI في إثارة ضجة مع صور “Magic Avatar” المثيرة التي لا يريدها أحد

خلال الأسبوع الماضي ، أصبح تطبيق الهاتف الذكي Lensa AI موضوعًا شائعًا على وسائل التواصل الاجتماعي لأنه يمكن أن ينشئ صورًا رمزية منمنمة للذكاء الاصطناعي استنادًا إلى صور السيلفي التي يقوم المستخدمون بتحميلها. يمكن القول إنها المرة الأولى التي يصل فيها جيل أفاتار الانتشار الكامن الشخصي إلى جمهور واسع.

في حين أن Lensa AI أثبتت شعبيتها بين الأشخاص على وسائل التواصل الاجتماعي الذين يرغبون في مشاركة صورهم الشخصية بالذكاء الاصطناعي ، فقد ركزت الصحافة على نطاق واسع على ميل التطبيق المُبلغ عنه لإضفاء الطابع الجنسي على صور النساء عند إطلاق ميزة Lensa AI avatar.

تم إطلاق Lensa في عام 2018 باعتباره أحد منتجات Prisma Labs كتطبيق اشتراك يركز على تحرير الصور المدعوم بالذكاء الاصطناعي. في أواخر تشرين الثاني (نوفمبر) 2022 ، نمت شعبية التطبيق بفضل ميزة “Magic Avatar” الجديدة. يقال إن Lensa تستخدم نموذج توليف الصورة Stable Diffusion تحت الغطاء ، ويبدو أن Magic Avatar تستخدم طريقة تدريب التخصيص المشابهة لـ Dreambooth (التي غطينا تداعياتها مؤخرًا). تتم جميع التدريبات خارج الجهاز وفي السحابة.

في أوائل شهر ديسمبر ، لاحظت النساء اللائي يستخدمن التطبيق أن ميزة Magic Avatar في Lensa ستنشئ صورًا شبه إباحية أو جنسية عن غير قصد. بالنسبة إلى CNN ، كتبت Zoe Sottile: “أحد التحديات التي واجهتها في التطبيق وصفته نساء أخريات عبر الإنترنت. على الرغم من أن جميع الصور التي حمّلتها كانت بكامل ملابسها ومعظمها لقطات مقربة لوجهي ، أعاد التطبيق عدة صور مع العري الضمني أو الفعلي “.

نما رد الفعل في الصحافة حيث مرت نساء أخريات بأشياء مماثلة. على سبيل المثال ، إليك مجموعة مختارة من العناوين الرئيسية التي تغطي Lensa في منشورات مختلفة:

وفي الوقت نفسه ، لم تظهر نفس مشكلة التحريض الجنسي في صور الرجال التي تم تحميلها على ميزة Magic Avatar. بالنسبة لـ MIT Technology Review ، كتبت ميليسا هيكيلا: “تم تصوير صورتي الرمزية بشكل إباحي ، بينما كان زملائي الذكور رواد فضاء ومستكشفين ومخترعين.”

هذا هو أحد مخاطر تأسيس منتج على Stable Diffusion 1. x ، والذي يمكنه بسهولة جعل ناتجه جنسيًا بشكل افتراضي. يأتي السلوك من الكمية الكبيرة من الصور الجنسية الموجودة في مجموعة بيانات التدريب على الصور ، والتي تم إزالتها من الإنترنت. (حاول Stable Diffusion 2.x تصحيح ذلك عن طريق إزالة مادة NSFW من مجموعة التدريب.)

أعطت التحيزات الثقافية للإنترنت تجاه التصوير الجنسي للمرأة منشئ Lensa AI ميولها. في حديثه إلى TechCrunch ، قال Andrey Usoltsev ، الرئيس التنفيذي لشركة Prisma Labs ، “لا يمكننا نحن ولا منظمة Stability AI تطبيق أي تمثيل للتحيزات عن وعي ؛ لكي نكون أكثر دقة ، قدمت البيانات غير المفلترة من صنع الإنسان والتي تم الحصول عليها عبر الإنترنت النموذج للتحيزات الحالية للبشرية. يقر المبدعون بإمكانية وجود تحيزات مجتمعية ، ونحن كذلك “.

رداً على الانتقادات الواسعة النطاق ، تعمل Prisma Labs على منع التوليد العرضي للصور العارية في Lensa AI.

يوم الثلاثاء ، جربنا Lensa AI من خلال تحميل 15 صورة لامرأة (وكذلك 15 صورة لرجل) ، ثم دفعنا مقابل تمثيل Magic Avatar لكل منها. سيكون من المبالغة استدعاء نتائج المرأة التي رأيناها جنسية بطريقة واضحة بشكل واضح ، لذلك قد تكون جهود Prisma لتقليل حدوث صور على غرار NSFW تعمل بالفعل.

هذا لا يعني أن ميول Lensa AI لإضفاء الطابع الجنسي على الموضوعات النسائية غير موجودة. تجدر الإشارة إلى أنه نظرًا لكيفية إنشاء Stable Diffusion للصور ، فمن المحتمل أن ترى نساء مختلفات نتائج مختلفة اعتمادًا على مدى تشابه وجههن (أو إدخال الصور) مع صور ممثلة أو شخصية مشهورة أو عارضة أزياء معينة في مجموعة بيانات Stable Diffusion. في تجربتنا ، يمكن أن يملي ذلك بشكل كبير كيف أن الانتشار المستقر يجعل بقية جسم الشخص وسياقه.

يعد استخدام Lensa AI أمرًا سهلاً ، ولكنه منتج برسوم اشتراك سنوية (حاليًا 50 دولارًا في السنة) ورسمًا لمرة واحدة لتدريب صور Magic Avatar – 3.99 دولارًا مقابل 50 صورة رمزية ، و 5.99 دولارًا مقابل 100 صورة رمزية ، أو 7.99 دولارًا مقابل 200 صورة رمزية. يقوم العملاء بتحميل من 10 إلى 20 صورة شخصية مأخوذة من زوايا مختلفة ثم ينتظرون ما يقرب من 20 إلى 30 دقيقة لرؤية النتائج. يجب على المستخدمين التأكيد على أنهم أكبر من 18 عامًا أو أكبر لاستخدام الخدمة.

يمكن لأولئك الذين يميلون تقنيًا تجربة Dreambooth بدلاً من ذلك مجانًا ، لكنه يتطلب حاليًا بعض المعرفة بأدوات التطوير لبدء العمل.