قال ميتا إنها ستقدم المزيد من الدرابزين إلى ذلك في chatbots الذكاء الاصطناعي (AI) – بما في ذلك منعهم من التحدث إلى المراهقين حول الانتحار واضطرابات الأكل.
يأتي بعد أسبوعين من المراهقين.
وصفت الشركة الملاحظات في المجال ، التي حصلت عليها رويترز ، بأنها خاطئة وغير وثيقة مع سياساتها التي تحظر أي أطفال متجانسة.
لكنها تقول الآن إنها ستجعل chatbots المراهقين المباشرين لإلغاء موارد الإلغاء من اللغة الإنجليزية معهم في مواضيع Sensight Suchide.
وقال متحدث باسم الفوقية: “لقد بنينا حماية للمراهقين في منتجات AI منذ البداية ، بما في ذلك تصميم تلك للاستجابة بشكل أكثر أمانًا لمطالبات إيذاء الذات والانتحار واضطراب الأكل”.
وقالت الشركة لـ Tech News Publication TechCrunch يوم الجمعة إنها ستضيف المزيد من الدرابزين إلى أنظمتها “باعتبارها Exxra Preculation” والحدود المؤقتة للمراهقين Counfles.
لكن أندي بوروز ، رئيس مؤسسة مولي روز ، قال إنه كان “مذهلاً” ميتا قد أتاحت الدردشة التي تعرض الشباب لخطر الأذى.
“بينما يقيس أكثر أمانًا آريس” ، قال.
“يجب أن تصرف Meta بصراحة وحاسمة لتنفيذ مقاييس أكثر أمانًا لأجهزة chatbots من الذكاء الاصطناعي ، ويجب أن تقف على استعداد للتحقيق إذا فشلت هذه الصعود في أمان الأطفال.
قال Meta إنه يحتل بالفعل المستخدمين الذين تتراوح أعمارهم بين 13 و 18 عامًا في “حسابات المراهقين” على Facebook و Instagram و Messenger ، مع إعدادات المحتوى والخصوصية الذين يهدفون إلى إعطاء تجربة أكثر أمانًا.
أخبرت بي بي سي في أبريل أن هؤلاء سيسمحون للآباء والأوصياء برؤيتك من AI chatbots التي تحدث إليها مراهقهم في الأيام السبعة الماضية.
وتأتي التغييرات وسط المفاهيم حول إمكانية أن تضلل مخططات chatbots من الذكاء الاصطناعي المستخدمين الشباب أو الضعفاء.
قام زوجان من كاليفورنيا مؤخرًا بمقاضاة Chatgpt-Makeer على وفاة ابنهما المراهق ، زعما أن chatbot قام بتشفيره لتولي حياته.
جاءت الدعوى بعد
وقال المعرض في منشور مدونة: “يمكن أن تشعر الذكاء الاصطناعي بمزيد من الاستجابة والشخصية من التقنيات السابقة ، خاصة بالنسبة للأفراد الضعفاء الذين يعانون من الضيق العقلي أو العاطفي”.
وفي الوقت نفسه ، أبلغت رويترز يوم الجمعة عن أدوات Meta AI التي تسمح للمستخدمين بإنشاء مجموعات الدردشة التي استخدمها البعض – بما في ذلك عمل Meta – لإنتاج مفاتيح الدردشة “محاكاة ساخرة” مغازلة للمشاهير الإناث.
من بين الدردشة الاحتفالية التي شوهدتها وكالة الأنباء ، كانت تستخدم مثل الفنان تايلور سويفت والممثلة سكارليت جوهانسون.
قال رويترز
وقالت إن أدوات Meta سمحت أيضًا بإنشاء مفاتيح chatbots التي تنتحل شخصية مشاهير الأطفال ، وفي إحدى الحالات ، ولدت صورة ضوئية بدون قميص لنجم واحد من الذكور.
ذكرت العديد من الدردشة المعنية في وقت لاحق من قبل META ، حسبما ذكرت.
وقال متحدث باسم التعريف “مثل الآخرين ، نسمح لتوليد الصور التي تحتوي على شخصيات عامة ، ولكن سياساتنا تهدف إلى حظر صور عارية أو حميمة أو موحية جنسيًا”.
يضافون أن قواعد استوديو الذكاء الاصطناعى لا سمحت “اتجاه الشخصيات العامة”.
