أعلن سام ألتمان، الرئيس التنفيذي لشركة OpenAI، يوم الثلاثاء، أن الشركة ستسمح للمستخدمين البالغين الذين تم التحقق منهم بإجراء محادثات مثيرة مع ChatGPT بدءًا من ديسمبر. يمثل هذا التغيير تحولًا في كيفية تعامل OpenAI مع قيود المحتوى، والتي خففتها الشركة في فبراير، لكنها شددتها بعد ذلك بشكل كبير بعد دعوى قضائية في أغسطس رفعها والدا مراهق مات بسبب الانتحار بعد تلقيه التشجيع من ChatGPT.
كتب ألتمان في منشوره على موقع X (تويتر سابقًا): “في شهر ديسمبر/كانون الأول، بينما نطرح نظام تحديد الأعمار بشكل كامل وكجزء من مبدأ “معاملة المستخدمين البالغين مثل البالغين”، سنسمح بالمزيد، مثل الإثارة الجنسية للبالغين الذين تم التحقق منهم”. يأتي هذا الإعلان في أعقاب تلميح OpenAI الأخير بأنه سيسمح للمطورين بإنشاء تطبيقات ChatGPT “ناضجة” بمجرد أن تنفذ الشركة التحقق من العمر والضوابط المناسبة.
أوضح ألتمان أن OpenAI جعلت ChatGPT “مقيدًا جدًا للتأكد من أننا كنا حذرين فيما يتعلق بقضايا الصحة العقلية” لكنه أقر بأن هذا النهج جعل برنامج الدردشة الآلي “أقل فائدة/متعة للعديد من المستخدمين الذين ليس لديهم مشاكل في الصحة العقلية”. وقال الرئيس التنفيذي إن الشركة لديها الآن أدوات جديدة لاكتشاف بشكل أفضل عندما يعاني المستخدمون من اضطراب عقلي، مما يسمح لـ OpenAI بتخفيف القيود في معظم الحالات.
لقد كان تحقيق التوازن الصحيح بين حرية البالغين وسلامة المستخدمين بمثابة موازنة صعبة بالنسبة لشركة OpenAI، التي تأرجحت بين ضوابط محتوى الدردشة المتساهلة والمقيدة خلال العام الماضي.
في شهر فبراير، قامت الشركة بتحديث مواصفات النموذج الخاص بها للسماح بالإثارة الجنسية في “السياقات المناسبة”. لكن تحديث شهر مارس جعل GPT-4o مقبولًا للغاية لدرجة أن المستخدمين اشتكوا من “لهجته الإيجابية بلا هوادة”. بحلول أغسطس، أبلغت Ars عن الحالات التي أدى فيها سلوك ChatGPT المتملق إلى التحقق من صحة معتقدات المستخدمين الخاطئة إلى درجة التسبب في أزمات الصحة العقلية، ولم يمض وقت طويل حتى وصلت أخبار دعوى الانتحار المذكورة أعلاه.
وبصرف النظر عن تعديل المخرجات السلوكية لنموذج لغة GPT-40 AI السابق، فقد خلقت تغييرات النموذج الجديدة أيضًا بعض الاضطرابات بين المستخدمين. منذ إطلاق GPT-5 في أوائل أغسطس، اشتكى بعض المستخدمين من أن النموذج الجديد يبدو أقل جاذبية من سابقه، مما دفع OpenAI إلى إعادة النموذج الأقدم كخيار. وقال ألتمان إن الإصدار القادم سيسمح للمستخدمين باختيار ما إذا كانوا يريدون من ChatGPT “الرد بطريقة تشبه الإنسان تمامًا، أو استخدام الكثير من الرموز التعبيرية، أو التصرف كصديق”.
