تخطط شركة OpenAI للسماح بنطاق أوسع من المحتوى، بما في ذلك المحتوى المثير، على برنامج الدردشة الشهير ChatGPT كجزء من سعيها “لمعاملة المستخدمين البالغين مثل البالغين”، كما يقول رئيسها سام ألتمان.
في منشور على maxxing”.
هذه الخطوة، التي تذكرنا بتقديم Elon Musk’s xAI مؤخرًا لاثنين من روبوتات الدردشة الجنسية الصريحة إلى Grok، يمكن أن تساعد OpenAI في جذب المزيد من المشتركين الذين يدفعون.
ومن المرجح أيضًا أن يؤدي ذلك إلى تكثيف الضغط على المشاركين لفرض قيود أكثر صرامة على رفاق روبوتات الدردشة.
ولم تستجب شركة OpenAI لطلبات بي بي سي للتعليق بعد منشور ألتمان.
وجاءت التغييرات التي أعلنتها الشركة بعد أن رفعت دعوى قضائية ضدها في وقت سابق من هذا العام من قبل والدي مراهق أمريكي انتحر.
كانت الدعوى القضائية التي رفعها مات وماريا رين، وهما والدا آدم رين البالغ من العمر 16 عامًا، أول إجراء قانوني يتهم شركة OpenAI بالقتل غير المشروع.
وانتقد الزوجان من كاليفورنيا أدوات الرقابة الأبوية التي تطبقها الشركة، والتي قالا إنها مصممة لتعزيز الاستخدام الصحي لبرنامج الدردشة الآلي الخاص بها، قائلين إنها لم تكن كافية.
قامت العائلة بتضمين سجلات الدردشة بين آدم، الذي توفي في أبريل، وChatGPT والتي تظهر له وهو يشرح أن لديه أفكار انتحارية.
قال ألتمان إن OpenAI جعل ChatGPT سابقًا “مقيدًا جدًا للتأكد من أننا كنا حذرين فيما يتعلق بقضايا الصحة العقلية”.
وقال ألتمان: “نحن ندرك أن هذا جعل الأمر أقل فائدة/متعة بالنسبة للعديد من المستخدمين الذين لا يعانون من مشاكل في الصحة العقلية، ولكن نظرًا لخطورة المشكلة، أردنا تصحيح هذا الأمر”.
وقال إن الشركة أصبحت الآن قادرة على التخفيف من المخاطر الخطيرة على الصحة العقلية ولديها أدوات جديدة تسمح لها “بتخفيف القيود بأمان في معظم الحالات”.
وقال: “في ديسمبر/كانون الأول، بينما نطرح نظام تحديد الأعمار بشكل كامل وكجزء من مبدأ “معاملة المستخدمين البالغين مثل البالغين”، سنسمح بالمزيد، مثل الإثارة الجنسية للبالغين الذين تم التحقق منهم”.
يقول النقاد إن قرار OpenAI بالسماح بالإثارة الجنسية على المنصة يظهر الحاجة إلى مزيد من التنظيم على المستوى الفيدرالي ومستوى الولايات.
“كيف سيتأكدون من أن الأطفال لن يتمكنوا من الوصول إلى أجزاء ChatGPT المخصصة للبالغين فقط والتي تقدم الشبقية؟” قالت جيني كيم، الشريكة في مكتب المحاماة Boies Schiller Flexner. “الذكاء الاصطناعي المفتوح، مثل معظم شركات التكنولوجيا الكبرى في هذا المجال، يستخدم أشخاصًا مثل فئران التجارب.”
تتورط السيدة كيم في دعوى قضائية ضد شركة Meta تدعي أن خوارزمية Instagram الخاصة بالشركة تضر بالصحة العقلية للمستخدمين المراهقين.
وقالت: “نحن لا نعرف حتى ما إذا كانت عملية تحديد أعمارهم ستنجح أم لا”.
في أبريل، ذكرت TechCrunch أن OpenAI كانت تسمح للحسابات التي سجل فيها المستخدم كقاصر بإنشاء صور مثيرة.
قالت OpenAI في ذلك الوقت إن الشركة كانت تطرح إصلاحًا للحد من هذا المحتوى.
وجدت دراسة استقصائية نشرها هذا الشهر مركز الديمقراطية والتكنولوجيا (CDT) غير الربحي أن واحدًا من كل خمسة طلاب أفادوا أنهم أو أي شخص يعرفونه كان لديه علاقة رومانسية مع الذكاء الاصطناعي.
في يوم الاثنين، استخدم حاكم ولاية كاليفورنيا جافين نيوسوم حق النقض ضد مشروع قانون أقره المجلس التشريعي للولاية والذي كان من شأنه أن يمنع المطورين من تقديم مرافقين لروبوتات الدردشة المدعمة بالذكاء الاصطناعي للأطفال ما لم تتمكن الشركات من ضمان أن البرنامج لن يولد سلوكًا ضارًا.
وقال نيوسوم إنه “من الضروري أن يتعلم المراهقون كيفية التفاعل بأمان مع أنظمة الذكاء الاصطناعي” في رسالة رافقت نقضه.
على المستوى الوطني، أطلقت لجنة التجارة الفيدرالية الأمريكية (FTC) تحقيقًا حول كيفية تفاعل روبوتات الدردشة المدعمة بالذكاء الاصطناعي مع الأطفال.
في مجلس الشيوخ الأمريكي الشهر الماضي، تم تقديم تشريع من الحزبين الجمهوري والديمقراطي من شأنه أن يصنف روبوتات الدردشة التي تعمل بالذكاء الاصطناعي كمنتجات. سيسمح القانون للمستخدمين بتقديم مطالبات بالمسؤولية ضد مطوري برامج الدردشة الآلية.
ويأتي إعلان ألتمان يوم الثلاثاء في الوقت الذي كان فيه المتشككون يشككون في الارتفاع السريع في قيمة شركات تكنولوجيا الذكاء الاصطناعي.
تتزايد إيرادات OpenAI، لكنها لم تكن مربحة على الإطلاق.
وقال روب لالكا، أستاذ الأعمال بجامعة تولين، والذي قام بتأليف الكتاب الأخير The Venture Alchemists، إن شركات الذكاء الاصطناعي الكبرى تجد نفسها في معركة من أجل الحصول على حصة في السوق.
وقال لالكا لبي بي سي: “لم تحصل أي شركة على الإطلاق على هذا النوع من التبني الذي شهدته OpenAI مع ChatGPT”.
“لقد كانوا بحاجة إلى الاستمرار في دفع منحنى النمو المتسارع، وتحقيق الهيمنة على السوق بقدر ما يستطيعون”.
