في يوم الثلاثاء ، أعلنت شركة Openai عن خطط لطرح أدوات التحكم الوالدية في ChatGPT وتوجيه محادثات الصحة العقلية الحساسة إلى نماذج التفكير المحاكاة الخاصة بها ، في أعقاب ما أسماته الشركة “حالات مفجعة” للمستخدمين الذين يعانون من الأزمات أثناء استخدام مساعد الذكاء الاصطناعي. تأتي الحركات بعد عدة حوادث تم الإبلاغ عنها حيث فشلت ChatGPT في التدخل بشكل مناسب عندما عبر المستخدمون عن أفكار انتحارية أو حلقات الصحة العقلية ذات الخبرة.
وكتب Openai في أحد المدونة المنشور يوم الثلاثاء: “لقد كان هذا العمل جاريًا بالفعل ، لكننا نريد أن ننظر بشكل استباقي إلى خططنا خلال الـ 120 يومًا القادمة ، لذلك لن تحتاج إلى انتظار عمليات الإطلاق لمعرفة أين نتجه”. “سيستمر العمل بعد هذه الفترة الزمنية ، لكننا بذل جهد مركّز لإطلاق أكبر عدد ممكن من هذه التحسينات هذا العام.”
تمثل الضوابط الوالدية المخططة الاستجابة الأكثر ملموسًا للمخاوف بشأن سلامة المراهقين على المنصة حتى الآن. في غضون الشهر التالي ، يقول Openai ، سيتمكن أولياء الأمور من ربط حساباتهم بحسابات ChatGPT الخاصة بالمراهقين (الحد الأدنى من العمر 13) من خلال دعوات البريد الإلكتروني ، والتحكم في كيفية استجابة نموذج الذكاء الاصطناعى بقواعد السلوك المناسبة للعمر التي يتم تشغيلها بشكل افتراضي ، وإدارة الميزات التي يجب تعطيلها (بما في ذلك سجل الذاكرة) ، وتلقي الإخطارات عند اكتشاف النظام الذي يعاني من تجربة المراهقين.
تعتمد أدوات التحكم الوالدية على الميزات الحالية مثل تذكيرات في التطبيق خلال الجلسات الطويلة التي تشجع المستخدمين على أخذ فترات راحة ، والتي تم طرحها على جميع المستخدمين في أغسطس.
حالات رفيعة المستوى تتغير السلامة في السلامة
تصل مبادرة السلامة الجديدة من Openai بعد عدة حالات رفيعة المستوى لفحصت إلى معالجة ChatGpt للمستخدمين المستضعفين. في أغسطس / آب ، رفع مات وماريا راين دعوى ضد Openai بعد أن توفي ابنهما آدم البالغ من العمر 16 عامًا بسبب الانتحار في أعقاب تفاعلات شديدة الكثافة التي تضمنت 377 رسالة تم وضع علامة عليها للحصول على محتوى إيذاء ذاتي. وفقًا لوثائق المحكمة ، ذكر Chatgpt الانتحار 1،275 مرة في محادثات مع آدم – ستة مرات أكثر من المراهق نفسه. في الأسبوع الماضي ، ذكرت صحيفة وول ستريت جورنال أن رجلاً يبلغ من العمر 56 عامًا قتل والدته ونفسه بعد أن عزز شاتغبت أوهامه بجنون العظمة بدلاً من تحديها.
لتوجيه هذه التحسينات في السلامة ، تعمل Openai مع ما يسميه مجلس الخبراء على الرفاه و AI “لتشكيل رؤية واضحة قائمة على الأدلة لكيفية دعم الذكاء الاصطناعى رفاهية الناس” ، وفقًا لمدونة الشركة. سيساعد المجلس في تحديد وقياس الرفاه ، وتحديد الأولويات ، وتصميم ضمانات مستقبلية بما في ذلك ضوابط الوالدين.
