ينضم Openai إلى شركات التكنولوجيا الأخرى التي جربت إصدارات خاصة من شباب خدماتهم. تمثل Kids YouTube Kids و Instagram Teen وقيود Tiktok تحت 16 عامًا جهودًا مماثلة لإنشاء مساحات رقمية “أكثر أمانًا” للمستخدمين الشباب ، لكن المراهقين يتحايلون بشكل روتيني على التحقق من العمر من خلال إدخالات تاريخ الميلاد الخاطئة أو الحسابات المستعارة أو العامل الفني. وجد تقرير 2024 بي بي سي أن 22 في المائة من الأطفال يكمن في منصات التواصل الاجتماعي حول أن يكونوا في سن 18 أو أكثر.
الخصوصية مقابل مقايضات السلامة
على الرغم من التكنولوجيا غير المثبتة وراء اكتشاف AI Age ، لا تزال Openai تخطط للمضي قدمًا في نظامها ، مع الاعتراف بأن البالغين سيضحيون بالخصوصية والمرونة لجعلها تعمل. أقر التمان بالتوتر الذي يخلقه هذا ، بالنظر إلى الطبيعة الحميمة لتفاعلات الذكاء الاصطناعي.
وكتب التمان في منصبه “يتحدث الناس إلى الذكاء الاصطناعى عن الأشياء الشخصية بشكل متزايد ؛ فهي تختلف عن الأجيال السابقة من التكنولوجيا ، ونعتقد أنها قد تكون واحدة من أكثر الحسابات ذات الحساسية الشخصية التي لديك على الإطلاق”.
يتبع دفعة السلامة إقرار Openai في أغسطس بأن تدابير السلامة في ChatGPT يمكن أن تنهار خلال المحادثات الطويلة – بشكل خاص عندما يحتاج المستخدمون المستضعفون إليها. وكتبت الشركة في ذلك الوقت ، “مع نمو الخلف والخلف ، قد تتدهور أجزاء من تدريب السلامة من النموذج” ، مشيرة إلى أنه على الرغم من أن ChatGPT قد يوجه المستخدمين بشكل صحيح إلى الخطوط الساخنة للانتحار في البداية ، “بعد العديد من الرسائل على مدار فترة زمنية طويلة ، قد تقدم إجابة تتعارض مع ضماناتنا”.
أثبت هذا التحلل في ضمانات المأساوية أنه يترتب على ذلك بشكل مأساوي في قضية آدم رين. وفقًا للدعوى القضائية ، ذكرت Chatgpt الانتحار 1،275 مرة في محادثات مع آدم – ست مرات أكثر من المراهق نفسه – في حين فشل بروتوكولات سلامة النظام في التدخل أو إخطار أي شخص. وجد باحثو جامعة ستانفورد في يوليو أن روبوتات علاج الذكاء الاصطناعى يمكن أن تقدم نصيحة خطيرة للصحة العقلية ، وقد وثقت التقارير الحديثة حالات من المستخدمين المستضعفين الذين يطورون ما يسميه بعض الخبراء بشكل غير رسمي “الذهان من الذكاء الاصطناعي” بعد تفاعلات chatbot الممتدة.
لم يعالج Openai كيفية التعامل مع نظام التنفس العمري مع المستخدمين الحاليين الذين يستخدمون ChatGPT دون التحقق من العمر ، سواء كان النظام سوف ينطبق على وصول API ، أو كيف يخطط للتحقق من الأعمار في الولايات القضائية مع تعريفات قانونية مختلفة للبلوغ.
سيستمر جميع المستخدمين ، بغض النظر عن العمر ، في رؤية التذكيرات داخل التطبيق خلال جلسات ChatGPT الطويلة التي تشجع على أخذ فترات راحة-ميزة Openai التي تم تقديمها في وقت سابق من هذا العام بعد تقارير عن المستخدمين في جلسات ماراثون مع chatbot.
