أخبار التقنية

“آسف مقدما!” Snapchat يحذر من الهلوسة باستخدام روبوت محادثة جديد بالذكاء الاصطناعي


بنج إدواردز / سناب ، إنك.

أعلنت سناب شات يوم الاثنين عن روبوت محادثة تجريبي مدعوم بالذكاء الاصطناعي يسمى “My AI” ، مدعوم بتقنية شات جي بي تي من أوبن إيه آي. سيكون الذكاء الاصطناعي الخاص بي متاحًا مقابل 3.99 دولارات شهريًا لمشتركي Snapchat + ويتم طرحه “هذا الأسبوع” ، وفقًا لما ورد في منشور إخباري من Snap، Inc.

سيتمكن المستخدمون من تخصيص روبوت الذكاء الاصطناعي من خلال إعطائه اسمًا مخصصًا. ستتم المحادثات مع نموذج الذكاء الاصطناعي في واجهة مشابهة للدردشة العادية مع الإنسان. قال الرئيس التنفيذي لشركة Snap Evan Spiegel لموقع The Verge: “الفكرة الكبرى هي أنه بالإضافة إلى التحدث إلى أصدقائنا وعائلتنا كل يوم ، سنتحدث إلى الذكاء الاصطناعي كل يوم”.

ولكن مثل أبناء عمومتها المدعومين من GPT ، ChatGPT و Bing Chat ، تقول Snap إن My AI عرضة لـ “الهلوسة” ، وهي أكاذيب غير متوقعة تم إنشاؤها بواسطة نموذج AI. في هذه النقطة ، يتضمن Snap إخلاءًا مطولًا إلى حد ما في منشور إعلان My AI الخاص به:

“كما هو الحال مع جميع روبوتات الدردشة المدعومة بالذكاء الاصطناعي ، فإن الذكاء الاصطناعي الخاص بي معرض للهلوسة ويمكن خداعه ليقول أي شيء تقريبًا. يرجى الانتباه إلى عيوبه العديدة وآسف مقدمًا! سيتم تخزين جميع المحادثات مع My AI وقد تتم مراجعتها تحسين تجربة المنتج. من فضلك لا تشارك أي أسرار مع My AI ولا تعتمد عليها للحصول على المشورة. “

بين الباحثين في مجال التعلم الآلي ، “الهلوسة” هو مصطلح فني يصف الوقت الذي يقدم فيه نموذج الذكاء الاصطناعي استنتاجات غير دقيقة حول موضوع أو موقف لم يتم تغطيته في مجموعة بيانات التدريب الخاصة به. إنه عيب معروف في نماذج اللغات الكبيرة الحالية مثل ChatGPT ، والتي يمكنها بسهولة اختلاق أكاذيب تبدو مقنعة ، مثل أوراق أكاديمية التي لا وجود لها و السير الذاتية غير الدقيقة.

على الرغم من إخلاء Snap القوي حول ميل الذكاء الاصطناعي الخاص بي إلى اختلاق الأشياء ، تقول الشركة إن برنامجها الآلي Snapchat الجديد سيتم تثبيته فوق المحادثات مع الأصدقاء في علامة التبويب الخاصة بها في تطبيق Snapchat و “ستوصي بأفكار هدايا عيد الميلاد لصديقك المفضل ، والتخطيط لرحلة مشي لمسافات طويلة . ” لقضاء عطلة نهاية أسبوع طويلة ، اقترح وصفة لتناول العشاء ، أو حتى اكتب هايكو عن الجبن لصديقك المهووس بالجبن “.

Snap لا يوفق كيف أن نفس الروبوت الذي لا يمكن أن يكون “rel[ied] للحصول على المشورة “يمكن أن يخطط أيضًا لرحلة المشي لمسافات طويلة دقيقة وآمنة لعطلة نهاية أسبوع طويلة.” وقد استغل منتقدو الإطلاق السريع للذكاء الاصطناعي التوليدي هذا النوع من التنافر لإظهار أن روبوتات الدردشة هذه ربما ليست جاهزة للاستخدام على نطاق واسع ، خاصةً عندما قدم كمرجع.

في حين أن الناس قد صنعوا شيئًا من لعبة لمحاولة التحايل على حلول ChatGPT و Bing Chat ، فقد ورد أن Snap قد دربت مجموعة متنوعة من نماذج GPT على عدم مناقشة الجنس أو الشتائم أو العنف أو الآراء السياسية. قد تكون هذه القيود ضرورية بشكل خاص لتجنب السلوك غير المختل الذي رأيناه مع Bing Chat قبل بضعة أسابيع.

ومضاعفة ذلك ، لأن “My AI” قد يكون لديه شيء قوي للغاية يعمل تحت الغطاء: نموذج اللغة الكبير من الجيل التالي لـ OpenAI. وفقًا لـ The Verge ، تستخدم Snap خطة مؤسسة OpenAI جديدة تسمى “مسبكالتي طرحها برنامج OpenAI بهدوء في وقت سابق من هذا الشهر. إنه يمنح الشركات وصولاً سحابيًا مخصصًا إلى طرازي GPT-3.5 و DV الخاصين بـ OpenAI. العديد من خبراء الذكاء الاصطناعي لديهم تكهن أن “DV” قد يكون معادلاً لـ GPT-4 ، وهو ما يُشاع عن متابعة قوية لـ GPT-3.

بعبارة أخرى ، قد تأتي “الهلوسة” المذكورة في بيانها الإخباري أسرع وأكثر تفصيلاً من ChatGPT. وبالنظر إلى الطبيعة المقنعة للغاية لنماذج GPT الأخرى ، فقد يصدقها الناس فقط ، على الرغم من التحذيرات. إنه شيء يجب مراقبته في الأشهر المقبلة مع ظهور خدمات تجارية جديدة مدعومة من GPT عبر الإنترنت.



مقالات ذات صلة

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

زر الذهاب إلى الأعلى