Jannah Theme License is not validated, Go to the theme options page to validate the license, You need a single license for each domain name.
أخبار التقنية

لماذا يعتبر ChatGPT و Bing Chat جيدًا في اختلاق الأشياء


أوريك لوسون | GettyImages

على مدار الأشهر القليلة الماضية ، استحوذت روبوتات الدردشة المدعومة بالذكاء الاصطناعي مثل ChatGPT على اهتمام العالم نظرًا لقدرتها على التحدث بطريقة تشبه البشر في أي موضوع تقريبًا. لكنها تأتي مع عيب خطير: يمكنهم تقديم معلومات كاذبة مقنعة بسهولة ، مما يجعلها مصادر غير موثوقة للمعلومات الواقعية ومصادر محتملة للتشهير.

لماذا تقوم روبوتات الدردشة بالذكاء الاصطناعي بصنع الأشياء ، وهل سنكون قادرين على الوثوق التام بمخرجاتها؟ لقد سألنا العديد من الخبراء وبحثنا في كيفية عمل نماذج الذكاء الاصطناعي هذه للعثور على الإجابات.

“الهلوسة” – مصطلح محمل في الذكاء الاصطناعي

تعتمد روبوتات الدردشة المدعومة بالذكاء الاصطناعي مثل ChatGPT من OpenAI على نوع من الذكاء الاصطناعي يسمى “نموذج اللغة الكبيرة” (LLM) لتوليد ردودهم. LLM هو برنامج كمبيوتر تم تدريبه على الملايين من مصادر النصوص التي يمكنها قراءة نصوص “لغة طبيعية” وتوليدها – وهي اللغة التي يكتبها البشر أو يتكلمون بها بشكل طبيعي. لسوء الحظ ، يمكنهم أيضًا ارتكاب الأخطاء.

في الأدبيات الأكاديمية ، غالبًا ما يطلق باحثو الذكاء الاصطناعي على هذه الأخطاء اسم “هلوسة”. لكن هذا التصنيف أصبح مثيرًا للجدل حيث أصبح الموضوع سائدًا لأن بعض الناس يشعرون أنه يجسد نماذج الذكاء الاصطناعي (مما يشير إلى أن لديهم ميزات شبيهة بالبشر) أو يمنحهم وكالة (مما يشير إلى أنه يمكنهم اتخاذ خياراتهم الخاصة) في المواقف التي لا ينبغي فيها الإشارة إليها ضمنيًا. قد يستخدم منشئو LLMs التجارية أيضًا الهلوسة كذريعة لإلقاء اللوم على نموذج AI للمخرجات المعيبة بدلاً من تحمل مسؤولية المخرجات بأنفسهم.

ومع ذلك ، فإن الذكاء الاصطناعي التوليدي جديد للغاية لدرجة أننا بحاجة إلى استعارات مستعارة من الأفكار الحالية لشرح هذه المفاهيم عالية التقنية للجمهور الأوسع. في هذا السياق ، نشعر أن مصطلح “confabulation” ، على الرغم من أنه غير كامل بالمثل ، هو استعارة أفضل من “الهلوسة”. في علم النفس البشري ، تحدث “البركة” عندما تكون ذاكرة شخص ما بها فجوة ويملأ الدماغ الباقي بشكل مقنع دون نية خداع الآخرين. الدردشة لا يعمل مثل الدماغ البشري ، ولكن يمكن القول إن مصطلح “confabulation” يمثل استعارة أفضل لأن هناك مبدأ إبداعيًا لملء الفجوات في العمل ، كما سنستكشف أدناه.

مشكلة الالتفاف

إنها مشكلة كبيرة عندما يولد روبوت الذكاء الاصطناعي معلومات خاطئة يمكن أن تكون مضللة أو مضللة أو تشويه سمعة. في الآونة الأخيرة ، نشرت صحيفة واشنطن بوست تقريرًا عن أستاذ قانون اكتشف أن ChatGPT قد وضعه على قائمة علماء القانون الذين تحرشوا جنسياً بشخص ما. لكن هذا لم يحدث أبدًا – اختلقه ChatGPT. في اليوم نفسه ، أبلغ آرس عن عمدة أسترالي زُعم أنه اكتشف أن ChatGPT ادعى أنه أدين بالرشوة وحُكم عليه بالسجن ، وهي اختلاق كامل.

بعد وقت قصير من إطلاق ChatGPT ، بدأ الناس يعلنون نهاية محرك البحث. في الوقت نفسه ، على الرغم من ذلك ، بدأت العديد من الأمثلة على تفسيرات ChatGPT تنتشر على وسائل التواصل الاجتماعي. اخترع روبوت الذكاء الاصطناعي الكتب و دراسات غير موجود ، المنشورات أن الأساتذة لم يكتبوا ، وهم مزيفون أوراق أكاديميةخطأ شنيع الاستشهادات القانونيةغير موجود ميزات نظام Linuxغير حقيقي تمائم البيع بالتجزئةو تفاصيل تقنية هذا لا معنى له.

ومع ذلك ، على الرغم من ميل ChatGPT للتضليل العرضي ، على عكس الحدس ، فإن مقاومته للمصارعة هي سبب حديثنا عنها اليوم. يلاحظ بعض الخبراء أن ChatGPT كان من الناحية الفنية تحسينًا على الفانيليا GPT-3 (النموذج السابق) لأنه قد يرفض الإجابة على بعض الأسئلة أو يخبرك عندما قد لا تكون إجاباته دقيقة.

قال رايلي جودسايد ، الخبير في نماذج اللغات الكبيرة والذي يعمل كمهندس موجه للموظفين في Scale AI: “أحد العوامل الرئيسية في نجاح Chat هو أنه نجح في قمع التشويش بما يكفي لجعله غير ملحوظ للعديد من الأسئلة الشائعة”. “بالمقارنة مع سابقاتها ، فإن ChatGPT بشكل ملحوظ أقل عرضة لاختلاق الأشياء.”

إذا تم استخدامها كأداة للعصف الذهني ، فقد تؤدي القفزات المنطقية والمفاهيم المنطقية لـ ChatGPT إلى اختراقات إبداعية. ولكن عند استخدامه كمرجع واقعي ، يمكن أن يتسبب ChatGPT في ضرر حقيقي ، وتعرف OpenAI ذلك.

لم يمض وقت طويل على إطلاق النموذج ، الرئيس التنفيذي لشركة OpenAI Sam Altman غرد، “ChatGPT محدودة بشكل لا يصدق ، لكنها جيدة بما يكفي في بعض الأشياء لخلق انطباع مضلل بالعظمة. من الخطأ الاعتماد عليها في أي شيء مهم في الوقت الحالي. إنها معاينة للتقدم ؛ لدينا الكثير من العمل لنفعله بشأن القوة والصدق. ” في وقت لاحق سقسقةكتب: “أنالا يعرف الكثير ، لكن الخطر هو أنه واثق وخاطئ لجزء كبير من الوقت.

ما الذي يحدث هنا؟



مقالات ذات صلة

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

زر الذهاب إلى الأعلى

performance male enhancement cbd gummies effectiveness bio science male enhancement gummies an in depth look full body male enhancement cbd gummies health benefits dr oz gummies for ed do they really work truth male enhancement cbd gummies are they effective male enhancement gummies love bites a user guide love bites male enhancement gummies reviews what users say full body male enhancement gummies what to know alpha male enhancement gummies benefits and uses full body cbd gummies for ed user experiences sex drive gummies for woman boost your libido naturally hims sex pills effective solutions for men rhino sex pills powerful solutions for enhanced performance from 400 pounds to a healthier life nikocado avocados weight loss journey this is how khloe kardashian really lost weight the ultimate guide to ozempic vs wegovy for weight loss what you need to know 8 common weight loss mistakes and how to avoid them everything you need to know about the diet kelly clarkson says changed her life stop counting calories how wegovy help busy people lose weight before and after how did chrissy metz lose weight how chrissy metz lost 100 pounds her amazing weight loss story losing 100 pounds chrissy metzs weight loss journey overview 6 fast weight loss myths busted what really works how ben napier lost weight a deep dive into his 90 pound weight loss journey what is the best weight loss gummy try these in 2024 how to lose weight fast 8 expert approved strategies you cant miss how slimming gummies can boost your weight loss journey expert tips and tricks chrissy metzs 100 pound weight loss journey its not what you think 10 simple steps to kickstart your weight loss journey today chrissy metzs weight loss journey revealed how she lost stunning 100 pounds 7 days with apple cider vinegar a weight loss journey diary top 15 exercises for fast weight loss get fit in no time 6 reasons youre not losing belly fat and how to fix it delicious homemade protein shakes for weight loss you cant miss kelly clarkson shares her weight loss story2024 update oprah winfrey says no to weight loss gummies heres what worked for her kevin james weight loss explained the motivation method and mindset nikocado avocado 89 pound weight loss journey secrets uncovered lizzos weight loss journey through 2024 how she did that 10 proven strategies to melt away belly fat in just 4 weeks ozempic wegovy mounjaro reviews do they work for weight loss khloe kardashians weight loss methods approach to rapid weight loss oprah winfrey spills the tea my weight loss journey not gummies top 10 belly fat burning workouts you can do at home finding the best belly fat burning gummies for you a buyers guide the truth behind ozempic unveiling before after weight loss transformations wegovy weight loss results revealed seeing before and after photos what to expect weight loss wow what did kelly clarkson do to lose weight best foods to include in your diet for a flatter stomach do slimming gummies work for weight loss seeing the ingredients benefits reviews gummies vs lifestyle changes a sustainable approach to belly fat loss wegovy success guide 5 ways to maximize weight loss on wegovy oprah winfrey opens up about using ozempic weight loss medication mindy kaling dropped 40 lbs her secret diet finally revealed in 2024 kelly clarkson reveals how she lost a reported 60 lbs the best alternatives to ozempic without the side effects wegovy weight loss before after pictures that shock you kelly clarkson weight loss triumph in 2023 shedding 60 lbs kelly osbourne reveals how she lost 85 lbs not ozempic nikocado avocados shocking 89 pound weight loss journey exposed do keto gummies really work for weight loss seeing the truth exposing shark tank gummies for weight loss do they work can gummy bears help you slim down the truth about lose weight gummies did kelly clarkson lose weight using keto acv gummies details revealed kelly clarkson reveals weight loss was prompted by pre diabetic diagnosis the most talked about shark tank weight loss products do they work top 5 slimming gummies you need to try for fast weight loss blue vibe cbd gummies reviews what you need to know before you buy 2024 update sleep your way to slimmer the truth about nighttime fat burner gummies do nighttime fat burner gummies work what you need to know before buying kelly osbourne talks about her weight loss journey and ozempic dream of shedding pounds like kelly clarkson fast weight loss supplements to consider when to drink apple cider vinegar for stunning weight loss shark tank weight loss gummies exposed do they really work science behind dr ozs weight loss tips fact or fiction saxenda vs wegovy comparison of glp 1s for stunning weight loss 8 myths about belly fat loss debunked by health experts can drinking water really help you lose weight weight loss facts to know wegovy weight loss reviews does it really work for shedding pounds top 3 herbal teas for effective weight loss what works pre workout drinks that maximize weight loss are they safe how apple cider vinegar can help you lose weight 8 science backed tips best weight loss pills for men which ones burn fat fastest insights from experts 7 secrets to fast weight loss you need to know right now wegovy vs liraglutide which is best for weight loss shocking results revealed 10 surprising benefits of apple cider vinegar for weight loss you need to know ingredients exposed whats inside belly fat burning gummies that really work the science behind slimming gummies how they can help lose weight kelly clarksons weight loss secret the plant paradox diet explained keto acv gummies reviews you need to see in 2024 shark tanks miracle weight loss pills do they really work drinking apple cider vinegar for weight loss does it really work semaglutide for weight loss a game changer in obesity management must see truth about dr oz gummies for weight loss before trying them shark tank reviews do acv keto gummies really work dr oz vs keto acv gummies which is the best for weight loss shark tank gummies for weight loss fact or faction a buyers guide to shark tank acv keto gummies official website the shocking truth about dr ozs weight loss gummies 12 foods that promote fast weight loss eat these to slim down fast you wont believe chrissy metzs amazing transformation of losing 100 lbs unmasking the shark tank gummy scam are they real ozempic before and after pictures wegovy other results shark tank cbd gummies exploring the potential and legitimacy shark tank gummies scam or legit 2024 update pure slim keto acv gummies reviews do they really work lainey wilsons weight loss story how she lost 70 pounds chrissy metzs stunning transformation all details of her weight loss journey do weight loss pills really work for men unpacking the science success stories kelly clarkson explains how she dropped weight before and after photos an ultimate guide to shark tank keto gummies where to buy exposing shark tank keto gummies did they really work chrissy metzs weight loss journey the this is us star shared her 100 pound transformation