Jannah Theme License is not validated, Go to the theme options page to validate the license, You need a single license for each domain name.
أخبار التقنية

أوبن إيه آي يتطلع إلى “الصندوق الأسود” للشبكات العصبية ببحث جديد


تكبير / صورة تم إنشاؤها بواسطة الذكاء الاصطناعي لروبوتات تبحث داخل دماغ اصطناعي.

انتشار مستقر

يوم الثلاثاء ، نشرت شركة OpenAI ورقة بحثية جديدة توضح بالتفصيل تقنية تستخدم نموذج اللغة GPT-4 الخاص بها لكتابة تفسيرات لسلوك الخلايا العصبية في نموذج GPT-2 الأقدم ، وإن كان ذلك بشكل غير كامل. إنها خطوة للأمام من أجل “القابلية للتفسير” ، وهو مجال من مجالات الذكاء الاصطناعي يسعى إلى شرح سبب قيام الشبكات العصبية بإنشاء المخرجات التي تقوم بها.

بينما تغزو نماذج اللغات الكبيرة (LLMs) عالم التكنولوجيا ، لا يزال باحثو الذكاء الاصطناعي لا يعرفون الكثير عن وظائفهم وقدراتهم تحت الغطاء. في الجملة الأولى من ورقة OpenAI ، كتب المؤلفون ، “أصبحت النماذج اللغوية أكثر قدرة وانتشارًا على نطاق أوسع ، لكننا لا نفهم كيفية عملها.”

بالنسبة إلى الغرباء ، يبدو هذا على الأرجح بمثابة قبول مذهل من شركة لا تعتمد فقط على الإيرادات من LLMs ولكنها تأمل أيضًا في تسريعها إلى مستويات تفوق قدرة الإنسان على التفكير.

ولكن هذه الخاصية المتمثلة في “عدم معرفة” بالضبط كيف تعمل الخلايا العصبية الفردية للشبكة العصبية معًا لإنتاج مخرجاتها لها اسم معروف: الصندوق الأسود. تقوم بتغذية مدخلات الشبكة (مثل سؤال) ، وتحصل على مخرجات (مثل إجابة) ، ولكن كل ما يحدث بينهما (داخل “الصندوق الأسود”) يعد لغزًا.

في محاولة لإلقاء نظرة خاطفة على الصندوق الأسود ، استخدم الباحثون في OpenAI نموذج اللغة GPT-4 الخاص بها لتوليد وتقييم تفسيرات اللغة الطبيعية لسلوك الخلايا العصبية في نموذج لغة أقل تعقيدًا ، مثل GPT-2. من الناحية المثالية ، من شأن وجود نموذج ذكاء اصطناعي قابل للتفسير أن يساعد في المساهمة في الهدف الأوسع لما يسميه بعض الأشخاص “محاذاة الذكاء الاصطناعي” ، مما يضمن أن تتصرف أنظمة الذكاء الاصطناعي على النحو المنشود وتعكس القيم الإنسانية. ومن خلال أتمتة عملية التفسير ، تسعى OpenAI إلى التغلب على قيود الفحص البشري اليدوي التقليدي ، وهو أمر غير قابل للتطوير للشبكات العصبية الأكبر حجمًا التي تحتوي على مليارات من المعلمات.

يتضمن موقع الويب الخاص بالورقة رسومًا بيانية تُظهر تخمين GPT-4 لعناصر النص التي تم إنشاؤها بواسطة خلية عصبية معينة في شبكة عصبية.
تكبير / يتضمن موقع الويب الخاص بالورقة رسومًا بيانية تُظهر تخمين GPT-4 لعناصر النص التي تم إنشاؤها بواسطة خلية عصبية معينة في شبكة عصبية.

أسلوب أوبن إيه آي “يسعى إلى شرح الأنماط الموجودة في النص التي تؤدي إلى تنشيط الخلايا العصبية.” تتكون منهجيتها من ثلاث خطوات:

  • اشرح تنشيط الخلايا العصبية باستخدام GPT-4
  • محاكاة سلوك تنشيط الخلايا العصبية باستخدام GPT-4
  • قارن بين عمليات التنشيط المحاكاة والتنشيطات الحقيقية.

لفهم كيفية عمل طريقة OpenAI ، تحتاج إلى معرفة بعض المصطلحات: العصبون والدائرة ورأس الانتباه. في الشبكة العصبية ، تشبه الخلية العصبية وحدة صغيرة لصنع القرار تأخذ المعلومات وتعالجها وتنتج مخرجات ، تمامًا مثل خلية دماغية صغيرة تتخذ القرار بناءً على الإشارات التي تتلقاها. تشبه الدائرة في الشبكة العصبية شبكة من الخلايا العصبية المترابطة التي تعمل معًا ، وتمرر المعلومات وتتخذ القرارات بشكل جماعي ، على غرار مجموعة من الأشخاص يتعاونون ويتواصلون لحل مشكلة ما. ويشبه رأس الانتباه الضوء الذي يساعد نموذج اللغة على إيلاء اهتمام أكبر لكلمات أو أجزاء معينة من الجملة ، مما يسمح له بفهم المعلومات المهمة والتقاطها بشكل أفضل أثناء معالجة النص.

من خلال تحديد الخلايا العصبية ورؤوس الانتباه داخل النموذج التي تحتاج إلى تفسير ، ينشئ GPT-4 تفسيرات يمكن قراءتها من قبل الإنسان لوظيفة أو دور هذه المكونات. كما أنه يولد درجة تفسير ، والتي تسميها OpenAI “مقياسًا لقدرة نموذج اللغة على ضغط وإعادة بناء عمليات تنشيط الخلايا العصبية باستخدام اللغة الطبيعية.” يأمل الباحثون أن تسمح الطبيعة القابلة للقياس الكمي لنظام التسجيل بإحراز تقدم ملموس نحو جعل حسابات الشبكة العصبية مفهومة للبشر.

إذن ما مدى جودة عملها؟ في الوقت الحالي ، ليس هذا رائعًا. أثناء الاختبار ، وضعت شركة OpenAI أسلوبها في مواجهة مقاول بشري أجرى تقييمات مماثلة يدويًا ، ووجدوا أن كلاً من GPT-4 والمقاول البشري “سجلوا نتائج سيئة في المطلق” ، مما يعني أن تفسير الخلايا العصبية أمر صعب.

أحد التفسيرات التي قدمتها شركة OpenAI لهذا الفشل هو أن الخلايا العصبية قد تكون “متعددة المعاني” ، مما يعني أن الخلايا العصبية النموذجية في سياق الدراسة قد تظهر معانٍ متعددة أو ترتبط بمفاهيم متعددة. في قسم خاص بالقيود ، يناقش باحثو OpenAI كلاً من الخلايا العصبية متعددة المعاني وأيضًا “الميزات الغريبة” كقيود على طريقتهم:

علاوة على ذلك ، قد تمثل النماذج اللغوية مفاهيم غريبة لا يمتلك البشر كلمات لها. يمكن أن يحدث هذا لأن نماذج اللغة تهتم بأشياء مختلفة ، مثل التركيبات الإحصائية المفيدة لمهام التنبؤ بالرمز التالي ، أو لأن النموذج قد اكتشف التجريدات الطبيعية التي لم يكتشفها البشر بعد ، على سبيل المثال بعض عائلة من المفاهيم المماثلة في مجالات متباينة.

تشمل القيود الأخرى أن تكون كثيفة الحوسبة وتقدم فقط تفسيرات قصيرة للغة الطبيعية. لكن باحثي أوبن إيه آي لا يزالون متفائلين بأنهم قد أنشأوا إطارًا لكل من القابلية للتفسير بواسطة الآلة والوسائل القابلة للقياس الكمي لقياس التحسينات في القابلية للتفسير أثناء قيامهم بتحسين تقنياتهم في المستقبل. نظرًا لأن نماذج الذكاء الاصطناعي أصبحت أكثر تقدمًا ، يأمل باحثو OpenAI أن تتحسن جودة التفسيرات التي تم إنشاؤها ، مما يوفر رؤى أفضل حول الأعمال الداخلية لهذه الأنظمة المعقدة.

نشرت OpenAI ورقتها البحثية على موقع ويب تفاعلي يحتوي على أمثلة تفصيلية لكل خطوة ، تعرض الأجزاء المميزة من النص وكيف تتوافق مع خلايا عصبية معينة. بالإضافة إلى ذلك. قدمت شركة OpenAI كود “تفسير آلي” وخلايا عصبية GPT-2 XL ومجموعات بيانات تفسيرية على GitHub.

إذا اكتشفوا بالضبط سبب اختلاق ChatGPT للأشياء ، فسيكون كل هذا الجهد يستحق ذلك.

مقالات ذات صلة

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

زر الذهاب إلى الأعلى

reviews biolyfe keto gummieskelly clarkson keto weight loss secret before and after photos 2024does keto slim pills help lose weighthow did kelly clarkson lose weight so quickly weight loss diet 2024did oprah lose weight with keto pillskelly clarkson weight loss diet decoding her health and fitness regimen 2024can keto pills help lose weightnew keto acv gummies reviews alert 2024 does keto acv gummies work be carefulcan you just take keto pills to lose weightkelly clarkson diet 2024 weight loss secrets keto gummies reviewcan you lose weight just by taking keto pillskelly clarkson weight loss update before and after photos 2024 transformation on today showcan you lose weight just taking keto pillsketo gummies in 2024 side effects and ingredients keto gummies reviewcan you lose weight with keto pillsketo gummies 2024 warning keto gummies shark tank show reviews walmartdo keto pills help you lose weightshark tank keto gummies update 2024 keto gummies review keto acv gummies reviewsdo keto pills make you lose weight2024 keto gummies beware keto gummies shark tank new keto gummies reviewdo keto pills really help you lose weightproton keto acv gummies reviews my honest opinion updated they won t tell you before getting itdo keto pills work to lose weightproton keto acv gummies walmart weight loss scam oprah never endorsed proton keto acv gummiesdoes keto pills help lose weightx10 boost keto acv gummies scam reviews no celebrities ever endorsed keto weight loss gummiesdoes keto pills work to lose weightketo gummies shark tank be careful acv keto gummies shark tank shark tank keto acvhow do keto pills help you lose weightshark tank s keto acv gummies alert shark tank acv shark tank keto acv gummies ingredientshow do keto pills work to lose weightketo acv gummies alert keto acv gummies reviews acv keto gummies do keto acv gummieshow fast do you lose weight on keto pillsketosis acv gummies reviews be careful does ketosis acv gummies work ketosis acv keto gummieshow to lose weight with keto pillsdr oz recommendation keto gummies for kelly clarkson weight losswhat are the best keto pills to lose weightunveiling kelly clarkson keto gummies weight loss secret galorewhat is the best keto pill to lose weightkelly clarkson weight loss scam alert keto acv gummies for weight loss and shark tank reviewswill keto pills help me lose weightkelly clarkson weight loss gummies dr oz investigates side effect resolutionscan keto pills help you lose weightketo acv gummies reviews scam watch this keto gummies acv keto gummies to lose weight workcan you lose weight on keto pillshow did kelly clarkson lose weightcan you lose weight taking keto pillskelly clarkson weight loss secret diet kelly clarkson lose weight kelly clarkson weight loss 2024did oprah really lose weight with keto pillskelly clarkson secret sauce for accelerated keto weight loss what did kelly clarkson do to lose weightdo keto bhb pills help you lose weightkelly clarkson journey to lose weight naturallydo keto pills help lose weightketo acv gummies reviews scam or not watch this keto gummies acv keto gummies to lose weight workhow does keto pills make you lose weightthe truth about acv keto gummies do they really help you lose weighthow fast can you lose weight on keto pillswhat did kelly clarkson use for weight loss how did kelly clarkson lose so much weighthow to lose weight on keto pillskelly clarkson weight loss story dr oz analysis on ozempichow to use keto pills to lose weightdr oz on ozempic evaluating kelly clarkson weight losswhat is the best keto diet pill to lose weightdr oz and kelly clarkson discussing weight loss with ozempic and keto gummiescan u lose weight by keto pro pills alonehow kelly clarkson lost weight weight loss journeydid adele take keto pills to lose weightkelly clarkson weight loss regimen unveiled by dr oz the magic of ozempic and keto gummiesdid adele use keto pills to lose weightkelly clarkson and ozempic dr oz perspective on losing weightdid kelly clarkson lose weight on keto pillsdr oz rapid weight loss plan warning dr oz weight loss dr oz weight loss pillsdo amazon keto pills really help you lose weightkelly clarkson keto pills experience acv s role in weight loss successdo purefit keto pills make you lose weight too quicklykelly clarkson weight loss boost power of acv and keto pillsdoes keto pills help u lose weightketo gummies acv two pillars of kelly clarkson weight lossdoes keto pills help you lose weightkelly clarkson keto pill revelation acv s role in her weight lossdoes keto pills make you lose weightkelly clarkson keto pills and gummies sweet path to weight loss successhow does keto pills help you lose weightunlocking weight loss secrets kelly clarkson acv and keto pill experiencehow long to lose weight on keto pillsdr oz weight loss pills kelly clarkson keto gummies review and before and afterhow to lose weight fast keto pillsketo gummies for weight loss shark tank simpli acv ketowhat keto pill did adele take to lose weightshark tank keto acv gummies scam reviews and customer support real and honestwhat keto pill did melissa mccarthy use to lose weightshark tank keto gummies alert keto gummies reviews kelly clarkson keto gummieswhich keto pill did al roker take to lose weightshark tank keto gummies to quit smoking and cure copd deepfake scam ads are everywhere on facebookwill keto pills alone help me lose weightketo acv gummies shocking truth keto gummies shark tank keto acv gummies keto crave reviewswill the keto advanced pills help me lose weightdr oz diet kelly clarkson approach to weight losswill the keto advanced science pills help me lose weightthe real truth about kelly clarkson s extreme weight loss dietketo pills to lose weightkelly clarkson diet dr oz s prescription for weight lossbest keto pill to lose weight fastkelly clarkson ozempic diet what dr oz says about her weight lossbest keto pills to lose weightkelly clarkson weight loss ozempic diet dr oz weighs in on her weight lossketo lose weight pillsexploring kelly clarkson weight loss diet dr oz discusses ozempic or keto gummiesketo pills help you lose weightkelly clarkson weight loss secret diet exclusive before and after photosketo pills how long to lose weighttransform your health with 3 pack slimx keto acv gummiesketo pills lose weightslim labs acv keto gummies be careful does slim labs acv keto gummies work watch this reviewketones pills to lose weightweight loss with apple cider vinegar slimsculpt keto acv gummies reviewlose weight fast keto pillsketo acv gummies keto acv gummies the legit keto acv pure slim keto acv gummieslose weight with keto pillsignite keto gummies reviews does ignite keto gummies work ignite keto gummiesbest keto pill to lose weightbiopure keto gummies reviews does biopure keto gummies work biopure acv keto gummiesbest keto pills to lose weight fastessential keto gummies reviews weight loss be careful does essential keto gummies workbestketo pills to lose weighthale and hearty keto gummies reviews new alert does hale and hearty keto gummies workfastest ways to lose weight with keto pillssummer keto acv gummies reviews new alert does summer keto acv gummies work be carefulketo buzz pills how fast can i lose weightkelly clarkson weight loss scam features keto gummies with fake reviews here s how it worksketo pill to help you lose weightketo gummies reviews alert keto gummies for weight loss peoples ketoketo pill to lose weightnew keto acv gummies beware acv keto gummies acv gummies review acv gummies reviewsketo pills that help lose weight in a monthdr oz keto gummies kelly clarkson strategies for losing weight effectivelyketosis pills or drinks to lose weightkelly clarkson keto gummies dr oz negative reviews bad complaints side effectslose weight keto pillsessential keto gummies review warning essential keto gummies side effectspills to lose weight ketonessuccess strategies kelly clarkson roadmap to effective weight loss in 2024the best keto pills to lose weightkelly clarkson weight loss keto gummies dr oz overview of side effect resolutionsto lose weight pills keto pluskelly clarkson weight loss gummies dr oz analyzes side effects and solutionslose weight pills ketodr oz verdict on kelly clarkson weight loss gummies side effect solutions exploredhow to lose weight fast slimming pillskelly clarkson keto gummies dr oz verdict on their effectiveness for weight lossslim pills to lose weightbest keto gummies for effective weight loss 2023 keto dietbest slimming pills to lose weight fastkelly clarksons 2023 keto gummies weight loss truthlose weight fast slimming pillsketo gummies shark tank 2024 best keto gummies from shark tank showslimming pills lose weightketo acv gummies reviews scam watch this keto gummies what s the best keto acv gummiesslimming pills lose weight fastketo gummies review beware keto bhb gummies reviews keto apple cider vinegarslimming pills to lose weight fastweight loss exposing apple cider gummies kelly clarkson s truthslimquick pure lose weight pillsgood keto gummies reviews scam exposed or legit goodketo acv bhb gummy formulabuy lose weight pills slimmingketo gummy kelly clarkson fun and effective keto weight lossdo water pills help you lose weightgood keto acv gummies good keto gummies us reviews official 100 safe does it really work or notwhat is the best lose weight pill