ميدجورني
يوم الثلاثاء ، أعلنت Meta عن Llama 2 ، وهي عائلة جديدة مفتوحة المصدر من نماذج لغات الذكاء الاصطناعي المشهورة بترخيصها التجاري ، مما يعني أنه يمكن دمج النماذج في المنتجات التجارية ، على عكس سابقتها. يتراوح حجمها من 7 إلى 70 مليار معلمة ويقال إنها “تتفوق على نماذج الدردشة مفتوحة المصدر في معظم المعايير التي اختبرناها” ، وفقًا لـ Meta.
“سيؤدي هذا إلى تغيير المشهد العام لسوق LLM ،” غرد كبير علماء الذكاء الاصطناعي يان ليكون. “يتوفر Llama-v2 على Microsoft Azure وسيكون متاحًا على AWS و Hugging Face وموفري الخدمات الآخرين.”
وفقًا لـ Meta ، يتم تدريب نماذج Llama 2 “سابقة التدريب” (نماذج bare-bones) على 2 تريليون رمز ولها نافذة سياق مكونة من 4096 رمزًا (أجزاء من الكلمات). تحدد نافذة السياق طول المحتوى الذي يمكن للنموذج معالجته مرة واحدة. تقول Meta أيضًا أن نماذج Llama 2 التي تم ضبطها بدقة ، والتي تم تطويرها لتطبيقات الدردشة المشابهة لـ ChatGPT ، قد تم تدريبها على “أكثر من مليون تعليق توضيحي بشري”.
على الرغم من أنه لا يمكن أن يتطابق مع GPT-4 الخاص بـ OpenAI ، إلا أن Llama 2 يبدو جيدًا بالنسبة لنموذج مفتوح المصدر. وفق جيم فان، كبير علماء الذكاء الاصطناعي في Nvidia ، “70B قريبة من GPT-3.5 في مهام التفكير ، ولكن هناك فجوة كبيرة في معايير الترميز. إنها على قدم المساواة أو أفضل من PaLM-540B في معظم المعايير ، ولكنها لا تزال بعيدة جدًا عن GPT-4 و PaLM-2-L. ” يمكن العثور على مزيد من التفاصيل حول أداء Llama 2 ، والمعايير ، والبناء في ورقة بحثية أصدرتها Meta يوم الثلاثاء.
ميتا
في فبراير ، أصدرت Meta سلائف Llama 2 ، LLaMA ، كمصدر مفتوح مع ترخيص غير تجاري. متاحًا رسميًا فقط للأكاديميين الذين لديهم بيانات اعتماد معينة ، سرعان ما سرب شخص ما أوزان LLaMA (ملفات تحتوي على قيم معلمات الشبكات العصبية المدربة) إلى مواقع التورنت ، وانتشرت على نطاق واسع في مجتمع الذكاء الاصطناعي. سرعان ما ظهرت أشكال مختلفة من LLaMA ، مثل Alpaca ، مما يوفر بذرة مشهد تطوير LLM سريع النمو تحت الأرض.
تجلب Llama 2 هذا النشاط إلى العلن بشكل كامل مع السماح بالاستخدام التجاري ، على الرغم من أن المرخص لهم المحتملين الذين لديهم “أكثر من 700 مليون مستخدم نشط شهريًا في الشهر التقويمي السابق” يجب أن يطلبوا إذنًا خاصًا من Meta لاستخدامه ، منع استخدامه المجاني من قبل عمالقة بحجم أمازون أو جوجل.
قوة ومخاطر الذكاء الاصطناعي مفتوح المصدر
في حين أن نماذج الذكاء الاصطناعي مفتوحة المصدر قد أثبتت شعبيتها بين الهواة والأشخاص الذين يبحثون عن روبوتات محادثة غير خاضعة للرقابة ، فقد ثبت أيضًا أنها مثيرة للجدل. تتميز Meta بوقوفها بمفردها بين عمالقة التكنولوجيا في دعم نماذج الأساس مفتوحة المصدر الرئيسية ، في حين أن تلك الموجودة في الزاوية المغلقة المصدر تشمل OpenAI و Microsoft و Google.
يقول النقاد إن نماذج الذكاء الاصطناعي مفتوحة المصدر تنطوي على مخاطر محتملة ، مثل إساءة الاستخدام في البيولوجيا التركيبية أو في توليد رسائل غير مرغوب فيها أو معلومات مضللة. من السهل تخيل أن Llama 2 تقوم ببعض هذه الأدوار ، على الرغم من أن هذه الاستخدامات تنتهك شروط خدمة Meta. في الوقت الحالي ، إذا قام شخص ما بتنفيذ أعمال مقيدة باستخدام واجهة برمجة تطبيقات ChatGPT الخاصة بـ OpenAI ، فيمكن إبطال الوصول. ولكن مع البرامج مفتوحة المصدر ، بمجرد تحرير الأوزان ، لا يمكن استرجاعها.
ومع ذلك ، غالبًا ما يجادل مؤيدو الذكاء الاصطناعي مفتوح المصدر بأن نماذج الذكاء الاصطناعي مفتوحة المصدر تشجع الشفافية (من حيث بيانات التدريب المستخدمة في صنعها) ، وتعزز المنافسة الاقتصادية (لا تقتصر التكنولوجيا على الشركات العملاقة) ، وتشجع حرية التعبير (بدون رقابة) ، وإضفاء الطابع الديمقراطي على الوصول إلى الذكاء الاصطناعي (بدون قيود حظر الاشتراك غير المدفوع).
ربما قبل الانتقادات المحتملة لإصدارها مفتوح المصدر ، نشرت Meta أيضًا “بيان دعم قصير لنهج Meta المفتوح للذكاء الاصطناعي اليوم” الذي يقرأ ، “نحن ندعم نهج الابتكار المفتوح للذكاء الاصطناعي. يمنحنا الابتكار المسؤول والمفتوح مشاركة في عملية تطوير الذكاء الاصطناعي ، وإبراز هذه التقنيات وفحصها وثقتها بها. وسيتيح افتتاح نماذج اللاما اليوم للجميع الاستفادة من هذه التكنولوجيا “.
اعتبارًا من بعد ظهر يوم الثلاثاء ، تم التوقيع على البيان من قبل قائمة المديرين التنفيذيين والمعلمين مثل درو هيوستن (الرئيس التنفيذي لشركة Dropbox) ، مات بورنشتاين (شريك في Andreessen Horowitz) ، Julien Chaumond (CTO of Hugging Face) ، ليكس فريدمان (عالم أبحاث) ) في MIT) ، وبول جراهام (الشريك المؤسس لـ Y Combinator).
على الرغم من أن Llama 2 مفتوح المصدر ، إلا أن Meta لم تكشف عن مصدر بيانات التدريب المستخدمة في إنشاء نماذج Llama 2 ، وهو زميل Mozilla الأول في منظمة العفو الدولية الموثوقة Abeba Birhane أشار على تويتر. لا يزال الافتقار إلى شفافية بيانات التدريب نقطة شائكة لبعض نقاد LLM لأن بيانات التدريب التي تعلم هؤلاء LLM ما “يعرفون” غالبًا ما تأتي من خدش غير مصرح به للإنترنت مع القليل من الاهتمام بالخصوصية أو التأثير التجاري. تقول Meta إنها “بذلت جهدًا لإزالة البيانات من مواقع معينة معروفة باحتوائها على قدر كبير من المعلومات الشخصية حول الأفراد” في ورقة بحث Llama 2 ، لكنها لم تذكر ماهية تلك المواقع.
حاليًا ، يمكن لأي شخص طلب الوصول لتنزيل Llama 2 عن طريق ملء نموذج على موقع Meta الإلكتروني. أرسل Ars Technica طلبًا للتنزيل وتلقى رابط تنزيل بعد حوالي ساعة ، مما يشير إلى إمكانية فحص القائمة يدويًا.
