انتشار مستقر / أوبن إيه آي
في يوم الثلاثاء ، أعلنت شركة OpenAI عن تحديث كبير لعروض واجهة برمجة التطبيقات (API) الخاصة بنموذج اللغة الكبير (بما في ذلك GPT-4 و gpt-3.5-turbo) ، بما في ذلك إمكانية استدعاء وظيفة جديدة ، وتخفيضات كبيرة في التكلفة ، وخيار نافذة سياق رمز 16000 لخيار gpt- 3.5 نموذج توربو.
في نماذج اللغات الكبيرة (LLMs) ، تشبه “نافذة السياق” الذاكرة قصيرة المدى التي تخزن محتويات الإدخال الفوري أو ، في حالة روبوت المحادثة ، المحتويات الكاملة للمحادثة الجارية. في نماذج اللغة ، أصبح حجم السياق المتزايد سباقًا تقنيًا ، حيث أعلنت Anthropic مؤخرًا عن خيار نافذة سياق مكون من 75000 رمزًا لنموذج لغة كلود. بالإضافة إلى ذلك ، طورت شركة OpenAI إصدارًا من 32000 رمزًا من GPT-4 ، لكنها ليست متاحة للجمهور بعد.
على هذا المنوال ، قدم OpenAI للتو إصدارًا جديدًا من نافذة السياق يبلغ 16000 من gpt-3.5-turbo ، يُطلق عليه ، على نحو غير مفاجئ ، “gpt-3.5-turbo-16k” ، والذي يسمح للمطالبة بأن يصل طولها إلى 16000 رمز مميز. مع أربعة أضعاف طول السياق للإصدار القياسي 4000 ، يمكن لـ gpt-3.5-turbo-16k معالجة حوالي 20 صفحة من النص بناءً على طلب واحد. يعد هذا دفعة كبيرة للمطورين الذين يحتاجون إلى النموذج لمعالجة وإنشاء استجابات لأجزاء أكبر من النص.
كما هو مذكور بالتفصيل في منشور الإعلان ، أدرجت OpenAI أربعة تغييرات رئيسية أخرى على الأقل في واجهات برمجة تطبيقات GPT الخاصة بها:
- مقدمة لميزة استدعاء الوظائف في واجهة برمجة تطبيقات Chat Completions
- إصدارات محسنة و “أكثر قابلية للتوجيه” من GPT-4 و GPT-3.5-turbo
- تخفيض بنسبة 75 في المائة على نموذج حفلات الزفاف “آدا”
- تخفيض سعر 25٪ على رموز الإدخال لـ gpt-3.5-turbo.
من خلال استدعاء الوظائف ، يمكن للمطورين الآن إنشاء روبوتات محادثة قادرة على استدعاء الأدوات الخارجية ، وتحويل اللغة الطبيعية إلى استدعاءات API خارجية ، أو إجراء استعلامات قاعدة البيانات بسهولة أكبر. على سبيل المثال ، يمكنه تحويل المطالبات مثل ، “أرسل رسالة إلكترونية إلى Anya لمعرفة ما إذا كانت تريد تناول القهوة يوم الجمعة المقبل” إلى مكالمة دالة مثل ، “send_email (إلى: string ، body: string).” على وجه الخصوص ، ستسمح هذه الميزة أيضًا بإخراج متسق بتنسيق JSON ، والذي واجه مستخدمو واجهة برمجة التطبيقات سابقًا صعوبة في إنشائه.
فيما يتعلق بـ “قابلية التوجيه” ، وهو مصطلح خيالي لعملية جعل LLM تتصرف بالطريقة التي تريدها ، تقول شركة OpenAI إن نموذجها الجديد “gpt-3.5-turbo-0613” سيشمل “مزيدًا من قابلية التوجيه الموثوقة عبر رسالة النظام . ” . ” رسالة النظام في API عبارة عن موجه توجيه خاص يخبر النموذج بكيفية التصرف ، مثل “You are Grimace. أنت تتحدث فقط عن اللبن المخفوق”.
بالإضافة إلى التحسينات الوظيفية ، تقدم OpenAI تخفيضات كبيرة في التكلفة. والجدير بالذكر أن سعر رموز الإدخال الشهيرة gpt-3.5-turbo قد انخفض بنسبة 25 بالمائة. هذا يعني أنه يمكن للمطورين الآن استخدام هذا النموذج مقابل 0.0015 دولارًا أمريكيًا تقريبًا لكل 1000 من رموز الإدخال و 0.002 دولار أمريكي لكل 1000 من رموز المخرجات ، أي ما يعادل 700 صفحة تقريبًا لكل دولار. يبلغ سعر طراز gpt-3.5-turbo-16k 0.003 دولار لكل 1000 من رموز الإدخال و 0.004 دولار لكل 1000 من رموز المخرجات.
بنج إدواردز / آرس تكنيكا
علاوة على ذلك ، تقدم شركة OpenAI تخفيضًا هائلاً في التكلفة بنسبة 75 في المائة لنموذج التضمين “text-embedding-ada-002” الخاص بها ، والذي يعد استخدامًا مقصورًا على فئة معينة أكثر من إخوانه في المحادثة. يشبه نموذج التضمين المترجم لأجهزة الكمبيوتر ، حيث يحول الكلمات والمفاهيم إلى لغة رقمية يمكن للآلات فهمها ، وهو أمر مهم لمهام مثل البحث عن نص واقتراح محتوى ذي صلة.
نظرًا لأن OpenAI تواصل تحديث نماذجها ، فلن تظل النماذج القديمة موجودة إلى الأبد. أعلنت الشركة اليوم أيضًا أنها بدأت عملية الإيقاف لبعض الإصدارات السابقة من هذه الطرازات ، بما في ذلك gpt-3.5-turbo-0301 و gpt-4-0314. تقول الشركة إنه يمكن للمطورين الاستمرار في استخدام هذه النماذج حتى 13 سبتمبر ، وبعد ذلك لن يكون من الممكن الوصول إلى الطرز القديمة.
تجدر الإشارة إلى أن GPT-4 API الخاصة بـ OpenAI لا تزال مقفلة خلف قائمة انتظار ومع ذلك فهي متاحة على نطاق واسع.
