يوم الخميس ، أعلنت شركة Anthropic للذكاء الاصطناعي أنها منحت نموذج لغة كلود AI الذي يشبه ChatGPT القدرة على تحليل قيمة مادة الكتاب بالكامل في أقل من دقيقة. تأتي هذه القدرة الجديدة من توسيع نافذة سياق كلود إلى 100000 رمز ، أو حوالي 75000 كلمة.
مثل GPT-4 من OpenAI ، كلود هو نموذج لغة كبير (LLM) يعمل من خلال توقع الرمز المميز التالي في تسلسل عند إعطاء إدخال معين. الرموز هي أجزاء من الكلمات المستخدمة لتبسيط معالجة بيانات الذكاء الاصطناعي ، و “نافذة السياق” تشبه الذاكرة قصيرة المدى – مقدار بيانات الإدخال التي يوفرها الإنسان والتي يمكن لـ LLM معالجتها في وقت واحد.
تعني نافذة السياق الأكبر أن LLM يمكنها التفكير في أعمال أكبر مثل الكتب أو المشاركة في محادثات تفاعلية طويلة جدًا تمتد “لساعات أو حتى أيام” ، وفقًا لـ Anthropic:
يمكن للشخص العادي قراءة 100000 رمز نصي في حوالي 5 ساعات تقريبًا ، وبعد ذلك قد يحتاج إلى وقت أطول بكثير لاستيعاب هذه المعلومات وتذكرها وتحليلها. يستطيع كلود الآن القيام بذلك في أقل من دقيقة. على سبيل المثال ، قمنا بتحميل النص الكامل لـ The Great Gatsby في Claude-Instant (72K Tokens) وقمنا بتعديل سطر واحد ليقول أن السيد Carraway كان “مهندس برمجيات يعمل على أدوات التعلم الآلي في Anthropic.” عندما طلبنا من النموذج تحديد الاختلاف ، استجاب بالإجابة الصحيحة في 22 ثانية.
على الرغم من أنه قد لا يبدو مثيرًا للإعجاب عند اختيار التغييرات في النص (يمكن لـ Microsoft Word القيام بذلك ، ولكن فقط إذا كان يحتوي على مستندين للمقارنة) ، ضع في اعتبارك أنه بعد تغذية كلود نص غاتسبي العظيم، يمكن لنموذج الذكاء الاصطناعي بعد ذلك الإجابة بشكل تفاعلي عن الأسئلة المتعلقة به أو تحليل معناه. 100000 رمز هو ترقية كبيرة لـ LLMs. بالمقارنة ، تفتخر GPT-4 LLM من OpenAI بأطوال نافذة سياق تبلغ 4096 رمزًا (حوالي 3000 كلمة) عند استخدامها كجزء من ChatGPT و 8192 أو 32768 رمزًا مميزًا عبر واجهة برمجة تطبيقات GPT-4 (والتي لا تتوفر حاليًا إلا عبر قائمة الانتظار).
لفهم كيف تؤدي نافذة السياق الأكبر إلى محادثة أطول مع روبوت محادثة مثل ChatGPT أو كلود ، قمنا بعمل رسم تخطيطي لمقال سابق يوضح كيف يتوسع حجم الموجه (الذي يتم الاحتفاظ به في نافذة السياق) لاحتواء كامل نص المحادثة. وهذا يعني أن المحادثة يمكن أن تستمر لفترة أطول قبل أن يفقد روبوت المحادثة “ذاكرته” الخاصة بالمحادثة.
وفقًا لـ Anthropic ، فإن قدرات كلود المحسّنة تزيد من معالجة الكتب السابقة. يمكن أن تساعد نافذة السياق الموسعة الشركات على استخراج معلومات مهمة من مستندات متعددة من خلال تفاعل محادثة. تقترح الشركة أن هذا النهج قد يتفوق على الأساليب القائمة على البحث المتجه عند التعامل مع الاستعلامات المعقدة.
على الرغم من أن اسم Anthropic ليس كبيرًا في الذكاء الاصطناعي مثل Microsoft و Google ، فقد ظهر كمنافس بارز لـ OpenAI من حيث العروض التنافسية في LLMs والوصول إلى API. نائب رئيس أوبن إيه آي السابق للبحوث داريو أمودي وشقيقته دانييلا تأسست أنثروبي في عام 2021 بعد خلاف حول الاتجاه التجاري لشركة أوبن إيه آي. والجدير بالذكر أن Anthropic تلقت استثمارًا بقيمة 300 مليون دولار من Google في أواخر عام 2022 ، مع حصول Google على حصة 10٪ في الشركة.
يقول Anthropic أن نوافذ سياق 100K متاحة الآن لمستخدمي Claude API ، المقيدة حاليًا بقائمة انتظار.