كيف تعمل عوامل ترميز الذكاء الاصطناعي، وما الذي يجب أن تتذكره إذا كنت تستخدمها

يحد حد السياق هذا بشكل طبيعي من حجم قاعدة التعليمات البرمجية التي يمكن لـ LLM معالجتها في وقت واحد، وإذا قمت بتغذية نموذج الذكاء الاصطناعي بالكثير من ملفات التعليمات البرمجية الضخمة (والتي يجب إعادة تقييمها بواسطة LLM في كل مرة ترسل فيها استجابة أخرى)، فيمكن أن تحرق الرموز المميزة أو حدود الاستخدام بسرعة كبيرة.

حيل التجارة

للتغلب على هذه الحدود، يستخدم مبتكرو وكلاء التشفير العديد من الحيل. على سبيل المثال، يتم ضبط نماذج الذكاء الاصطناعي بشكل دقيق لكتابة التعليمات البرمجية لتفويض الأنشطة إلى أدوات برمجية أخرى. على سبيل المثال، قد يكتبون نصوص بايثون لاستخراج البيانات من الصور أو الملفات بدلاً من تغذية الملف بأكمله من خلال ماجستير إدارة الأعمال، مما يحفظ الرموز المميزة ويتجنب النتائج غير الدقيقة.

تشير وثائق Anthropic إلى أن Claude Code يستخدم هذا الأسلوب أيضًا لإجراء تحليل بيانات معقدة على قواعد بيانات كبيرة، وكتابة استعلامات مستهدفة واستخدام أوامر Bash مثل “head” و”tail” لتحليل كميات كبيرة من البيانات دون تحميل كائنات البيانات الكاملة في السياق.

(بطريقة ما، يتم توجيه وكلاء الذكاء الاصطناعي هؤلاء، ولكنهم شبه مستقلين، ببرامج تستخدم الأدوات، وهي امتداد رئيسي لمفهوم رأيناه لأول مرة في أوائل عام 2023).

جاء التقدم الكبير الآخر في الوكلاء من إدارة السياق الديناميكية. يمكن للوكلاء القيام بذلك بعدة طرق لم يتم الكشف عنها بشكل كامل في نماذج الترميز الخاصة، ولكننا نعرف التقنية الأكثر أهمية التي يستخدمونها: ضغط السياق.

عندما يقترب LLM الترميز من حد السياق الخاص به، تقوم هذه التقنية بضغط تاريخ السياق عن طريق تلخيصه، وفقدان التفاصيل في العملية ولكن تقصير التاريخ إلى التفاصيل الأساسية. تصف وثائق Anthropic هذا “الضغط” على أنه تقطير محتويات السياق بطريقة عالية الدقة، مع الحفاظ على التفاصيل الأساسية مثل القرارات المعمارية والأخطاء التي لم يتم حلها أثناء التخلص من مخرجات الأداة الزائدة عن الحاجة.

وهذا يعني أن وكلاء تشفير الذكاء الاصطناعي “ينسون” بشكل دوري جزءًا كبيرًا مما يفعلونه في كل مرة يحدث فيها هذا الضغط، ولكن على عكس الأنظمة القديمة المستندة إلى LLM، فإنهم ليسوا جاهلين تمامًا بما حدث ويمكنهم إعادة توجيه أنفسهم بسرعة من خلال قراءة التعليمات البرمجية الموجودة والملاحظات المكتوبة المتبقية في الملفات وتغيير السجلات وما إلى ذلك.