اختبرت الشركة 123 حالة تمثل 29 سيناريوهات هجوم مختلفة ووجدت معدل نجاح للهجوم بنسبة 23.6 في المائة عندما يستخدم المتصفح دون تخفيف السلامة.
ومن الأمثلة على ذلك رسالة بريد إلكتروني ضارة أمرت تعليمات إلى كلود لحذف رسائل البريد الإلكتروني الخاصة بالمستخدم لأغراض “صناديق البريد النظيفة”. بدون ضمانات ، اتبعت كلود هذه التعليمات وحذف رسائل البريد الإلكتروني الخاصة بالمستخدم دون تأكيد.
تقول الأنثروبور إنها نفذت العديد من الدفاعات لمعالجة هذه الثغرات الأمنية. يمكن للمستخدمين منح أو إلغاء وصول كلود إلى مواقع ويب محددة من خلال أذونات على مستوى الموقع. يتطلب النظام تأكيد المستخدم قبل أن يتخذ كلود إجراءات عالية الخطورة مثل النشر أو الشراء أو مشاركة البيانات الشخصية. قامت الشركة أيضًا بحظر كلود من الوصول إلى مواقع الويب التي تقدم الخدمات المالية ومحتوى البالغين والمحتوى المقرصنة بشكل افتراضي.
خفضت تدابير السلامة هذه معدل نجاح الهجوم من 23.6 في المائة إلى 11.2 في المائة في الوضع المستقل. في اختبار متخصص لأربعة أنواع هجمات خاصة بالمتصفح ، قيل إن التخفيفات الجديدة قللت من معدل النجاح من 35.7 في المائة إلى 0 في المائة.
قام باحث الذكاء الاصطناعي المستقل سيمون ويليسون ، الذي كتب على نطاق واسع حول المخاطر الأمنية لمنظمة العفو الدولية وصاغ مصطلح “الحقن الفوري” في عام 2022 ، ودعا معدل الهجوم البالغ 11.2 في المائة “كارثي” ، الكتابة على مدونته “في غياب حماية موثوقة بنسبة 100 ٪ ، أواجه مشكلة في تخيل عالم من الفكرة الجيدة هذا النمط.”
من خلال “Pattern” ، يشير Willison إلى الاتجاه الأخير المتمثل في دمج وكلاء الذكاء الاصطناعي في متصفحات الويب. وكتب في منشور سابق حول مشكلات أمان الحقن الفوري التي تم العثور عليها مؤخرًا في Comet Perplexity: “أتوقع اعتقادا راسخا أن المفهوم الكامل لتمديد المتصفح الوكلاء معيب بشكل قاتل ولا يمكن بناؤه بأمان”.
لم تعد المخاطر الأمنية نظرية. في الأسبوع الماضي ، اكتشف فريق الأمان لشركة Brave أنه يمكن خداع متصفح Comet في Perplexity للوصول إلى حسابات Gmail للمستخدمين وإطلاق تدفقات استرداد كلمة المرور من خلال التعليمات الخبيثة المخفية في مشاركات Reddit. عندما طلب المستخدمون من Comet تلخيص مؤشر ترابط Reddit ، يمكن للمهاجمين تضمين أوامر غير مرئية التي أصدرت تعليمات إلى الذكاء الاصطناعي لفتح Gmail في علامة تبويب أخرى ، واستخراج عنوان البريد الإلكتروني للمستخدم ، وإجراء إجراءات غير مصرح بها. على الرغم من أن الحيرة حاولت إصلاح الضعف ، فقد أكد Brave لاحقًا أن تخفيفاته قد هُزمت وظل ثقب الأمن.
في الوقت الحالي ، خطط الإنسان لاستخدام معاينة البحث الجديدة لتحديد أنماط الهجوم ومعالجتها التي تظهر في استخدام العالم الحقيقي قبل إتاحة امتداد الكروم على نطاق أوسع. في حالة عدم وجود حماية جيدة من بائعي الذكاء الاصطناعي ، يقع عبء الأمان على المستخدم ، الذي يتحمل مخاطرة كبيرة باستخدام هذه الأدوات على الويب المفتوح. كما أشار ويليسون في منصبه عن كلود من أجل Chrome ، “لا أعتقد أنه من المعقول أن نتوقع من المستخدمين النهائيين اتخاذ قرارات جيدة بشأن المخاطر الأمنية”.
