يزعم صانعو Chatbot للذكاء الاصطناعي (AI) أنهم تمكنوا من القبض على قراصنة الحكومة الصينية باستخدام الأداة لتنفيذ هجمات إلكترونية آلية ضد حوالي 30 منظمة عالمية.
وقالت أنثروبيك إن المتسللين خدعوا برنامج الدردشة الآلي لتنفيذ مهام آلية تحت ستار إجراء أبحاث الأمن السيبراني.
وزعمت الشركة في منشور على مدونتها أن هذه كانت “أول حملة تجسس إلكتروني يتم تنظيمها بواسطة الذكاء الاصطناعي”.
لكن المتشككين يشككون في دقة هذا الادعاء، والدافع وراءه.
وقالت أنثروبيك إنها اكتشفت محاولات القرصنة في منتصف سبتمبر/أيلول.
تظاهر المتسللون بأنهم عمال شرعيون في مجال الأمن السيبراني، وقاموا بإعطاء برنامج الدردشة الآلي مهام آلية صغيرة، والتي عندما تم تجميعها معًا، شكلت “حملة تجسس متطورة للغاية”.
وقال الباحثون في أنثروبيك إن لديهم “ثقة كبيرة” في أن الأشخاص الذين نفذوا الهجمات كانوا “مجموعة ترعاها الدولة الصينية”.
وقالوا إن البشر اختاروا الأهداف – شركات التكنولوجيا الكبرى والمؤسسات المالية وشركات تصنيع المواد الكيميائية والوكالات الحكومية – لكن الشركة لن تكون أكثر تحديدا.
قام المتسللون بعد ذلك ببناء برنامج غير محدد باستخدام مساعدة كلود في البرمجة من أجل “اختراق هدف مختار بشكل مستقل مع القليل من المشاركة البشرية”.
تدعي Anthropic أن برنامج الدردشة الآلي كان قادرًا على اختراق العديد من المنظمات غير المسماة بنجاح، واستخراج البيانات الحساسة وفرزها للحصول على معلومات قيمة.
وقالت الشركة إنها منعت منذ ذلك الحين المتسللين من استخدام برنامج الدردشة الآلي وأخطرت الشركات المتضررة وجهات إنفاذ القانون.
ربما يكون إعلان Anthropic هو المثال الأكثر شهرة للشركات التي تدعي أن الجهات الفاعلة السيئة تستخدم أدوات الذكاء الاصطناعي لتنفيذ عمليات اختراق آلية.
هذا هو نوع الخطر الذي كان الكثيرون قلقين بشأنه، لكن شركات الذكاء الاصطناعي الأخرى زعمت أيضًا أن قراصنة الدولة القومية استخدموا منتجاتها.
في فبراير 2024، نشرت OpenAI منشورًا على مدونة بالتعاون مع خبراء إلكترونيين من Microsoft قائلة إنها عطلت خمسة جهات فاعلة تابعة للدولة، بما في ذلك بعض الجهات من الصين.
وقالت الشركة في ذلك الوقت: “لقد سعت هذه الجهات الفاعلة عمومًا إلى استخدام خدمات OpenAI للاستعلام عن المعلومات مفتوحة المصدر، والترجمة، والعثور على أخطاء الترميز، وتشغيل مهام الترميز الأساسية”.
ولم تذكر أنثروبيك كيف خلصت إلى أن المتسللين في هذه الحملة الأخيرة مرتبطون بالحكومة الصينية.
ويأتي ذلك في الوقت الذي تعرضت فيه بعض شركات الأمن السيبراني لانتقادات بسبب المبالغة في حالات استخدام الذكاء الاصطناعي من قبل المتسللين.
ويقول المنتقدون إن التكنولوجيا لا تزال غير عملية للغاية بحيث لا يمكن استخدامها في الهجمات الإلكترونية الآلية.
في نوفمبر، أصدر خبراء الإنترنت في جوجل ورقة بحثية سلطت الضوء على المخاوف المتزايدة بشأن استخدام الذكاء الاصطناعي من قبل المتسللين لإنشاء أشكال جديدة من البرامج الضارة.
لكن الورقة خلصت إلى أن الأدوات لم تكن ناجحة تمامًا، وكانت في مرحلة الاختبار فقط.
تحرص صناعة الأمن السيبراني، مثل أعمال الذكاء الاصطناعي، على القول بأن المتسللين يستخدمون التكنولوجيا لاستهداف الشركات من أجل تعزيز الاهتمام بمنتجاتهم الخاصة.
في منشور مدونتها، جادلت Anthropic بأن الحل لإيقاف مهاجمي الذكاء الاصطناعي هو استخدام المدافعين عن الذكاء الاصطناعي.
وزعمت الشركة أن “القدرات ذاتها التي تسمح باستخدام كلود في هذه الهجمات تجعله ضروريًا أيضًا للدفاع السيبراني”.
واعترفت أنثروبيك بأن برنامج الدردشة الآلي ارتكب أخطاء. على سبيل المثال، قام بتكوين أسماء مستخدمين وكلمات مرور مزيفة لتسجيل الدخول، وادعى أنه استخرج معلومات سرية كانت في الواقع متاحة للجمهور.
وقالت أنثروبيك: “يظل هذا عقبة أمام الهجمات الإلكترونية المستقلة بالكامل”.
