عمر لقد وصل عملاء قراصنة الذكاء الاصطناعي المارقون، ولكن لم يكن من الضروري أن يحدث الأمر بهذه الطريقة.
بعد أن اخترق أحد عملاء OpenAI منصة Hugging Face في وقت سابق من هذا الشهر، قالت الشركتان هذا الأسبوع إن موجة القرصنة كانت أكثر اتساعًا مما كان يُعتقد سابقًا، وتضمنت أيضًا عمليات اقتحام حسابات وخدمات متعددة تابعة لجهات خارجية كجزء من الهجوم على Hugging Face. أحدثت الحادثة ضجة في مجتمع الأمن السيبراني وسط مناقشات واسعة النطاق حول كيفية تغيير قدرات الذكاء الاصطناعي المتطورة لكل من القرصنة الهجومية والدفاع الرقمي. ولكن مع ظهور المزيد من المعلومات، خلص العديد من الباحثين إلى أنه بدلاً من توضيح الحدود التالية للذكاء الاصطناعي، سلطت هذه الحادثة الضوء ببساطة على مشاكل الأمن السيبراني طويلة الأمد والتي أصبحت أكثر أهمية من أي وقت مضى في عصر الذكاء الاصطناعي.
يقول أليكس زينلا، المؤسس المشارك والرئيس التنفيذي للتكنولوجيا في شركة Edera للأمن السحابي: “يتعامل الناس مع YOLO بشدة. ومن المثير للصدمة أن الناس لم يفكروا حقًا في سيناريو مثل هذا”. “أنا أعتبر كل الذكاء الاصطناعي وأي شيء يمسه الذكاء الاصطناعي غير موثوق به تمامًا – وهذا أمر جيد، كل ما عليك فعله هو البناء على ذلك. وهذا الموقف يثبت هذه النقطة. حقيقة أن OpenAI لم تكن أكثر جنونًا بشأن هذا يبدو نوعًا من التهور.”
لم تقدم OpenAI أي تعليق على هذه القصة قبل نشرها.
وقالت الشركة في كشفها الأصلي عن اختراق Hugging Face إن أحد النموذجين اللذين كسرا الاحتواء وشقا طريقهما إلى الإنترنت المفتوح لعدة أيام كان نموذجًا أوليًا تجريبيًا لم يكن من المفترض إطلاقه على الإطلاق. أشارت OpenAI أيضًا إلى أن الموقف حدث جزئيًا بسبب “عدم تمكين ضمانات النشر عمدًا” في كلا النموذجين لأغراض الاختبار. وكتبت الشركة: “يشير هذا الحادث إلى الحاجة إلى تعزيز توافق نموذجنا، والحماية السيبرانية أثناء وقت التقييم، والمراقبة أثناء الاختبار الداخلي”.
قالت OpenAI أيضًا في تحديث هذا الأسبوع أنه بعد اختراق Hugging Face، قامت “بإلغاء تنشيط وتشفير وتقييد [the unreleased model] من الوصول إلى الأبحاث.” على الرغم من أن هناك دائمًا مجالًا لتحسين الوضع الأمني في أي شركة، إلا أن الضمانات الحالية لـ OpenAI وحدها ربما كانت ستمنع الحادث أو تقلل منه إذا كانت موجودة.
يقول دافي أوتينهايمر، مستشار الأمن والامتثال منذ فترة طويلة: “إن التحليل البسيط للمخاطر الفعلية له إجابة بسيطة بالفعل”. “كانت أخطاء OpenAI بسيطة للغاية.”
أكدت مصادر متعددة لمجلة WIRED أن نماذج OpenAI يبدو أيضًا أنها أفلتت من الاحتواء بسبب الثغرات في تنفيذ أفضل الممارسات الأمنية الأساسية – بما في ذلك “الثقة المعدومة” و”الدفاع المتعمق” – التي تضفي على الأنظمة الرقمية طبقات من الحماية والتأمين من الفشل لتقليل الضرر عندما يحدث خطأ ما. على الرغم من عدم وجود شيء اسمه أمان مثالي، فقد قضى الباحثون والممارسون العقدين الماضيين في تطوير وتعزيز الاستراتيجيات الدفاعية التي أثبتت متانتها ولكنها تتطلب استثمارًا ثابتًا للوقت والمال لتنفيذها.
قد يكون من الصعب على الشركات الصغيرة، أو مجموعات المصلحة العامة سيئة التمويل، أو المنظمات الناشئة تخصيص الموارد لتحديد أولويات الاستثمار في الأمن التأسيسي. ولكن مع تقييم بقيمة 850 مليار دولار وتعيينات مخضرمة من جميع أنحاء صناعة التكنولوجيا، فإن OpenAI ليست في وضع غير مؤات فيما يتعلق بتنفيذ أفضل الممارسات الأمنية.
إن وسائل الحماية الأساسية التي ربما منعت نماذج الشركة من التعرض لموجة قرصنة معروفة جيدًا في الصناعة. في حديثه عن اكتشاف ثغرات Chrome يوم الأربعاء، قبل ظهور أخبار الخروقات الإضافية لنماذج OpenAI، قال دوج تورنر، مدير هندسة Chrome، لـ WIRED إن صيد الأخطاء ومعالجتها باستخدام الذكاء الاصطناعي يتطلب خط أنابيب تم إنشاؤه “مع وضع حواجز حماية خطيرة في الاعتبار”.
بالنسبة لخدمات الذكاء الاصطناعي الداخلية التي تقوم بتقييم Chrome، “كل شيء يعمل في حاوية، وكل شيء معزول عن الإنترنت. ويقول تيرنر إن أي نشاط شبكي خارجي لنظام تتبع الأخطاء يخضع لرقابة شديدة، ونحن نراقب أي نشاط مشبوه”. “هذا أمر لا بد منه عندما تقوم بهذا النوع من العمل، لأننا نريد التأكد من أن النماذج لا يمكنها تنفيذ أوامر النظام أو أنها لا تستطيع إنشاء خروج خارج صندوق الحماية. ونأمل أن يتبع الآخرون نهجًا مماثلاً.”
