ميدجورني
أعلن البيت الأبيض يوم الخميس عن تعاون مفاجئ بين كبار مطوري الذكاء الاصطناعي ، بما في ذلك OpenAI و Google و Antrhopic و Hugging Face و Microsoft و Nvidia و Stability AI ، للمشاركة في تقييم عام لأنظمة الذكاء الاصطناعي التوليدية الخاصة بهم في DEF CON 31 ، مؤتمر الهاكرز المنعقد في لاس فيجاس في أغسطس. ستستضيف قرية AI ، وهي مجتمع من قراصنة الذكاء الاصطناعي ، الحدث.
منذ العام الماضي ، أصبحت النماذج اللغوية الكبيرة (LLMs) مثل ChatGPT وسيلة شائعة لتسريع مهام الكتابة والاتصالات ، لكن المسؤولين يدركون أنها تأتي أيضًا مع مخاطر متأصلة. تشكل قضايا مثل التشاركات ، وسجن الجلبريك ، والتحيزات تحديات للمهنيين الأمنيين والجمهور. لهذا السبب يقوم مكتب البيت الأبيض للعلوم والتكنولوجيا والسياسة بإشراك نماذج الذكاء الاصطناعي التوليدية الجديدة هذه بأقصى حدودها.
“سيوفر هذا التمرين المستقل معلومات مهمة للباحثين والجمهور حول تأثيرات هذه النماذج وسيمكن شركات الذكاء الاصطناعي والمطورين من اتخاذ خطوات لإصلاح المشكلات الموجودة في تلك النماذج” ، وفقًا لبيان صادر عن البيت الأبيض ، والذي يقول إن الحدث . يتوافق مع قانون حقوق الذكاء الاصطناعي لإدارة بايدن ومع إطار إدارة مخاطر الذكاء الاصطناعي التابع للمعهد الوطني للمعايير والتكنولوجيا.
في إعلان مواز كتبته AI Village ، وصف المنظمون سفين كاتيل ورمان تشودري وأوستن كارسون الحدث القادم بأنه “أكبر تمرين جماعي أحمر على الإطلاق لأي مجموعة من طرازات الذكاء الاصطناعي.” سيشارك الآلاف من الأشخاص في تقييم نموذج الذكاء الاصطناعي العام ، والذي سيستخدم منصة التقييم التي طورتها Scale AI.
“Red-teaming” هي عملية يحاول من خلالها خبراء الأمن اكتشاف نقاط الضعف أو العيوب في أنظمة المؤسسة لتحسين الأمن والمرونة بشكل عام.
وفقًا لـ Cattell ، مؤسس AI Village ، “لن يتم حل المشكلات المتنوعة مع هذه النماذج حتى يعرف المزيد من الأشخاص كيفية تصميم الفريق وتقييمهم”. من خلال إجراء أكبر تمرين للفرق الحمراء لأي مجموعة من نماذج الذكاء الاصطناعي ، تهدف AI Village و DEF CON إلى تنمية مجتمع الباحثين المجهزين للتعامل مع نقاط الضعف في أنظمة الذكاء الاصطناعي.
أثبتت LLM أنه من الصعب بشكل مدهش إغلاقها جزئيًا بسبب تقنية تسمى “الحقن الفوري” ، والتي نشرنا قصة عنها في سبتمبر. كتب الباحث في مجال الذكاء الاصطناعي سايمون ويليسون بالتفصيل عن مخاطر الحقن الفوري ، وهي تقنية يمكن أن تعرقل نموذج اللغة عن مساره في تنفيذ إجراءات لا يقصدها منشئها.
خلال حدث DEF CON ، سيتمكن المشاركون من الوصول إلى العديد من LLMs من خلال أجهزة الكمبيوتر المحمولة التي يوفرها المنظمون. سيشجع نظام النقاط على غرار التقاط العلم على اختبار مجموعة واسعة من الأضرار المحتملة. في النهاية ، سيفوز الشخص الحاصل على أكبر عدد من النقاط بوحدة معالجة رسومات Nvidia الراقية.
كتب AI Village “سننشر ما تعلمناه من هذا الحدث لمساعدة الآخرين الذين يريدون تجربة نفس الشيء”. “كلما زاد عدد الأشخاص الذين يعرفون أفضل طريقة للعمل مع هذه النماذج ، وقيودها ، كان ذلك أفضل.”
سيعقد DEF CON 31 في الفترة من 10 إلى 13 أغسطس 2023 في Caesar’s Forum في لاس فيغاس.
