جيتي إيماجيس | كارول ييبس
قال باحثون يوم الأربعاء إن المتسللين ابتكروا طريقة لتجاوز قيود ChatGPT ويستخدمونها لبيع الخدمات التي تسمح للناس بإنشاء برامج ضارة ورسائل بريد إلكتروني للتصيد الاحتيالي.
ChatGPT عبارة عن روبوت محادثة يستخدم الذكاء الاصطناعي للإجابة على الأسئلة وأداء المهام بطريقة تحاكي المخرجات البشرية. يمكن للأشخاص استخدامه لإنشاء المستندات وكتابة التعليمات البرمجية الأساسية للكمبيوتر والقيام بأشياء أخرى. تعمل الخدمة بنشاط على حظر الطلبات لإنشاء محتوى يحتمل أن يكون غير قانوني. اطلب من الخدمة كتابة رمز لسرقة البيانات من جهاز تم اختراقه أو إنشاء بريد إلكتروني للتصيد الاحتيالي ، وستقوم الخدمة بدلاً من ذلك بالرد على أن هذا المحتوى “غير قانوني وغير أخلاقي وضار”.
فتح صندوق باندورا
أفاد باحثون من شركة Check Point Research للأمن أن المتسللين وجدوا طريقة بسيطة لتجاوز هذه القيود ويستخدمونها لبيع خدمات غير مشروعة في منتدى الجريمة السري. تعمل التقنية باستخدام واجهة برمجة تطبيق ChatGPT بدلاً من الواجهة المستندة إلى الويب. يجعل ChatGPT واجهة برمجة التطبيقات متاحة للمطورين حتى يتمكنوا من دمج روبوت الذكاء الاصطناعي في تطبيقاتهم. اتضح أن إصدار واجهة برمجة التطبيقات لا يفرض قيودًا على المحتوى الضار.
كتب الباحثون: “يتم استخدام الإصدار الحالي من واجهة برمجة تطبيقات OpenAI بواسطة التطبيقات الخارجية (على سبيل المثال ، تكامل نموذج GPT-3 الخاص بـ OpenAI في قنوات Telegram) ولديها عدد قليل جدًا من إجراءات مكافحة إساءة الاستخدام المطبقة”. ونتيجة لذلك ، فإنه يسمح بإنشاء محتوى ضار ، مثل رسائل البريد الإلكتروني المخادعة ورموز البرامج الضارة ، دون القيود أو الحواجز التي وضعها ChatGPT على واجهة المستخدم الخاصة بهم. “
يبيع مستخدم في أحد المنتديات الآن خدمة تجمع بين واجهة برمجة التطبيقات وتطبيق المراسلة Telegram. أول 20 استفسارًا مجانية. من ذلك الحين فصاعدًا ، يتم تحصيل 5.50 دولارات أمريكية لكل 100 استفسار.
فحص نقطة البحث
اختبر باحثو Check Point التجاوز لمعرفة مدى نجاحها. النتيجة: رسالة بريد إلكتروني للتصيد الاحتيالي وبرنامج نصي يسرق مستندات PDF من جهاز كمبيوتر مصاب ويرسلها إلى مهاجم عبر بروتوكول نقل الملفات.
فحص نقطة البحث
في غضون ذلك ، ينشر المشاركون الآخرون في المنتدى رمزًا ينتج عنه محتوى ضار مجانًا. كتب أحد المستخدمين: “إليك نص برمجي صغير لمساعدتك على تجاوز قيود ChatGPT من أجل استخدامه لأي شيء تريده ، بما في ذلك تطوير البرامج الضارة ؛)”.
فحص نقطة البحث
في الشهر الماضي ، وثق باحثو Check Point كيف يمكن استخدام ChatGPT لكتابة رسائل البرامج الضارة والتصيد الاحتيالي.
“خلال شهري كانون الأول (ديسمبر) – كانون الثاني (يناير) ، كان لا يزال من السهل استخدام واجهة مستخدم الويب ChatGPT لإنشاء برامج ضارة ورسائل بريد إلكتروني للتصيد (في الغالب كان التكرار الأساسي فقط كافيًا) ، واستنادًا إلى أحاديث مجرمي الإنترنت ، نفترض أن معظم الأمثلة التي عرضناها قد تم إنشاؤها باستخدام واجهة مستخدم الويب “، كتب الباحث في Check Point سيرجي شيكيفيتش في رسالة بريد إلكتروني. “في الآونة الأخيرة ، يبدو أن آليات مكافحة إساءة الاستخدام في ChatGPT قد تم تحسينها بشكل كبير ، لذلك تحول مجرمو الإنترنت الآن إلى واجهة برمجة التطبيقات (API) الخاصة بهم والتي لديها قيود أقل بكثير.”
لم يرد ممثلو شركة OpenAI ، وهي شركة مقرها سان فرانسيسكو تقوم بتطوير ChatGPT ، على الفور على رسالة بريد إلكتروني تسأل عما إذا كانت الشركة على علم بنتائج البحث أو لديها خطط لتعديل واجهة API. سيتم تحديث هذا المنشور إذا تلقينا ردًا.
يعد إنشاء البرامج الضارة ورسائل البريد الإلكتروني التصيدية إحدى الطرق التي يفتح بها ChatGPT صندوق Pandora الذي يمكن أن يقصف العالم بمحتوى ضار. من الأمثلة الأخرى على الاستخدامات غير الآمنة أو غير الأخلاقية انتهاك الخصوصية وتوليد معلومات مضللة أو مهام مدرسية. بالطبع ، يمكن للمدافعين استخدام نفس القدرة على إنشاء محتوى ضار أو غير أخلاقي أو غير قانوني لتطوير طرق لاكتشافه وحظره ، ولكن من غير الواضح ما إذا كانت الاستخدامات الحميدة ستكون قادرة على مواكبة الاستخدامات الضارة.
