صورة “انفجار” مزيفة للبنتاغون تثير الارتباك على تويتر

يوم الاثنين ، أ غرد أدت الصورة التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي تشير إلى حدوث انفجار كبير في البنتاغون إلى حدوث ارتباك قصير ، والذي تضمن انخفاضًا طفيفًا في سوق الأسهم. نشأت من حساب Twitter تم التحقق منه باسم “Bloomberg Feed” ، غير تابع لشركة بلومبيرج الإعلامية المعروفة ، وسرعان ما تم الكشف عنها على أنها خدعة. ومع ذلك ، قبل أن يتم فضحها ، كانت حسابات كبيرة مثل روسيا اليوم قد نشرت بالفعل المعلومات المضللة ، حسبما ذكرت صحيفة واشنطن بوست.

صورت الصورة المزيفة عمودًا كبيرًا من الدخان الأسود إلى جانب مبنى يذكرنا بشكل غامض بالبنتاغون بالتغريدة “انفجار كبير بالقرب من مجمع البنتاغون في واشنطن العاصمة – تقرير أولي”. عند الفحص الدقيق ، أكدت السلطات المحلية أن الصورة لم تكن تمثيلا دقيقا للبنتاغون. أيضًا ، مع قضبان السياج الباهتة وأعمدة البناء ، تبدو وكأنها صورة قذرة تم إنشاؤها بواسطة AI تم إنشاؤها بواسطة نموذج مثل Stable Diffusion.

قبل تعليق تويتر لحساب بلومبرج المزيف ، قام بالتغريد 224000 مرة ووصل إلى أقل من 1000 متابع ، وفقًا للصحيفة ، لكن من غير الواضح من قام بإدارته أو الدوافع وراء مشاركة الصورة الخاطئة. بالإضافة إلى Bloomberg Feed ، فإن الحسابات الأخرى التي شاركت التقرير الخاطئ تشمل “Walter Bloomberg” و “Breaking Market News” ، وكلاهما غير منتسب إلى مؤسسة Bloomberg الحقيقية.

تؤكد هذه الحادثة على التهديدات المحتملة التي قد تظهرها الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي في عالم وسائل التواصل الاجتماعي المشتركة على عجل – ونظام التحقق المدفوع على تويتر. في مارس / آذار ، وصلت صور مزيفة لاعتقال دونالد ترامب تم إنشاؤها مع ميدجورني إلى جمهور عريض. في حين تم تمييزهم بوضوح على أنهم مزيفون ، فقد أثاروا مخاوف من الخلط بينهم وبين صور حقيقية بسبب الواقعية. في نفس الشهر ، خدعت الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي للبابا فرانسيس في معطف أبيض العديد من الذين رأوها على وسائل التواصل الاجتماعي.

البابا الذي يرتدي المعاطف المنتفخة شيء واحد ، ولكن عندما يعرض شخص ما موضوعًا حكوميًا مثل مقر وزارة الدفاع الأمريكية في تغريدة مزيفة ، فمن المحتمل أن تكون العواقب أكثر خطورة. بصرف النظر عن الارتباك العام على Twitter ، ربما أثرت التغريدة المخادعة على سوق الأسهم. تقول صحيفة واشنطن بوست إن مؤشر داو جونز الصناعي انخفض بمقدار 85 نقطة في أربع دقائق بعد انتشار التغريدة لكنه انتعش بسرعة.

ربما أصبح الكثير من الالتباس حول التغريدة الكاذبة ممكنًا من خلال التغييرات التي طرأت على Twitter في عهد مالكها الجديد ، إيلون ماسك. أطلق ماسك فرق الإشراف على المحتوى بعد فترة وجيزة من استيلائه وأتمت عملية التحقق من الحساب إلى حد كبير ، ونقلها إلى نظام يمكن لأي شخص أن يدفع مقابل الحصول على علامة اختيار زرقاء. يجادل النقاد بأن الممارسة تجعل المنصة أكثر عرضة للمعلومات المضللة.

في حين أن السلطات اختارت بسهولة صورة الانفجار على أنها مزيفة بسبب عدم الدقة ، فإن وجود نماذج تجميع الصور مثل Midjourney و Stable Diffusion يعني أنه لم يعد يتطلب مهارة فنية لإنشاء صور مزيفة مقنعة ، وتقليل الحواجز أمام الدخول وفتح الباب أمام احتمالية. آلات المعلومات المضللة الآلية. تعني سهولة إنشاء المنتجات المزيفة ، إلى جانب الطبيعة الفيروسية لمنصة مثل Twitter ، أن المعلومات الخاطئة يمكن أن تنتشر بشكل أسرع مما يمكن التحقق منه.

لكن في هذه الحالة ، لا يلزم أن تكون الصورة عالية الجودة لإحداث تأثير. أشار سام جريجوري ، المدير التنفيذي لمنظمة حقوق الإنسان ويتنس ، لصحيفة واشنطن بوست إلى أنه عندما يريد الناس أن يؤمنوا ، فإنهم يخذلون حذرهم ويفشلون في النظر في صحة المعلومات قبل مشاركتها. ووصف صورة البنتاغون الزائفة بأنها “زائفة ضحلة” (مقابل “التزييف العميق” الأكثر إقناعاً).

وقال: “الطريقة التي يتعرض بها الناس لهذه المنتجات المقلدة الضحلة ، لا تتطلب شيئًا يبدو تمامًا كشيء آخر حتى تجذب الانتباه”. “سيأخذ الناس بسهولة ويشاركون الأشياء التي لا تبدو صحيحة تمامًا ولكنها تشعر بأنها على ما يرام.”