قامت الشرطة المسلحة بتقييد يدي مراهق أمريكي بعد أن قال نظام الذكاء الاصطناعي (AI) عن طريق الخطأ إنه كان يحمل مسدسًا – في حين أنه كان يحمل في الحقيقة علبة من رقائق البطاطس.
وقال تاكي ألين، تلميذ بالتيمور البالغ من العمر 16 عاماً، لمنفذ WMAR-2 News المحلي: “ظهرت الشرطة، مثل ثماني سيارات شرطة، ثم خرجوا جميعاً بالبنادق الموجهة نحوي وتحدثوا عن النزول على الأرض”.
وقالت إدارة شرطة مقاطعة بالتيمور إن ضباطها “استجابوا بشكل مناسب ومتناسب بناءً على المعلومات المقدمة في ذلك الوقت”.
وقالت إن تنبيه الذكاء الاصطناعي أُرسل إلى المراجعين البشريين الذين لم يجدوا أي تهديد، لكن المدير فاتته واتصل بفريق السلامة بالمدرسة، الذي اتصل بالشرطة في النهاية.
لكن الحادث أثار دعوات من قبل البعض لمراجعة إجراءات المدارس حول استخدام هذه التكنولوجيا.
وقال السيد ألين للأخبار المحلية إنه أنهى كيس دوريتوس بعد تدريب كرة القدم، ووضع العبوة الفارغة في جيبه.
وأضاف أنه بعد 20 دقيقة وصلت الشرطة المسلحة.
وقال: “طلب مني أن أركع على ركبتي، واعتقلني وكبلني”.
وقالت إدارة شرطة مقاطعة بالتيمور لبي بي سي نيوز إن ألين كان مقيد اليدين لكن لم يتم القبض عليه.
وقالوا في بيان: “تم حل الحادث بأمان بعد التأكد من عدم وجود تهديد”.
وقال السيد ألين إنه ينتظر الآن في الداخل بعد تدريب كرة القدم، لأنه يعتقد أنه ليس “آمنًا بدرجة كافية للخروج، وخاصة تناول كيس من رقائق البطاطس أو شرب شيء ما”.
وفي رسالة إلى أولياء الأمور، قالت مديرة المدرسة كيت سميث إن فريق السلامة بالمدرسة “قام بسرعة بمراجعة التنبيه الأولي وألغاه بعد التأكد من عدم وجود سلاح”.
قالت: “اتصلت بمسؤول موارد مدرستنا (SRO) وأبلغته بالأمر، فاتصل بالدائرة المحلية للحصول على دعم إضافي”.
وأضاف أن “ضباط الشرطة توجهوا إلى المدرسة وقاموا بتفتيش الشخص وسرعان ما أكدوا أنه لم يكن بحوزتهم أي أسلحة”.
ومع ذلك، دعا السياسيون المحليون إلى إجراء مزيد من التحقيقات في الحادث.
وكتب إيزي باكوتا، عضو المجلس المحلي لمقاطعة بالتيمور، على فيسبوك: “أدعو المدارس العامة في مقاطعة بالتيمور إلى مراجعة الإجراءات المتعلقة بنظام الكشف عن الأسلحة الذي يعمل بالذكاء الاصطناعي”.
وتواصلت بي بي سي مع شركة Omnilert، المزود المعلن لأداة الذكاء الاصطناعي، للتعليق.
تقول شركة Omnilert إنها “الشركة الرائدة” في مجال الكشف عن الأسلحة باستخدام الذكاء الاصطناعي – مستشهدة بعدد من المدارس الأمريكية من بين دراسات الحالة التي أجرتها على موقعها على الإنترنت.
تدعي الشركة أن تقنيتها تستخدم بيانات حقيقية ومتنوعة، مما يؤدي إلى “اكتشاف أكثر موثوقية، وعدد أقل من النتائج الإيجابية الكاذبة، ونظام يعمل بالفعل في المكان الأكثر أهمية”.
وجاء في التقرير أن “الكشف عن الأسلحة في العالم الحقيقي أمر فوضوي”. “تختلف الإضاءة، والأسلحة تأتي بجميع الأشكال، والبيئات مليئة بالضوضاء والحركة.
“إن منهجيتنا التي تركز على البيانات تدرب الذكاء الاصطناعي على النجاح في هذه السيناريوهات المحددة – لأننا نستخدم بيانات حقيقية من ظروف حقيقية، وليس عمليات محاكاة.”
لكن السيد ألين قال: “لا أعتقد أنه ينبغي الخلط بين كيس رقائق ومسدس على الإطلاق”.
وقد خضعت كفاية الذكاء الاصطناعي لتحديد الأسلحة بدقة للتدقيق.
في العام الماضي، مُنعت شركة أسلحة المسح الأمريكية Evolv Technology من تقديم ادعاءات غير مدعومة حول منتجاتها بعد أن قالت إن الماسح الضوئي الذي يعمل بالذكاء الاصطناعي، والذي يستخدم في آلاف المدارس والمستشفيات ومداخل الملاعب الأمريكية، يمكنه اكتشاف جميع الأسلحة.
وأظهرت تحقيقات بي بي سي نيوز أن هذه الادعاءات كاذبة.
