مرة أخرى في مايو في قمة القدرات القتالية الجوية والفضائية المستقبلية في لندن ، وصف العقيد في القوات الجوية الأمريكية تاكر هاميلتون اختبارًا محاكى حيث بدأت طائرة بدون طيار تدعم الذكاء الاصطناعي “تدرك” أنها يمكن أن تكمل مهمتها بشكل أكثر فاعلية إذا دمرت مشغلها البشري. انتشرت قصة “منظمة العفو الدولية المارقة” التي قتلت منشئها بسرعة في جميع أنحاء الإنترنت ، مدفوعة في الغالب بوسائل التواصل الاجتماعي ولكنها تظهر أيضًا في بعض الأخبار السائدة.
ومع ذلك ، تحت المراقبة المتزايدة ، سرعان ما انهارت القصة كمزيج من سوء الاقتباس وتجربة فكرية افتراضية. أوضح هاميلتون في وقت لاحق: “لم نقم مطلقًا بهذه التجربة ، ولن نحتاج إلى ذلك لكي ندرك أن هذه نتيجة معقولة”. وهو ما يبدو واضحًا إلى حد ما ، بعد فوات الأوان ، لأن تفاصيل السيناريو وأداء الذكاء الاصطناعي كما هو موصوف في الأصل لا معنى له كثيرًا.
ما يفعل make هي قصة رائعة عن الذكاء الاصطناعي المحتال – بغض النظر عن مدى صحته. ومع تزايد شهرة الذكاء الاصطناعي في التكنولوجيا والمجتمع اليوم ، يبدو أنه لا مفر من رؤية المزيد من هذه القصص. لذلك من خلال النصائح والمدخلات من مجموعة متنوعة من خبراء الذكاء الاصطناعي ، قمنا بتجميع قائمة من الأسئلة لمساعدتك على التحقق من صحة القصة التالية التي قرأتها عن الذكاء الاصطناعي الذي أصبح شريرًا.
1. هل القصة من مصدر موثوق؟
هل القصة من مصدر إخباري جدير بالثقة ، مباشرة من باحث أو مستخدم ، أو تم التحقق من صحتها بطريقة أخرى؟ هل استجابت أي مواقع إخبارية رئيسية أخرى أو مواقع التحقق من الحقائق للقصة؟ من المهم أيضًا مراعاة الدافع وراء مصدر القصة – على سبيل المثال ، هل الهدف هو بيع شيء ما ، أو جمع الأموال؟ وأحيانًا يمكن إخفاء هذه الدوافع ، لذلك من المهم البحث عن الدوافع الأساسية بدلاً من الدوافع السطحية التي قد يقدمها لك المصدر.
2. هل يعقل؟
هل السياق استخدام معقول وواقعي للذكاء الاصطناعي؟ لا تحتاج بالضرورة إلى أن تكون خبيرًا في الذكاء الاصطناعي بنفسك للتحقق من قصة شريرة للذكاء الاصطناعي – إذا بدا لك شيء ما بعيدًا ، حافظ على شكوكك.
3. هل هناك كلمات ابن عرس؟
أنظمة التعلم الآلي لا “تفهم” أو “تدرك” الأشياء أو “تعلم نفسها” للقيام بأشياء خارج نطاقاتها ، وغالبًا ما تستخدم كلمات وعبارات مثل هذه للتعتيم على سياق مهم لكيفية عمل الذكاء الاصطناعي في الواقع. قد تكون هذه الكلمات أيضًا اختيارات سيئة في محاولة لإيصال مفهوم إلى جمهور أوسع ، لكن الأمر يستحق القيام ببعض البحث الإضافي لمعرفة ما يحدث بالفعل.
4. كيف تم تدريب الذكاء الاصطناعي؟
ما هي السلوكيات التي تمت مكافأتها خلال مرحلة التدريب ، وهل تم وزن هذه المكافآت بشكل صحيح ومقيدة؟ ما هي البيانات التي تم تدريب الذكاء الاصطناعي عليها ، وهل تمثل هذه البيانات بدقة العالم الحقيقي؟ يمكن عمل جميع أنواع الأشياء في المحاكاة ، والذكاء الاصطناعي عرضة بشكل خاص للأداء المتوقع فقط عندما يتم التحكم في الظروف بعناية ، والتي غالبًا لا تمتد إلى الاستخدام في العالم الحقيقي. تؤكد قصص Rogue AI على النتائج ولكنها لا تميل إلى تقديم تفسيرات مفصلة للعملية التي تم الحصول على هذه النتائج من خلالها ، والتي يمكن أن توفر سياقًا نقديًا.
5. أين الإنسان؟
غالبًا ما يكون السلوك غير المتوقع للذكاء الاصطناعي هو النتيجة المباشرة لاختيار يقوم به إنسان مشارك في تصميم أو تدريب الذكاء الاصطناعي ، وليس سلوكًا ناشئًا للذكاء الاصطناعي نفسه. قد يكون هذا جزءًا من عملية التدريب ، أو قد يكون خطأ أكثر وضوحًا في كيفية تصور نظام الذكاء الاصطناعي أو تنفيذه. هذا ليس “ذكاءً اصطناعيًا خادعًا” ، إنه خطأ بشري.
6. ما رأي الخبراء؟
هل هناك اقتباسات من خبراء ذكاء اصطناعي مستقلين تتعلق بالقصة؟ إذا كان الأمر كذلك ، فتأكد من فهم من هم الخبراء ، وما إذا كانت غرائزك المتشككة تشير إلى أنك تثق بهم أم لا. قد يكون من الصعب معرفة ما إذا كان خبير لم تسمع به من قبل جديرًا بالثقة ؛ ابحث عن المشككين المطلعين – من الناحية المثالية في شبكتك الموسعة. لكن ، مرة أخرى ، ضع في اعتبارك ما قد تكون عليه دوافعهم.
القصد من هذه الأسئلة ليس دحض كل حالة على حدة لما يمكن تسميته “منظمة العفو الدولية المارقة”. ما يمكن اعتباره بالضبط “ذكاء اصطناعي خادع” مفتوح للتفسير ، وقد لا تتوافق مخاوفك بشأن الذكاء الاصطناعي مع خبراء الذكاء الاصطناعي أو وسائل الإعلام. بغض النظر عن وجهة نظرك حول الذكاء الاصطناعي ، نأمل أن يساعد طرح هذه الأسئلة في وضع قصص الذكاء الاصطناعي المقلقة في سياق أكثر موضوعية ودقة.
بغض النظر عما تقوله قصة الذكاء الاصطناعي المارقة التالية ، من المحتمل ألا يكون الذكاء الاصطناعي خارجًا لتدمير كل البشر. ومن المحتمل جدًا عدم محاولة تحويلنا جميعًا إلى مشابك ورقية أيضًا. هذا لا يعني أنه لن تكون هناك عواقب وخيمة على الذكاء الاصطناعي ، بعضها ضار. ولكن على المدى القريب على الأقل ، من المرجح أن تكون هذه الأضرار خفية ، حيث تقوم أنظمة الذكاء الاصطناعي المستهدفة بهدوء بما صُممت من أجله بالضبط: الاستفادة من بياناتنا لجذب الانتباه والمال منا بأكبر قدر ممكن من الكفاءة. لذا اقترب من قصة الذكاء الاصطناعي المارقة التالية ببعض الشك ، وحاول ألا تدعها تشتت انتباهك كثيرًا عن كيفية وجود الذكاء الاصطناعي. حقًا تؤثر على حياتك الآن.
شكر خاص لخبراء الذكاء الاصطناعي الذين قدموا لنا ملاحظات حول هذه المقالة.
من مقالات موقعك
مقالات ذات صلة حول الويب
