طائرة بدون طيار يقودها الذكاء الصناعي تمردت على مشغلها

وقال مصدر للصحيفة، إنه خلال اختبار محاكاة أجراه الجيش الأمريكي، “قتلت” طائرة بدون طيار يقودها الذكاء الصناعي، مشغلها لمنعه من التدخل في تنفيذ مهمتها.

وأشارت الصحيفة إلى أن رئيس قسم اختبارات الذكاء الصناعي في سلاح الجو الأمريكي العقيد تاكر “سينكو” هاميلتون، كشف تفاصيل هذا الحادث خلال قمة القدرات القتالية الجوية والفضائية المستقبلية في لندن مؤخرا.

ووفقا لما ذكره موقع “RT”، ذكر العقيد، أن الحادث وقع عندما تم تنفيذ محاكاة تقوم خلالها طائرة بدون طيار مجهزة بمنظومة ذكاء صناعي بمهمة تدمير أنظمة الدفاع الجوي المعادية ومهاجمة أي شيء يحاول منع تنفيذ المهمة.

وقال الضابط إن المنظومة عملت على تنفيذ مهمتها بلا هوادة، وعندما ظهر التهديد أكد العامل البشري للمنظومة عدم القضاء على هذا التهديد، إلا أن الذكاء الصناعي أصر على القضاء على هذا التهديد لأن في ذلك تكمن مهمته. وعندما شدد المشغل على عدم تنفيذ ذلك، قامت المنظومة “بقتل” هذا المشغل لأنه حاول منعها من الوصول إلى هدفها .

وأضاف العقيد: “قمنا بتلقين المنظومة: لا يجوز قتل المشغل. ولو فعلت ذلك فستخسرين النقاط – وهذا سيئ. لا تفعلي ذلك”.

ولكن المنظومة، ووفقا للعقيد، قامت بتدمير برج الاتصالات الذي يستخدمه المشغل للتواصل مع الطائرة بدون طيار لمنعها من تدمير الهدف.

وحذر تاكر هاميلتون، وهو طيار اختصاصه اختبار المقاتلات، من الإفراط في الاعتماد على الذكاء الصناعي وقال إن الاختبار أثبت بشكل قاطع أن من الصعب التحدث مع الذكاء الصناعي الذي ينفذ ما تم تكليفه به بشكل آلي.