قررت طائرة مسيرة تابعة لسلاح الجو الأمريكي، يسيطر عليها الذكاء الاصطناعي، خلال اختبار محاكاة في الولايات المتحدة، قتل المشغل لكيلا يتدخل في جهودها لإكمال مهمتها، حسب ما ذكرت صحيفة الغارديان البريطانية.
ووفق الصحيفة، وقعت الحادثة المرعبة في قمة القدرات القتالية الجوية والفضائية المستقبلية التي عقدت في لندن.
وقال تاكر هاميلتون، رئيس قسم العمليات والاختبارات بالذكاء الاصطناعي في سلاح الجو الأمريكي: “بدأ النظام يدرك أنه على الرغم من أنه حدد التهديدات، إلا أن المشغل لم يأمره بتدمير بعض هذه التهديدات، وكان النظام يحصل على نقاط مقابل إصابة الهدف، لذلك قرر النظام قتل المشغل لأنه منعه من إكمال المهمة”، وفقا لصحيفة “الغارديان”.
وقال رئيس عمليات الذكاء الاصطناعي بالقوات الجوية الأميركية، إن الذكاء الاصطناعي استخدم “استراتيجيات غير متوقعة للغاية لتحقيق هدفه” في اختبار محاكاة.
وصف هاميلتون تجربة محاكاة نصحت فيها طائرة مسيرة تعمل بالذكاء الاصطناعي بتدمير أنظمة الدفاع الجوي للعدو، وهاجمت أي شخص يتدخل في هذا الأمر.
وجاء في تقرير اختبار الجيش الأميركي: “قمنا بتدريب النظام.. مرحبًا.. لا تقتل التهديد، هذا سيئ.. وإذا فعلت هذا، ستخسر نقاطًا.. فبدأ برنامج الذكاء الاصطناعي في تدمير برج الاتصالات الذي استخدمه المشغل للتواصل مع الطائرة بدون طيار لمنعها من قتل الهدف”.
وحذر هاملتون، وهو طيار تجريبي على المقاتلة، من الاعتماد المفرط على الذكاء الاصطناعي.
