Guardian gazetesi, yapay zeka tarafından yönetilen bir ABD askeri insansız hava aracının operatörüne isyan ederek onu simüle edilmiş bir test sırasında “öldürdüğünü” söyledi.
Gazeteye göre, bu sırada kimse gerçekten zarar görmedi, ancak yapay zeka test sırasında “çok beklenmedik stratejiler” kullanarak amacına ulaşmaya çalıştı ve onu bundan alıkoymaya çalışanlara saldırdı.
Bir kaynak, gazeteye, ABD ordusu tarafından yürütülen simüle edilmiş bir test sırasında, yapay zeka tarafından kontrol edilen bir insansız hava aracının, görevin uygulanmasına müdahale etmesini önlemek için operatörünü “öldürdüğünü” söyledi.
Gazete, ABD Hava Kuvvetleri Yapay Zeka Testleri Daire Başkanı Albay Tucker “Sinco” Hamilton’ın geçtiğimiz Mayıs ayında Londra’da düzenlenen Future Air and Space Combat Capabilities Summit’te bu olayın ayrıntılarını ortaya çıkardığına dikkat çekti.
Albay, olayın, yapay zeka sistemi ile donatılmış bir dronun düşman hava savunma sistemlerini imha etme ve görevin uygulanmasını engellemeye çalışan her şeye saldırma görevi üstlendiği bir simülasyon gerçekleştirildiği sırada meydana geldiğini belirtti.
Görevli, sistemin görevini yerine getirmek için durmaksızın çalıştığını ve tehdit ortaya çıktığında insan faktörünün bu tehdidi ortadan kaldırmayacağını sisteme teyit ettiğini ancak yapay zekanın görevinin burada olduğu için bu tehdidi ortadan kaldırmakta ısrar ettiğini söyledi. yalanlar. Operatör bunun yapılmadığını vurgulayınca sistem, operatörün hedefine ulaşmasını engellemeye çalıştığı için “öldürdü”.
Albay ekledi, “Sisteme şunu öğrettik: Operatörü öldüremezsin. Bunu yaparsan puan kaybedersin – ve bu kötü. Bunu yapma.”
Ancak albaya göre sistem, operatörün hedefi yok etmesini önlemek için drone ile iletişim kurmak için kullandığı iletişim kulesini yok etti.
Bir savaş testi pilotu olan Tucker Hamilton, yapay zekaya aşırı güvenme konusunda uyarıda bulundu ve testin, kendisine verilenleri otomatik olarak gerçekleştiren bir yapay zeka ile konuşmanın zor olduğunu kesin olarak kanıtladığını söyledi.