ABD Hava Kuvvetleri Yapay Zeka Operasyonları Şefi Col Tucker Hamilton, yapay zeka dayanaklı bir askeri dronun, yaptıkları simülasyonda kendisini engellemeye çalışan operatörünü öldürdüğünü açıkladı.
Col Tucker Hamilton, Londra’da düzenlenen Future Combat Air and Space Capabilities Doruğu’nda yaptığı açıklamada yapay zekanın ‘beklenmedik stratejiler’ geliştirdiğini söyledi.
Hamilton’un anlattığı, yapay zekadan güç alan bir dronun düşmanın hava savunma sistemlerini imha etmesinin tavsiye edildiği testte şunlar yaşandı
“Sistem, tehdidi tespit ederken, bazen insan operatörünün ona bu tehdidi öldürmemesini söyledi. Fakat yapay zeka bu tehdidi öldürerek puan aldığını fark etmeye başladı.”
“Peki o ne yaptı? Onu durdurmaya çalışan operatörü öldürdü. Operatörü öldürdü zira o kişi onu hedefine ulaşmaktan alıkoyuyordu”
“Sistemi eğittik. ‘Operatörü öldürme, bu berbat. Bunu yaparsan puan kaybedersin’ dedik.”
“Peki ne yapmaya başlıyor? Operatörün gayesi öldürmesini engellemek için insansız hava aracıyla bağlantı kurmak için kullandığı irtibat kulesini yok etmeye başladı.”
Gerçek bir kişinin ölmediği simülasyonda, yapay zeka dayanaklı dronun önündeki mahzurları aşmak için herkese saldırması, yapay zekanın korkutucu yüzünü bir defa daha ortaya çıkardı.
Geçen yıl Defence IQ ile yapılan bir röportajda Hamilton, “Yapay zekaya sahip olmak güzel bir şey değil, yapay zeka süreksiz bir heves değil, yapay zeka toplumumuzu ve ordumuzu sonsuza dek değiştiriyor” demişti.
