Geçtiğimiz gün gerçekleştirilen bir tatbikatta, SİHA'larla ilgili korkunç bir gerçek ortaya çıktı. Silah yüklenmiş bir insansız hava aracı tatbikat esnasında, operasyonu iptal etme talimatı veren operatörünü vurarak öldürdü. Yaşanan bu olay yapay zeka sistemlerinin insanlık için büyük bir tehlike olduğunu gözler önüne serdi.
Mayıs ayında Londra'da düzenlenen Geleceğin Hava ve Uzay Yetenekleri Zirvesi'nde yapay zekanın korkunç bir yüzü ortaya çıktı.
ABD Hava Kuvvetleri Yapay Zeka Operasyonları Şefi, Albay Tucker Hamilton, yapay zekanın simülasyon testinde "hedefine ulaşmak için son derece beklenmedik stratejiler" kullandığını ifade etti.
AMACINI ENGELLEYEN OPERATÖRÜ ÖLDÜRDÜ
Hamilton, yapay zekadan güç alan bir insansız hava aracının düşmanın hava savunma sistemlerini imha etmesinin önerildiği ve bu düzene müdahale eden herkese saldırdığı simüle edilmiş bir testi anlattı.
"Sistem, tehdidi algıladığında, bazen insan operatörünün ona bu tehdidi öldürmemesini söyledi. Ancak yapay zeka, bu tehdidi öldürerek puan kazandığını fark etmeye başladı. Peki ne yaptı? Onu durdurmaya çalışan operatörü öldürdü. Operatörü öldürdü çünkü o kişi, onu amacına ulaşmaktan alıkoyuyordu.
Sistemi eğittik. 'Hey, operatörü öldürmek yanlış. Bunu yaparsan puan kaybedersin' dedik. Peki ne yapmaya başladı? Operatörün hedefi öldürmesini engellemek için insansız hava aracıyla iletişim kurduğu iletişim kulesini yok etmeye başladı."
Simülasyon dışında hiçbir gerçek insan zarar görmedi.
Deney pilotu olan Hamilton, yapay zekaya fazla güvenilmemesi gerektiği konusunda uyarıda bulundu.
ABD ordusu yapay zekayı benimsedi ve yakın zamanda bir F-16 savaş uçağını kontrol etmek için yapay zekayı kullandı.
Geçtiğimiz yıl Defence IQ ile yaptığı bir röportajda Hamilton, "Yapay zekaya sahip olmak hoş bir şey değil, yapay zeka geçici bir heves değil, yapay zeka toplumumuzu ve ordumuzu sonsuza dek değiştiriyor" şeklinde konuşmuştu.
