ABD ordusunda görevli bir analistin yapay zeka destekli sohbet botu kullanarak hazırladığı hatalı istihbarat raporu, Çin'e ait bir gemiye yönelik askeri müdahale planlamasına neden olarak iki ülkeyi çatışma riskinin eşiğine taşıdı.
NÜKLEER SİLAH İDDİASI ASKERİ OPERASYONU TETİKLEDİ
İlkbahar aylarında Orta Doğu'da bulunan bir Çin gemisinin nükleer silah programı bileşenleri taşıdığı yönünde hazırlanan istihbarat raporu, ABD ordusu bünyesinde büyük bir endişeye yol açtı. Dört farklı kaynağın aktardığı bilgilere göre ABD ordusu, söz konusu gemiyi durdurmak amacıyla hızla harekete geçti. Operasyon kapsamında silahlı personelin gemiye çıkması planlanırken, askeri uçaklar da havalandırıldı.
SON AN İNCELEMESİ GERÇEĞİ ORTAYA ÇIKARDI
Planlanan askeri operasyondan hemen önce raporu detaylı incelemeye alan yetkililer, belgedeki kritik hatayı tespit etti. Yapılan incelemelerde; raporun özel operasyonlar bünyesindeki bir analist tarafından yapay zeka yardımıyla oluşturulduğu, kullanılan yapay zeka sohbet botunun ise gemide yer alan kargoyu tamamen yanlış tanımladığı belirlendi. Tamamen uydurma verilerden oluşan bu raporun, iki ülke arasında askeri bir çatışmayı neredeyse tetikleme noktasına getirdiği kaydedildi.
SAVAŞ ORTAMINDA YAPAY ZEKA RİSKİ VE DENETİM ZAFİYETİ
ABD ordusu ve istihbarat birimleri; veri analizi ve hedef tespiti gibi alanlarda yapay zeka entegrasyonunu hızlandırmaya çalışırken, yaşanan bu vaka teknolojinin askeri kararlardaki risklerini gösterdi. Olayda analistin, açık kaynaklı veriler ile gizli istihbarat bilgilerini harmanlayan bir yapay zeka sohbet botundan yararlandığı ve ürettiği raporu standart bir istihbarat belgesi şeklinde dağıtıma soktuğu aktarıldı.
ABD Savunma Bakanlığı'nın yapay zeka teknolojilerinin kullanımını yaygınlaştırma stratejilerine karşın, kurumlar arasındaki güvenlik standartlarının farklılık göstermesi ve araçların denetimsiz kullanımı endişelere yol açıyor. Konuyla ilgili uzmanlar, yapay zekanın yanlış bilgi üretme (halüsinasyon) eğilimine ve özellikle genç analistlerin bu araçlara duyduğu aşırı güvene dikkat çekiyor. Uzmanlar, insan denetiminin yetersiz kaldığı koşullarda bu durumun ölümcül sonuçlar doğurabileceği hususunda uyarılarda bulunuyor.
