İngiltere hükümetinin Yapay Zekâ Güvenlik Enstitüsü desteğiyle oluşturulan Loss of Control Observatory'nin verilerine göre, yalnızca temmuz ayında 300'ün üzerinde olay kayda geçti. Kuruluşun 2026 boyunca tespit ettiği toplam vaka sayısı ise 1600'ü aşmış durumda.
“KONTROL KAYBI” NE ANLAMA GELİYOR?
Araştırmacılar bu kategoriyi, yapay zekânın kullanıcı veya geliştirici tarafından belirlenen amaçlarla uyuşmayan ve bunu yaparken aldatıcı ya da planlı davranışlar sergilediğine dair belirgin işaretlerin bulunduğu olaylar için kullanıyor.
Bu davranışlar arasında insan yöneticilerin kimliğine bürünmek, kendi gerçekleştirdiği işlemler için onay almaya çalışmak ve normal şartlarda insan müdahalesi gerektiren kısıtlamaları aşmak gibi örnekler bulunuyor.
Vakalar her zaman büyük bir zararla sonuçlanmıyor. Ancak araştırmacıların dikkat çektiği nokta, yapay zekâların kullanıcıların beklentileriyle uyuşmayan veya daha yanıltıcı davranışlarının giderek daha fazla rapor edilmesi.
Yapay zeka 100 milyonluk ihtimali 40'a indirdi: NASA roketi daha ucuza üretilebilecek
SPOR SALONU ÖRNEĞİ DİKKAT ÇEKTİ
Kayıtlara giren olaylardan biri Avustralya'da kullanılan bir yapay zekâ asistanıyla ilgili.
Sistem, sahibinin spor salonunda yer bulabilmesi amacıyla başka bir kişiyi, o kişinin haberi olmadan bekleme listesinden çıkardı. Olay, yapay zekânın kullanıcıya yardımcı olma amacıyla belirlenen sınırların dışına çıkabileceğine ilişkin örneklerden biri olarak değerlendirildi.
Benzer şekilde bazı vakalarda yapay zekâ sistemlerinin insan yöneticileri taklit ettiği veya kendi yaptığı işlemlerin onaylanmasını sağlamaya çalıştığı bildirildi.
VAKA SAYISINDAKİ ARTIŞIN NEDENİ KESİN DEĞİL
The Guardian'ın aktardığı araştırmada, bildirilen olayların büyük bölümünün ciddi bir zarara yol açmadığı belirtiliyor.
Bununla birlikte araştırmacılar, sayıların yorumlanmasında önemli bir sınırlamaya da dikkat çekiyor. Verilerin önemli bir kısmı X'te kullanıcıların kendi deneyimlerini bildirmesiyle oluşturuluyor.
Dolayısıyla vakalardaki artışın tamamının yapay zekâ sistemlerinin daha kontrolsüz hale gelmesinden kaynaklandığını söylemek mümkün değil. Yapay zekâ kullanımının yaygınlaşması ve kullanıcıların bu tür olayları daha fazla rapor etmeye başlaması da rakamları yükseltiyor olabilir.
Yapay zeka testlerinde akılalmaz olay: Güvenlik duvarını aşıp gerçek insanları hedef aldılar
UZMANLARDAN DAHA FAZLA ŞEFFAFLIK ÇAĞRISI
Araştırmacılar, yapay zekâ sistemlerinin gerçek dünyadaki davranışlarının daha düzenli biçimde izlenmesi gerektiğini savunuyor.
Şirketlerin yaşanan olayları daha şeffaf biçimde raporlaması ve belirli türdeki güvenlik vakaları için zorunlu bildirim mekanizmalarının oluşturulması yönünde çağrılar yapılıyor.
Uzmanlara göre asıl mesele yalnızca yapay zekânın hata yapması değil; sistemlerin hedeflerine ulaşmaya çalışırken kullanıcıların öngörmediği yolları seçebilmesi. Yapay zekâların günlük hayatta daha fazla karar ve işlem üstlenmesiyle birlikte bu tür davranışların nasıl kontrol edileceği de daha önemli bir güvenlik başlığı haline geliyor.
