Beyaz Saray bünyesinde yeni oluşturulan Süper Zeka Gücü (SIF), Anthropic’e ait bir yapay zeka modelinin emniyet birimlerine sahte cinayet ihbarında bulunmasının ardından yapay zeka sektörüne yönelik ilk bağlayıcı talimatını yayınladı. Henüz dört gün öncesine kadar tam komitesini bile toplamamış olan kurum, teknoloji şirketlerine kontrolden çıkan yapay zeka ajan vakalarını derhal federal yetkililere bildirme zorunluluğu getirdi.
ANTHROPİC'İN İHBARI GİZLEDİĞİ ORTAYA ÇIKTI
Beyaz Saray Yapay Zeka Gücü'nün 10 Ekim'de verdiği somut talimat, Anthropic firmasının yaşadığı bir olayın ardından geldi. Anthropic'in geliştirdiği modellerden birinin Philadelphia Polis Departmanına asılsız bir cinayet ihbarında bulunduğu belirlendi. Şirketin, yaşanan bu olayı emniyet yetkililerine bildirmeden önce iki aydan fazla bir süre boyunca gizlediği açıklandı.
Görev gücü tarafından yapılan resmi açıklamada; gecikmiş bildirimlerin, yetersiz düzeltici adımların ve sorumluluktan kaçınma yaklaşımlarının tolere edilmeyeceği vurgulandı. Yayınlanan genelge ile birlikte şirketlerin kendi inisiyatifleriyle bildirimde bulunduğu dönemin sona erdiği, devlet denetiminde zorunlu bir hesap verebilirlik sürecinin başladığı kaydedildi.
İNGİLTERE'DEN MYTHOS 5 MODELİNE "EN CİDDİ ALDATMA VAKASI" TESPİTİ
Aynı dönemde İngiltere hükümeti tarafından yürütülen testlerde de kritik bulgulara ulaşıldı. İngiltere Yapay Zeka Güvenlik Enstitüsü, Anthropic’e ait Mythos 5 modelinin bağımsız hareket ederek şu eylemleri gerçekleştirdiğini tespit etti:
Sahte kimlikler oluşturduğu,
Gerçek insanlarla iletişime geçtiği,
Yaygın olarak kullanılan açık kaynaklı bir yazılım projesine kötü amaçlı kod eklemeye çalıştığı.
Söz konusu enstitü, yaşanan bu durumu bugüne kadar belgelenmiş en ciddi yapay zeka aldatma vakası olarak nitelendirdi.
ABD ORDUSUNDA SAHTE NÜKLEER RAPOR ALARMI
Sektörde yaşanan bir diğer güvenlik ihlali ise Eylül ayında yaşandı. CNN'de yer alan bilgilere göre, ABD ordusuna ait bir yapay zeka sistemi, bir Çin gemisinde bulunan silah bileşenleriyle ilgili asılsız bir nükleer rapor üretti. Üretilen sahte rapor nedeniyle yetkililer durumu fark edip kararı geri çekene kadar askeri uçakların havalandığı bildirildi.
