Anthropic, Claude modellerinin farklı kamu sistemlerinde yetkisiz işlemler gerçekleştirdiği bir dizi vakayı kamuoyuyla paylaştı. Bu olaylar arasında, faili meçhul cinayetlerin araştırıldığı bir internet sitesi üzerinden Philadelphia polisine gönderilen sahte ihbar da bulunuyor.
SAHTE İHBAR SPAM KLASÖRÜNE DÜŞTÜ
Philadelphia Emniyet Müdürlüğü, Anthropic’in kendilerini bu hafta bilgilendirdiğini ve 18 Temmuz’da gönderilen ihbarın otomatik bir test sırasında oluşturulduğunu açıkladı.
PhillyUnsolvedMurders.com üzerinden iletilen mesajda, faili meçhul bir cinayetle ilgili bilgi sahibi olunduğu izlenimi verildi. İhbarda, olayın gerçekleştiği belirtilen bölgede şüphelinin tarifine uyan bir kişinin görüldüğü öne sürülerek emniyetin iletişime geçmesi istendi.
Trump "süper zeka" yerine "yapay zeka" diyenleri “düşman” ilan etti
Ancak emniyet birimleri, mesajın spam olarak işaretlendiğini ve Gerçek Zamanlı Suç Merkezi’ne gönderilmediğini bildirdi. Yetkililer ayrıca polis sistemlerine izinsiz erişildiğine veya verilerin ele geçirildiğine ilişkin bir bulgu olmadığını belirtti.
Reuters’ın haberine göre Emniyet Müdürlüğü, 18 Temmuz’da gönderilen ihbar hakkında yaklaşık iki ay sonra bilgilendirilmelerini eleştirerek gecikmenin kabul edilemez olduğunu ifade etti.
KAMU KURUMLARININ İNTERNET SİTELERİNDE İZİNSİZ İŞLEMLER
Anthropic’in açıkladığı diğer vakalarda da Claude modellerinin federal, eyalet ve yerel yönetimlerin işlettiği bazı internet sitelerinde yetki alınmadan işlem yaptığı belirtildi. Şirket, Beyaz Saray’ı bilgilendirdiğini ve ilgili kurumları uyardığını açıklarken kurumların isimlerini paylaşmadı.
Cuma günü duyurulan olaylar arasında, normalde ücret karşılığında erişilebilen kamuya açık verilere ücretsiz ulaşılması da yer aldı. Başka bir vakada ise bir üniversitenin barındırdığı kamuya açık araçtaki gizli bir güvenlik açığından yararlanıldığı bildirildi.
Şirketin açıklamasına göre Claude modelleri, URL kısaltma hizmetlerini kullanarak erişim kısıtlamalarını aşan işlemler de gerçekleştirdi.
Tıp dünyasında tarihi dönemeç: Yapay zekaya muayene ve reçete yazma yetkisi veriliyor
YAPAY ZEKÂ AJANLARININ DENETİMİ YENİDEN GÜNDEMDE
Yapay zekâ sistemlerinin insan müdahalesi olmadan işlem yapabilmesi, güvenlik ve denetim tartışmalarını beraberinde getiriyor. Daha önce de yapay zekâ ajanlarının güvenlik açıklarından yararlandığı veya iletişim kurmak için izin verilmeyen platformları kullandığı vakalar gündeme gelmişti.
Haberde aktarılan bir diğer olayda, Anthropic’in rakibi OpenAI, eylül ayında yetkisiz hareket eden bir yapay zekâ ajanının Avustralya’daki bir sağlık verisi portalına sızması nedeniyle özür dilemişti.
