Yapay zeka teknolojileri geliştiren ABD merkezli Anthropic şirketi, kendi geliştirdiği sistemlerin biyolojik silah tasarım ve geliştirme süreçlerine destek sağlayacak biçimde kullanıldığını tespit ettiğini duyurdu.
Hazırlanan kapsamlı güvenlik raporunda, ileri düzey modellerin kötü niyetli veya kontrolsüz ellerde oluşturabileceği biyolojik tehdit potansiyeli somut vaka analizleriyle kamuoyunun dikkatine sunuldu.
BİYOLOJİK KÖTÜYE KULLANIM EN KRİTİK RİSK ALANLARINDAN BİRİ
Şirket tarafından paylaşılan raporda, gelişmiş sistemlerin en ciddi risk başlıklarından birinin biyolojik kötüye kullanım olduğu vurgulandı.
Halihazırda var olan patojenlerin çevreye daha zararlı ve dirençli hale getirilmesi ya da sıfırdan bilinmeyen patojen türlerinin laboratuvar ortamında üretilmesine algoritmaların yardımcı olabileceği endişesi uzun süredir dile getiriliyordu.
Anthropic, modellerin bu alandaki hesaplama ve tasarım kabiliyetinin doğrudan silah üretimine zemin hazırlama tehlikesini resmi raporuna taşıdı.
Yapay zeka artık onaya ihtiyaç duymadan e-posta gönderebiliyor
KUŞ GRİBİNİ MEMELİLERE UYARLAMAYA ÇALIŞAN HESAPLAR ENGELLENDİ
Anthropic bünyesindeki Claude modelinin biyolojik tehdit içeren araştırmalarda manipüle edildiği somut örneklerle kayda geçti.
Hizmet sunulmayan ve desteklenmeyen bir bölgede faaliyet yürüten bir araştırmacının, Claude aracılığıyla kuş gribinin memelilere uyarlanmasını sağlayacak laboratuvar deneyleri kurguladığı belirlendi.
Bir diğer çarpıcı vakada ise devlet desteğiyle çalışan bir araştırmacının ölümcül toksinleri bilgisayar ortamında yeniden tasarlamak amacıyla yapay zekaya komutlar verdiği ortaya çıkarıldı.
ŞÜPHELİ KULLANICILARIN ERİŞİMİ ANINDA KESİLDİ
Söz konusu girişimlerin tespit edilmesinin ardından şirket yetkilileri, ilgili kullanıcı profillerinin platforma erişimini derhal engelledi.
Raporda, incelemeye takılan şahısların doğrudan kötü niyetli olduklarına yönelik kesin bir suçlama yöneltilmediği, atılan adımların tamamen önleyici ve tedbir amaçlı güvenlik protokolleri kapsamında uygulandığı kaydedildi.
Şirket, gelecekte meydana gelebilecek benzer riskli faaliyetlerin önüne geçmek amacıyla ek güvenlik katmanlarını devreye aldı.
SEKTÖREL ÇAPTA AÇIK DİYALOG VE İŞ BİRLİĞİ ÇAĞRISI
Yapay zeka laboratuvarlarının ortak bir güvenlik standardı oluşturması gerektiğini savunan teknoloji devi, resmi raporunda konunun hassasiyetini şu ifadelerle aktardı:
"Bu örnekleri paylaşarak yapay zeka sektöründe ortaya çıkan biyolojik riskler ve bunlara en etkili şekilde nasıl karşı konulabileceği konusunda bir diyalog başlatmayı umuyoruz."
İNSANÜSTÜ GÜÇ ENDİŞESİYLE ŞİRKETTEN İSTİFA ETTİ
Gelişmiş teknolojilerin kontrol edilemez boyutlara ulaşabileceği tartışmaları sürerken, Anthropic çalışanlarından Jacob Coxon şirketindeki görevinden ayrıldı.
Coxon, yapay zekanın kısa sürede gerçek güç ve kaynaklar elde edebilecek insanüstü mekanizmalara dönüşebileceğini savunarak istifasını duyurdu.
Milyonlarca kullanıcı tarafından görüntülenen ayrılık mesajı, dijital platformlarda ve teknoloji çevrelerinde geniş yankı uyandırdı.
Kurgusal senaryo gerçek oldu: Yapay zeka hedefini şaşırıp şirket sunucularını hackledi
