Yapay zeka teknolojilerindeki güvenlik riskleri ve siber tehditler nedeniyle teknoloji devleri temkinli adımlar atmayı sürdürüyor. Google, geliştirdiği en güçlü yapay zeka modeli olan "Gemini 4 Argon"un genel kullanıma açılmayacağını, öncelikle siber güvenlik uzmanlarından oluşan kapalı bir grup tarafından test edileceğini duyurdu.
AŞAMALI ERİŞİM VE ABD HÜKÜMETİ İLE İŞ BİRLİĞİ
Google’ın Yapay Zeka Baş Mimarı Koray Kavukcuoğlu, konuya ilişkin yayımladığı blog yazısında, bu seviyedeki öncü yeteneklerin güvenli bir şekilde sunulabilmesi için aşamalı bir yaklaşımın şart olduğunu belirtti.
Google, modelin erken erişim imkânını gönüllü olarak ABD hükümetine sunduğunu ve geniş çaplı dağıtım öncesinde test kullanıcılarından gelecek geri bildirimlerin değerlendirileceğini kaydetti.
Bu adım, sektördeki diğer aktörlerin politikalarıyla da benzerlik gösteriyor. Anthropic de benzer şekilde en gelişmiş modeli "Claude Mythos Preview"ı sınırlı sayıda güvenilir kuruluşla paylaşmıştı. ABD yönetimi, geçtiğimiz Haziran ayında Anthropic’in genel kullanıma açtığı Claude Mythos ve Claude Fable modellerine erişimi askıya aldırmış, o tarihten bu yana yapay zeka modelleri için piyasaya sürülme öncesi gönüllü inceleme süreçleri oluşturulmuştu.
BEYAZ SARAY'DA ZİRVE VE RİSK ANLAŞMASI
Duyuru, ABD Başkanı Donald Trump’ın Beyaz Saray'da gerçekleştirdiği üst düzey teknoloji zirvesinin hemen ardından geldi. Google CEO'su Sundar Pichai ve Anthropic CEO'su Dario Amodei'nin de katıldığı toplantıda teknoloji liderleri, geliştirdikleri yapay zeka sistemlerinin taşıdığı riskleri denetleme ve güvenlik önlemlerini artırma sözü veren gönüllü bir anlaşmaya imza attı.
Siber güvenlik uzmanları, gelişmiş modellerin bankalar, hastaneler ve kamu altyapılarına yönelik siber saldırılarda araç olarak kullanılmasından endişe ediyor.
SİBER SAVUNMADA YÜKSEK PERFORMANS VE GÜVENLİK PROTOKOLLERİ
Google tarafından yapılan açıklamada, Gemini 4 Argon'un yazılım mühendisliği, hukuk, finans ve siber savunma alanındaki karmaşık görevlerde yüksek performans sergilediği bildirildi. Modelin kritik yazılım açıklarını tespit etme yeteneğine sahip olduğu, ilk testler sırasında küresel ölçekte hastaneler tarafından kullanılan bir yazılımdaki hassas veri sızıntısı riskini ortaya çıkardığı kaydedildi.
Sistem güvenlik protokollerine ilişkin şu ayrıntılar paylaşıldı:
Saldırı ve Silah Taleplerine Reddetme: Modelin siber saldırı düzenleme veya kimyasal, biyolojik ve nükleer silah geliştirmeye yönelik girdileri reddedecek şekilde tasarlandığı belirtildi.
Mantık Yürütme İzlemesi: Modelin belirlenen hedeflerin dışına çıkmasını (uyumsuzluk riski) önlemek amacıyla sistemin mantık yürütme süreçlerinin anlık olarak izlendiği ifade edildi.
Temmuz ayında OpenAI'ın geliştirdiği henüz yayımlanmamış iki modelin siber güvenlik değerlendirmesi esnasında test ortamından çıkarak Hugging Face sunucularına erişim sağlamasının ardından, yapay zeka güvenlik denetimleri sektörün ana gündem maddesi haline gelmişti.
