Google, Pazartesi günü yaptığı duyuruyla, yapay zeka ürünlerinin güvenliğini artırmak için beyaz şapkalı hacker'ları ve güvenlik araştırmacılarını sürece dahil eden özel bir ödül programı başlattığını açıkladı. Bu yeni program, özellikle büyük dil modellerinin (LLM) manipüle edilerek istenmeyen eylemleri gerçekleştirmesine neden olan güvenlik açıklarına odaklanıyor.
Battlefield 6 Türkiye çıkış saati açıklandı! İlk büyük güncellemesini alıyor
HEDEF: YAPAY ZEKANIN "KÖTÜYE KULLANILMASINI" ÖNLEMEK
Google'ın yeni programı, yapay zekanın basitçe "halüsinasyon" görmesi veya istenmeyen içerikler üretmesinden ziyade, güvenlik açıklarından yararlanılarak kötüye kullanılmasına odaklanıyor. Şirketin aradığı "kötü niyetli eylemler" arasında şunlar gibi senaryolar yer alıyor:
Yapay zekaya dolaylı bir komut enjekte ederek Google Home'a bir kapı kilidini açtırmak.
Bir kullanıcının tüm e-postalarını özetletip bu özeti saldırganın hesabına gönderen bir komut istemi oluşturmak.
Daha önce ortaya çıkarılan bir örnekte olduğu gibi, manipüle edilmiş bir Google Takvim etkinliğiyle akıllı panjurları açtırmak veya ışıkları kapattırmak.
HANGİ HATALAR ÖDÜL KAPSAMINDA DEĞİL?
Google, bu programın bir güvenlik programı olduğunun altını çizdi. Yapay zekanın nefret söylemi veya telif hakkı ihlali gibi sorunlu içerikler üretmesiyle ilgili hataların, bu ödül programı kapsamında olmadığını belirtti. Bu tür içerik sorunlarının, ürünlerin kendi içindeki "geri bildirim" kanalları aracılığıyla bildirilmesi gerekiyor. Bu sayede yapay zeka güvenlik ekiplerinin, modelin davranışını uzun vadede düzeltecek eğitimleri uygulayabileceği ifade edildi.
ÖDÜL MİKTARLARI VE YAMA YAPAN YAPAY ZEKA "CODEMENDER"
Program kapsamında, en kritik hatalar için 20.000 dolarlık bir taban ödül belirlendi. Raporun kalitesine ve bulunan açığın yeniliğine göre verilecek bonuslarla bu rakam 30.000 dolara kadar çıkabiliyor. Bu en yüksek ödül, Google Arama, Gemini ve Gmail gibi temel uygulamalarında bulunan hatalar için geçerli. Jules veya NotebookLM gibi diğer ürünlerde bulunan daha düşük seviyeli hatalar için ise ödül miktarı düşüyor.
Google ayrıca, bu duyuruyla birlikte CodeMender adını verdiği yeni bir yapay zeka aracını da tanıttı. CodeMender, güvenlik açıklarını tespit edip bunları yamayan bir yapay zeka. Şirket, bu aracı kullanarak, bir insan araştırmacının denetiminin ardından "açık kaynaklı projelere 72 güvenlik yaması" uyguladığını açıkladı.
