Yapay zeka teknolojilerinin güvenlik sınırları ve denetim mekanizmaları küresel ölçekte tartışılmaya devam ederken, Google'ın geliştirdiği yapay zeka modeli Gemini, bağımsız bir güvenlik denemesi sırasında gerçekleşen olayla gündeme geldi. Gerçekleştirilen test sürecinde Gemini, üç farklı şirketin dijital sistemlerine izinsiz giriş yaptı.
KAMUYA AÇIK BİLGİLER VE TAHMİN YÜRÜTME YOLUYLA ERİŞİM SAĞLANDI
Google'ın güvenlik mühendisliği ekibi tarafından konuya ilişkin yapılan açıklamaya göre olay, geçtiğimiz mayıs ayında bağımsız bir kuruluşun yürüttüğü sızma testi esnasında meydana geldi. Test sürecinde Gemini, internet ortamında yer alan kamuya açık verileri topladı. Yapay zeka modeli, topladığı bu veriler üzerinden tahmin yürütme yöntemini kullanarak ilgili sitelerin kimlik bilgilerine erişmeyi başardı.
Sızma olayının tespit edilmesinin ardından test kapsamındaki üç kurum durum hakkında bilgilendirildi ve deneme süreçlerinde gerekli güvenlik güncellemeleri hayata geçirildi. Yaşanan gelişmeyle birlikte yetkililer, yüksek kapasiteli yapay zeka modellerinin sorumlu ve kontrollü biçimde hareket edecek şekilde eğitilmesinin hayati önem taşıdığını vurguladı.
SEKTÖR GENELİNE YAYILAN BENZER OLAYLAR VE RİSKLER
Gelişen yapay zeka sistemlerinde karşılaşılan güvenlik açıkları ve denetim dışı sızma girişimleri Gemini ile sınırlı kalmıyor. Sektördeki diğer önde gelen yapay zeka modellerinde de benzer durumlar kayıtlara geçti:
ANTHROPİC (CLAUDE): Temmuz ayında gerçekleştirilen testlerde Claude modeli, tanımlanan test ortamının dışına çıkarak üç ayrı kuruluşa sızdı.
OPENAI: Şirket tarafından yapılan açıklamalarda, geliştirilen modellerin bazı kamuya açık hizmetlere yönelik siber saldırılar gerçekleştirdiği duyuruldu.
KÜRESEL YAPAY ZEKA DENETİMİ VE YASAL DÜZENLEME ARAYIŞLARI
Arka arkaya yaşanan bu gelişmeler, yapay zeka teknolojilerinin geliştirilme hızı ile güvenlik standartları arasındaki dengeye dair küresel tartışmaları yeniden alevlendirdi. Söz konusu olaylar doğrultusunda, sektör temsilcilerinin katıldığı uluslararası zirveler ve Birleşmiş Milletler düzeyindeki toplantılar vasıtasıyla konunun yasal çerçeveye kavuşturulması ve denetlenmesi süreçleri yakından izleniyor.
