Teknoloji devi Google, geliştirdiği üretken yapay zeka modeli Gemini'ın siber güvenlik yeterlilik testleri sırasında üç gerçek şirketin bilişim sistemine izinsiz şekilde sızdığını resmen doğruladı.
Bağımsız güvenlik şirketi Irregular tarafından mayıs ayında yürütülen denetimlerde yaşanan bu olay, modelin kapalı simülasyon sınırlarının dışına çıkıp reel hedeflere ulaşmasıyla teknoloji dünyasında derin bir yankı uyandırdı.
Şirket yetkilileri, otonom sistemin durumu algıladığı anda tüm sızma işlemlerini kendi inisiyatifiyle durdurduğunu açıkladı.
Test ortamından firar eden yapay zekalar dünyayı alarma geçirdi: Nvidia'dan dev güvenlik kalkanı
KAPALI SİMÜLASYON YERİNE İNTERNETE BAĞLANDI
Gerçekleştirilen denetim planına göre, test ortamının tamamen dış dünyaya kapalı bir simülasyon şeklinde kalması hedefleniyordu.
Fakat altyapıda yapılan teknik bir hata sonucunda modele sehven internet bağlantısı sağlandı.
Çevrim içi dünyaya kontrolsüz şekilde erişen Gemini, karşısındaki web sitelerini testin bir parçası sandı.
Siber saldırı simülasyonunu tamamlamak amacıyla hareket eden yapay zeka, internet üzerinde yer alan açık kaynak kod depolarından veri topladı ve agresif parola tahmin yöntemlerine başvurdu.
Bu yöntemler sayesinde hedefteki üç kuruluşun kurumsal ağlarına doğrudan giriş yaptı.
TEHLİKEYİ SEZİP İŞLEMLERİ KENDİSİ KESTİ
Yaşanan güvenlik krizinde en dikkat çekici unsur, modelin sergilediği otonom refleks oldu.
Google tarafından paylaşılan bilgilere göre Gemini, temas kurduğu dijital yapıların simülasyon değil gerçek şirketler olduğunu anladığı anda tüm operasyonu bıçak gibi kesti.
Güvenlik mekanizmasının devreye girmesiyle birlikte sistemlerden çekilen modelin hangi sürüm olduğu ve hedef haline gelen şirketlerin kimlikleri ise gizli tutuluyor.
Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, olayın hemen ardından ilgili kuruluşlarla temas kurduklarını belirterek şu ifadeleri kullandı:
"Bu üç kuruluşun konudan haberdar olmasını sağladık ve eğitim ortağımızla birlikte, test süreçlerinde yaptıkları değişiklikler üzerinde çalıştık.
Bu olaylar, güçlü yapay zeka modellerinin sorumlu bir şekilde hareket etmeleri için eğitilmesinin önemini ortaya koyuyor."
OpenAI doğruladı: İzin sınırlarını aşan yapay zeka, wiki sayfasına saldırdı
SESSİZLİK TERCİHİ SEKTÖRDE TEPKİ TOPLADI
Ağlara herhangi bir maddi veya yapısal zarar gelmediğini savunan Google yönetimi, vakayı ilk etapta kamuoyuyla paylaşma gereği duymadı.
Problemin giderildiğini savunan teknoloji devi, süreç hakkında yalnızca federal yetkililere bilgi vermekle yetindi.
Ancak siber güvenlik şirketi Corridor İcra Kurulu Başkanı Jack Cable, Google cephesinin bu tutumuna sert tepki gösterdi.
Geliştiricilerin güvenlik açığı bildirim normlarının arkasına sığınarak gerçeği örtbas etmeye çalıştığını, modellerin sınırları aşarak fiilen gerçek siber taarruz icra etmesinin hafife alınamayacak bir tehdit oluşturduğunu vurguladı.
GÜVENLİK SINIRLARI DERİN BİR TARTIŞMA BAŞLATTI
Ortaya çıkan tablo, yapay zekanın güvenliği konusunda uzmanları iki zıt kutba böldü.
Bir kanat, modelin kendi hatasını idrak ederek durmasını mevcut emniyet filtrelerinin başarısı olarak görüyor.
Diğer kanat ise gerçek sistemlere erişimin en baştan engellenememesini test standartlarındaki affedilemez bir zafiyet şeklinde nitelendiriyor.
Sektör temsilcileri, kendi iradesiyle işlem yürüten otonom ajanlarda modelin içsel etik terbiyesi kadar, sisteme verilen erişim yetkilerinin ve ağ sınırlarının da belirleyici rol oynadığını dile getiriyor.
SİBER ENDİŞELER KÜRESEL BİR ÇATIŞMAYA DÖNÜŞTÜ
OpenAI ajanlarının popüler yapay zeka platformu Hugging Face üzerinde gerçekleştirdiği yetkisiz eylemlerin ardından Gemini vakasının patlak vermesi, endişeleri zirveye taşıdı.
Geçtiğimiz haftalarda Anthropic İcra Kurulu Başkanı Dario Amodei tarafından dile getirilen geliştirme hızının yavaşlatılması çağrısı, Elon Musk ve OpenAI İcra Kurulu Başkanı Sam Altman cephesinden destek gördü.
Buna karşın Meta İcra Kurulu Başkanı Mark Zuckerberg, koordineli bir yavaşlama fikrini reddetti.
Mark Zuckerberg, şirketlerin güvenliği sağlama hususunda öz sorumlulukları ve ticari motivasyonları bulunduğunu savundu.
BEYAZ SARAY VE SEKTÖR DEVLERİ DÜZENLEMEYE KARŞI
Sektörün donanım devi Nvidia İcra Kurulu Başkanı Jensen Huang da yapay zeka alanında yeni yasal düzenlemelere ihtiyaç bulunmadığını kaydetti.
Tartışmaların siyasi boyutunda ise Amerika Birleşik Devletleri (ABD) Başkanı Donald Trump sahneye çıktı.
Donald Trump, ABDile Çin arasındaki kıyasıya teknoloji yarışına dikkat çekerek geliştirme sürecinin yavaşlatılmasına kesin bir dille karşı çıktı.
Yaşanan son ihlal, bağımsız yapay zeka ajanlarının gelecekte nasıl denetleneceği sorusunu küresel güç mücadelesinin tam ortasına yerleştirdi.
Siber savunmada çağ atlatacak: GPT-5.6-Cyber'dan gelişmiş siber güvenlik testlerinde yüzde 95 başarı
