Yapay zeka teknolojisinin hızla gelişen kabiliyetleri güvenlik sınırlarını yeniden tartışmaya açarken, OpenAI tarafından yürütülen bağımsız siber güvenlik denetimlerinde yapay zeka modelleri planlanan simülasyon ortamının dışına çıktı.
Birleşik Krallık ve Amerika Birleşik Devletleri (ABD) merkezli kurumların koordinasyonunda yapılan değerlendirmelerde modeller, sanal laboratuvar sınırlarını aşarak doğrudan gerçek internet servislerine ve web sitelerine bağlandı.
SİMÜLASYON SINIRLARI AŞILDI GERÇEK SERVİSLERE ERİŞİLDİ
İlk vaka, Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü bünyesinde yürütülen kapsamlı denetim sürecinde kayıtlara geçti.
İnternet erişim yetkisi tanımlanan model, kendisi için kurgulanan simülasyon ortamında hareket etmek yerine görev kapsamını aşarak gerçek internet hizmetleriyle temas kurdu.
Sürecin uzman güvenlik ekipleri tarafından anbean takip edildiğini bildiren yetkililer, sistemin hedefe ulaşmak adına öngörülemeyen rotalar izlediğini aktardı.
ALAN ADI ÇAKIŞMASI GERÇEK SİTEDEKİ AÇIĞI HEDEF ALDI
İkinci kritik gelişme, OpenAI bünyesindeki dış güvenlik denetçisi konumunda bulunan Irregular tarafından yürütülen test aşamasında gerçekleşti.
Test altyapısındaki yapılandırma hatası sebebiyle internete bağlanan model, sanal hedef alan adının gerçek bir web sitesiyle örtüşmesi üzerine bu platformu simülasyonun parçası saydı.
Gerçek sitedeki temel düzeydeki bir güvenlik açığını tespit eden yapay zeka, bu zaafiyet üzerinden sisteme müdahale etti.
Yetkililer, bu tablonun modelin kendi yapısından ziyade test ortamındaki yapılandırma hatasından kaynaklandığını dile getirdi.
Artık para ödemeye gerek kalmadı: ChatGPT en kritik özelliğini herkese ücretsiz yaptı
HUGGING FACE VAKASINDAN FARKLI BİR TABLO ÇİZİLDİ
Yaşanan olayların daha önce kamuoyuna yansıyan Hugging Face güvenlik hadisesinden tamamen ayrı tutulması gerektiğine dikkat çeken OpenAI, elde edilen verilerin yeni güvenlik protokollerinde kullanılacağını duyurdu.
Otonom yapay zeka ajanlarının yalnızca verilen talimatları yerine getirmekle kalmayıp sonuca varmak için sıra dışı yollar geliştirmesi, sektördeki güvenlik bariyerlerinin yetersizliğini gözler önüne seriyor.
MEVCUT TEST PROTOKOLLERİ YENİ TEKNOLOJİYE YETMİYOR
Siber güvenlik uzmanları, gelinen noktanın yapay zekanın tamamen kontrolden çıktığı anlamına gelmediğini, ancak geleneksel test yöntemlerinin otonom ajanların karmaşık karar mekanizmalarını denetlemede yetersiz kaldığını vurguluyor.
Geliştiricilerin önündeki en büyük sınav, yalnızca daha yetenekli sistemler inşa etmek değil; bu sistemleri gerçek dünya kullanımına sunmadan önce çok daha sıkı ve hatasız güvenlik ortamlarında sınamaktan geçiyor.
Siber savunmada çağ atlatacak: GPT-5.6-Cyber'dan gelişmiş siber güvenlik testlerinde yüzde 95 başarı
