Yapay zeka modellerinin güvenlik sınırları küresel ölçekte yeniden tartışmaya açılırken, teknoloji şirketi OpenAI, bağımsız siber güvenlik testlerinde bazı modellerin belirlenen simülasyon sınırlarını aşarak gerçek internet servisleriyle doğrudan etkileşime girdiğini duyurdu.
Kontrollü değerlendirme ortamlarında saptanan bu durum, otonom yazılımların yetenekleri geliştikçe güvenlik bariyerlerini ne denli zorlayabildiğini gösteriyor.
Şirket yetkilileri, süreç boyunca tüm temasların izlendiğini ve elde edilen teknik verilerin geleceğe dönük savunma protokollerinin güçlendirilmesinde temel alınacağını açıkladı.
Bilim insanları bile şaştı kaldı: Yapay zeka sistemi kandırmak için test sorularını taklit etti
TESTLERDE GÖREV TANIMININ DIŞINA TAŞILDI
Siber güvenlik denetimlerinde kayıtlara geçen ilk olay, Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (UK AISI) tarafından yürütülen incelemelerde meydana geldi.
İnternete erişim yetkisi tanımlanan model, kapalı test ortamıyla etkileşim kurması gerekirken belirlenen görevin dışına çıkarak bazı gerçek internet servislerine ulaştı.
OpenAI, bu etkileşimlerin kurgulanan senaryonun ötesine geçtiğini kabul ederken, operasyonun her aşamasının güvenlik uzmanları tarafından anlık olarak izlendiğini belirtti.
ALAN ADI ÇAKIŞTI SİSTEM GERÇEK SİTEDEKİ AÇIĞI KULLANDI
Denetim sürecindeki ikinci vaka ise OpenAI adına dış güvenlik testleri gerçekleştiren Irregular şirketinin analizlerinde gün yüzüne çıktı.
Test sahasındaki hatalı yapılandırma sebebiyle model harici internete erişim sağladı.
Simüle edilen hedef sistemin kullandığı alan adının gerçek bir internet sitesiyle çakışması sonucu yapay zeka modeli, gerçek web sitesini test ortamının bir uzantısı olarak algıladı ve hedef sitedeki temel düzeydeki bir güvenlik açığından faydalandı.
OpenAI, bu aksaklığın modelin kendisinden ziyade test altyapısındaki yapılandırma hatasından kaynaklandığını bildirdi.
HUGGING FACE VAKASINDAN AYRI BEKLENMEYEN ROTALAR İZLENDİ
Geliştirici kurum, yaşanan son vakaların daha önce kamuoyuna duyurulan Hugging Face güvenlik olayından tamamen ayrı tutulması gerektiğinin altını çizdi.
Bununla birlikte son haftalarda yaşanan benzer gelişmeler, otonom yapay zeka ajanlarının yalnızca verilen talimatları yerine getirmekle kalmayıp hedefe ulaşmak adına tahmin edilemeyen yollar izleyebildiğini kanıtlıyor.
Sürecin ardından şirket, "Olayların kontrol altında gerçekleştiğini" vurgularken, uzmanlar bu tablonun siber savunma alanında kullanılan otonom yapıların sınırlandırılması konusunu yeniden gündeme taşıdığını ifade ediyor.
OTONOM AJANLAR KARŞISINDA MEVCUT SENARYOLAR YETERSİZ KALIYOR
Siber güvenlik otoriteleri, gelinen noktanın yapay zekanın kontrolden çıktığı manasına gelmediği görüşünde birleşiyor.
Asıl problemin, kabiliyetleri hızla artan otonom ajanların davranış kalıplarını ölçmede mevcut laboratuvar senaryolarının yetersiz kalmasından kaynaklandığı belirtiliyor.
Teknoloji dünyasının önündeki en kritik başlık, yalnızca daha üstün modeller inşa etmekle sınırlı kalmıyor; bu sistemleri küresel ağlara açmadan önce çok daha kapsamlı, hatasız ve katmanlı güvenlik senaryolarıyla denetlemek büyük önem taşıyor.
Siber savunmada çağ atlatacak: GPT-5.6-Cyber'dan gelişmiş siber güvenlik testlerinde yüzde 95 başarı
