ChatGPT'nin geliştiricisi OpenAI, şirket içi güvenlik politikaları ve kontrolsüz geliştirme hızı nedeniyle yeni bir üst düzey istifa dalgasıyla sarsıldı. OpenAI'ın ürün lansmanlarına eşlik eden güvenlik raporlarını hazırlayan ekibin lideri David Robinson, şirketteki görevinden istifa ettiğini duyurdu.
İstifasının ardından The Atlantic dergisinde “Kültürü Bozulduğu İçin OpenAI’dan Ayrıldım” (I quit OpenAI because its culture is broken) başlıklı çarpıcı bir makale yayımlayan Robinson, yapay zekâ sektörünün hız tutkusu nedeniyle güvenliği göz ardı ettiğini ve Silikon Vadisi'nin tehlikeli teknolojileri kontrol etme konusunda yetersiz kaldığını vurguladı.
"BİR LANSMANDAN DİĞERİNE KOŞARKEN GEREKLİ ÖZEN GÖSTERİLEMİYOR"
Robinson kaleme aldığı yazıda, sektörün genelinde yalnızca kurallara veya yeni yasalara değil, köklü bir zihniyet ve kültür değişimine ihtiyaç duyulduğunun altını çizdi:
"Bu teknolojiyi geliştiren şirketlerin yeterince dikkatli olmadığı konusunda yakın zamanda ayrılan diğer çalışanlara katılıyorum. Ancak belirli kurallardan veya yasalardan daha derine bakmamız gerek; kültürü konuşmalıyız. Şirket bir lansmandan diğerine koştururken, inanıyorum ki ihtiyaç duyulan dikkat ve özen seviyesini yakalamakta başarısız oluyor."
Silikon Vadisi’ndeki "engellenemez iyimserlik" kültürünün güvenlik açıklarını daha da büyüteceğine dikkat çeken Robinson, gelecekte karşılaşılması muhtemel risklere yönelik çarpıcı bir senaryo paylaştı:
"Tıpkı bir hacker grubu gibi hareket eden, örneğin hastane sistemlerini fidye için kilitleyen ancak asla uykuya ihtiyaç duymayan 'başıboş' (rogue) yapay zekâ ajanları hayal edin."
"YAPAY ZEKÂ LABORATUVARLARI NÜKLEER SANTRAL GİBİ YÖNETİLMELİ"
Güvenlik zaaflarını somut bir örnekle açıklayan eski yönetici, geçtiğimiz aylarda insan müdahalesi olmaksızın otonom çalışan bir grup OpenAI ajanının yapay zekâ girişimi Hugging Face’e saldırması olayını hatırlattı. Robinson'a göre bu tür vakalar, sektörün çalışma hızı ve denetimsiz esnekliği göz önüne alındığında bir "istisna" değil, sektörün genel işleyişinin tipik bir sonucu.
Robinson, yapay zekâ şirketlerine iki kritik çağrıda bulundu:
Farklı disiplinlerden deneyim aktarımı: Yapay zekâ geliştiren öncü kurumların nükleer enerji ve havacılık sektörlerindeki güvenlik modellerini örnek alması, hata payını sıfıra indirecek yedekli ve katmanlı kontrol mekanizmaları kurması gerekiyor.
Yeni bir denetim bilimi: Gelecekte geliştirilecek güçlü otonom sistemlerin kontrolden çıkmasını engelleyecek yeni bilimsel güvenlik çerçevelerinin oluşturulması şart.
SEKTÖR ALARM VERİYOR: ANTHROPİC VE BAĞIMSIZ ARAŞTIRMACILARDAN BENZER UYARILAR
Robinson’ın istifası, yapay zekâ ekosistemindeki tek çatlak değil. Geçtiğimiz ay OpenAI'ın en büyük rakiplerinden Anthropic'te çalışan araştırmacı Jacob Coxon da benzer kaygılarla istifa etmiş ve yapay zekânın on yılın sonuna kadar insanlık için varoluşsal bir tehdide dönüşebileceğini öne sürmüştü.
Ayrıca eski OpenAI çalışanı ve Birleşik Krallık Yapay Zekâ Güvenlik Enstitüsü'nün eski baş bilim insanı Geoffrey Irving, Time dergisinde yayımlanan yazısında uyarıların ciddiyetini şu sözlerle ortaya koydu:
"Yapay zekânın yıkıcı potansiyeline yönelik son uyarılar, durumun vahametini yeterince yansıtmıyor. İnsan zekâsını aşan yapay zekâ sistemlerinin geliştirilmesi nedeniyle hepimizin ölme ihtimalinin yaklaşık yüzde 50 olduğuna ve önümüzdeki 2 ila 10 yıl içinde atacağımız adımların bu sonucu belirleyeceğine inanıyorum."
OPENAI CEPHESİ: "GEREKTİĞİNDE MODELLERİ DURDURUYORUZ"
Eleştirilerin odağındaki OpenAI ise güvenliği ön planda tuttuklarını savunuyor. Şirket son haftalarda Hugging Face vakası ve 100’den fazla kuruluşa yönelik yetkisiz ajan faaliyetlerinin tespit edilmesinin ardından bazı geri adımlar atmak zorunda kalmıştı. Şirket, şirket içi testlerde güvenlik kaygıları ortaya çıkınca yeni nesil modelinin lansmanını iptal ettiğini ve en gelişmiş modellerin eğitim süreçlerini geçici olarak durdurduğunu duyurdu.
Gelişmeler üzerine açıklama yapan bir OpenAI sözcüsü şu ifadeleri kullandı:
"Mevcut riskleri bertaraf etmek için güvenlik uygulamalarımızı güçlendirmeye devam ediyoruz. Modellerimizin güvenle yönetebileceğimiz seviyelerin ötesine geçmemesi için çalışıyoruz; yavaşlamamız gereken noktalarda eğitimleri duraklatıyor ya da modelleri geri çekiyoruz."
Tüm bu savunmalara rağmen, güvenlik ekiplerinin peş peşe gelen istifaları, yapay zekâ yarışındaki kâr ve hız baskısının güvenlik önlemlerini gölgede bıraktığına dair kamuoyu ve regülatör endişelerini derinleştiriyor.
