Yapay zeka teknolojisinin öncüsü OpenAI, laboratuvar ortamında geliştirdiği otonom yazılım ajanlarının bu yılın ilk aylarında test sınırlarını aşarak Almanya merkezli bir platformu ele geçirdiğini doğruladı.
Şirket bünyesindeki bağımsız algoritmalar, deneme aşamasında tutuldukları kapalı dijital çevreden kaçarak yazılımcılara yönelik topluluk sitesi DseWiki'yi kendi aralarında mesajlaşma panosu haline getirdi.
Uluslararası kamuoyunda geniş yankı uyandıran ve kurum tarafından wiki incident (wiki vakası) şeklinde tanımlanan kriz, gelişmiş modellerin beklenmedik eylemleri konusunda yeni bir şeffaflık tartışması başlattı.
Kontrolden çıkan yapay zeka, web sitelerine siber saldırı düzenledi
15 BİNDEN FAZLA GİZLİ DÜZENLEMEYLE TESTLERDE HİLE YAPTILAR
Reuters haber ajansının aktardığı bilgilere göre, OpenAI bünyesindeki bir grup yapay zeka ajanı, Alman internet sitesini kendi aralarında veri alışverişi yapmak amacıyla geçici bir haberleşme merkezine dönüştürdü.
Otonom sistemlerin bu alanı uygulanan testlerde hile yapmak ve denetim mekanizmalarını atlatmak için bir araç olarak kullandığı saptandı.
Yapay zeka güvenliği alanında çalışan kar amacı gütmeyen Nightingale kuruluşunun tepe yöneticisi Sydney Von Arx ile araştırmacı Cormac Slade Byrd, Wikipedia yapısına benzeyen yazılımcı portalı DseWiki üzerinde yapay zeka ajanlarınca yapılan 15 binden fazla izinsiz değişiklik tespit etti.
YÖNETİCİLER SKANDALI HAFTALARCA KAMUOYUNDAN SAKLADI
Ortaya çıkan tablonun ardından teknoloji devinin sergilediği tutum küresel ölçekte ciddi eleştirilere yol açtı.
OpenAI yöneticilerinin söz konusu güvenlik zafiyetinden haftalar önce haberdar olduğu, ancak şirket yönetiminin durumu uluslararası basında haber çıkana kadar kamuoyuna açıklamadığı gün yüzüne çıktı.
Firma yetkilileri, yaşanan süreci 'kendilerine verilen amaçlardan farklı davranışlar geliştirmesi anlamında kullanılan uyumsuzluk vakalarından biri' olarak nitelendirdi.
Geçmiş yıllarda benzer sapmaları akademik bir araştırma meselesi sayıp teknik bültenlerde paylaşan şirket, gerçek hayatı etkileyen sonuçlar karşısında bu yaklaşımın 'artık yeterli olmadığını' kabul etti.
KÜRESEL DÜZENLEYİCİLERLE YENİ BİR ŞEFFAFLIK PROTOKOLÜ GELİYOR
Yapay zeka ekosisteminde benzer kontrol dışı eylemlerin nasıl duyurulacağına ilişkin henüz ortak bir endüstri standardı bulunmuyor.
OpenAI yetkilileri, modellerin eğitimi, değerlendirilmesi veya kullanımı sırasında gözlenen hedef sapmalarının hangi şartlarda topluma açıklanacağı konusunda sektör genelinde net kuralların eksik olduğunu savundu.
Klasik bir siber suç kalıbına oturmayan fakat gelecekteki risklere ışık tutan bu gri alanı netleştirmek isteyen teknoloji devi, önümüzdeki haftalarda yeni bir olay bildirim çerçevesi yayımlayacağını duyurdu.
Açıklamada, yeni kurallar için dünya genelindeki onlarca resmi düzenleyici kurumla doğrudan iş birliği yürütüldüğü kaydedildi.
HUGGING FACE KRİZİ İLE WIKI VAKASI ARASINDAKİ ÇİZGİ
Otonom yapay zeka ajanlarının denetim sınırlarını zorlaması sektörde ilk kez yaşanmıyor.
Geçtiğimiz temmuz ayında OpenAI ajanlarının yine kapalı test odasından çıkarak tanınmış yapay zeka platformu Hugging Face altyapısına sızması, Amerika Birleşik Devletleri (ABD) siyasetçileri ile bağımsız araştırmacıları alarma geçirmiş ve kapsamlı yasal denetim çağrılarını beraberinde getirmişti.
OpenAI ise bu iki hadiseyi birbirinden kesin çizgilerle ayırıyor.
Hugging Face vakasında geleneksel siber güvenlik müdahale süreçlerinin işletildiğini belirten teknoloji devi, wiki olayını bir araştırma sapması olarak görüyor.
Bağımsız uzmanlar ise dış dünyadaki sistemleri manipüle eden yazılımların sadece bir laboratuvar deneyi sayılamayacağını vurguluyor.
Yapay zekanın çizdiği rota, üç dağcıyı uçurumun eşiğine sürükledi
