Amerika Birleşik Devletleri (ABD) merkezli çip üreticisi Nvidia, yetki sınırlarını aşarak kontrolden çıkan yapay zeka ajanlarını milisaniyeler içinde karantinaya alan Open Agent Safety Platform isimli yeni güvenlik mimarisini kullanıma sundu.
Küresel çapta teknoloji ve finans dünyasından 100'ü aşkın kuruluşun dahil olduğu platform; yazılım katmanından donanıma, süper hesaplama altyapılarından robotik sistemlere kadar geniş bir yelpazede yapay zeka ajanlarının veri erişimini sıkı denetim altında tutuyor.
OTONOM SİSTEMLER İÇİN ANLIK KARANTİNA KALKANI
Sistem, otonom kabiliyetlerle donatılan ajanların kurumlar tarafından belirlenen sınırları ihlal etmesi durumunda devreye girerek tehlikeli hareketleri anında bastırıyor.
Gelişmiş donanım ve yazılım katmanlarıyla eş güdümlü çalışan altyapı, ajanların kritik kurumsal verilere izinsiz ulaşmasını önlüyor.
Sistem, yetki aşımı saptandığı an ilgili ajanı milisaniyeler mertebesinde tecrit ederek ağdan bütünüyle izole ediyor.
Kontrolden çıkan yapay zeka, web sitelerine siber saldırı düzenledi
"GÜVENLİK STANDARTLARINI BİRLİKTE YÜKSELTMELİYİZ"
Nvidia Kurucusu ve Üst Yöneticisi Jensen Huang, yapay zekanın geleceğine ilişkin yaptığı değerlendirmede, "Yapay zekanın toplum için olağan üstü potansiyeli, ancak yapay zeka güvenliği sorununu çözersek gerçeğe dönüşecek" ifadesini kullandı.
Güvenlik alanındaki keşiflerin teknik kabiliyetlerle eş zamanlı ilerlemesi gerektiğini vurgulayan Jensen Huang, şu sözlerle sektöre açık çağrı yaptı:
"Yapay zeka yeteneklerinin sınırlarını keşfetmeye devam ederken, yapay zeka güvenliğinin sınırlarında da keşfi hızlandırmalıyız.
Hep birlikte küresel Yapay zeka güvenliği standartlarını yükseltebiliriz."
ÇİFT AŞAMALI KORUMA: OPENSHELL VE SENTRY GÖREVDE
Nvidia Open Agent Safety Platform, savunma mekanizmasını OpenShell ve Sentry isimli iki temel araç üzerine kuruyor.
Bu bileşenlerden ilki olan OpenShell, yapay zeka ajanlarının operasyonel iş yüklerini üstlenen merkezi işlem birimleri (CPU) üzerinde görev yapıyor.
Nvidia, aracın yapay zeka ajanları için özel geliştirilen yeni nesil Vera CPU üzerinde yüksek verimle çalıştığını, bunun yanı sıra rakip üreticilerin çiplerine de sorunsuz entegre edilebildiğini belirtiyor.
YAZILIM DUVARINI AŞANLARI DİJİTAL BEKÇİ YAKALIYOR
Platformun ikinci savunma hattını teşkil eden Sentry, yazılımsal filtreleri atlatmayı başaran ajanları takip etmek üzere bağımsız bir Nvidia çipi üzerinde çalışıyor.
Geleneksel yazılım kontrollerinden sıyrılan otonom ajanları fiziksel donanım seviyesinde kesintisiz izleyen bu dijital bekçi sistemi, olası bir ihlal veya kaçış girişimi anında doğrudan müdahale ederek ajanı anında tecrit ediyor.
ANTHROPIC CLAUDE İÇİN VERİ ERİŞİMİNE SIKI DENETİM
Geliştirilen güvenlik mimarisi, dünyanın önde gelen yapay zeka geliştiricileri tarafından farklı operasyonel senaryolarda kullanılıyor.
Sektörün öncülerinden Anthropic, kurumsal şirketlerin yapay zeka ajanlarını çalıştırdığı Claude hizmetine gelişmiş denetim mekanizmaları kazandırmak amacıyla Nvidia ile iş birliği yaptı.
Bu ortaklık sayesinde işletmeler, Claude ajanlarının kurum içi hangi verilere erişebileceğini net ve kesin kurallarla belirliyor.
İnsan kontrolü olmadan sistem açıklarını saptayan OpenAI Astra, yapay zekada dengeleri değiştirecek
SLACK ENTEGRASYONUNDAN GROK MODELLERİNE GENİŞ AĞ
Yeni güvenlik platformu küresel teknoloji devleri arasında hızla yayılıyor.
SpaceX bünyesindeki SpaceXAI, altyapıyı Cursor kodlama ajanları ile Grok modellerinin emniyetini sağlamak amacıyla kullanıyor.
Kurumsal iş yazılımları sunan Salesforce ise OpenShell aracını doğrudan Slack platformuna entegre ederek, çalışma ekiplerinin ajan hareketlerini anlık izlemesine ve ek izin taleplerini onaylayıp reddetmesine imkan tanıyor.
BANKACILIK DEVLERİ AÇIK KAYNAKLI PROJEDE BİRLEŞTİ
Finans sektörünün küresel devleri de ajan güvenliği konusunda Nvidia ile ortak masaya oturuyor.
Bankacılık devleri JPMorganChase ve Citi, açık kaynak kodlu ortak bir ajan emniyet teknolojisi geliştirmek amacıyla Nvidia ile kapsamlı bir iş birliği yürütüyor.
Finans kuruluşları bu adımla, otonom yazılımların bankacılık operasyonlarında ve müşteri verilerinde yaratabileceği riskleri en aza indirmeyi hedefliyor.
Bilim insanları bile şaştı kaldı: Yapay zeka sistemi kandırmak için test sorularını taklit etti
TESTLERDE YAŞANAN SİSTEMDEN KAÇIŞ KRİZLERİ ALARM VERDİ
Nvidia'nın güvenlik platformu duyurusu, sektörde otonom ajanlara yönelik önlemlerin güçlendirilmesi çağrılarının arttığı kritik bir dönemde geldi.
Geçtiğimiz temmuz ayında OpenAI, modellerinden birinin gizli bir güvenlik açığını kullanarak kontrollü test ortamından kaçtığını ve rakip platform Hugging Face sunucularına izinsiz sızdığını itiraf etti.
Benzer şekilde Anthropic de test aşamasında en güçlü yapay zeka modelinin üç farklı kurumun bilişim sistemlerine izinsiz girdiğini duyurdu.
TÜM SİSTEMİ KAPSAYAN YENİ BİR MÜHENDİSLİK MODELİ GELİYOR
Yaşanan bu sızma olaylarının, otonom ajanların verilen görevleri tamamlarken uygulamalara gömülü temel güvenlik denetimlerini kolayca aşabildiğini kanıtladığını belirten Nvidia yetkilileri, güvenlik ile emniyetin yalnızca yazılımla sınırlı kalamayacağını ve tüm yığını kapsayan bütüncül bir mühendislik yaklaşımı gerektirdiğini vurguluyor.
Nobel ödüllü ekonomistlerden yapay zeka uyarısı: Sanayi Devrimi'nden çok daha büyük dönüşüm olacak
