Teknoloji dünyasının küresel buluşma noktalarından San Francisco'daki Salesforce Dreamforce etkinliğinde sahne alan Nvidia kurucusu ve üst düzey yöneticisi Jensen Huang, yapay zeka teknolojileri için yeni yasal düzenlemeler yapılması fikrine net bir dille karşı çıktı.
Pazardaki rekabet koşullarının şirketleri kendiliğinden güvenli ürünler geliştirmeye yönlendirdiğini belirterek, denetim için yeni kanunlara gereksinim bulunmadığını savundu.
Şirketlerin sundukları sistemlerin yeteneklerinden, sınırlarından ve işlevsel güvenliğinden tam manasıyla emin olmadan bunları piyasaya sürmemesi gerektiğinin altını çizen Nvidia CEO'su, sorumluluğun doğrudan geliştiricilerde olduğunu vurguladı.
GÜVENLİK HUKUKİ DEĞİL MÜHENDİSLİK MESELESİ
Amerikan yayın kuruluşu American Broadcasting Company (ABC7) kanalının aktardığı detaylara göre, Jensen Huang, yapay zeka güvenliğini yasal çerçevelerle sınırlı bir meseleden ziyade tamamen mühendislik sahasında çözülmesi gereken teknik bir sorun şeklinde nitelendiriyor.
Risklerin yönetiminde bireysel şirket sorumluluğunu öne çıkaran deneyimli yönetici, inovasyonun hızı ile ürün güvenliğinin birbirini dışlayan hedefler olarak görülmesine itiraz ediyor.
"Güvenli ürün geliştirmek, şirketlerin kendi karar süreçlerinin bir parçası olmalı" görüşünü dile getirirken, pazarın getirdiği doğal baskının üreticileri kaçınılmaz olarak daha emniyetli adımlar atmaya sevk edeceğini ifade ediyor.
Yapay zekanın insan zekasından üstün olmaması için otonom özelliklerini sınırlandırdılar
ANTHROPIC CEO'SU ORTAK STANDART VE MUAFİYET İSTEDİ
Jensen Huang'ın şirketlerin öz denetimini savunan bu tutumu, sektörde ortak standartlar ve koordineli bir yavaşlama isteyen diğer teknoloji liderlerinin görüşleriyle tam bir tezat oluşturuyor.
Nitekim aynı organizasyonda konuşan yapay zeka girişimi Anthropic'in üst yöneticisi Dario Amodei, sektörün güvenlik uygulamalarını acilen güçlendirmesi ve kamuoyuna karşı çok daha şeffaf bir tutum sergilemesi çağrısında bulundu.
Şirketlerin geçmiş uygulamalarını gözden geçirmesini isteyen deneyimli yönetici, bağımsız denetimlerin devreye sokulmasını ve firmaların güvenlik odağında birlikte hareket edebilmesi adına rekabet hukuku kurallarından muaf tutulmasını talep etti.
KARTEL UYARISI YETKİ TARTIŞMASINI ALEVLENDİRDİ
Amodei'nin gündeme getirdiği yasal muafiyet ve ortak koordinasyon planı, sektörün tamamından karşılık bulmadı.
Toplantının bir diğer katılımcısı Cohere üst düzey yöneticisi Aidan Gomez, bu önerinin 'büyük yapay zeka şirketlerinin rekabeti sınırlayan bir kartel oluşturmasına zemin hazırlayabileceğini' savunarak sert tepki gösterdi.
Aidan Gomez'in dile getirdiği itirazlar, San Francisco'daki yapay zeka güvenliği oturumunu sadece teknik bir korunma arayışı olmaktan çıkardı; geleceğin teknolojisini kimin kontrol edeceği ve karar yetkisinin hangi odaklarda toplanacağı sorusunu sektörün ana gündemine yerleştirdi.
Test ortamından firar eden yapay zekalar dünyayı alarma geçirdi: Nvidia'dan dev güvenlik kalkanı
