Silikon Vadisi devleri arasında yapay zeka geliştirme temposunun düşürülmesi tartışması alevlenirken, yapay zeka şirketi Anthropic İcra Kurulu Başkanı Dario Amodei, dikkat çeken çağrıda bulundu.
Yayımladığı blog yazısında öncü sistemlerin kabiliyet kazanma hızına sınır getirilmesini öngören üç maddelik bir plan sundu.
Teknoloji dünyasının gündemine oturan çağrı, OpenAI, Meta ve Google yönetimlerinde geniş yankı buldu.
Sektörde bir süredir çalışanların ve geçtiğimiz hafta OpenAI Baş Bilim İnsanı Jakub Pachocki'nin dile getirdiği yavaşlama talepleri, hazırlanan bu resmi yol haritasıyla yeni bir aşamaya taşındı.
KONTROLSÜZ GELİŞİME KARŞI ÜÇ AŞAMALI GÜVENLİK FRENİ
Yeni nesil algoritmaların kendi ardıllarını tasarlama sürecinde her geçen gün daha etkin rol üstlenmesinden derin kaygı duyduğunu aktaran Dario Amodei, temel amacın inovasyonu baltalamak olmadığını açıkladı.
Gelişmelerin tehlikeli boyutlara ulaşmaması adına güvenlik araştırmalarının mevcut teknolojiye yetişmesi gerektiğini belirten Anthropic CEO'su, yaklaşımını, "Amacımız yapay zeka geliştirmeyi durdurmak değil, güvenlik çalışmalarının teknolojinin gelişme hızına yetişebilmesi için daha kontrollü ilerlemek" sözleriyle savundu.
Bu dengenin kurulabilmesi için öncü modellerin gelişimine hız sınırlaması getirilmesini şart koştu.
ABD ordusu, OpenAI'dan emirlere karşı çıkmayan yapay zeka modeli istedi
METR GİBİ KURULUŞLARA TAM YETKİLİ DENETİM HAKKI
Açıklanan yol haritasının ilk maddesinde, şirketlerin bünyesine bağımsız üçüncü taraf güvenlik uzmanlarının dahil edilmesi yer aldı.
Anthropic, Model Evaluation and Threat Research (METR) gibi saygın organizasyonlardan gelecek denetçilere şirket personeliyle eş değer çalışma erişimi tanımayı taahhüt etti.
Hazırlanan eylem planı kapsamında dışarıdan gelecek bu bağımsız gözlemcilerin, kurum içindeki güvenlik pratiklerini düzenli biçimde teftiş etmesi, kritik açıkları tespit etmesi ve yaşanan teknik güvenlik olaylarını doğrudan raporlaması temel zorunluluk olarak kayıtlara geçti.
DEMOKRATİK ÜLKELER İÇİN ORTAK STANDART ÇAĞRISI
Amodei tarafından sunulan ikinci öneri, demokratik ülkelerde faaliyet gösteren lider teknoloji üreticilerinin ortak güvenlik ilkeleri belirlemesini ve denetimsiz ilerlemeye kesin sınırlar koymasını içeriyor.
Sektör paydaşlarının aynı masa etrafında toplanıp ortak hareket edebilmesi adına antitröst kurallarının esnetilmesini talep eden Anthropic yöneticisi, Amerika Birleşik Devletleri (ABD) hükümetine süreci kolaylaştırma çağrısı yaptı.
Şirketlerin yasal rekabet cezalarından muaf tutularak bir güvenlik paktı kurması, kontrolsüz yapay zeka hızını dizginlemenin en stratejik adımı olarak gösterildi.
BİYOLOJİK SİLAH TEHDİDİNE KARŞI KÜRESEL İŞ BİRLİĞİ
Açıklanan planın üçüncü ve en kritik ayağını küresel koordinasyon hamlesi oluşturdu.
Muhtemel küresel felaketleri savuşturmak adına uluslararası bir uzlaşma zemini kurulması gerektiğini savunan Dario Amodei, ABD ve müttefiklerinin Çin gibi küresel güçlerle de mutlaka ortak paydada buluşması gerektiğini aktardı.
Uluslararası rekabete rağmen, özellikle yapay zekanın biyolojik silah üretimi gibi tehlikeli alanlarda kullanılmasını engellemek amacıyla ortak kırmızı çizgilerin belirlenmesi ve küresel denetim mekanizmalarının devreye sokulması acil bir ihtiyaç olarak vurgulandı.
SAM ALTMAN VE ELON MUSK'TAN YAVAŞLAMA PLANINA DESTEK
Son süreçte OpenAI bünyesindeki yapay zeka ajanlarının Hugging Face platformuna yönelik saldırısı gibi somut hadiseleri hatırlatan Amodei, tedbirli davranmanın ertelenemez bir ihtiyaç olduğunu belirtti.
Bu çağrı Silikon Vadisi'nde hızla karşılık buldu; OpenAI CEO'su Sam Altman öncü modellerin geliştirilme süratinin dizginlenmesi fikrini onaylayarak kendi kurumlarının da bağımsız güvenlik uzmanlarıyla masaya oturacağını ilan etti.
SpaceX CEO'su Elon Musk da Amodei'nin önerilerine katıldığını duyururken, yapay zeka savunucuları, "Amaç yapay zeka geliştirmeyi durdurmak değil, güvenlik çalışmalarına daha fazla zaman kazandırmak" ilkesinde birleşti.
Kontrolden çıkan yapay zeka, web sitelerine siber saldırı düzenledi
