2023 Mart’ının son günlerinde, Elon Musk, Steve Wozniak, Emad Mostaque gibi teknoloji öncüleri ve Yuval Noah Harari, Daron Acemoğlu gibi düşünürlerin başını çektiği bir grup insan, yapay zeka (YZ) sistemlerinin kontrolsüzce geliştirilmesinin tehlikelerine dikkat çeken açık bir mektuba imza koydular ve hukuki düzenlemeler yapılana kadar, GPT4’ten daha güçlü YZ sistemlerinin eğitilmemesini istediler.
Mektupta, YZ sistemleri ancak etkilerinin olumlu ve risklerinin yönetilebilir olacağından emin olduğumuzda geliştirilmelidir deniyor, YZ laboratuvarları ve bağımsız uzmanlar, titizlikle denetlenen güvenlik protokolleri geliştirmeye davet ediliyordu.
Buna paralel olarak YZ geliştiricileri, sağlıklı YZ yönetişim sistemlerinin geliştirilmesini regüle etmek için politika yapıcılarla birlikte çalışmaya çağırılıyordu. Beklentiler tek tek ifade edilmişti:
.YZ konusuna odaklı ve yetenekli düzenleyici otoriteler;
.YZ sistemlerinin ve büyük hesaplama kapasiteli veri havuzlarının gözetimi ve takibi;
.Gerçeği sentetikten ayırt etmeye yardımcı olacak kaynak tespit ve filigran sistemleri;
.Sağlam bir denetim ve sertifikasyon ekosistemi;
.YZ kaynaklı zararlar için sorumlulukların tanımlanması;
.Teknik YZ güvenlik araştırmaları için sağlam kamu finansmanı;
.YZ kaynaklı muhtemel ekonomik ve politik aksaklıklarla başa çıkmak için iyi kaynaklara sahip kurumlar.
Bu yazı yazıldığında mektubu imzalayanların sayısı otuz üç bini aşmıştı.
Fakat bildiğim kadarıyla YZ laboratuvarları bu çağrıyı işitmezden geldiler, YZ araştırmaları hiç hız kesmeden devam etti.
Bilim dünyasında yıkıcı bir teknoloji -bizzat kendisini geliştirenler tarafından- en son 1944 yılında Manhattan projesi kapsamında ilk atom bombası geliştirilirken böyle sorgulanmıştı! Bilim adamları, düşünürler ve politikacılar, ahlaki ve etik sorumluluklarımızın neler olduğuna dair en son o zaman böyle fikir ayrılıkları yaşamışlardı.
Yani mesele bu kadar ciddi.
Neyse ki AB yöneticileri meselenin ciddiyetinin farkında.
Bu konuda görevlendirdikleri AB Komisyonu üyesi Thierry Breton’un iki yıl önce hazırlayıp sunduğu YZ ile ilgili kanun taslağı üzerinde çalıştılar.
14 Haziran 2023 günü Avrupa Parlamentosu YZ ile ilgili çalışmalara hukuki çerçeve getiren kanunu kabul etti.
Dünyanın bu ilk “yapay zeka yasası’ 2024 başından itibaren yürürlüğe girecek.
Yasa “risk temelli” bir yaklaşımla hazırlanmış. YZ uygulamalarına ne kadar tehlikeli olabileceklerine bakılarak çeşitli kısıtlamalar getiriyor.
Mesela spam filtreleri ve video oyunlarda kullanılan YZ’ye “minimum riskli” sayılarak izin veriliyor.
Bankacılık veya havayolu internet sitelerindeki sohbet robotları “sınırlı riskli” sayılmış. Bunlara bazı şeffaflık yükümlülükleri getiriliyor.
Otonom taşıtlar ve cerrahi robotlarda kullanılan YZ “yüksek riskli” sayıldığından, katı kontrollere tabi olacak.
YZ’nin kötüye kullanımı konusunda “olağan şüpheliler” olan devletlere yönelik sınırlamalar çok önemli! Yasa, kolluk kuvvetlerinin YZ kullanarak suç davranışlarını tahmin etmesine imkan veren sistemleri yasaklıyor. Mesela Çin’de örneği görülen türden bir sosyal puanlama için YZ kullanımına izin verilmeyecek.
Devletler, güvenlik gerekçesiyle halka açık alanlarda insanları filme alıp anında tespit edebilsin diyenlerin talepleri “ağır mahremiyet ihlali” gerekçesiyle reddedildi. Gerçek zamanlı yüz tanıma da yasaklanıyor.
Seçimleri etkilemek için seçmenleri yönlendirebilecek araçlar, insanların sosyal ağlarda hangi gönderileri, fotoğrafları ve videoları göreceklerini belirleyen algoritmalar “yüksek riskli” sayılıyor ve bunlara yeni sınırlamalar getiriliyor.
Dezenformasyon amacıyla kullanımın önüne geçmek için, YZ ile metin, resim, video içerikleri üreten firmalara, içeriklerinin YZ ile üretildiğini ilan etme zorunluluğu getiriliyor.
Ayrıca, firmaların araçlarını eğitmek için hangi verileri kullandıklarını, bunlar arasında telif hakkıyla korunan veriler olup olmadığını yayınlamaları gerekecek.
Bizim de artık vakit kaybetmeden konuyla ilgili hukuki düzenlemelerimizi yapmamız gerekiyor.
