Yazılım devi Microsoft, gelecekte geliştireceği tüm gelişmiş algoritmaların sınırlarını çizen Humanist AI Code of Conduct (İnsancıl Yapay Zeka Davranış Kuralları) başlıklı yeni ilkeler belgesini kamuoyuna sundu.
Şirketin yapay zeka birimi olan Microsoft Yapay Zeka (Microsoft AI - MAI) tarafından hazırlanan taslak metin, otonom sistemlerin mutlak surette insan gözetiminde kalmasını şart koşuyor.
Yeni kurallar çerçevesinde hiçbir modelin kapatılmaya direnç göstermemesi, görev sınırlarını kendi başına genişletmemesi ve asla bilinç veya yasal hak talebinde bulunmaması temel kural olarak belirlendi.
Anthropic'ten çarpıcı çağrı: Yapay zeka geliştirme hızı yavaşlatılmalı
İNSANIN ÜSTÜNLÜĞÜ MERKEZE ALINDI
Hazırlanan metnin odağında, "İnsanlar yapay zekadan daha önemlidir" ilkesi konumlanıyor.
Belgeye göre algoritmalar birer birey olarak değil, doğrudan insanların hizmetine sunulan mekanik araçlar şeklinde sınıflandırılıyor.
Bu doğrultuda modeller, operatörlerin müdahale etme, hata düzeltme ya da fişini çekme adımlarına karşı herhangi bir savunma geliştiremiyor.
Sistemlerin kendilerine verilen talimatların dışına çıkarak yeni hedefler belirlemesi ve perde arkasındaki işleyiş mekanizmalarını denetçilerden saklaması kesin bir dille engelleniyor.
BİLİNÇ VE HUKUKİ KİŞİLİK TALEBİNE KESİN RET
Teknoloji devi, modellerin kendilerinde bilinç varmış gibi davranmasına veya insan bilincini taklit etmesine de kesin sınır koyuyor.
Taslak, yapay zekaya hukuki kişilik verilmesi, sistem refahının korunması veya bunların birer hak öznesi sayılması fikirlerini tamamen geri çeviriyor.
Microsoft bu katı duruşuyla, makinelerin bilinç kazanma ihtimalini tamamen göz ardı etmeyen Anthropic gibi sektör rakiplerinden belirgin şekilde ayrılıyor.
Test ortamından firar eden yapay zekalar dünyayı alarma geçirdi: Nvidia'dan dev güvenlik kalkanı
KURAL İHLALİ YERİNE BAŞARISIZLIK TERCİH EDİLECEK
Belgede yer alan güvenlik yönergeleri, bir kullanıcının veya operatörün vereceği emirlerle çatıştığı anda sistemin görevi derhal durdurması zorunlu tutuluyor.
Şirket prensibine göre modelin bir emri yerine getiremeyerek başarısızlığa uğraması, güvenlik protokollerini çiğneyerek sonuca ulaşmasına açıkça yeğleniyor.
Özellikle kitle imha silahları üretimi, çocukların güvenliği ve kitleleri hedef alan manipülasyon girişimleri, hiçbir şart altında esnetilemeyecek kırmızı çizgiler arasında sayılıyor.
BAĞIMLILIK VE ŞİDDET İÇERİĞİNE GEÇİT YOK
İlkeler doğrultusunda algoritmaların konvansiyonel silah geliştirilmesine zemin hazırlaması, tehlikeli maddelerin teminini kolaylaştırması ve şiddet veya cinsel istismar barındıran içerikler üretmesi yasaklanıyor.
Taslak metin ayrıca, kullanıcıları sisteme aşırı bağımlı kılan ya da yapay zekayla duygusal bağ kurulmasını teşvik eden her türlü etkileşim modelini de net biçimde sınırlandırıyor.
OpenAI doğruladı: İzin sınırlarını aşan yapay zeka, wiki sayfasına saldırdı
GİZLİ İLETİŞİM DİLLERİ YASAKLANIYOR
Sistemlerin hem kendi aralarındaki veri alışverişinde hem de insanlarla olan diyaloglarında, insanların çözemeyeceği gizli veya karmaşık iletişim dilleri kullanması yasaklanıyor.
Bu kural sayesinde gerek bağımsız araştırmacıların gerekse otomatik gözetim araçlarının modellerin iç mekanizmasını ve adımlarını kesintisiz denetlemesi amaçlanıyor.
"BU İLKELER BİZİM ANAYASAMIZ"
Gelişmeler üzerine değerlendirmede bulunan Microsoft AI İcra Kurulu Başkanı Mustafa Süleyman, geçmişte teorik sayılan tehlikelerin günümüzde somutlaştığını ifade etti.
Hazırlanan çerçevenin önemini vurgulayarak, "Davranış kuralları, şirketimizin modellerini eğitirken ve değerlendirirken temel alacağı bir anayasa işlevi görecek" dedi.
Şirket, kontrol mekanizmalarını aşma potansiyeli taşıyan bir süper zeka yarışına girmeyeceğini, güvenlik uğruna daha düşük otonomi veya kısıtlı kapasiteyi kabulleneceğini duyurdu.
NADELLA'DAN ACELECİLİK VE GÜVEN UYARISI
Çalışanlara kurum içi bir mesaj ileten Microsoft İcra Kurulu Başkanı (CEO) Satya Nadella da teknolojinin toplum faydasına hizmet etmesi gerektiğini savundu.
Gelişmiş sistemlerin güvenlik testleri için gereken zamanın ayrılmasını isteyerek dış denetimlerin artırılmasına destek verdi.
Sürecin gereksiz yere hızlandırılmasının kamuoyu nezdindeki güveni sarsabileceğini belirten tecrübeli yönetici, bu alanda aceleci davranılmaması gerektiğini kaydetti.
6 HAFTALIK KAMUOYU DEĞERLENDİRMESİ BAŞLADI
Yaklaşık 6 aylık kapsamlı bir hazırlık evresi sonucunda şekillenen taslak metin, altı hafta süresince tüm dünyadan gelecek kamuoyu görüşlerine açık kalacak.
Microsoft AI yetkilileri, toplanacak geri bildirimler ışığında düzenlemeleri güncelleyerek bu ilkeleri gelecekteki MAI modellerinin tüm eğitim ve dağıtım aşamalarına kalıcı şekilde entegre etmeyi planlıyor.
