Amerika Birleşik Devletleri (ABD) merkezli yapay zeka geliştiricisi Anthropic, bir yılı aşkın sürenin ardından baştan aşağı yenilediği kullanım sözleşmesiyle Claude sohbet modeline yönelik amaçsız kötü muameleyi, seçim manipülasyonlarını ve silah yazılımı girişimlerini küresel ölçekte yasakladı.
Teknoloji şirketi, güncellenen çerçeve metinde kullanıcıların Claude modeline karşı sergilediği sürekli, gereksiz ve acımasız saldırgan tutumları doğrudan engelleme kapsamına aldı.
Bu kural; günlük hayatta yaşanan anlık öfke patlamalarını, modele yöneltilen fikirsel itirazları, karanlık temalı yaratıcı yazarlık denemelerini ya da güvenlik araştırmalarını kapsam dışı bırakıyor.
Geliştirici ekip, yalnızca belirgin bir hedef taşımayan ve modele sistemli biçimde kötü davranılan uç senaryoları odağına alıyor.
Önceden saldırgan kullanıcılara karşı konuşmayı bitirme yetkisi bulunan sohbet botu, yeni dönemde de kötü muamele karşısında oturumu anında sonlandırmayı temel yaptırım yöntemi olarak sürdürecek.
Şirket cephesi, konuşmanın kapatılması dışında kullanıcı hesaplarının tamamen askıya alınması gibi ek tedbirlerin gelip gelmeyeceği konusunu henüz netleştirmedi.
DEMOKRATİK SÜREÇLERİ VE SEÇİMLERİ HEDEF ALANLARA GEÇİT YOK
Siyasi ve ticari aldatma odaklı eylemleri tek bir maddede toplayan şirket, kamusal algıyı yönlendirmeyi amaçlayan girişimlere set çekti.
Claude artık iletilen mesajın gerçek kaynağını gizleyen sahte kampanyalarda, bot hesaplarla üretilen yapay etkileşim dalgalarında veya paravan haber platformlarının inşasında kullanılamayacak.
Şirketin, "Demokratik süreçleri baltalamayın" başlığıyla ilan ettiği kurallar, seçmen iradesini yanıltmaya yönelik faaliyetleri kesin dille engelliyor.
Seçim süreçlerini ve demokratik işleyişi korumak amacıyla yürürlüğe konan yasaklar şu eylemleri kapsıyor:
— Adaylar ya da oy verme mekanizmaları hakkında yanıltıcı ve asılsız bilgiler yaymak
— Seçim yarışındaki adayları veya sandık görevlilerini dijital ortamda taklit etmek
— Vatandaşların sandığa gitmesini ve demokratik katılımını zayıflatmaya dönük faaliyet yürütmek
Anthropic'ten çarpıcı çağrı: Yapay zeka geliştirme hızı yavaşlatılmalı
SİLAH SİSTEMLERİ VE İZİNSİZ GÖZETİM GİRİŞİMLERİ ENGELLENDİ
Yapay zeka modelinin konvansiyonel silah geliştirme süreçlerinde kullanımını önceden engelleyen Anthropic, kullanıcıların sistemi operasyonel rehberlik ve kontrol yazılımları için zorladığını tespit etti.
Yönetim kadrosu bu hamlelerin ardından kısıtlamaları; askeri donanımların çalışmasını sağlayan yazılım bileşenlerini ve insansız hava araçlarının silahlandırılmasını içerecek biçimde genişletti.
Bireylerin açık rızası olmaksızın anlık ya da geçmiş veriler üstünden takip edilmesini yasaklayan yeni kurallar, kitlesel gözetim araçlarının üretilmesini de engelliyor.
Kolluk kuvvetleri ile ceza adaleti kurumları; kimin soruşturulacağı, gözaltına alınacağı veya suçlanacağı kararlarında Claude sistemini hiçbir aşamada kullanamayacak.
OTONOM DONANIMLAR İÇİN NİTELİKLİ OPERATÖR ŞARTI GELDİ
Fiziksel çevrede tek başına hareket edebilen ve bedensel yaralanmalara yol açabilecek donanımlara entegre edilen yapay zeka operasyonları için zorunlu insan kontrolü getirildi.
Olası tehlikeleri engellemek adına, donanımı sürekli denetleyecek ve acil durumlarda mekanizmayı durdurabilecek yetkin bir operatörün hazır bulunması şart koşuldu.
Belirli kamu kurumlarıyla akdedilen özel sözleşmeler dahilinde gereken güvenlik önlemlerinin sağlanması durumunda, tanımlanan bazı kuralların esnetilebileceği de sözleşme notlarında paylaşıldı.
