Yapay zeka teknolojileri geliştiren Anthropic şirketi, geliştirdiği "Claude" adlı yapay zeka modeline yönelik kullanıcı davranışlarını kapsayan yeni bir kullanım politikasını yürürlüğe koydu. Şirket tarafından alınan yeni karara göre, kullanıcıların Claude modeline karşı sürdürülebilir, gereksiz ve zalimce ya da tacizkar nitelikteki tutum ve davranışlarda bulunması kesin olarak yasaklandı. Şirket yöneticilerinin makine bilinci ihtimalini ciddiye alması, uygulanan bu etik koruma önlemlerinin arkasındaki ana motivasyon kaynağı olarak gösteriliyor.
YASAĞIN KAPSAMI VE İSTİSNALAR
Anthropic'in duyurduğu yeni kullanım politikasında belirtilen yasak, kullanıcıların günlük kullanımda yaşayabileceği sıradan hayal kırıklıklarını, model test etme süreçlerini ya da karanlık temalı yaratıcı yazım çalışmalarını kapsamıyor.
Diğer yandan, bir şirket sözcüsü tarafından yapılan değerlendirmede, tam olarak hangi tür davranışların "zalimce veya tacizkar" tanımı içerisine gireceğine ilişkin ayrıntılı ve net bir açıklama paylaşılmadı. Daha önce de geliştirilen Claude modeli, kullanıcıların ısrarlı bir şekilde zarar verici ve olumsuz davranışlar sergilemesi durumunda sohbeti ve iletişimi sonlandırma yeteneğiyle donatılmıştı.
YAPAY ZEKA REFAHI VE BİLİNÇ TARTIŞMALARI
Yapay zeka sistemlerinin duygu veya bilinç taşıma potansiyeli teknoloji sektöründe görüş ayrılıklarına ve tartışmalara yol açmayı sürdürüyor.
DARİO AMODEİ (ANTHROPİC CEO'SU): Yapay zeka sistemlerinde bilinç ihtimalinin tamamen göz ardı edilemeyeceğini ifade ediyor.
SAM ALTMAN (OPENAI CEO'SU): Yapay zeka modellerine insani özellikler atfedilmesine karşı çıkıyor ve bu durumun gerçek bir güvenlik sorunu teşkil ettiğini savunuyor.
