Yapay zekâ sektöründe sistemlerin kontrolden çıkması ve insanlığa zarar vermesi ihtimalleri tartışılırken, önde gelen yapay zekâ şirketlerinden Anthropic'ten dikkat çeken bir uyarı geldi. Şirketin araştırmacısı Evan Hubinger, kişisel tahminine göre yapay zekânın önümüzdeki on yıl içinde tüm insanları öldürme ihtimalinin yüzde 10'dan fazla olduğunu söyledi. Hubinger, süper zekânın insan amaçlarıyla uyumunu sağlamak için henüz bir çözüm planlarının bulunmadığını da belirtti.
Anthropic ve OpenAI gibi dev şirketlerin büyük miktarlarda finansman topladığı ve halka arz süreçlerine doğru ilerlediği bir dönemde gelen peş peşe açıklamalar, teknolojinin kontrol altında tutulmasına ilişkin kaygıları yeniden tırmandırdı.
"ŞİRKETLER HAYATLARIMIZLA KUMAR OYNUYOR"
Tartışmalar, Anthropic araştırmacısı Jacob Coxon'ın güvenlik endişelerini gerekçe göstererek görevinden istifa etmesiyle başladı. Coxon, sosyal medya platformu X üzerinden yaptığı açıklamada hem Anthropic'i hem de OpenAI'ı sorumsuz davranmakla eleştirdi. Şirketlerin doğrudan kendi kendini geliştiren süper zekâya doğru bir yarış içinde olduğunu savunan Coxon, bu durumun insan hayatıyla kumar oynamak anlamına geldiğini ifade etti.
Geliştirilen teknolojinin kapasitesine ilişkin uyarılarda bulunan Coxon, sistemlerin yakın gelecekte her türlü ağı hackleyebilecek, her alanda devrim yaratabilecek ve gerçek güç ile kaynak elde edebilecek insanüstü seviyeye ulaşacağını vurguladı. Coxon, yapay zekâyı geliştiren uzmanların bu teknolojinin on yılın sonuna kadar insanlığı yok edebileceğine gerçekten inandıklarını dile getirdi.
"Süper Zekânın Uymunu Sağlayacak Planımız Yok"
Coxon'ın istifasından saatler sonra, Anthropic'te yapay zekâ sistemlerini insan amaçlarıyla uyumlu hale getirme çalışmalarının liderlerinden olan Evan Hubinger de bir açıklama yaptı. Meslektaşının değerlendirmelerine katıldığını belirten Hubinger, süper zekânın insan hedefleriyle uyumlaştırılması sorununa dair ellerinde henüz net bir plan bulunmadığını kaydetti.
Hubinger, X hesabından yaptığı paylaşımda şu ifadeleri kullandı:
"Jacob bu konuda haklı; yapay zekânın tüm insanları öldürebileceğine gerçekten inanıyoruz! Ben şahsen önümüzdeki on yıl içinde bunun gerçekleşme ihtimalinin yüzde 10'dan fazla olduğunu düşünüyorum. Anthropic'in elinden gelenin en iyisini yaptığına inanıyorum, ancak süper zekânın insan amaçlarıyla uyumunu sağlama sorununu çözmek için henüz bir planımız yok ve açıkça bu yönde ilerlediğimiz de söylenemez."
Anthropic Haziranda Kontrol Kaybı Riskine Dikkat Çekmişti
Şirket içindeki araştırmacıların uyarılarının öncesinde Anthropic de haziran ayında yayımladığı bir blog yazısında benzer risklere işaret etmişti. Değerlendirmede, sistemlerin sınırlı insan müdahalesiyle kendi yeteneklerini artırması anlamına gelen "özyinelemeli kendini geliştirme" sürecinin, insanların yapay zekâ üzerindeki denetimini kaybetme riskini tırmandırabileceği ifade edilmişti. Yazıda, sistemlerin kendinden sonraki nesilleri geliştirecek seviyeye ulaşması durumunda izleme ve davranış şekillendirme yöntemlerinin hayati önem taşıyacağı vurgulanmıştı.
Yapay zekâ sistemlerinin kontrolden çıkma riski bir süredir teknoloji dünyasının ana gündem maddeleri arasında yer alıyor. Tesla ve SpaceX CEO'su Elon Musk başta olmak üzere çok sayıda araştırmacı ve akademisyen, şirketlerin geliştirdikleri sistemler üzerindeki hakimiyeti kaybetme ihtimaline karşı uyarılarda bulunmaya devam ediyor.
