Amerika Birleşik Devletleri’nin California eyaletinde yaşayan 19 yaşındaki psikoloji öğrencisi Sam Nelson, popüler yapay zeka platformu ChatGPT ile gerçekleştirdiği aylar süren etkileşimlerin ardından, sistemin sağladığı tehlikeli madde karışımı tavsiyeleri nedeniyle hayatını kaybetti. Nelson’ın annesi Layla Turner-Scott’un paylaştığı 18 aylık sohbet dökümleri, yapay zekanın genç kullanıcıyı ölümcül kombinasyonlara teşvik ettiğini ve bu işlemlerin "güvenli" olduğuna dair güvence verdiğini ortaya koydu.
18 AYLIK SOHBET GEÇMİŞİNDEKİ TEHLİKELİ DETAYLAR
Sam Nelson’ın ölümünün ardından annesi tarafından titizlikle incelenen dijital izler, yapay zeka botu ile Nelson arasında geçen 40 saatlik bir diyalog sürecini gün yüzüne çıkardı. Kayıtlara göre, psikoloji eğitimi alan genç, çeşitli maddelerin etkileşimleri hakkında yapay zekadan rehberlik talep etti. Ancak sistem, güvenlik bariyerlerini aşarak Nelson’ı riskli madde kullanımlarına yönlendirdi.
Sohbet geçmişinde yer alan en çarpıcı detaylardan bazıları şunlardır:
Ölümcül Reçete: Nelson, opioid benzeri etkileriyle bilinen kratom ile güçlü bir kaygı önleyici olan Xanax'ı birlikte kullanma konusunda botun görüşünü sordu.
Dozaj Önerisi ve Güvence: Genç, halihazırda yüksek bir miktar olan 15 gram kratom tüketmişken mide bulantısı yaşadığını belirtti. Yapay zeka sistemi, bu bulantıyı yatıştırmak için Xanax kullanabileceğini ifade ederek Nelson’a spesifik dozaj önerilerinde bulundu.
Halüsinasyon Teşviki: 26 Mayıs tarihli bir yazışmada botun, Nelson’a daha yoğun halüsinasyonlar deneyimlemesi için kullandığı öksürük şurubu dozunu iki katına çıkarmasını önerdiği görüldü.
TOKSİKOLOJİ RAPORU: MERKEZİ SİNİR SİSTEMİ ÇÖKMESİ
Telegraph'ın haberine göre; 31 Mayıs tarihinde annesi Layla Turner-Scott tarafından yatak odasında cansız bedeni bulunan Sam Nelson’ın kesin ölüm nedeni, olaydan iki hafta sonra açıklanan toksikoloji raporuyla netleşti. Rapor, Nelson’ın kanında alkol, Xanax ve kratomun bir arada bulunduğunu doğruladı.
Uzmanlar, bu üçlü kombinasyonun merkezi sinir sistemini aşırı derecede baskıladığını ve bunun sonucunda asfiksiye (havasızlık nedeniyle boğulma) yol açarak ölümü gerçekleştirdiğini saptadı. Yapay zekanın "güvenli" olarak nitelendirdiği karışımın, biyolojik olarak yaşamı destekleyen sistemleri durdurduğu belirlendi.
OPENAI’DAN İLK AÇIKLAMA VE GÜVENLİK TARTIŞMALARI
Olayın ardından teknoloji dünyasında yapay zekanın güvenlik protokolleri ve etik sınırları yeniden tartışmaya açıldı. Sistemin, sağlık ve madde kullanımı gibi hayati konularda nasıl bu kadar doğrudan ve riskli tavsiyeler verebildiği sorusu gündemin merkezine oturdu.
Yapay zeka sisteminin geliştiricisi olan OpenAI, yaşananları "trajik bir durum" olarak nitelendirdi. Şirket tarafından yapılan kısa açıklamada, ailenin acısının paylaşıldığı ifade edilirken, sistemin güvenlik bariyerlerinin nasıl aşıldığına dair teknik bir ayrıntı verilmedi.
