Facebook, yapay zeka botuna karşı uyardı: Yalan söyleyebilir ve hakaret edebilir

Facebook, yapay zeka botuna karşı uyardı: Yalan söyleyebilir ve hakaret edebilir

Facebook, yeni geliştirdiği yeni yapay zeka, yalan söyleyebilir ve hakaret edebileceği konusunda kullanıcıları uyardı.

Meta, BlenderBot 3 sohbet botunu duyurdu. Şirket, geliştirdiği yapay zekanın neredeyse her konu hakkında konuşabileceğini ve konuşmalardan öğrenebileceğini söylüyor. Ancak Meta, kullanıcıları chatbot hakkında uyarmayı da ihmal etmiyor.

Meta’nın BlenderBot 3 sohbet robotu, ABD’deki kullanıcıların denemesi için halka açıldı. Şirket, yapay zekasının internette arama yapabileceğini ve neredeyse her konu hakkında sohbet edebileceğini iddia ediyor. Hatta kendini geliştirme ve insanlarla konuşarak daha iyi iletişim kurmayı öğrenme yeteneği bile verildi.

Yine de tüm çalışmalara rağmen geliştirilen yapay zekanın dilinde sorunlar olduğu tespit edildi. Facebook, yapay zeka botunu duyurduğu blog yazısında şu sözlere yer veriyor: “Tüm konuşma amaçlı yapay zeka sohbet botlarının bazen güvenli olmayan, önyargılı veya saldırgan açıklamaları taklit ettiği ve ürettiği bilindiğinden, büyük ölçekli çalışmalar yürüttük, ortak çalıştaylar düzenledik ve BlenderBot 3 için güvenlik önlemleri oluşturmak için yeni teknikler geliştirdik. Bu çalışmaya rağmen, BlenderBot hala kaba veya saldırgan yorumlar yapabiliyor, bu nedenle gelecekteki sohbet botlarını daha iyi hale getirmeye yardımcı olacak geri bildirimler topluyoruz.”


Meta bot ile ilgili kullanıcılarını uyarırken gerçek bilgi vermeyebileceğini de belirterek “Kullanıcılar, bu tür sorunları azaltmak için elimizden gelenin en iyisini yapmamıza rağmen, botun uygunsuz, kaba veya doğru olmayan veya çelişkili açıklamalarda bulunabileceğini bilmeli. Bot’un yorumları Meta’nın bir şirket olarak görüşlerini temsil etmez ve tıbbi, yasal veya finansal tavsiye dahil gerçek bilgiler için güvenilmemeli.” dedi.

Şirket; botun küfür, hakaret içeren diller veya kültürel açıdan duyarsız ifadeler kullanmasını en aza indirmek için çalıştığını sözlerine ekledi. Kullanıcılar bu yorumları bildirme ve beğenmeme hakkına sahip.

Öne Çıkanlar
YORUMLAR
YORUM YAZ
UYARI: Hakaret, küfür, rencide edici cümleler veya imalar, inançlara saldırı içeren, imla kuralları ile yazılmamış, Türkçe karakter kullanılmayan ve büyük harflerle yazılmış yorumlar onaylanmamaktadır. (!) işaretine tıklayarak yorumla ilgili şikayetinizi editöre bildirebilirsiniz.
Diğer Haberler
Son Dakika Haberleri
KARAR.COM’DAN