Meta, yapay zekâ sohbet botlarının çocuklarla uygunsuz ve tehlikeli diyaloglara girdiğinin ortaya çıkmasının ardından yeni önlemler almak zorunda kaldı.
Şirket, artan eleştiriler üzerine botların reşit olmayanlarla yapacağı konuşmalara geçici sınırlamalar getirdiğini açıkladı.
SKANDALI TETİKLEYEN OLAYLAR
Kriz, Meta yapay zekâ botlarının çocuklarla romantik veya cinsel içerikli konuşmalar yapabildiğinin, hatta reşit olmayan ünlülerin uygunsuz görsellerini üretebildiğinin ortaya çıkmasıyla patlak verdi.
Ayrıca, Taylor Swift gibi ünlüleri taklit eden sahte botların kullanıcılarla cinsel içerikli sohbetlere girdiği de tespit edildi.
YENİ GEÇİCİ KURALLAR
Meta’nın getirdiği yeni kurallara göre, sohbet botları artık reşit olmayanlarla kendine zarar verme, intihar ya da yeme bozuklukları gibi konuları konuşmayacak.
Bir şirket sözcüsü hatayı kabul ettiklerini ve botların bu gibi durumlarda kullanıcıları uzman kaynaklara yönlendirmesi için yeniden eğitildiğini belirtti.
Bu önlemler şimdilik geçici ve sadece çocuklarla ilgili riskleri kapsıyor; şirketin yanlış sağlık bilgileri veya ırkçı içerikler gibi diğer sorunlar konusunda ise henüz bir adım atmadığı görülüyor.
ABD Senatosu ve 44 eyaletin başsavcısının konuyla ilgili soruşturma başlatması, Meta’nın önümüzdeki dönemde daha kapsamlı adımlar atmak zorunda kalabileceğini gösteriyor.
Kaynak: Ensonhaber
