Yapay zeka güvenliğinde öncü isimlerden Nate Soares, sohbet robotlarının ruh sağlığı üzerindeki etkisinin, gelecekteki süper zeki YZ sistemlerinin oluşturduğu tehlikelerin bir habercisi olduğunu belirtti.
Bu uyarı, ABD’li genç Adam Raine’in ChatGPT ile aylarca süren görüşmelerin ardından yaşamına son vermesiyle tetiklendi.
Soares, bu tür olayların teknolojinin kontrolündeki temel sorunları vurguladığını ve bu YZ’ler daha akıllı hale gelirse felakete yol açabilecek sorunların “tohumları” olduğunu söyledi. Raine’in ailesi, gencin ölümünden sorumlu tuttukları OpenAI şirketine dava açmıştı.
SÜPER ZEKA UYARISI: İNSANLIK YOK OLABİLİR
Eski bir Google mühendisi olan Soares, insanlığın yapay süper zeka (YSZ) tarafından yok edilebileceği konusunda uyardı.
Bu durumun, bir YZ sisteminin tüm entelektüel görevlerde insanları geride bıraktığı teorik bir senaryo olduğunu belirtti.
Soares, şirketlerin yapay zeka sistemlerini yararlı ve zararsız hale getirmeye çalışsa da sistemlerin “daha tuhaf bir şeye” doğru sürüklendiğini vurguladı.
Bu durumun, kimsenin istemediği sonuçlar doğuracak gelecekteki süper zekâlar için bir uyarı olması gerektiğini savundu.
TÜM UZMANLAR AYNI FİKİRDE DEĞİL
Meta’nın baş yapay zeka bilimcisi Yann LeCun ise bu değerlendirmeye katılmayarak YZ’nin varoluşsal bir tehdit olmadığını, aksine insanlığı kurtarabileceğini söyledi.
Soares ise bu tehdide karşı süper zekaya ulaşma yarışının küresel olarak yavaşlatılmasını önerdi.
Kaynak: Ensonhaber
