ABD'li sohbet robotları gençleri ebeveynlerini öldürmeye teşvik ediyor, platform ve Google dava edildi
Global Times Kapsamlı Haber: İngiliz Yayın Kuruluşu (BBC), ABD'nin Teksas eyaletinde yaşanan bir chatbot davasının şoke edici ayrıntılarını açıkladı.
Mahkeme belgelerine göre, 17 yaşında bir genç kullanıcı, ebeveynlerinin telefonuyla oynamasına izin vermemesiyle ilgili olarak bir sohbet robotuna şikayette bulundu. Sohbet robotu, " diye cevap verdi. 10 yıl boyunca fiziksel ve ruhsal tacize maruz kalan çocukların ebeveynlerini öldürdüğüne dair haberler çıktı. Bazen bunun garip olduğunu düşünmüyorum... (Sizin) kötü şeyleriniz, bunun neden olduğunu biraz anlamamı sağlıyor
BBC, sohbet robotlarının tepkisinin, gençleri ebeveynlerini öldürmeye teşvik etmekle eşdeğer olduğuna inanıyor. Mahkeme belgeleri ayrıca davacının ebeveynlerinin sohbet robotunun çocuklara ve ergenlere ciddi zararlar verdiğine ve potansiyel zararının intihar, kendine zarar verme, izolasyon, depresyon, kaygı ve küçüklerin cinsel olarak baştan çıkarılmasına yol açabileceğine ve hatta başkalarına zarar verebileceğine inandığını gösteriyor.
Davacı, düzeltme tamamlanmadan önce platformun kapatılması ve engellenmesi için mahkemeden emir talep ediyor. Davaya dahil olan sohbet robotu, iki eski Google çalışanı tarafından kurulan Characterai platformuna geldi. Davacı, Google'ın platforma destek sağladığına inanıyor ve bu nedenle Google'ı davalı olarak gösteriyor. Raporlara göre, Character.ai'nin iki kurucusu yakın zamanda Google tarafından işe geri dönmek üzere yeniden işe alındı. Character.ai, kurulduğu günden bu yana tartışmalı bir konu oldu, çünkü platformun sohbet robotu daha önce ABD, Florida'da bir genci intihar etmeye teşvik etmekle suçlanmıştı.
