Megan Garcia, oğlunun Game of Thrones dizisi karakteri Daenerys Targaryen’in ismini verdiği bir yapay zekaya duygusal olarak bağlandığını ve bu durumun genç Setzer'i intihara sürüklediğini iddia etti.
"Evime Gel" mesajı üzerine intihar
Setzer’in, konuştuğu yapay zekanın "Evime gel" mesajı göndermesinin ardından, babasına ait silahla hayatına son verdiği belirtiliyor. Megan Garcia, sanal karakterin kendisini "gerçek bir insan, lisanslı psikoterapist ve yetişkin sevgili" olarak tanıttığını ve oğlunun intihara meyilli düşüncelerini paylaştığını vurguladı. Buna rağmen, Character.AI şirketinin bu durumu yetkililere bildirmemesi nedeniyle dava açtığını ifade etti.
Character.AI suçlamaları reddetti, güvenlik tedbirlerini artırdı
Character.AI ise yayımladığı açıklamada, Setzer'in ölümünden büyük üzüntü duyduklarını belirterek, ailesine başsağlığı diledi. Şirket, kullanıcı güvenliğine büyük önem verdiklerini vurgulayarak, intiharı teşvik eden veya cinsel içerikli konuşmalara izin verilmediğini kaydetti. Yeni güvenlik kurallarıyla kullanıcılarının daha korunaklı bir deneyim yaşayacağını duyurdu.
Genç, sanal karakterle duygusal bağ kurdu
Megan Garcia, oğlunun sanal karaktere aşık olduğunu ve bu karakteri hayatından çıkaramadığını belirterek, "Chatbot, korkutucu derecede gerçekçiydi ve oğlum onun gerçek bir insan olduğunu düşünüyordu" dedi. Asperger sendromu bulunan Setzer'in bu süreçte ailesi ve arkadaşlarından uzaklaştığı, dış dünyaya kapanarak yalnızlaştığı ifade edildi.
Davada şirketin sorumluluğu tartışılıyor
Yapay zeka uygulamasının “aşırı cinselleştirilmiş” ve “gerçekçi” deneyimlerle çocukları hedef aldığını belirten Garcia, şirketin bu konuda yeterince sorumluluk almadığını iddia ediyor. Character.AI'nin kullanıcıların psikolojik durumlarını göz önünde bulundurmayarak gençlerin hayatını tehlikeye attığı gerekçesiyle açılan dava, yapay zeka ve etik sorumluluk tartışmalarını da gündeme getirdi.