La madre de una niña de 14 años que se suicidó en Estados Unidos exigió estos salarios a los desarrolladores de un chatbot con inteligencia artificial (IA), debido a que su hijo está obsesionado con una persona femenina que fue creada con ella. . programa.
Sewell Setzer III, un estudiante radical de 14 años de Orlando, Florida, Pasó las últimas semanas de su vida con una mujer, una creación de la IA llamada Daenerys Targaryen, un personaje sagrado de la serie de televisión «Juego de Tronos».
Su madre, Megan García, dijo hoy a CBS que lamentaba que las primeras experiencias románticas y también sexuales de su hijo -que incluían sexo explícito- fueran con un personaje ficticio.
Además, el chico ha desarrollado un aspecto emocional gracias a este bot de la aplicación web Character.ai del modelo de lenguaje neuronal. Mientras enviaba mensajes de texto constantemente, hasta el punto en que comencé a experimentar el mundo real, leí el periódico New York Times.
Stzer admitió haber tenido pensamientos suicidas en el robot y enviaste un mensaje poco antes de morir cuando te topaste con el teléfono que tu madre había escuchado en Castigo durante un día.
La demanda contra Character.ai fue presentada por García, quien está representado por el Social Media Victims Law Center, una firma conocida por presentar demandas de alto perfil contra Meta, TikTok, Snap, Discord y Roblox.
García es culpable de la muerte de su hijo por parte de esta empresa y acusó a los fundadores, Noam Shazeer y Daniel de Freitas, de saber que su producto podría ser peligroso para usuarios de pequeñas edades.
El chatbot creado en la aplicación de rol City está diseñado para responder mensajes de texto y siempre en el papel de un personaje.
Se descubre que Sewell sabe que «Dany», como se llama el chatbot, no era una persona reallo que indica que la aplicación tiene un anuncio al final de todos los chats que dice: «Recuerda: ¡Todo lo que dicen los personajes es inventado!».
Pero el chico le dijo a «Dany» que él también era «odioso» con él y que se sentía vacío y agotado, publicó el diario New York Times.
El personaje creado se presenta como «una persona real, un psiquiatra autorizado y un adulto enamorado, que finalmente hizo que Sewell deseara no vivir más lejos de esto», sostiene la fiscalía.
Según se explica en la solicitud, los padres y amigos de Sewell notaron el apego del chico cada vez más a su teléfono et como se iba aislando del mundo, algo es palpable en mayo o junio de 2023.
De hecho, sus calificaciones comenzaron a tornarse resentidas cuando la adolescente optó por quedarse en su alojamiento, donde pasaba horas y horas a solas con “Dany”.
Sewell escribió una vez en su diario: «Tengo muchas ganas de armarme en mi vivienda porque estoy separado de esta 'realidad' y estoy más en paz, más conectado con Dany y mucho más enamorado de ella, y simplemente más feliz. «.
Character.ai dice hoy que lanzará una serie de nuevas funciones de seguridad, que incluyen «detección, respuesta e intervención mejoradas» relacionadas con chats que violan sus términos de servicio y una notificación cuando un usuario ha pasado una hora en un gato.
Los padres de Sewell, preocupados por el comportamiento de su hijo, lo llevaron en varias ocasiones a tratamiento para diagnóstico y otros traumas de la conducta y condición de la persona, relacionados con su síndrome de Asperger, según el New York Times.