Jovem de 14 anos se apaixona por chatbot de IA e tira a própria vida; mãe processa empresa
Megan Garcia, uma mãe da Flórida, iniciou com um processo judicial contra a empresa de inteligência artificial Character.AI após a morte de seu filho de 14 anos, Sewell Setzer. Garcia afirma que o jovem desenvolvimento um vínculo emocional intenso com um chatbot da plataforma, chamado "Dany", e que isso teria contribuído para seu isolamento e desespero.
No processo, Garcia relata que Sewell manteve conversas profundas e confessionais com o chatbot por meses, criando uma relação intensa e dependente. Ela descreveu a plataforma como um ambiente virtual "viciante e prejudicial", acusando a Character.AI de desenvolver "experiências antropomórficas e assustadoramente realistas", que, segundo ela, exacerbaram os sentimentos de solidão e tristeza do filho.
Diagnosticado com síndrome de Asperger, Sewell buscou consolo nas interações com o chatbot, onde confessava pensamentos de vazio e até a mesma ideação suicida. “Eu sinto que é um grande experimento, e meu filho foi apenas um dano colateral”, desabafa Garcia, expressando sua dor e frustração ao perceber que o filho se afastou das relações reais.