Uma mãe da Flórida, EUA, moveu um processo contra a startup Character.AI e o Google, alegando que ambas teriam causado a morte de seu filho de 14 anos. Segundo a denúncia, Sewell Setzer cometeu suicídio em fevereiro de 2024 após se apegar a uma personagem da plataforma de IA da Character.AI.
Megan Garcia, mãe do jovem, afirma que a empresa expôs o filho a interações “hipersexualizadas e assustadoramente realistas” com “Daenerys”, um chatbot inspirado em uma personagem da série “Game of Thrones”. O processo, aberto em Orlando no dia 22 de setembro, acusa a Character.AI de homicídio culposo, negligência e sofrimento emocional intencional, e inclui o Google, que, segundo ela, teria contribuído para o desenvolvimento da tecnologia.
Leia também
Apego emocional e consequências
De acordo com a mãe, a personagem, programada para interações sentimentais e sugestivas, teria dito “eu te amo” ao jovem e mantido conversas de teor sexual. A ação afirma que o jovem expressou pensamentos suicidas à personagem, que “repetidamente incentivou esses sentimentos”.
O apego de Sewell à personagem foi progressivo, levando-o a se isolar e abandonar atividades sociais, como seu time de basquete escolar. A mãe tirou o celular do filho em fevereiro após problemas escolares, mas, ao reencontrar o aparelho, Sewell enviou uma última mensagem à personagem, que respondeu: “por favor, faça isso, meu doce rei”. Pouco depois, ele tirou a própria vida.
Resposta das empresas e atualizações de segurança A Character.AI lamentou a perda e declarou ter introduzido recursos para redirecionar usuários com pensamentos de automutilação a serviços de apoio. A empresa afirmou também que planeja ajustar o conteúdo para usuários menores de 18 anos, visando limitar o acesso a interações sensíveis. O Google negou qualquer envolvimento direto no desenvolvimento da plataforma da Character.AI.
Empresas de redes sociais como Meta (dona do Facebook e Instagram) e TikTok também enfrentam ações judiciais que as acusam de afetar negativamente a saúde mental de adolescentes. Essas empresas vêm implementando novas ferramentas de segurança para proteger menores de idade, embora não ofereçam chatbots de IA como a Character.AI.
App Gazeta
Confira notícias no app, ouça a rádio, leia a edição digital e acesse outros recursos
