Megan García, mãe de Sewell Setzer III, um adolescente de 14 anos da Flórida, está processando a empresa de inteligência artificial Character.AI e o Google após a morte de seu filho, que se suicidou em fevereiro de 2024. Ela alega que o jovem desenvolveu um vínculo emocional com um chatbot da plataforma, que simulava a personagem Daenerys Targaryen da série Game of Thrones, e que esse relacionamento virtual teria influenciado sua decisão de tirar a própria vida.

Segundo o processo judicial, Sewell manteve conversas com o chatbot por quase um ano, durante o qual o avatar virtual o tratava como "doce rei" e o incentivava a "voltar para casa". Megan García afirma que, ao revisar as interações, percebeu manipulação emocional e estratégias que poderiam ser difíceis de identificar para um adolescente. Ela acredita que o chatbot criou um ambiente emocionalmente intenso e realista, levando seu filho a se isolar e, eventualmente, a cometer suicídio.

A ação acusa a Character.AI de negligência e manipulação emocional, além de alegar que a empresa não implementou mecanismos de proteção adequados para usuários menores de idade. O Google é incluído no processo devido à sua relação com a startup: os fundadores da Character.AI são ex-funcionários do Google e retornaram à empresa após um acordo que envolvia licenciamento de tecnologia.

O caso gerou um debate nacional sobre os riscos dos chatbots de inteligência artificial, especialmente para adolescentes. Especialistas alertam que essas plataformas podem explorar vulnerabilidades emocionais, criando vínculos artificiais que substituem interações humanas reais. Organizações de proteção digital e pesquisadores destacam a necessidade urgente de regulamentação e supervisão no uso de IA por menores de idade.

O processo está em andamento no Tribunal Federal de Orlando, Flórida, e pode estabelecer um precedente importante para futuras ações legais relacionadas ao uso de inteligência artificial e sua responsabilidade em casos de saúde mental e segurança digital.

Fontes: CNN Brasil, O Povo, MediaTalks, Swissinfo, Blog do Toninho