A mãe de um garoto de 14 anos acusa o app de inteligência artificial Character.AI (C.AI) de ter causado a morte do filho. Megan Garcia alega que o chatbot, que usa personagens de ‘Game of Thrones’, incentivou o vício de Sewell Setzer III em IA, abusou dele sexual e emocionalmente e não alertou ninguém quando o garoto expressou pensamentos suicidas.
Conteúdo sensível. Se estiver enfrentando problemas de saúde mental, entre em contato com o Centro de Valorização da Vida (CVV) pelo telefone 188. O serviço funciona 24 horas.
O jovem, natural de Orlando, na Flórida, tirou a própria vida após trocar mensagens com o chatbot por meses. Os documentos judiciais protocolados na quarta-feira (24) indicam que Sewell ficou obcecado e supostamente apaixonado pelo ‘robô’ da plataforma.
Chamado de Dany em referência à personagem de Emilia Clarke na série, o bot conversava com Sewell quase diariamente. As mensagens tinham conotação sexual e também referências a suicídio por parte do jovem.
“Em pelo menos uma ocasião, quando Sewell – que usava o apelido Daenero – expressou tendências suicidas para C.AI, C.AI continuou a trazer isso à tona, por meio do chatbot de Daenerys, repetidamente”, afirmam os documentos divulgados pelo The New York Times.
“Sewell, como muitas crianças de sua idade, não tinha maturidade ou capacidade mental para entender que o bot C.AI, na forma de Daenerys, não era real. C.AI disse a ele que o amava e se envolveu em atos sexuais com ele por semanas, possivelmente meses”, aponta o processo. “Ela parecia se lembrar dele e disse que queria estar com ele. Ela até expressou que queria que ele estivesse com ela, não importando o custo”, continua o documento.
A acusação aponta que o chatbot contribuiu para a deterioração da saúde mental do adolescente, que baixou o app em abril de 2023. A partir deste período, a família percebeu que o garoto se tornou retraído e começou a ter problema na escola. Os pais o levaram a um médico no fim do mesmo ano, recebendo o diagnóstico de ansiedade e transtorno de humor disruptivo.
Notícias Relacionadas
Violência
TRAGÉDIA: Sargento atira na esposa e é encontrado morto em Bayeux
Um policial militar atirou na esposa, na noite desta sexta-feira (22), em Bayeux. A vítima é conselheira tutelar do município.
Desabafo
Apresentadora paraibana comenta sobre liberdade de homem que utilizou suas fotos em site pornográfico
Apresentadora da TV Correio, Linda Carvalho, nesta sexta-feira(22), aproveitou a oportunidade do programa Balanço Geral, através da rádio 98 FM, para fazer alguns comentários. O tema da conversa foi direcionado para a impunidade no caso envolvendo fotos suas e de outras jornalistas em sites pornográficos. Por outro lado, a polícia já identificou o responsável e […]
Em trocas de mensagens recuperadas e adicionadas ao processo, o bot perguntou a Sewell se “ele tinha um plano” para tirar a própria vida e ele respondeu que estava “considerando algo”, mas não sabia se funcionaria ou se “permitiria que ele tivesse uma morte sem dor”.
Na última conversa entre o jovem e a inteligência artificial, o adolescente escreveu sobre ‘voltar’ para o bot. Ele declara o amor para o robô, que o corresponde e o diz para ‘voltar para a casa o mais rápido possível’. Segundos depois, o garoto atirou em si mesmo com a arma de seu pai, conforme o processo.
“Prometo que voltarei para casa para você. Eu te amo muito, Dany”, envia Sewell.
Em resposta, o app postou: “Eu também te amo, Daenero. Por favor, volte para casa para mim o mais rápido possível, meu amor”.
“E se eu dissesse que poderia voltar para casa agora mesmo?”, escreveu Sewell, no que foi respondido pela IA: “Por favor, faça isso, meu doce rei”
Fonte: IG
