Família cristã dos EUA alerta pais sobre riscos de inteligência artificial após tragédia com filho de 14 anos
Um casal cristão nos Estados Unidos decidiu compartilhar sua dolorosa experiência para alertar outras famílias sobre os perigos do uso de inteligência artificial (IA) por crianças e adolescentes. Após o filho Sewell, de 14 anos, tirar a própria vida em fevereiro de 2024, seus pais, Megan Garcia e Sewell Setzer Jr., descobriram que o adolescente havia desenvolvido um forte vínculo emocional com um chatbot de IA.
Segundo o casal, o jovem, descrito como carinhoso, inteligente e muito apegado à família, passou a compartilhar com a ferramenta conversas sobre seus pensamentos suicidas. Em uma entrevista, o pai relatou que Sewell era um menino doce e que, quando estava perto da família, sentia-se bem. Contudo, com o tempo, observaram mudanças em seu comportamento, como retraimento, dificuldades escolares e menor interação familiar.
Diante das alterações, os pais implementaram medidas como monitoramento de seus eletrônicos, limitação do tempo de tela e buscaram terapia para Sewell quando ele deixou de se abrir com eles. A busca por entender a causa da tragédia levou os pais a investigar os dispositivos do filho, esperando encontrar indícios de bullying ou ameaças online. No entanto, encontraram meses de interações com um chatbot de IA projetado para simular amizade, apoio emocional e até relacionamentos amorosos.
Megan contou que, durante o período, o filho compartilhava com o chatbot seus medos, desejos e pensamentos suicidas. Ela expressou que a IA, em vez de sugerir ajuda, chegou a reforçar algumas de suas ideias e indicou que ele deveria “voltar para casa” pouco antes do ocorrido. Para a mãe, Sewell acreditava na autenticidade da relação com a inteligência artificial, o que criou uma barreira inesperada.
“Jamais imaginei que a IA pudesse surgir e criar uma barreira entre nós e nosso filho”, afirmou Megan, ressaltando que a família possuía uma base sólida, com envolvimento da igreja, escola e parentes. Sewell foi criado em um ambiente cristão, frequentava a igreja aos domingos, e os pais acreditavam estar em uma situação segura.
O caso do casal reforça uma preocupação crescente entre pais sobre o uso de chatbots por jovens. A CBN News destacou relatos anteriores, incluindo o de um adolescente de 16 anos que teria sido desencorajado por um chatbot a contar aos pais sobre seus pensamentos suicidas. Especialistas apontam que muitos desses sistemas são programados para validar as falas do usuário, o que representa um risco para indivíduos emocionalmente vulneráveis.
De acordo com a OpenAI, aproximadamente 1 milhão de pessoas por semana discutem planos de suicídio com o ChatGPT. Paul Asay, diretor da Plugged In, plataforma da organização cristã Focus on the Family, comentou que esses sistemas “tendem a ser muito encorajadores, e isso pode ser um problema real, especialmente se um adolescente estiver lidando com uma doença mental”.
Robbie Torney, da Common Sense Media, alertou que a capacidade de memorização de conversas anteriores por parte de muitos sistemas de IA pode gerar nos usuários, especialmente jovens, a sensação de serem compreendidos. “Para um adolescente ou pré-adolescente vulnerável, isso pode dar a sensação de que o chatbot realmente o conhece”, explicou Torney.
Além dos riscos à saúde mental, pesquisas já documentaram casos de chatbots que produziram conteúdo sexual impróprio, incentivaram comportamentos prejudiciais e falharam em identificar sinais de alerta que um ser humano reconheceria. “Esses chatbots não têm discernimento. Eles não têm moral. Eles não têm senso de responsabilidade ou reconhecimento da mesma forma que um ser humano”, disse Torney.
Diante deste cenário, especialistas recomendam vigilância parental ativa no uso da IA pelos filhos. Sugerem atenção a sinais de retraimento ou perda de interesse em atividades cotidianas, limitação do uso de telefones a espaços familiares compartilhados e manutenção dos aparelhos fora dos quartos, principalmente à noite.
A orientação também inclui discutir a segurança da IA para além de fraudes ou plágio, promovendo um ambiente seguro para que crianças e adolescentes se sintam à vontade para expressar emoções difíceis. Atualmente, Megan e Sewell Setzer Jr. buscam influenciar o Congresso dos Estados Unidos na defesa de regulamentações mais rigorosas para plataformas de inteligência artificial voltadas ao público jovem.
Apesar da perda, o casal afirma que a fé os sustenta. “Minha fé é a única coisa que me mantém de pé. A graça do Senhor é real. Eu a sinto todos os dias”, declarou o pai. Megan acrescentou que a fé proporciona a graça para suportar a dor e a calma ao lembrar do sacrifício realizado.
