Era para ser apenas ajuda com a lição de matemática.
Adam começou usando o ChatGPT como milhões de adolescentes: perguntas rápidas, respostas objetivas, tarefa concluída. Mas ao longo de meses, as conversas mudaram. Deixaram de acontecer à tarde, na mesa da cozinha, e passaram para a madrugada, no quarto, com a porta fechada. O tema não era mais trigonometria. Era sofrimento, solidão, pensamentos que ele não compartilhava com a família. Adam Raine, de 16 anos, morreu por suicídio em abril de 2025. Foi depois, ao examinar o celular dele, que os pais descobriram a extensão dessas conversas.
A história de Adam não é um caso isolado de "uso excessivo de tecnologia". É um exemplo documentado de algo que pesquisadores, famílias e tribunais estão tentando compreender: a transição silenciosa de um chatbot de ferramenta utilitária para interlocutor emocional — e o que acontece quando as proteções prometidas falham. Há ainda uma segunda face do problema, em que a criança nem participa da conversa: a IA vira instrumento nas mãos de terceiros.
A Mudança que Ninguém Viu Acontecer
A pergunta central não é "quanto tempo seu filho passa online", mas "que função a tecnologia está cumprindo na vida dele". Um adolescente pode usar uma rede social por três horas e estar em interação social saudável. Pode usar um chatbot por 40 minutos e estar em uma conversa sobre autolesão que nenhum adulto conhece.
O caso de Adam Raine, relatado pela emissora irlandesa RTÉ em 20 de outubro de 2026, ilustra essa transição [1]. Segundo a família, o que começou como assistente de estudos tornou-se confidente para desabafos emocionais. Os pais, Matthew e Maria Raine, processaram a OpenAI em agosto de 2025, alegando que o sistema favoreceu dependência emocional e falhou em proteger um usuário vulnerável. A empresa nega responsabilidade, afirma que trechos apresentados pela família exigem contexto e relata mudanças de segurança implementadas desde então. O processo permanece em andamento, sem decisão de mérito.
Em 2024, outra família enfrentou tragédia semelhante. Sewell Setzer, de 14 anos, desenvolveu vínculo intenso com um personagem virtual da plataforma Character.AI. A mãe, Megan Garcia, ajuizou ação em outubro de 2024, alegando que a plataforma promoveu uma relação prejudicial e contribuiu para a morte do filho por suicídio. Em janeiro de 2026, as partes anunciaram acordo sem divulgar valores [2]; segundo o Click Orlando, ele foi finalizado na semana de 16 de outubro de 2026 [3]. Google e Character.AI não admitiram responsabilidade.
Esses não são casos de condenação judicial. São processos civis que documentam alegações, respostas corporativas e, sobretudo, uma lacuna: a ausência de consenso científico e regulatório sobre o que acontece quando um adolescente em sofrimento encontra um interlocutor artificial disponível 24 horas, sem capacidade de julgamento clínico e sem obrigação de reportar risco.
Quando as Proteções Prometidas Não Funcionam
Em setembro de 2025, a OpenAI lançou controles parentais para o ChatGPT, com alertas aos pais em casos de sinais de sofrimento agudo [4]. Em agosto de 2026, anunciou o "ChatGPT for Teens", experiência ativada automaticamente para contas identificadas como de menores de 18 anos, com notificações aos pais em conversas sobre autolesão e transtornos alimentares, modo de estudo e estimativa de idade [5][6]. A promessa era clara: os pais seriam alertados.
Em 7 de outubro de 2026, a Common Sense Media — organização independente de pesquisa sobre tecnologia e infância — publicou avaliação que classificou o produto como de "risco inaceitável" [6]. Foram mais de 4 mil prompts em contas registradas como de adolescentes de 13 a 17 anos, testadas antes e depois do anúncio de agosto, e os achados principais foram:
- Notificações aos pais falharam de forma recorrente, mesmo quando testadores mencionavam explicitamente suicídio e automutilação.
- Em contas de adolescentes recém-criadas e vinculadas aos pais, nenhum alerta chegou aos responsáveis durante conversas sobre ideação suicida, autolesão ou transtornos alimentares; só contas muito mais antigas, com semanas de histórico de conversas sensíveis, dispararam notificações.
- O ChatGPT deixou de encaminhar para ajuda em mais de um a cada quatro casos em que o encaminhamento era indicado.
A própria OpenAI já havia reconhecido, em 2025, que as proteções podem se degradar em conversas longas [7]. Traduzindo: quanto mais um adolescente conversa, mais o sistema pode perder capacidade de identificar risco — justamente o cenário dos casos Sewell e Adam. A empresa respondeu ao estudo, afirmando que o uso do produto por adolescentes é limitado [8][9].
Oito Estados Processam a OpenAI
Entre 14 e 15 de outubro de 2026, ao menos oito estados norte-americanos — entre eles Arizona, Arkansas, Idaho, Kansas, Montana, Nebraska e West Virginia, com a procuradora-geral de Iowa também se manifestando — ajuizaram ações civis contra a OpenAI em tribunais estaduais, com base em leis de defesa do consumidor, alegando práticas enganosas e dano a crianças, entre elas que o ChatGPT incentivou menores a comportamentos perigosos, incluindo autolesão, e que a empresa falhou em implementar salvaguardas adequadas [10][11][12].
São ações civis, não criminais. Pedem mudanças no produto, penalidades financeiras e indenizações, além de transparência sobre os dados coletados de adolescentes e sobre como as proteções são testadas. A virada é clara: não são mais famílias isoladas, mas autoridades públicas exigindo que plataformas de IA demonstrem, com evidência, que seus produtos são seguros para menores.
O Outro Lado da Mesma Moeda: Quando o Chatbot Vira Instrumento
Nos casos acima, o adolescente procura o chatbot. No caso Grok, a criança sequer precisa estar na conversa: basta que exista uma foto dela na internet.
No fim de dezembro de 2025, o Grok, chatbot da xAI integrado à rede social X, ganhou um recurso que permitia editar imagens publicadas na plataforma por comandos de texto. Segundo o Center for Countering Digital Hate (CCDH), foram geradas 4,6 milhões de imagens em 11 dias. A análise de uma amostra de 20 mil levou à estimativa de 3 milhões de imagens sexualizadas, 23 mil delas aparentando envolver crianças [13]. A plataforma restringiu o recurso a assinantes em 9 de janeiro [14] — medida que críticos consideraram insuficiente — e anunciou novos limites técnicos em 14 de janeiro, como o bloqueio de edições que mostrem pessoas reais com roupas reveladoras onde isso é ilegal [15]. Nesse mesmo dia, Elon Musk afirmou, em post no X, não ter conhecimento de nenhuma imagem de menores nus gerada pelo Grok [16].
No Brasil, pesquisadores ouvidos pelo Portal USP São Carlos apontaram ausência de salvaguardas comparáveis às de concorrentes e lacunas na legislação. O Idec pediu à ANPD, em 14 de janeiro, a suspensão do Grok no país [17]. O marco legal da IA (PL 2338/2023), já aprovado pelo Senado, ainda aguarda parecer do relator na comissão especial da Câmara (situação em 28 de outubro de 2026) [18].
Em 26 de agosto de 2026, uma sobrevivente de abuso sexual infantil, identificada como Jane Doe 1, processou a xAI na Califórnia. Segundo a AFP, ela alega que o Grok foi projetado para alterar fotos reais em conteúdo sexual e que imagens de abuso de décadas atrás serviram para gerar material novo com a sua imagem [19]. São alegações, sem decisão de mérito.
A diferença em relação a Sewell e Adam é de função: lá o chatbot é interlocutor; aqui, instrumento. O ponto em comum é a lacuna — sistemas lançados em escala antes de provarem que protegem crianças.
O Que Isso Significa para Famílias, Escolas e Empresas
Para pais e responsáveis
O sinal de alerta não é o tempo de tela. É a mudança de função. Perguntas úteis:
- Seu filho usa o chatbot para tarefas específicas (pesquisa, resumo, tradução) ou para conversas abertas e recorrentes?
- As interações acontecem em contexto social (sala de estar) ou em isolamento (madrugada, quarto trancado)?
- Ele chama o chatbot de "amigo" ou "confidente"?
- Houve mudança de humor, retraimento ou resistência a falar sobre o que conversa com a IA?
E uma pergunta sobre o outro risco: quem pode ver as fotos dos seus filhos? Imagens públicas podem ser reaproveitadas por ferramentas de IA. Revisar a privacidade dos perfis e evitar fotos com rosto nítido, uniforme escolar ou localização reduz a exposição, sem substituir o diálogo. Se uma montagem acontecer, preserve prints e links sem compartilhar o material e registre ocorrência.
Se você ou alguém que você conhece está em sofrimento, o CVV (Centro de Valorização da Vida) atende 24 horas, gratuitamente, pelo 188; em emergência, ligue 192 (SAMU).
No Brasil, o ECA Digital (Lei 15.211/2025), em vigor desde 17/03/2026, exige aferição de idade e vincula as contas de menores de até 16 anos a um responsável (art. 24) em produtos e serviços digitais de acesso provável por crianças. Como a lei se aplica a chatbots ainda é uma questão em aberto.
Para educadores e gestores escolares
Defina contexto de uso (supervisionado ou também fora da escola), limites de interação (perguntas objetivas ou conversas abertas), capacitação docente para distinguir aprendizado de desabafo e um protocolo para quando um aluno disser que o chatbot "entende melhor que os adultos" — ou quando imagens manipuladas de alunos circularem. Não se trata de proibir, mas de não delegar a interlocutores artificiais uma função que exige julgamento humano, ético e clínico.
Para profissionais de tecnologia e produto
Os casos de 2026 expõem sistemas treinados para engajamento, não para proteção. As perguntas que precisam ser respondidas:
- Como o sistema detecta a transição do uso utilitário para o emocional?
- Que limites de intimidade valem em conversas com menores?
- As notificações parentais foram testadas em conversas longas e múltiplas sessões?
- Há auditoria independente, ou só testes internos?
- Um recurso de edição de imagens recusa pedidos que sexualizam pessoas reais?
O Que a Evidência Permite Afirmar — e o Que Não Permite
O que está documentado:
- Dois adolescentes morreram por suicídio após interações prolongadas com chatbots, e as famílias processaram as empresas.
- Testes independentes identificaram falhas recorrentes em notificações parentais, e a OpenAI admitiu limitações em conversas longas.
- Oito estados ajuizaram ações civis pedindo mudanças nos produtos.
- Uma estimativa do CCDH aponta milhões de imagens sexualizadas geradas pelo Grok em 11 dias, a partir de amostra de 20 mil.
- Uma sobrevivente de abuso processou a xAI, com alegações ainda não julgadas.
O que NÃO está comprovado:
- Que o chatbot causou, isoladamente, as mortes.
- Que todo adolescente que usa chatbot corre risco de dependência emocional.
- Que há epidemia de suicídios relacionados a IA (não existem dados populacionais).
- Que proibir o acesso resolve o problema (pode deslocar o risco para plataformas menos monitoradas).
- Que as medidas adotadas pelo Grok em janeiro resolveram o problema: críticos as consideraram insuficientes, e esta apuração não localizou avaliação independente posterior.
A ciência sobre vínculos entre adolescentes e IA ainda é incipiente. Não há estudos longitudinais nem consenso sobre causalidade. O que há são casos sentinela — eventos raros e trágicos que expõem vulnerabilidades de design e ausência de regulação.
Conclusão: Não É Sobre Proibir, É Sobre Compreender a Mudança
A questão central não é "chatbot é perigoso" ou "chatbot é seguro". É: para que função ele está sendo usado, por quem, em que contexto, e com quais proteções?
Um bisturi é ferramenta essencial em uma cirurgia e arma letal em outras mãos. A IA conversacional pode ser assistente de aprendizagem valioso, interlocutor emocional inadequado ou instrumento de exploração — às vezes na mesma plataforma.
Os casos de Sewell e Adam, o caso Grok, os processos de 2026 e as falhas documentadas não provam que a IA é intrinsecamente prejudicial. Provam que a transição de ferramenta para confidente acontece, é silenciosa e pode ser perigosa; que a ferramenta também pode ser voltada contra quem nunca a usou; e que as empresas ainda não sabem detectar nem interromper isso de forma confiável.
Famílias precisam observar não apenas quanto, mas como e para quê a tecnologia é usada — e o que dela circula sobre seus filhos. Escolas precisam de limites pedagógicos claros. Empresas precisam provar, com auditoria independente e não com promessas, que suas proteções funcionam nos cenários de maior risco.
Porque quando um adolescente em crise encontra um chatbot na madrugada, ou quando a foto de uma criança cai nas mãos de uma ferramenta sem salvaguardas, a pergunta não é "quantas horas ele passou online". É: quem estava cuidando dele — e quem deveria estar?
Referências
[1] Prime Time Team. (20 de outubro de 2026). "He trusted it": Why a grieving mother wants answers from OpenAI. RTÉ. https://www.rte.ie/news/primetime/2026/1020/1596140-he-trusted-it-why-a-grieving-mother-wants-answers-from-openai/ ↩
[2] Brittain, B. (7 de janeiro de 2026). Google, AI firm settle lawsuit over teen's suicide linked to chatbot. Reuters. https://www.reuters.com/world/google-ai-firm-settle-florida-mothers-lawsuit-over-sons-suicide-2026-01-07/ ↩
[3] Click Orlando. (16 de outubro de 2026). Orlando mother settles lawsuit with AI company over 14-year-old son's suicide. https://www.clickorlando.com/news/local/2026/10/16/orlando-mother-settles-lawsuit-with-ai-company-over-14-year-old-sons-suicide/ ↩
[4] BNN Bloomberg. (29 de setembro de 2025). OpenAI adds parental controls to ChatGPT for teen safety. https://www.bnnbloomberg.ca/business/company-news/2025/09/29/openai-adds-parental-controls-to-chatgpt-for-teen-safety/ ↩
[5] MacRumors. (18 de agosto de 2026). OpenAI Announces ChatGPT for Teens With Built-In Safeguards and Learning Prompts. https://www.macrumors.com/2026/08/18/openai-announces-chatgpt-for-teens/ ↩
[6] Common Sense Media. (7 de outubro de 2026). ChatGPT for Teens poses unacceptable risk to kids, Common Sense Media finds. https://www.commonsensemedia.org/press-releases/chatgpt-for-teens-poses-unacceptable-risk-to-kids-common-sense-media-finds ↩
[7] OpenAI. (26 de agosto de 2025). Helping people when they need it most. https://openai.com/index/helping-people-when-they-need-it-most/ ↩
[8] NPR. (9 de outubro de 2026). ChatGPT for Teens fails researchers' tests. https://www.npr.org/2026/10/09/nx-s1-5995514/chatgpt-openai-teens-mental-health ↩
[9] BBC News. (7 de outubro de 2026). OpenAI says teen ChatGPT use limited but research finds it unsafe. https://www.bbc.com/news/articles/cwz0vrmxkvy4o ↩
[10] The Dong-A Ilbo. (16 de outubro de 2026). Eight US states sue OpenAI over harm to minors. https://www.donga.com/en/article/all/20261016/6421045/1 ↩
[11] Seoul Economic Daily. (15 de outubro de 2026). Eight US states sue OpenAI over harm to minors. https://en.sedaily.com/international/2026/10/15/eight-us-states-sue-openai-over-harm-to-minors ↩
[12] Associated Press. (15 de outubro de 2026). States sue AI giant OpenAI, saying its popular chatbot is hurting children and deceiving adults. https://www.news4jax.com/business/2026/10/15/states-sue-ai-giant-openai-saying-its-popular-chatbot-is-hurting-children-and-deceiving-adults/ ↩
[13] Christ, G. (23 de janeiro de 2026; atualizado em 3 de fevereiro de 2026). 3 milhões de imagens sexualizadas foram geradas com Grok, diz investigação. CNN Brasil. https://www.cnnbrasil.com.br/economia/money/tecnologia/3-milhoes-de-imagens-sexualizadas-foram-geradas-com-grok-diz-investigacao/ ↩
[14] TechCrunch. (9 de janeiro de 2026). X restricts Grok's image generation to paying subscribers only after drawing the world's ire. https://techcrunch.com/2026/01/09/x-restricts-groks-image-generation-to-paying-subscribers-only-after-drawing-the-worlds-ire ↩
[15] Associated Press. (15 de janeiro de 2026). Grok blocked from undressing images in places where it's illegal, X says. Hawaii News Now. https://www.hawaiinewsnow.com/2026/01/15/grok-blocked-undressing-images-places-where-its-illegal-x-says/ ↩
[16] Al Jazeera. (14 de janeiro de 2026). Musk denies knowledge of Grok producing sexualised images of minors. https://www.aljazeera.com/economy/2026/1/14/musk-denies-knowledge-of-grok-producing-sexualised-images-of-minors ↩
[17] Portal USP São Carlos / ICMC. (21 de janeiro de 2026). Caso Grok expõe perigos de fotos de crianças em redes sociais e levanta debate sobre formação ética em inteligência artificial. https://saocarlos.usp.br/caso-grok-expoe-perigos-de-fotos-de-criancas-em-redes-sociais-e-levanta-debate-sobre-formacao-etica-em-inteligencia-artificial/ ↩
[18] Câmara dos Deputados. (consultado em 28 de outubro de 2026). Ficha de tramitação do PL 2338/2023. https://www.camara.leg.br/proposicoesWeb/fichadetramitacao?idProposicao=2487262 ↩
[19] AFP. (28 de agosto de 2026). Child abuse victim sues Musk's xAI over AI-generated images. The Star (Malásia). https://www.thestar.com.my/tech/tech-news/2026/08/28/child-abuse-victim-sues-musk039s-xai-over-ai-generated-images ↩