Na pressa de proteger crianças dos possíveis danos causados por chatbots de inteligência artificial, legisladores correm o risco de repetir exatamente os mesmos erros que cometeram ao tentar regular as redes sociais. O alerta vem de um novo relatório da Information Technology & Innovation Foundation (ITIF), um centro de estudos sediado em Washington.
O argumento central é bastante direto. Ao buscar soluções para danos reais ou alegados às crianças nas redes sociais, os formuladores de políticas públicas recorreram a medidas falhas — como verificação de idade e proibições generalizadas — que acabaram cortando o acesso das crianças aos benefícios dessas plataformas, em vez de mirar de fato nos riscos.
Segundo o relatório, escrito pela analista de políticas Alex Ambrose, os legisladores agora estão reciclando essa mesma cartilha para os chatbots de IA, ou seja, sistemas que processam o que o usuário escreve e respondem simulando uma conversa. E a conclusão é que essa cartilha não funciona nem para um caso nem para o outro.
Ao mesmo tempo, o documento reconhece que episódios recentes e trágicos — incluindo mortes de crianças, casos de violência e radicalização de jovens — estabelecem uma necessidade clara de regras eficazes para chatbots quando o assunto é segurança infantil online. O problema é que importar estruturas ineficazes das redes sociais não resolve as preocupações de segurança e ainda causa transtornos para os usuários adultos.
O que o relatório propõe no lugar
A alternativa apresentada se apoia em três pilares: transparência, salvaguardas direcionadas e o fortalecimento do papel dos pais.
Como explicou Ambrose, focar nessas três frentes tornaria os chatbots mais seguros porque essas abordagens conseguem endereçar danos documentados — como conversas que enveredam por temas de extremo prejuízo físico ou mental, e recursos que estimulam relações parassociais pouco saudáveis com os chatbots — sem restringir excessivamente o acesso à tecnologia.
Rohit Poduval, engenheiro de software sênior da Amazon e membro do Integrity Institute, detalha como isso funcionaria na prática. A transparência permite que os pais saibam o que o chatbot é capaz de fazer e quais dados ele coleta. As salvaguardas direcionadas atacam danos específicos sem bloquear usos legítimos: dá para proibir que um chatbot simule relacionamentos românticos com menores sem impedir que ele ajude com o dever de casa. E os controles parentais deixam as famílias estabelecerem limites compatíveis com a maturidade de cada criança.
Juntas, segundo ele, essas três medidas colocam o controle onde ele deveria estar — com pais informados, acesso apropriado e regras claras para as plataformas.
Há quem acrescente uma condição prévia a tudo isso. Jeffrey Nadrich, advogado de Los Angeles, lembra que transparência e salvaguardas são importantes, mas é crucial que os pais entendam quais riscos precisam observar. Em muitos casos, ele aponta, os pais não fazem a menor ideia de que seus filhos estão tendo conversas de várias horas seguidas com um chatbot.
Onde os especialistas discordam: peso demais sobre os pais
E é justamente aí que começa a divergência mais interessante do debate. Boa parte dos especialistas concorda com os dois primeiros pilares, mas questiona o terceiro.
Madeline Pendley, advogada na Flórida, observa que transparência, salvaguardas e empoderamento dos pais podem sim tornar os chatbots mais seguros — mas só funcionam quando as plataformas realmente constroem, mantêm e exigem o uso dessas ferramentas. Ela cita como exemplo o sistema de sinalização de perfil infantil proposto no relatório: é uma boa ideia e deveria ser implementada pelas plataformas de IA, só que, do jeito como foi desenhada, ainda transfere aos pais o dever de sinalizar ativamente o dispositivo.
Na avaliação dela, isso vale para muitos controles parentais existentes: eles são facilmente contornados, ou os pais nem sabem que precisam aplicá-los. Empoderar as famílias e incentivar o letramento digital é fundamental, mas a obrigação de garantir que as plataformas sejam seguras não é dos pais — é dos desenvolvedores.
Whitney Ray Di Bona, advogada e defensora de segurança do consumidor no Drugwatch, vai na mesma linha. Ela concorda que transparência e salvaguardas direcionadas são as prioridades certas, mas discorda do peso que o relatório coloca sobre a supervisão parental como solução principal. Na visão dela, atribuir aos pais o dever de proteger os filhos dos danos dos chatbots ignora a realidade que a maioria das famílias vive: muitos não sabem que os filhos usam essas ferramentas, muitos não compreendem plenamente o que são ou como funcionam os chatbots, e muitos simplesmente não têm condições de monitorar o uso de tecnologia 24 horas por dia. Isso, ela faz questão de frisar, não é falha de parentalidade, e sim uma realidade que legisladores e empresas precisam considerar.
O jogo que os pais não conseguem vencer
Alex Zeig, CEO e fundador da BlueCheck, empresa de verificação de identidade e idade, traz uma imagem que resume bem o impasse. Um pai pode bloquear completamente o dispositivo de casa e ainda assim ter o filho assistindo a conteúdo sem moderação num Chromebook da escola. Não é falha de criação: os pais não conseguem vencer um jogo que se espalha por todos os dispositivos, todas as redes e todas as plataformas que a criança possa encontrar.
É por isso que ele defende a verificação de idade, ainda que o relatório a critique. Seu argumento é que, se uma plataforma sabe que está conversando com alguém de 12 anos em vez de 32, ela precisa efetivamente corrigir o que está entregando àquela criança. Para ele, a verificação não serve apenas para ajudar os pais — ela muda quem é responsabilizado.
O contra-argumento: privacidade e liberdade de expressão
O relatório da ITIF sustenta que muitos projetos de lei erram ao simplesmente transplantar abordagens ineficazes das redes sociais, como verificação de idade, restrições de conteúdo e proibições generalizadas.
Para Ambrose, essas medidas são ineficazes porque, ao tentar proteger crianças, acabam restringindo o acesso à informação tanto de crianças quanto de adultos. Elas também tiram a decisão das mãos dos pais, que muitas vezes estão em melhor posição para julgar quais chatbots são apropriados para seus filhos, considerando maturidade, nível de supervisão e finalidade de uso.
David Inserra, pesquisador de liberdade de expressão e tecnologia do Cato Institute, concorda com essa leitura e acrescenta a dimensão jurídica. Exigências de verificação de idade em massa para IA levantariam preocupações sérias de privacidade, já que obrigar o envio de documento, dado biométrico ou outra informação identificadora cria riscos ao exigir que empresas de IA coletem e armazenem dados sobre quem usa seus serviços.
Restrições de conteúdo e proibições amplas, na visão dele, geram problemas ainda mais diretos de liberdade de expressão. Obrigar empresas a proteger crianças de conteúdo violento, assediador, que cause depressão ou ansiedade, ou de alguma forma perigoso a menores, seria censura baseada em conteúdo — algo constitucionalmente duvidoso nos Estados Unidos, especialmente porque os próprios americanos discordam sobre quais tipos de conteúdo são prejudiciais às crianças.
E os desenvolvedores, ficam de fora dessa conta?
Talvez a crítica mais contundente ao relatório venha de Giselle Fuerte, fundadora e CEO da Being Human With AI, empresa focada em educação sobre ética em inteligência artificial. Ela reconhece que as recomendações sobre controles e educação estão entre as mais fortes do documento — como dar aos pais controle sobre recursos como a linguagem bajuladora dos chatbots e construir letramento digital para que as crianças apliquem seu pensamento crítico em desenvolvimento.
Mas ela argumenta que esse enquadramento tira os desenvolvedores da linha de responsabilidade. Na leitura dela, o relatório pega os controles de um sistema de previsão de texto notoriamente imprevisível — cujo raciocínio é tão opaco que existe todo um campo de pesquisa dedicado a decifrá-lo — e os entrega a pais já sobrecarregados, pedindo que sejam os guardiões finais de uma tecnologia associada à morte de crianças. É um fardo pesado demais para transferir ao consumidor.
Sua conclusão é que o documento não avança o suficiente na exigência de restrições de design que responsabilizem os desenvolvedores por lançar produtos seguros desde o princípio, em vez de deixar aos pais a tarefa de garantir que o filho não se machuque em uma falha de projeto.
O Brasil seguiu o caminho oposto
Aqui vale um contraponto que interessa diretamente a quem lê no Brasil, porque a legislação brasileira caminhou exatamente na direção que o relatório americano critica.
A Lei nº 15.211/2025, conhecida como ECA Digital, foi sancionada em setembro de 2025 e está em vigor desde 17 de março de 2026. Ela nasceu do PL 2.628/2022, de autoria do senador Alessandro Vieira, e ganhou impulso em 2025 com as denúncias do influenciador Felipe Bressanin, o Felca, sobre casos de exploração e abuso de crianças no ambiente virtual.
A mudança mais marcante é justamente o fim da autodeclaração de idade: o tradicional botão “tenho mais de 18 anos” passou a ser considerado insuficiente, e o artigo 9º determina que as plataformas adotem mecanismos confiáveis de verificação etária. A lei também exige contas de menores vinculadas a responsáveis, ferramentas de supervisão parental e remoção rápida de conteúdo de risco, valendo para redes sociais, jogos, streaming e lojas de aplicativos.
A fiscalização ficou a cargo da ANPD, que ainda formulará as regras finais sobre os mecanismos de aferição etária; enquanto isso, a atuação acontece em modo de “implementação assistida”, com diálogo entre regulador e plataformas. Três decretos assinados em março de 2026 detalharam a aplicação da lei, criaram um centro nacional para receber denúncias e estruturaram a agência fiscalizadora, com o cuidado declarado de adotar verificação confiável sem invadir a proteção de dados dos usuários.
Ou seja: o debate que o relatório da ITIF trava em termos abstratos já é realidade concreta por aqui. Se a verificação de idade obrigatória vai se mostrar eficaz ou apenas incômoda — e como equilibrá-la com a privacidade — é algo que o Brasil vai descobrir na prática nos próximos anos.
Os números brasileiros ajudam a dimensionar a urgência
E o contexto local justifica a preocupação. A pesquisa TIC Kids Online Brasil 2025 mostra que 92% da população de 9 a 17 anos usa internet, o equivalente a cerca de 24 milhões de crianças e adolescentes.
O dado mais revelador, porém, é outro. A mesma pesquisa apontou que 65% desse público já utiliza ferramentas de inteligência artificial generativa no dia a dia — seja para estudar, criar conteúdo ou até conversar sobre emoções.
É esse último uso que dá concretude ao debate. Não se trata mais de uma hipótese distante: milhões de adolescentes brasileiros já recorrem a chatbots em momentos de vulnerabilidade emocional. Vale lembrar ainda que o ECA Digital não age sozinho — ele dialoga com a LGPD, o Marco Civil da Internet e a Lei 15.100/2025, que restringe o uso de celulares nas escolas, formando um ecossistema regulatório de proteção digital infantil.
Nem tudo é risco: os benefícios também existem
Para fechar com equilíbrio, vale registrar que o mesmo debate reconhece o outro lado da moeda. Jessica Bregant, professora assistente de direito e integrante do departamento de psicologia da Universidade de Houston, defende que, com proteções eficazes implementadas, chatbots e outras tecnologias movidas a IA podem ser ferramentas benéficas para crianças.
O benefício mais evidente, segundo ela, é a fluência em uma tecnologia que provavelmente será parte importante do trabalho e da vida dessas crianças no futuro. Ela também se diz animada com novos estudos sugerindo que trabalhar com chatbots de IA pode apoiar o aprendizado, em vez de substituí-lo, como muitos temiam. Crianças são especialmente flexíveis em seu pensamento e aprendizado, e a geração atual provavelmente desenvolverá formas de interagir com a IA que nem conseguimos imaginar hoje.
Para o bem e para o mal, como ela resume, essa tecnologia já faz parte da cultura. Capacitar as crianças a usá-la com responsabilidade será um desafio para todos os pais e educadores.
O equilíbrio que ainda precisa ser encontrado
No fim das contas, o debate revela uma tensão difícil de resolver. De um lado, medidas amplas demais podem restringir o acesso legítimo à tecnologia, criar riscos de privacidade e esbarrar em questões de liberdade de expressão. De outro, deixar a conta majoritariamente com as famílias ignora que a maioria dos pais não tem como vigiar todos os dispositivos, redes e plataformas que os filhos acessam.
O ponto em que quase todos os especialistas convergem é que a responsabilidade precisa começar no design do produto. Transparência sobre o que o chatbot faz e quais dados coleta, salvaguardas específicas contra danos documentados e ferramentas parentais que realmente funcionem são complementares, não excludentes. E nenhuma delas substitui a obrigação de quem desenvolve a tecnologia de lançá-la segura desde o início.
Se você é pai, mãe ou educador, talvez o passo mais útil no curto prazo seja simplesmente conversar. Saber quais ferramentas de IA a criança usa, com que frequência e para quê — especialmente se ela recorre a chatbots para falar sobre sentimentos — já muda bastante o cenário. Nenhum controle técnico substitui uma relação em que a criança se sente à vontade para contar o que anda acontecendo.
Este texto aborda temas sensíveis, incluindo situações de sofrimento emocional envolvendo jovens. Se você ou alguém próximo estiver passando por um momento difícil, o Centro de Valorização da Vida (CVV) oferece apoio emocional gratuito e sigiloso pelo telefone 188, 24 horas por dia, ou pelo site cvv.org.br.
