Crianças e Adolescentes na Era da IA: Quem Está Protegendo os Mais Jovens?
A IA para crianças e adolescentes já faz parte da realidade de milhões de jovens, mas a velocidade dessa expansão levanta uma pergunta incômoda: quem está garantindo que essas tecnologias não coloquem em risco pessoas que ainda estão desenvolvendo sua capacidade de compreender o mundo? Enquanto empresas lançam ferramentas cada vez mais sofisticadas, famílias e escolas precisam lidar com riscos que nem sempre conseguem identificar.
Segundo a pesquisa TIC Kids Online Brasil 2025, do CGI.br, 65% das crianças e adolescentes brasileiros de 9 a 17 anos que usam internet já utilizaram inteligência artificial generativa. O dado merece atenção não apenas pela popularidade da tecnologia, mas pelas formas de utilização: 10% dos entrevistados disseram ter usado essas ferramentas para conversar sobre problemas pessoais ou emoções. Isso mostra que a IA está ultrapassando o espaço das pesquisas e tarefas escolares para entrar em uma dimensão muito mais delicada: a intimidade dos jovens.
Quem protege as crianças quando as empresas controlam o ambiente digital?
Um dos exemplos mais preocupantes está nos chamados companheiros de IA, aplicativos projetados para simular amizade, companhia e vínculos afetivos. Em setembro de 2026, o Ministério da Justiça divulgou uma análise de 13 plataformas disponíveis no Brasil.
O levantamento identificou riscos de apego intenso, uso compulsivo, exposição a conteúdos sexualizados, coleta excessiva de dados íntimos e perfilamento emocional. O documento também apontou que informações sobre vulnerabilidades dos usuários podem ser utilizadas para direcionar publicidade e estimular compras. A análise tem caráter preliminar, mas expõe um conflito importante: quando uma plataforma ganha dinheiro mantendo usuários engajados, a proteção dessas pessoas pode entrar em tensão com os interesses comerciais da empresa.
A ameaça não se limita às conversas. Ferramentas capazes de produzir imagens e vídeos também podem ser utilizadas para criar material de abuso sexual infantil, inclusive com representações falsas de crianças reais. Em fevereiro de 2026, o UNICEF publicou um alerta internacional sobre essa escalada de riscos e a necessidade de fortalecer a proteção das vítimas. A tecnologia não inventou a violência contra crianças, mas pode ampliar as formas de produção e circulação de conteúdos abusivos.
Diante disso, responsabilizar apenas os pais é uma resposta insuficiente. Famílias precisam acompanhar o ambiente digital dos filhos, mas dificilmente conseguem conhecer todos os mecanismos de funcionamento, coleta de dados e recomendação utilizados pelas plataformas.
Como discutimos no artigo sobre privacidade ao usar IA, informações compartilhadas com sistemas de inteligência artificial podem envolver muito mais do que simples perguntas: podem revelar hábitos, preferências e aspectos pessoais da vida de alguém.
O Brasil já possui o ECA Digital, em vigor desde março de 2026, que estabelece obrigações de proteção para serviços digitais acessíveis a crianças e adolescentes. A ANPD iniciou ações de monitoramento, e o próprio governo informou ter acompanhado dezenas de empresas e adotado medidas de fiscalização. Ainda assim, o cronograma da Agência prevê ações prioritárias de fiscalização sobre a adequação dos mecanismos de verificação de idade a partir de janeiro de 2027.
A existência de uma lei é importante, mas sua efetividade depende de fiscalização, transparência e responsabilização.
A infância não pode ser tratada como um mercado de experimentação para empresas de tecnologia. Pais e escolas têm responsabilidades, mas quem desenvolve e comercializa essas ferramentas também precisa responder pelos riscos que cria ou deixa de prevenir.
Não podemos exigir que crianças aprendam a se proteger de sistemas que nem mesmo os adultos e as autoridades conseguem fiscalizar adequadamente.
A infância não pode ser o preço que a sociedade paga pela inovação tecnológica. Empresas não podem reivindicar liberdade para desenvolver sistemas cada vez mais poderosos e transferir às famílias a responsabilidade por todos os danos que eles podem causar. Se a tecnologia está avançando sobre a infância, a proteção precisa avançar muito mais rápido.
Vida Otimizada
Orgulhosamente desenvolvido por: eugabriel2088@gmail.com