Veja por que redes sociais ainda expõem crianças mesmo com sistemas de detecção
Mesmo com sistemas de detecção, redes sociais continuam permitindo a exposição indevida de crianças por falhas na moderação e por um modelo de negócio que prioriza engajamento e monetização.
A circulação de conteúdos que expõem crianças e adolescentes segue sendo constatada nas principais plataformas, mesmo com sistemas automatizados de detecção.
O caso recente em que o influenciador Felca acusou Hytalo Santos de usar adolescentes para produzir conteúdo de cunho sexual colocou o tema de volta em pauta e revelou problemas práticos.
O material é facilmente acessível e comentários que ofertam troca de conteúdo explícito envolvendo menores.
Por que os sistemas de detecção falham
IA e filtros identificam muitos padrões, mas imagens fora de padrão, recortes, áudio manipulado ou contextos ambíguos escapam das regras automáticas. Bilhões de uploads por dia tornam impossível depender só de moderação humana.
Conteúdos passam pelo funil antes de serem removidos. Usuários que buscam burlar regras usam formatos, cortes e metadados para driblar filtros. Plataformas priorizam conteúdo que gera cliques e tempo de tela, o que favorece a circulação de publicações sensíveis se elas geram interações.
Meta (Instagram/Facebook), TikTok e YouTube dizem proibir sexualização de menores e afirmam usar IA para identificar e remover automaticamente conteúdos que violam suas regras, além de recorrer à revisão humana em casos complexos.
Mesmo assim, especialistas cobram transparência sobre custos e investimentos reais na detecção e remoção.
Bloquear monetização de vídeos que mostrem imagens de crianças, reduzir alcance e exigir revisão humana sempre que uma criança aparece em conteúdo sensível, elaborar relatórios públicos sobre remoção, rapidez média e recursos investidos são medidas que ajudariam na prática.
Além disso, aplicação efetiva de decisões como a do STF sobre responsabilidade por falhas sistêmicas e capacitar famílias e escolas para reduzir exposição e abrir canais seguros de denúncia.
Limitar a exposição de fotos e vídeos de menores em perfis públicos, usar controles parentais de Android/iPhone e recursos das próprias redes para restringir quem vê o conteúdo podem proteger as crianças hoje.
Além disso, dialogar com crianças sobre riscos e encorajá-las a denunciar conteúdo que as incomode e atualizar configurações de privacidade e revisar quem tem permissão para postar conteúdo sobre menores.
Leia também:
- Atualizado, ChatGPT-5 terá conversas mais humanas e menos alucinações
- Saiba mais sobre a IA selecionada para diagnóstico de transtornos mentais no SUS
O post Veja por que redes sociais ainda expõem crianças mesmo com sistemas de detecção apareceu primeiro em Jornal Opção.