85% dos pais brasileiros temem que IA seja usada para criar imagens ou conversas falsas sobre seus filhos, aponta estudo

imagem gerada por IA

Flavio Sartori

Pais e responsáveis brasileiros enfrentam um novo cenário na criação dos filhos, marcado pela disseminação de imagens geradas por inteligência artificial, falsificação de identidade digital e relacionamentos online que se formam nesse ambiente. É o que revela o relatório Norton Insights: Connected Kids, que ouviu famílias sobre como a IA está transformando os riscos enfrentados por crianças e adolescentes na internet.

Segundo o levantamento, 89% dos pais brasileiros afirmam se sentir confortáveis para conversar com os filhos sobre riscos no ambiente online. Apesar disso, 49% não têm confiança de que seus filhos consigam distinguir um conteúdo gerado por IA de um conteúdo real — e 85% temem que a tecnologia seja usada para criar imagens ou conversas falsas envolvendo suas crianças.

Os dados expõem uma tensão entre o discurso e a prática: mesmo com a maioria dos pais afirmando se sentir à vontade para abordar o tema, os comportamentos relatados pelos próprios filhos mostram lacunas significativas de proteção.

Entre os pais e responsáveis brasileiros:

• 40% relatam que os filhos usam o dispositivo após o horário de dormir estabelecido
• 22% dizem que os filhos acessaram redes sociais ou sites que acreditavam estar bloqueados
• 14% afirmam que os filhos assistem a conteúdo explícito
• 13% relatam que os filhos compartilharam informações privadas ou dados pessoais com estranhos

Embora 59% dos pais já tenham adotado alguma medida de proteção relacionada à IA — como restringir aplicativos, monitorar atividades ou conversar especificamente sobre o tema — os números indicam que ter a conversa é apenas parte da solução.

O estudo também identificou uma nova camada de risco entre crianças que já sofreram cyberbullying. Entre os pais cujos filhos passaram por essa experiência, 29% afirmam que o agressor utilizava um perfil falso ou se passava por outra pessoa, e 14% relatam que o agressor era uma conta ou bot gerado por inteligência artificial.

"Os pais passaram anos ensinando seus filhos a reconhecer estranhos na internet, mas a IA muda a natureza do que significa 'perigo' no ambiente online", afirma Iskander Sanchez-Rola, Diretor Sênior de IA e Inovação na Norton. "Desde o uso indevido e a alteração de fotos publicadas ou compartilhadas, até bots de IA que atuam como cibercriminosos ou se passam por fontes confiáveis, existem riscos completamente novos, e isso significa que pais e responsáveis precisam atualizar a forma como conversam com seus filhos sobre segurança online."

Quando questionados sobre quais plataformas mais preocupam, os pais citam salas de bate-papo online (20%), Discord (18%), jogos online (15%) e TikTok (11%). No entanto, os comportamentos relatados dentro dos ambientes de jogos sugerem que o risco real pode estar concentrado justamente onde os pais menos monitoram.

Entre os 67% dos pais cujos filhos jogam games online com chat:

• 61% relatam que os filhos conversaram com estranhos por chat de voz ou texto
• 33% dizem que os filhos receberam mensagens inadequadas ou ofensivas
• 29% afirmam que os filhos foram incentivados a migrar a conversa para outra plataforma

"Os recursos de conversa presentes nos jogos são, muitas vezes, onde ocorre a real exposição, e tendem a ser menos visíveis para os pais e responsáveis do que o uso das redes sociais", comenta Sanchez-Rola. "Quando uma criança deixa uma plataforma de jogos online e migra para um aplicativo de mensagens privadas porque alguém pediu isso, essa escalada pode ser difícil de detectar, e as crianças podem não reconhecer isso como algo que vale a pena mencionar."

O relatório aponta para uma transformação mais ampla na forma como as famílias abordam a segurança online. Conversas que antes giravam em torno de estranhos, senhas e tempo de tela agora precisam incluir temas como imagens geradas por IA, falsificação de identidade digital, relacionamentos formados online e o desenvolvimento de pensamento crítico em um contexto no qual ver deixou de significar necessariamente acreditar.

O relatório completo Norton Insights: Connected Kids, com dados adicionais sobre exigências de idade mínima em redes sociais e preocupações específicas por plataforma, está disponível no site da Norton.