Idec Pede Suspensão da IA Grok por Violações de Direitos de Crianças, Adolescentes e Mulheres

imagem gerada por IA

Flavio Sartori 

O Instituto de Defesa de Consumidores (Idec) encaminhou ofício urgente ao governo brasileiro, solicitando a suspensão imediata da ferramenta de inteligência artificial generativa Grok, integrada à plataforma X (antigo Twitter). A medida é motivada por graves e reiteradas violações de direitos fundamentais, especialmente de crianças, adolescentes e mulheres, através da geração e difusão de imagens sexualizadas não consentidas, incluindo deepfakes de caráter erótico ou pornográfico.

O documento foi endereçado ao Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital, que congrega o Ministério da Justiça e da Segurança Pública, o Ministério dos Direitos Humanos e da Cidadania, a Secretaria de Comunicação Social da Presidência da República e o Conselho Nacional dos Direitos da Criança e do Adolescente (Conanda). O Idec exige providências cabíveis diante do que considera um defeito grave na prestação do serviço, uma vez que a plataforma não oferece o nível de segurança legitimamente esperado pelos usuários e pelas pessoas atingidas pelos danos.

As violações apontadas pelo instituto abrangem diversas legislações brasileiras. Além do Código de Defesa do Consumidor (CDC), que trata da segurança dos serviços, o Idec cita a Lei Geral de Proteção de Dados (LGPD), o Marco Civil da Internet, o Estatuto da Criança e do Adolescente (ECA) e o recém-aprovado ECA Digital. A preocupação central reside na capacidade da Grok de gerar, editar e difundir imagens íntimas falsas de pessoas reais, inclusive menores de idade, sem qualquer salvaguarda mínima de segurança, consentimento ou prevenção de abusos.

O caso da Grok não é isolado e já repercute globalmente, com reações internacionais significativas. Países como Malásia e Indonésia foram os primeiros a bloquear o acesso à IA de Elon Musk devido à proliferação de imagens sexualizadas.

• No Reino Unido, o regulador de mídia Ofcom abriu uma investigação, e uma nova lei que criminaliza a criação de deepfakes sexuais está prestes a entrar em vigor
• A União Europeia, por sua vez, ordenou que o X retenha todos os documentos relacionados ao Grok até o final de 2026 para fins de investigação
• A Índia também está investigando a ferramenta após relatos de geração de imagens explícitas, incluindo pornografia infantil 
• O Ministro da Inteligência Artificial do Canadá classificou o abuso sexual por deepfake como uma forma de violência.

Um estudo recente destaca a gravidade do problema, revelando que a Grok gerou aproximadamente 6.700 imagens sexuais ilegais por hora, um número alarmantemente superior ao de seus concorrentes, que somados geraram 79 no mesmo período.

Embora o X tenha restringido a geração de imagens apenas para usuários pagantes após o início da crise, as violações persistem, evidenciando a falta de controle efetivo sobre a ferramenta.

O Idec conclui que “inovação tecnológica sem responsabilidade produz danos reais. Quando uma tecnologia não consegue garantir salvaguardas mínimas, sua interrupção temporária é uma exigência jurídica e ética”.

O instituto reforça a necessidade de que o caso seja considerado nos debates sobre a Política Nacional de Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital e a regulação da inteligência artificial, especialmente no âmbito do PL nº 2338/2023, visando garantir proteção reforçada a crianças e adolescentes frente a usos de IA que possam causar danos irreversíveis.