 |
| imagem gerada por IA |
A Gartner identificou quatro ameaças críticas e imprevisíveis que exigem atenção urgente dos líderes de segurança cibernética: comprometimento de aplicações de Inteligência Artificial (IA), deepfakes, ataques à cadeia de suprimentos de software e injeção de prompts. Segundo a consultoria, esses vetores oferecem vantagem significativa aos atacantes, ampliando a exposição das organizações em um cenário digital cada vez mais complexo.
O alerta faz parte do modelo Gartner ThreatScape, que classifica ameaças com base na qualidade das informações disponíveis e na capacidade das organizações de gerenciá-las. De acordo com John Watts, vice-presidente analista da Gartner, o excesso de iniciativas e soluções de segurança em IA tem gerado “ruído” no mercado, dificultando a identificação dos riscos mais relevantes.
“Os líderes em segurança precisam distinguir sinais reais de ameaça em meio a esse cenário para responder com eficácia”, afirma o executivo.
O comprometimento de aplicações de IA surge como uma das principais preocupações. O crescimento de ferramentas corporativas baseadas em IA — incluindo agentes personalizados e integrações com terceiros — amplia a superfície de ataque e pode expor dados sensíveis.
A recomendação da Gartner é que empresas adotem frameworks como o TRiSM (Trust, Risk and Security Management), além de aplicar práticas tradicionais de segurança ao ciclo de desenvolvimento de IA. Medidas como classificação de dados, controle de acesso baseado em propósito (PBAC) e monitoramento em tempo real são consideradas essenciais.
O avanço da IA generativa também impulsionou a sofisticação dos deepfakes, tornando fraudes e ataques de engenharia social mais difíceis de detectar. A tecnologia já é usada para burlar autenticações biométricas, simular identidades em tempo real e manipular processos corporativos.
A Gartner recomenda uma abordagem em camadas, combinando tecnologia, processos e conscientização. Entre as medidas estão reforço na autenticação, análise de contexto em comunicações e proteção de reuniões online com políticas de acesso mais rígidas.
Os ataques à cadeia de suprimentos de software continuam em expansão, impulsionados pelo uso crescente de código aberto e pela complexidade dos ecossistemas digitais.
Para mitigar riscos, a consultoria orienta empresas a exigirem SBOMs (listas de materiais de software) e AIBOMs de fornecedores, além de fortalecer pipelines de desenvolvimento (CI/CD), adotar repositórios confiáveis e implementar monitoramento contínuo.
A injeção de prompts, que explora vulnerabilidades em modelos de linguagem (LLMs), também se consolida como ameaça crítica. Esse tipo de ataque pode manipular sistemas de IA para vazar dados, executar ações indevidas ou contornar controles de segurança.
Entre as recomendações estão validação de entradas, testes contínuos de segurança, monitoramento de comportamento anômalo e implementação de proteções em tempo de execução.
Diante de restrições orçamentárias, a Gartner reforça que organizações devem priorizar investimentos com base em risco real e impacto potencial, focando em controles que aumentem a resiliência operacional e a capacidade de resposta.
Comentários
Postar um comentário