À medida que a inteligência artificial (IA) avança e se torna mais presente nos processos corporativos, cresce também a preocupação com a segurança e a confiabilidade dessas soluções. De acordo com o Gartner, até 2030, os chamados agentes guardiões — sistemas de IA criados para garantir interações seguras e alinhadas com os objetivos das empresas — deverão representar entre 10% e 15% do mercado global de IA agêntica.
Esses agentes guardiões funcionam como uma camada extra de proteção: monitoram, revisam e ajustam o comportamento de outros sistemas de IA. Eles podem atuar como assistentes para revisão e análise de conteúdo ou como agentes autônomos que executam planos e bloqueiam iniciativas que fogem ao propósito da organização.
“O avanço da IA agêntica sem os devidos controles pode levar a resultados indesejados”, alerta Avivah Litan, vice-presidente analista do Gartner. “Os agentes guardiões são fundamentais para equilibrar as decisões em tempo real com o gerenciamento de riscos.”
Crescimento da adoção e novos riscos
Um estudo realizado pelo Gartner em maio deste ano, durante um webinar com 147 CIOs e líderes de TI, revelou que 24% das empresas já utilizam agentes de IA em pequena escala, enquanto 4% operam com mais de uma dúzia desses sistemas. Outros 50% estão em fase de pesquisa ou testes, e 17% planejam implantar a tecnologia até o fim de 2026.
Esse crescimento da IA agêntica vem acompanhado de novos desafios, como manipulação de dados, sequestro de credenciais e interações com fontes maliciosas. Segundo o Gartner, mais da metade dos entrevistados (52%) afirmam que suas iniciativas de IA estão focadas em áreas internas — como TI, recursos humanos e contabilidade —, enquanto 23% miram aplicações voltadas ao cliente.
“Com o aumento da autonomia dos agentes de IA, os riscos também crescem. Os humanos já não conseguem acompanhar a velocidade e a complexidade dessas operações”, explica Litan. “Por isso, os agentes guardiões são cada vez mais necessários para garantir a supervisão e o controle automatizado.”
Três funções essenciais dos agentes guardiões
De acordo com o Gartner, os agentes guardiões devem atuar em três frentes principais para garantir a segurança das interações com IA:
-
Revisores: analisam resultados e conteúdos gerados pela IA, checando precisão e conformidade;
-
Monitores: acompanham as ações dos sistemas para fornecer relatórios e alertas;
-
Protetores: ajustam ou bloqueiam operações automaticamente, prevenindo ações indevidas.
A expectativa é que, até 2028, 70% dos aplicativos de IA já utilizem sistemas compostos por múltiplos agentes, o que deve acelerar ainda mais a adoção dos agentes guardiões.
Comentários
Postar um comentário