As empresas estão acelerando agentes de IA para pesquisar, programar, revisar e operar. O risco não aparece apenas quando o modelo responde errado. Ele aparece quando o sistema continua agindo depois de perder o objetivo, atravessa uma fronteira que só foi verificada no início ou trata concordância entre modelos como confirmação suficiente.
1. A fronteira precisa acompanhar o destino real
O advisory oficial GHSA-5x7x-4c3c-qf5w descreve uma SSRF no Open WebUI. A faixa afetada vai de 0.9.5 a 0.11.0 e a correção está na 0.11.1. A condição importa: o parâmetro AIOHTTP_CLIENT_ALLOW_REDIRECTS precisava estar habilitado, enquanto seu padrão é false. A URL inicial passava pelos controles, mas o destino após redirecionamento podia escapar deles [1][2].
Isso não prova exploração ativa nem uma falha geral de produtos de IA. A lição é arquitetural: validar a intenção inicial não basta quando o efeito acontece em outro destino. Se houver forward proxy, o próprio proxy também precisa restringir o destino, conforme ressalva do advisory.
2. Continuar corrigindo pode destruir o que estava correto
O preprint If It's Not Buggy, Don't Fix It avaliou reparo iterativo cego em 20 problemas, com 40 submissões C++ por problema, dois modelos e até 100 turnos. Nas configurações testadas, os modelos encontraram pseudobugs em código correto e a taxa de dano frequentemente igualou ou superou a taxa de reparo. Também surgiram ciclos de alterações adicionadas e removidas [3].
O recorte é estreito: tarefas competitivas de arquivo único, dois modelos, objetivo ambíguo e loop sem histórico. Portanto, o estudo não sustenta que toda IA piora código. Sustenta que mais rodadas, sem teste objetivo e limite externo, não são evidência de progresso.
3. Consenso entre modelos ajuda a priorizar; não valida
Outro preprint avaliou 24 execuções, 12 configurações, quatro famílias de modelos e dez controles ISO/IEC 27002. O padrão de referência tinha 72 requisitos considerados válidos por especialistas. Reunir todas as saídas recuperou os 72, mas trouxe 111 alucinações. A técnica de fusão melhorou o ranking da fila; não eliminou a necessidade de julgamento [4][5].
É um único caso, em inglês, sobre um padrão e uma equipe especializada. Não mede redução de incidentes. Seu valor para negócios é mostrar que variedade pode aumentar cobertura, enquanto validação continua sendo outra responsabilidade.
Um modelo operacional para os próximos 30 dias
- Mapeie quais agentes alcançam rede, dados, código, credenciais e sistemas de registro.
- Aplique política novamente em redirects, resoluções, proxies e antes de cada efeito relevante.
- Defina baseline, testes, orçamento de turnos, custo e tamanho da mudança antes do loop começar.
- Interrompa diante de regressão, ciclo, ausência de melhoria ou resultado inconclusivo.
- Use múltiplos modelos para ampliar candidatos ou ordenar revisão, não para aprovar por maioria.
- Ligue decisão humana ao artefato, à versão, à política e ao resultado exatos.
A vantagem não é deixar a IA ir mais longe
A empresa madura não vence porque remove todos os limites. Ela vence porque sabe onde a autonomia cria valor, reconhece quando a evidência acabou e consegue reconstruir por que uma ação foi permitida. Velocidade sem fronteira, parada e evidência apenas reduz o tempo até o próximo erro difícil de explicar.
Nota editorial e de responsabilidade
Este artigo combina fatos atribuídos às fontes públicas com análise e recomendações profissionais do autor. Pontos de vista pessoais e profissionais não são fatos comprovados; dados, denominadores, limitações e conflitos são indicados quando disponíveis. Os dois estudos citados são preprints recentes, ainda sem revisão por pares registrada no arXiv. O conteúdo é informativo e não substitui avaliação técnica, jurídica ou de segurança. Tech Human e Trustyu atuam comercialmente em temas relacionados. Pesquisa, estrutura e redação tiveram assistência de IA.