Architectural Decision Story · ADS-03
AI Agents in Production
Por que contratos, ferramentas, permissões e avaliações importam?
Contexto
Agentes de IA deixam de responder perguntas e passam a executar ações: abrir PRs, consultar dados, alterar configurações, chamar APIs.
Problema
Um agente com acesso amplo e sem contrato é um componente não determinístico com privilégios de administrador e nenhuma trilha do que decidiu.
Alternativas consideradas
- Agente com acesso amplo
- Exploração local, sem dados reais e sem efeitos irreversíveis.
- Ferramentas com escopo e contrato
- Qualquer uso com dados reais: cada ferramenta com entrada e saída tipadas e permissões mínimas.
- Fluxo determinístico com etapas de IA
- Quando o processo é conhecido e a IA só precisa resolver partes dele.
Trade-offs
- Autonomia versus previsibilidade e auditabilidade.
- Ferramentas estreitas reduzem risco, mas exigem mais desenho inicial.
- Pontos de revisão humana aumentam latência, mas são o controle mais barato para ações irreversíveis.
Decisão
Tratar agentes como componentes do sistema: contratos de ferramenta, permissões mínimas, revisão humana para ações irreversíveis, avaliação contínua e logs de cada decisão.
Consequências
- Avaliações (evals) passam a fazer parte do pipeline, como testes.
- Isolamento de dados precisa ser garantido pela plataforma — não pelo prompt.
Aprendizados
- Prompt não é controle de acesso.
- Um agente só é tão confiável quanto o contexto e os limites que recebe.