Seu agente vai falhar em produção e o plantão ainda não existe

A entrega termina no plantão, não no go-live

O projeto de IA costuma ser desenhado até a data de subida. Escopo, integração, avaliação, homologação e liberação. Depois da liberação, o plano acaba e a operação passa a improvisar.

Software tradicional sofre menos com isso porque a falha é determinística. O serviço cai, o alerta dispara, o time reverte a versão e o comportamento volta ao que era. O agente rompe essa cadeia em dois pontos: a falha costuma ser silenciosa e a reversão nem sempre desfaz o efeito.

Silenciosa porque o agente responde. Ele não devolve erro de servidor, devolve uma frase plausível, aciona a ferramenta errada ou escreve no sistema com o parâmetro trocado. O painel continua verde. Essa distância já foi tratada em avaliação de agentes em produção: observabilidade responde se o agente está de pé, não se ele está certo.

O efeito colateral é conhecido de quem opera. O incidente com agente raramente é descoberto pelo monitoramento. Ele é descoberto pelo cliente, pelo auditor ou pela conta no fim do mês.

O prazo de resposta deixou de ser assunto interno

Até agosto de 2026, o tempo de resposta a um incidente de IA era matéria de acordo de nível de serviço. Agora existe prazo em regulamento, e ele corre a partir do momento em que a empresa toma conhecimento do caso.

A regra separa dois papéis. Quem fornece o sistema responde pela notificação do incidente grave à autoridade de fiscalização, nos prazos do Artigo 73. Quem opera o sistema tem obrigações próprias no Artigo 26: designar supervisão humana com competência, treinamento e autoridade, monitorar o funcionamento conforme as instruções do fornecedor, suspender o uso ao identificar risco e informar o fornecedor imediatamente diante de um incidente grave.

A empresa que constrói o próprio agente acumula os dois papéis. Ela fornece e opera, então responde pela cadeia inteira: supervisão, suspensão, notificação e registro.

A ordem de grandeza da sanção define a prioridade. O Artigo 99 prevê multa de até 15 milhões de euros ou 3% do faturamento anual mundial, o que for maior, para descumprimento das obrigações de fornecedores e operadores.

No Brasil, o marco legal ainda não existe. O PL 2338/2023 foi aprovado pelo Senado em dezembro de 2024, chegou à Câmara dos Deputados em março de 2025 e segue na Comissão Especial, aguardando parecer do relator. A empresa brasileira com operação, cliente ou produto na União Europeia, porém, já está dentro do prazo europeu.

As quatro perguntas do plantão

O plano de resposta a incidente com agente cabe em uma página. Ele não descreve tecnologia, descreve decisão sob pressão.

• Detecção: qual sinal caracteriza incidente. Indisponibilidade não basta. Entram taxa de tarefa não concluída, desvio de política, uso de ferramenta fora do escopo e reclamação de cliente com origem no agente.
• Acionamento: quem é chamado, em qual turno e com qual prazo de primeira resposta. O nome precisa estar na escala, não no organograma.
• Contenção: quem tem autoridade para desligar o agente sem abrir chamado, e o que a operação faz enquanto ele está fora.
• Reversão e reparação: como se volta ao estado anterior e o que se faz com o que o agente já escreveu, enviou ou aprovou no intervalo.

A quarta pergunta é a que separa agente de software comum. Reverter a versão do agente não desfaz o pedido que ele criou, o e-mail que ele enviou nem o crédito que ele liberou. O plano precisa tratar o efeito, não apenas o código.

Desligar precisa ser barato

O desligamento de emergência costuma ser tratado como último recurso, e por isso custa caro. Se desligar o agente derruba o atendimento inteiro, ninguém desliga. O time negocia, espera autorização e o incidente cresce enquanto a decisão sobe de nível.

A alternativa é projetar degradação em camadas desde a primeira entrega. O agente perde a permissão de escrita e continua lendo. Perde a autonomia e passa a sugerir com aprovação humana. Perde a ferramenta específica que causou o desvio e mantém o resto do fluxo.

Cada camada precisa ser acionável por configuração, sem nova entrega de código. Um plantonista às duas da manhã não abre alteração em repositório.

O nível de controle acompanha o nível de autonomia. Agente que apenas lê e resume pede plantão leve. Agente que escreve em sistema, movimenta dinheiro ou fala com o cliente pede desligamento imediato, caminho manual pronto e atenção ao vetor descrito em prompt injection e o perímetro de segurança da IA.

Essa é a mesma disciplina que separa piloto de operação, tratada em o abismo entre o piloto e a produção. O piloto pode parar sem consequência. A operação precisa continuar rodando enquanto o agente está desligado.

O registro é o que sobra quando o incidente termina

O Artigo 26 exige que quem opera o sistema de alto risco guarde os registros gerados automaticamente por prazo compatível com a finalidade, com mínimo de seis meses, salvo previsão diferente em outra norma aplicável.

Seis meses de retenção é requisito de arquitetura, não de departamento jurídico. Ele muda o que precisa ser gravado no momento da execução: a entrada, a ferramenta chamada, os parâmetros, o dado recuperado, a decisão tomada e quem aprovou.

Sem esse rastro, a empresa não responde à pergunta mais simples de uma auditoria: o que o agente fez neste caso específico, em que data e com base em qual informação. A ausência de resposta é o próprio achado.

O pré-requisito continua sendo o inventário. Não se coloca de plantão o agente que ninguém sabe que existe, como tratamos em a IA que você não governa. E o registro por passo é o mesmo insumo que alimenta o conjunto de regressão: toda falha atendida no plantão vira caso de teste.

• Escreva o plano de resposta antes da primeira subida, com nome de plantonista, prazo de primeira resposta e critério objetivo de acionamento.
• Implemente degradação em camadas por configuração: retirar escrita, retirar autonomia, retirar ferramenta, desligar.
• Defina o procedimento de reparação do efeito, separado da reversão de versão.
• Grave o rastro por passo com retenção mínima de seis meses e responsável nomeado pela supervisão humana.
• Feche o ciclo: todo incidente atendido vira caso no conjunto de regressão antes de o chamado ser encerrado.

A NN implanta essa camada junto com o agente. Define o critério de incidente com a área de negócio, monta a escala e o procedimento de contenção, projeta a degradação por configuração e liga o registro à trilha de auditoria e à suíte de regressão.

O go-live não é a entrega. A entrega é o dia em que o agente falha, alguém atende, a operação continua e a empresa consegue explicar o que aconteceu.