Glossário de IA
Guardrails
Guardrails são os limites técnicos que definem o que um sistema de IA pode dizer e fazer: escopo de assunto, validação de saída, regra de autorização por ação e ponto obrigatório de aprovação humana.
Guardrail não é uma frase no prompt pedindo bom comportamento. É controle em camadas: filtro na entrada, instrução no prompt, validação da saída antes de entregar, e permissão verificada no momento de executar a ação.
A camada mais importante costuma ser a última. Se o agente pode emitir nota, cancelar pedido ou conceder desconto, a regra de quem pode e até quanto vive no sistema, não na boa vontade do modelo.
Também entram aqui os desvios deliberados: assunto sensível que sai por resposta fixa, faixa de valor que exige aprovação, e confiança baixa que vira transferência para humano.
Também aparece como: barreiras de segurança, limites do agente.
Termos relacionados
Onde guardrails entra no seu processo?
Trinta minutos, uma conversa direta e uma resposta honesta sobre o que vale construir agora e o que pode esperar.
Sem compromisso · resposta em até 24h