¿Qué son guardrails en agentes IA?

Guardrails son reglas, filtros y validaciones que se interponen entre el LLM y el mundo real para impedir acciones peligrosas, output tóxico, fugas de datos sensibles o violaciones de policy de negocio. Pueden ser pre-prompt (input filtering), in-prompt (instrucciones) o post-output (validación antes de ejecutar). NexoSmart los integra a tres niveles sobre Qwen + method indexing.

¿Qué tipos de guardrails existen?

Cinco familias: input filters (PII redaction, prompt injection detection), output filters (toxicity, hallucination check), action guardrails (whitelist/blacklist de tools), policy guardrails (reglas de negocio: no responder sobre competidores, no prometer descuentos) y rate guardrails (max calls/hora).

• •Input: PII, prompt injection
• •Output: toxicity, alucinación
• •Action: whitelist de tools
• •Policy: reglas de negocio
• •Rate: max calls/hora

¿Cómo se implementan?

Tres approaches: rule-based (regex, keyword lists), LLM-as-judge (un segundo LLM valida output del primero) e híbrido. NexoSmart usa híbrido: regex para PII y prompt injection conocidos, LLM-as-judge para semántica (ej. "¿esta respuesta promete algo que no podemos cumplir?").

¿Frameworks open source?

NeMo Guardrails (NVIDIA), Guardrails.ai, LangChain output parsers. NexoSmart implementa guardrails custom en TypeScript dentro del orquestador, sin dependencia de framework externo, para mantener control total.

¿Qué pasa si un guardrail dispara?

Tres opciones configurables: bloquear y devolver fallback ("no puedo ayudar con eso"), reescribir el output sanitizado, o escalar a human-in-the-loop. La elección depende del riesgo: legal/financiero → escalación, soporte general → fallback.

Temas relacionados