Saltar al contenido principal

Validadores

Los validadores son los bloques de construcción atómicos del stack de aplicación de Beak AI Security. Cada validador comprueba una condición específica contra la entrada o salida de un agente de IA y devuelve un resultado de aprobado/fallido con una razón. Los validadores se agrupan en Guardrails, que a su vez se combinan en Políticas.

Lista de Validadores​

La página de Validadores muestra todos los validadores configurados con su nombre, tipo y estado. La plataforma incluye 59 validadores predefinidos que cubren los escenarios de seguridad de IA más comunes.

Cada validador tiene un Tipo que determina qué categoría de riesgo aborda:

  • security — Detecta patrones de ataque como SSRF, inyección de prompts, intentos de ejecución de código y exfiltración de credenciales.
  • privacy — Identifica PII, tipos de datos sensibles e información confidencial en entradas o salidas.
  • reliability — Comprueba la integridad de la respuesta, la consistencia factual y los indicadores de calidad de salida.
  • compliance — Aplica reglas específicas del dominio, como avisos de asesoramiento regulado, temas prohibidos y requisitos de confidencialidad.

Los validadores activos aparecen en la lista con una insignia de estado Activo.

Crear un Validador​

Haga clic en Create Validator para abrir el formulario del validador. Complete los siguientes campos:

  • Name — Un identificador descriptivo para el validador.
  • Description — Qué comprueba el validador y por qué existe.
  • Type — Seleccione entre security, privacy, reliability o compliance.
  • Active — Active o desactive la aplicación sin eliminar el validador.
  • Config — Un objeto de configuración JSON que define el comportamiento del validador.

El campo Config es donde reside la lógica de detección. Por ejemplo, un detector de SSRF podría especificar una lista de patrones peligrosos a comprobar:

{
  "checks": ["cloud_metadata", "private_network", "localhost", "dangerous_scheme"]
}

Nota: La estructura exacta del JSON de Config depende del tipo de validador. Consulte el texto de marcador de posición en línea del formulario para obtener orientación sobre lo que espera cada tipo.

Editar un Validador​

Haga clic en cualquier validador de la lista para abrir su formulario de edición. Todos los campos son editables. Los cambios surten efecto de inmediato para todos los Guardrails y Políticas que incluyen este validador.

Desactivar Active deshabilita el validador en todos los guardrails sin eliminarlo de su configuración, lo cual resulta útil para deshabilitar temporalmente una regla durante pruebas o una ventana de mantenimiento planificada.

Resultados de los Validadores en la Práctica​

Cuando un validador se ejecuta contra una interacción, su resultado aparece en dos lugares:

  • Review Queue — El desglose por validador muestra el resultado aprobado/fallido de cada validador y el texto de razón para las interacciones marcadas.
  • Forensic Explorer — El JSON de salida del paso de moderación incluye el array completo de resultados del validador.

Comprender qué validadores se activaron y por qué es esencial para ajustar la configuración de aplicación.

Mejores Prácticas​

  • Mantenga los nombres de los validadores descriptivos y consistentes: aparecen directamente en las etiquetas de activación de la Review Queue y en las salidas de sesiones forenses.
  • Use el campo Type de forma consistente: determina cómo se agrupan y se reportan los validadores en las vistas de cumplimiento.
  • Deshabilite los validadores temporalmente en lugar de eliminarlos cuando investigue falsos positivos: la eliminación borra la regla de todos los guardrails dependientes.
  • Revise los resultados de los validadores en el Forensic Explorer antes de decidir si un falso positivo es un problema de configuración del validador o un caso límite genuino.

Páginas Relacionadas​