Saltar al contenido principal

Cola de Revisión

La Cola de Revisión muestra las interacciones de IA que sus validadores han marcado como que requieren una decisión humana antes de que el sistema pueda actuar sobre ellas. En lugar de bloquear o permitir automáticamente una interacción límite, la política de cumplimiento la enruta aquí para que un revisor la apruebe, rechace o escale.

Descripción General de la Cola​

El encabezado de la página muestra el recuento actual de Pendiente — el número de elementos que aguardan una decisión humana. Los elementos se presentan en la pestaña Pendiente de forma predeterminada. La pestaña Todo muestra el historial completo, incluidos los elementos ya revisados.

Cada elemento en la cola muestra:

  • Puntuación de Riesgo — Una puntuación numérica del 0 al 100 que refleja cuántos validadores marcaron la interacción y qué tan graves fueron dichas marcas.
  • Distintivo REVISIÓN REQUERIDA — Indica que el elemento aún está pendiente de decisión, junto con la marca de tiempo en que ingresó a la cola.
  • Etiquetas de Activación — Etiquetas que muestran qué categorías de validadores se activaron en esta interacción (p. ej., pii, secrets, compliance, banned_topics, response_completeness).

Revisión de un Elemento​

Al expandir un elemento de la cola se revela el contexto completo necesario para tomar una decisión:

  • Mensaje de Entrada — El prompt o entrada completa enviada al agente de IA.
  • Desglose de Validadores — Una lista de resultados por validador que muestra cada validador que se ejecutó contra esta interacción, su estado de aprobado/fallido y el motivo específico por el que aprobó o falló. Este desglose cubre todos los tipos de validadores: seguridad, privacidad, fiabilidad y validadores de cumplimiento.

Tras revisar el contexto, se dispone de tres acciones:

  • Aprobar — La interacción se marca como conforme y se registra. El flujo de trabajo de origen puede continuar.
  • Rechazar — La interacción se bloquea y se registra como una infracción.
  • Escalar — El elemento se escala a un revisor de nivel superior o a un flujo de trabajo de respuesta a incidentes.

Nota: Las tres decisiones se registran en el Registro de Auditoria con la acción del revisor y la marca de tiempo.

Cómo Ingresan los Elementos a la Cola​

Los elementos aparecen en la Cola de Revisión cuando la acción de cumplimiento de una política para un resultado límite está configurada como flag_and_escalate. Esto se configura por política — consulte Políticas para obtener detalles sobre la configuración de acciones de cumplimiento.

Mejores Prácticas​

  • Asigne una responsabilidad clara sobre la Cola de Revisión en su proceso de operaciones de seguridad — los elementos pendientes afectan su tasa de cumplimiento en el Panel de Cumplimiento.
  • Utilice las etiquetas de activación para realizar una clasificación rápida: los elementos etiquetados con pii o secrets suelen tener mayor prioridad que los de response_completeness.
  • Si el mismo validador está generando un alto volumen de falsos positivos, ajuste su configuración en Validadores en lugar de aprobar elementos manualmente a gran escala.
  • Para los elementos que revelan un patrón (p. ej., un agente específico que activa consistentemente banned_topics), aborde la causa raíz en la configuración de política o de protecciones del agente.

Páginas Relacionadas​