Saltar al contenido principal

Equipos

Los equipos son la unidad principal de control de acceso en el Gateway. Cada equipo tiene un presupuesto, límites de velocidad, una lista de modelos permitidos y opciones para Seguridad y Observabilidad. Cada clave virtual se emite contra un equipo, por lo que los límites del equipo se aplican a todas las solicitudes que realizan sus claves.

La vista de lista muestra el nombre de cada equipo, el número de modelos permitidos, el presupuesto máximo, el gasto actual y el estado. Filtre por estado en la parte superior; los iconos por fila permiten editar y activar/desactivar.

Crear un Equipo​

Haga clic en + Create Team en la parte superior derecha para abrir el formulario de creación de equipo.

Nombre del Equipo​

Identificador legible por humanos (p. ej. engineering-team, customer-support-prod). Se utiliza en todo el Gateway: en claves virtuales, informes de gasto, asignaciones de seguridad y registros de auditoría.

Duración del Presupuesto​

Ventana de tiempo rotatoria sobre la que se restablece el presupuesto. Acepta valores como 30d, 7d o 1h.

Presupuesto Máximo ($)​

Límite máximo fijo. Cuando el equipo alcanza este límite, todas las solicitudes se rechazan hasta que la ventana de presupuesto se restablezca o se eleve el límite.

Presupuesto Flexible ($)​

Límite flexible utilizado para alertas. Superarlo activa una alerta (consulte Alertas) pero no bloquea las solicitudes. Configúrelo entre un 10 y un 20% por debajo del límite fijo para que el equipo reciba una advertencia antes de que las solicitudes comiencen a fallar.

Límite de TPM​

Tokens por minuto. El Gateway contabiliza tanto los tokens de indicación como los de respuesta frente a este límite. Cuando un equipo lo alcanza, las solicitudes reciben limitación de velocidad con un 429 hasta que transcurre el minuto.

Límite de RPM​

Solicitudes por minuto. Limitación simple por recuento de solicitudes aplicada junto con el TPM.

Modelos​

Lista separada por comas de los nombres de visualización de los modelos que este equipo puede invocar (p. ej. gpt-4o, claude-3-opus, gemini-pro). Las solicitudes para un modelo fuera de esta lista son rechazadas.

Habilitar Seguridad​

Opción de activación. Cuando está activada, el equipo queda inscrito en Beak AI Security y utiliza la política asignada en la página de AI Security. Si está desactivada, las solicitudes LLM no se analizan.

Habilitar Observabilidad​

Opción de activación. Cuando está activada, cada solicitud LLM que realiza este equipo se transmite como una traza a Beak AI Observability. Si está desactivada, se deshabilita el rastreo para el equipo.

Haga clic en Create Team para guardar.

Asignación a un Proyecto​

Un equipo puede, opcionalmente, integrarse en un Proyecto para gestionar presupuestos compartidos e informes financieros. Esto se configura al editar el equipo después de su creación.

Prácticas Recomendadas​

  • Use sufijos de entorno en los nombres de los equipos (-prod, -staging, -dev). Todos los informes posteriores llevarán este sufijo; una convención coherente vale más que una ingeniosa.
  • Los presupuestos flexibles sin alertas no tienen ningún efecto. Cree una regla de presupuesto con alcance de Team al configurar un presupuesto flexible, o utilice únicamente el presupuesto fijo.
  • Mantenga la lista de modelos permitidos reducida. Un equipo que solo necesita gpt-4o no debería tener claude-3-opus en su lista; la lista de modelos permitidos es el control de gobernanza más económico de la plataforma.
  • Active Seguridad + Observabilidad para todos los equipos de producción. La sobrecarga es insignificante; el valor forense cuando algo falla es considerable.

Páginas Relacionadas​