Saltar al contenido principal

Shadow AI

La página Shadow AI se encuentra bajo el encabezado Security · Shadow AI y ofrece a los equipos de seguridad y cumplimiento una visión consolidada de qué servicios web de IA están utilizando los empleados a través de sus navegadores, con qué frecuencia se usan esos servicios y cuántas de esas interacciones activaron acciones de política DLP. El informe se construye a partir de los eventos de análisis de endpoints capturados por la extensión de navegador de Beak en todos los dispositivos vinculados.

Cada fila del informe representa una aplicación de IA. El uso se agrega durante una ventana de tiempo configurable y se segmenta según el estado de sanción registrado en el catálogo de AI Sites. Los servicios que aún no han sido evaluados aparecen como Unrated, lo que convierte esta página en una herramienta de descubrimiento eficaz para identificar herramientas de IA en uso activo que aún no han pasado por una revisión de seguridad.

Encabezado de Página y Filtros​

El encabezado de la página muestra el título Shadow AI y el subtítulo "Servicios de IA a los que acceden sus usuarios, desglosados por estado de sanción." En la barra de herramientas aparecen dos controles de filtro:

  • Period — Selecciona la ventana de retrospectiva para la agregación. Las opciones son 7 days, 30 days y 90 days. El valor predeterminado es 30 days. Al cambiar el período, el informe se recarga de inmediato.
  • Filter — Reduce la tabla a una única categoría de sanción. Las opciones son:
    • All apps — Muestra todos los servicios con actividad en la ventana seleccionada.
    • Sanctioned — Muestra únicamente los servicios aprobados por su organización.
    • Unsanctioned — Muestra únicamente los servicios prohibidos o no aprobados por su organización.
    • Unrated — Muestra únicamente los servicios que aún no han recibido una decisión de sanción, lo que facilita identificar vacíos en la revisión de la política de sitios de IA.

Tabla de Uso de Shadow AI​

La tabla presenta una fila por cada aplicación de IA que registró actividad de análisis en el período seleccionado. Las columnas son:

  • Application — El nombre visible del servicio en negrita, con el nombre del proveedor debajo en un tono secundario cuando está disponible. Las aplicaciones cuyo patrón de host aún no está en el catálogo de AI Sites aparecen aquí con el nombre derivado del evento de análisis.
  • Sanctioned — Una insignia con código de color que refleja la decisión de estado de sanción actual registrada en AI Sites:
    • Sanctioned — Se muestra en verde; el servicio ha sido aprobado.
    • Unsanctioned — Se muestra en rojo; el servicio ha sido prohibido o no está aprobado.
    • Unrated — Se muestra en gris neutro; aún no se ha registrado ninguna decisión.
  • Scans — Número total de eventos de análisis registrados para esta aplicación en la ventana seleccionada, presentado en estilo numérico tabular.
  • Users — Cantidad de usuarios distintos cuyos dispositivos generaron al menos un análisis para esta aplicación en la ventana.
  • Devices — Cantidad de dispositivos vinculados distintos que registraron actividad en esta aplicación.
  • Blocks — Número de eventos de análisis en los que el motor de reglas DLP ejecutó una acción de block. Se muestra en rojo cuando es distinto de cero para llamar la atención sobre el uso que infringe políticas.
  • Warns — Número de eventos de análisis en los que el motor de reglas ejecutó una acción de warn. Se muestra en ámbar cuando es distinto de cero.
  • Redactions — Número de eventos de análisis en los que el motor de reglas redactó automáticamente contenido sensible antes de que el prompt llegara al servicio de IA.
  • Last seen — Marca de tiempo del evento de análisis más reciente registrado para esta aplicación, mostrada en la zona horaria local del navegador.

Mejores Prácticas​

  • Priorice los servicios sin calificar primero — Utilice el filtro Unrated combinado con las columnas Scans y Users para priorizar qué servicios de IA revisar en AI Sites. Un alto número de análisis de aplicaciones sin calificar representa un riesgo desconocido.
  • Investigue recuentos elevados de bloqueos y advertencias — Las aplicaciones con cifras significativas en Blocks o Warns indican que los usuarios están intentando pegar contenido sensible en herramientas de IA; revise los incidentes subyacentes en la página Incidents para comprender la naturaleza de los hallazgos.
  • Use la ventana de 90 días para el análisis de tendencias — La ventana más larga revela si el uso de IA no sancionada está creciendo o disminuyendo con el tiempo tras las intervenciones de política.
  • Actúe sobre las redacciones — Un recuento elevado en Redactions significa que la extensión está protegiendo activamente a su organización, pero también indica que los usuarios intentan regularmente compartir datos sensibles con servicios de IA; considere reforzar la aplicación de políticas o la formación de usuarios.
  • Realice referencias cruzadas con la cobertura de dispositivos — Si un servicio de IA muestra recuentos de análisis inesperadamente bajos, verifique en Devices que todos los endpoints esperados estén vinculados y hayan enviado un latido reciente.

Páginas Relacionadas​

  • Overview — Descripción general del producto Beak AI Security.
  • AI Sites — Establezca el estado de sanción de cada servicio de IA para refinar cómo este informe categoriza el uso.
  • Devices — Administre las extensiones de navegador vinculadas que generan los datos de análisis subyacentes.
  • Incidents — Explore en detalle los eventos de análisis individuales y las decisiones DLP que hay detrás de los recuentos de bloqueos, advertencias y redacciones.