Protección avanzada en tiempo real en Copilot Studio
Copilot Studio incorpora protección avanzada en tiempo real que evalúa y controla el comportamiento de agentes antes de ejecutar acciones.
Se evalúa y controla el comportamiento de los agentes inspeccionando las solicitudes de los usuarios antes de que el agente ejecute cualquier acción, permitiendo detectar y bloquear actividades sospechosas antes de que puedan causar daños o pérdidas de datos.
Seguridad por defecto
Copilot Studio incluye defensas automáticas contra ataques de inyección de prompts, tanto cruzados (XPIA) como de usuario (UPIA). Estas protecciones bloquean en tiempo real los prompts sospechosos, reduciendo el riesgo de acciones no autorizadas o fuga de información.
Integración con sistemas de monitorización avanzados
Para necesidades de seguridad más exigentes, las organizaciones pueden conectar Copilot Studio con sistemas de monitorización externos, como:
- Microsoft Defender
- Proveedores de seguridad de terceros
- Herramientas de monitorización personalizadas
Funcionamiento
Antes de ejecutar cualquier acción, Copilot Studio envía el plan del agente al sistema de monitorización externo mediante una llamada API. Los datos enviados incluyen:
- El prompt del usuario y el historial de chat
- Detalles de las herramientas y valores de entrada
- Metadatos como el ID del agente, ID de usuario y ID de tenant
Bloqueo de acciones sospechosas
Si el sistema determina que el prompt es sospechoso:
- Se bloquea la invocación de la herramienta antes de que se ejecute
- El usuario recibe una notificación informando del bloqueo
- Si se utiliza Microsoft Defender, se genera una alerta que aparece en el panel de incidentes y alertas de XDR
Ejemplo práctico
Si el sistema detecta que el agente va a enviar un correo electrónico que podría compartir información sensible, la acción se bloquea y el correo no se envía.
Registro y auditoría
Copilot Studio genera registros detallados de auditoría para cada interacción externa. Los administradores pueden utilizar estos logs para detectar brechas de seguridad, identificar agentes vulnerables y mejorar las políticas de despliegue analizando tendencias y guiando a los creadores de agentes.
Disponibilidad para Copilot Studio
La protección en tiempo real está disponible para agentes “custom engine” creados con la versión completa de Copilot Studio, no para agentes de Copilot Studio lite.
Valor añadido
Esta nueva funcionalidad añade una capa extra de seguridad, ayudando a que los agentes de IA sean más resistentes frente a amenazas emergentes y garantizando la protección de los datos y procesos empresariales.
Información basada en la publicación oficial de Microsoft: Strengthen agent security with real-time protection in Microsoft Copilot Studio.
