Protege los agentes de Copilot Studio con Microsoft Defender
Microsoft Defender ahora ofrece protección en tiempo real durante la ejecución de agentes creados con Copilot Studio.
Crear agentes de IA nunca ha sido tan fácil. Plataformas como Microsoft Copilot Studio democratizan la creación de agentes de IA y permiten que usuarios sin conocimientos técnicos construyan agentes inteligentes que automatizan tareas y optimizan procesos empresariales. Estos agentes pueden responder preguntas, orquestar tareas complejas e integrarse con sistemas empresariales para aumentar la productividad y la creatividad. Las organizaciones están adoptando un futuro en el que cada equipo cuenta con agentes de IA que trabajan junto a ellos para mejorar la eficiencia y la capacidad de respuesta.
Aunque los agentes de IA abren nuevas posibilidades emocionantes, también introducen nuevos riesgos de seguridad, especialmente los ataques de inyección de instrucciones (prompt injection) y una superficie de ataque más amplia. Los atacantes ya están probando formas de explotarlos, como abusar de los permisos de herramientas, introducir instrucciones maliciosas o engañar a los agentes para que compartan datos confidenciales.
La inyección de instrucciones es especialmente preocupante porque ocurre cuando un atacante introduce entradas maliciosas para alterar el comportamiento previsto del agente.
Estos riesgos no se deben a fallos en Copilot Studio ni en ninguna plataforma específica, sino que son un desafío natural derivado de la democratización del desarrollo de IA. A medida que más personas crean y despliegan agentes, la protección sólida en tiempo real será clave para mantenerlos seguros.
Para ayudar a las organizaciones a desbloquear de forma segura el potencial de la IA generativa, Microsoft Defender ha introducido innovaciones que van desde la detección de IA en la sombra hasta la protección contra amenazas lista para usar en aplicaciones de IA generativa predefinidas y personalizadas.
Microsoft Defender ahora ofrece protección en tiempo real durante la ejecución de agentes creados con Copilot Studio. Detiene automáticamente acciones inseguras si se detecta un comportamiento sospechoso, como un intento de inyección de instrucciones, y notifica al equipo de seguridad con una alerta detallada en el portal de Defender. Esta protección en tiempo de ejecución forma parte del enfoque integral de Microsoft para proteger los agentes de IA de Copilot Studio.
Supervisa la actividad de los agentes de IA en tiempo de ejecución y detecta ataques de inyección de instrucciones
Las inyecciones de instrucciones son especialmente peligrosas porque explotan la lógica de IA que impulsa estos agentes. Una entrada bien diseñada puede hacer que el modelo de lenguaje subyacente ignore sus mecanismos de seguridad o revele secretos que debería mantener ocultos. Con miles de agentes operando e interactuando con entradas externas, el riesgo no es teórico: es una preocupación urgente que crece con cada nuevo agente desplegado.
La nueva protección en tiempo real para agentes creados con Copilot Studio añade una red de seguridad en el momento más crítico: cuando el agente está en funcionamiento. Ayuda a proteger a los agentes durante su operación, reduciendo la probabilidad de que entradas maliciosas los exploten.
Microsoft Defender ahora supervisa en tiempo real las llamadas de invocación de herramientas por parte del agente. Si se detecta una acción sospechosa o de alto riesgo, como un patrón conocido de inyección de instrucciones, la acción se bloquea antes de ejecutarse. El agente detiene el procesamiento e informa al usuario de que su solicitud ha sido bloqueada por motivos de seguridad. Por ejemplo, si un agente de RRHH es engañado por una instrucción oculta para enviar información confidencial sobre salarios, Defender detectará esta acción no autorizada y la bloqueará antes de que se invoque cualquier herramienta.
Investiga comportamientos sospechosos de agentes en una experiencia unificada
Los ataques actuales son dirigidos y de múltiples etapas. Cuando Defender detiene una actividad riesgosa de un agente de Copilot Studio en tiempo de ejecución, genera una alerta y comienza a correlacionar señales relacionadas en correo electrónico, dispositivos, identidades, aplicaciones y la nube en un único incidente. Esto construye la narrativa completa del ataque, a menudo antes de que alguien revise la cola, para que el SOC (Centro de Operaciones de Seguridad) pueda ver cómo están siendo atacados y qué hacer a continuación.
En el portal de Microsoft Defender, los incidentes llegan enriquecidos con líneas de tiempo, relaciones entre entidades, TTPs relevantes e inteligencia de amenazas. La investigación y respuesta automatizadas recopilan pruebas, determinan el alcance y recomiendan o ejecutan medidas de remediación para reducir el tiempo de análisis. Con Security Copilot integrado, los analistas reciben resúmenes instantáneos de incidentes, respuestas guiadas y búsquedas en lenguaje natural, además de inteligencia contextualizada para acelerar el análisis profundo y adelantarse a las amenazas.
Si utilizas Microsoft Sentinel, la experiencia unificada del SOC reúne los incidentes de Defender XDR con datos de terceros. Y con el nuevo data lake de Microsoft Sentinel, los equipos pueden conservar y analizar años de datos de seguridad en un solo lugar, y luego buscar en ese historial usando instrucciones en lenguaje natural que Copilot traduce a KQL.
Como la protección en tiempo de ejecución ya detiene las acciones inseguras de los agentes de Copilot Studio, la mayoría de las alertas individuales no requieren intervención inmediata. Pero el SOC aún necesita saber cuándo están siendo atacados de forma persistente. Defender detecta automáticamente patrones emergentes, como actividad sostenida de un mismo actor o técnica, y, cuando se justifica y hay un escenario de apoyo como ransomware, puede activar la interrupción automática del ataque para contener amenazas activas mientras los analistas revisan.
Para los creadores de Copilot Studio, Defender extiende la misma protección a los agentes de IA: protección en tiempo real durante la ejecución para evitar acciones inseguras e intentos de inyección de instrucciones, y las detecciones se correlacionan e investigan automáticamente, sin mover datos fuera de un XDR líder en la industria y de confianza.
Al integrar la seguridad en el tiempo de ejecución de los agentes de IA, Microsoft Defender ayuda a las organizaciones a aprovechar todo el potencial de Copilot Studio manteniendo la confianza y el control que necesitan. La protección en tiempo real durante la ejecución del agente es un paso fundamental en el camino de Microsoft para asegurar el futuro de los agentes de IA, sentando las bases para capacidades más avanzadas que llegarán próximamente a Microsoft Defender.
Con esta nueva capacidad, las organizaciones pueden sentirse más seguras al usar agentes de IA, sabiendo que Microsoft Defender los supervisa en tiempo real para mantener sus entornos protegidos.
Información basada en la publicación oficial de Microsoft: Protect Copilot Studio AI Agents in Real Time with Microsoft Defender.
