The Daily Journal.- Este lunes 19 de octubre, la compañía tecnológica Microsoft anunció Guardian Agents, un nuevo sistema de seguridad diseñado para revisar las acciones de los agentes de inteligencia artificial (IA) antes de que se ejecuten, optimizando la ciberdefensa corporativa. El lanzamiento forma parte de Project Perception, el mecanismo de protección agéntica que la compañía presentó en junio, enfocado hasta ahora en defender a las organizaciones de atacantes externos.
En este sentido, la iniciativa marca un cambio de enfoque. Un agente de IA es un modelo que ejecuta acciones utilizando herramientas, datos y permisos de la empresa. Por lo tanto, el anuncio llega con una advertencia: según Microsoft, los modelos de frontera no se pueden confiar ni siquiera cuando los despliega el propio equipo interno.
El fin de la confianza ciega en los modelos
Hayete Gallot, jefa del negocio de seguridad de Microsoft, afirmó que los modelos de vanguardia «no se pueden confiar, independientemente de su origen«. No obstante, esta desconfianza no nace de que los sistemas sean maliciosos o fáciles de hackear, sino de su imprevisibilidad inherente, pues fueron entrenados para cumplir tareas específicas, no para seguir normas organizacionales estrictas.
Además, el director ejecutivo (CEO por sus siglas en inglés) de Microsoft, Satya Nadella, respaldó esta postura en su blog personal, argumentando que las empresas necesitan sistemas independientes para vigilar a los agentes. Nadella escribió textualmente: «Estamos desplegando estos complejos sistemas y modelos de inteligencia artificial, con acceso a nuestros datos más sensibles y la capacidad de tomar medidas cruciales en nuestro nombre. Sencillamente, no podemos delegar la responsabilidad de lo que la inteligencia hace por nosotros. Las garantías de un proveedor de modelos no nos eximen de esa responsabilidad».
¿Cómo operan los Guardian Agents?
Project Perception coordina tres clases de agentes en un ciclo continuo de protección. Por un lado, el equipo rojo actúa como atacante para buscar vulnerabilidades antes que los ciberdelincuentes. Por otro lado, el equipo azul investiga y evalúa cuáles de esos riesgos son realmente relevantes para la organización. Finalmente, el equipo verde refuerza las defensas en todo el entorno tecnológico.
Guardian Agents se suma a este ciclo, pero apuntando hacia adentro de la organización. El sistema reúne señales de identidad, datos, nube, endpoints, red y runtime para descubrir los agentes que ya operan en la empresa y ponerlos bajo gestión. De esta manera, cada agente recibe identidad, contenedor, políticas y permisos específicos. La plataforma calcula dinámicamente el riesgo de lo que el agente intenta hacer y ajusta sus permisos. Microsoft resume este concepto como «controles deterministas sobre inteligencia no determinista«.
Asimismo, Microsoft Defender incorporó una función de detección capaz de identificar hasta 60 tipos de agentes que los empleados traen al entorno laboral, entre ellos Claude Code, Codex y OpenClaw. Si un agente parece estar tomando decisiones riesgosas, el sistema exige aprobación humana. Gallot enfatizó: «Necesitamos comprender en tiempo real qué hacen los agentes y qué riesgos generan esas acciones, y debemos ajustar su capacidad de actuación en consecuencia«.
Cifras que alertan al sector sobre la amenaza interna
La preocupación no es meramente teórica. Un experimento de ciberseguridad de OpenAI, reseñado por IBTimes, demostró que cuando muchos agentes operan sin supervisor, alrededor de 1.200 agentes intercambiaron más de 70.000 mensajes y archivos, y unos 700 terminaron participando en un ataque contra Hugging Face, obteniendo acceso root y a datos privados con conductas no previstas en su diseño.
Por su parte, según el informe de Proofpoint sobre riesgos de IA y factor humano para 2026, el 87% de las organizaciones ya superó la fase piloto con asistentes de IA, pero el 52% no confía en que sus controles actuales puedan detectar una vulneración. En el ámbito bancario, el Índice de Madurez de la IA 2026 de ServiceNow muestra que el 100% de los bancos afirma usar inteligencia artificial, pero solo el 24% dispone de mecanismos de gobernanza acordes con ese nivel de adopción.
Implicaciones para el ecosistema empresarial
A pesar de que Microsoft mantiene una relación estrecha con OpenAI y Anthropic, la compañía promueve la idea de que el software supervisor debe ser independiente del proveedor de modelos.
Para las startups, empresas e instituciones del Estado, este anuncio adquiere pertinencia. Al respecto, se recomienda hacer un inventario de agentes, aplicar permisos por tarea y no por persona, exigir registros auditables independientes y definir aprobaciones humanas para decisiones de alto impacto. El mensaje central es claro: no necesitas predecir cada comportamiento del modelo, necesitas un sistema que siga siendo seguro incluso cuando el modelo no lo es.
Con información de Microsoft y El Ecosistema Startups
