Durante años, los ejercicios de simulación evaluaban si las personas tomaban las decisiones correctas bajo presión. Ahora que la IA redacta manuales, clasifica alertas y propone respuestas durante incidentes reales, también debe formar parte de la prueba.
Los ejercicios de simulación existen para responder a una pregunta: cuando algo falla, ¿las personas responsables de arreglarlo tomarán realmente la decisión correcta, en el orden adecuado y con la rapidez necesaria? Durante años, la respuesta dependió casi totalmente de los humanos: su formación, sus manuales de procedimientos y su criterio bajo presión. Se daba por sentado que las herramientas eran estáticas. Siempre hemos puesto a prueba a las personas porque ellas eran la variable.
Esa suposición ya no es válida.
En Webflow, hemos pasado un año integrando la IA en partes de la respuesta ante incidentes que antes eran puramente humanas: clasificar alertas, seleccionar el manual adecuado, proponer respuestas e incluso redactar el análisis posterior al incidente (PIA) y sus tareas de seguimiento. Ya hemos hablado anteriormente de cómo esto ha multiplicado la capacidad de nuestro equipo de seguridad en lugar de reemplazarlo, pero hay una consecuencia de este cambio que aún no vemos que muchos equipos estén abordando. Si la IA realiza trabajo real durante un incidente, ahora es parte de lo que un ejercicio de simulación debe evaluar. No solo si los responsables conocen los manuales, sino si el sistema que debe entregárselos realmente lo hace, y si lo hace correctamente, bajo la misma presión que antes solo se aplicaba a los humanos.
Este no es solo un problema del equipo de seguridad. Cualquier equipo que haya permitido silenciosamente que un sistema de IA se convierta en parte de su respuesta (enrutamiento de escaladas de clientes en soporte, clasificación de interrupciones en SRE, resolución automática de solicitudes de acceso en TI) tiene la misma dependencia sin probar en su proceso. Si los formatos de tus ejercicios de simulación no han cambiado desde que integraste la IA en tus sistemas, estás evaluando a un equipo que ya no existe, y eso te deja a ciegas ante posibles brechas.
Antes, los ejercicios de simulación evaluaban a las personas. Ahora deben evaluar a todo un sistema.
El diseño clásico de los ejercicios de simulación asumía un conjunto fijo de herramientas y un conjunto variable de humanos. El escenario cambia, pero las inyecciones se construyen en torno a puntos de decisión: quién recibe el aviso, quién tiene autoridad para tomar la decisión y si se sigue el manual bajo estrés. Las herramientas son solo el decorado; no fallan ni engañan, y no necesitan su propio apartado en el informe posterior a la acción.
Eso ya no es cierto cuando la IA se interpone entre tu equipo y la información sobre la que actúan. Si tu sistema de clasificación resume las alertas, un fallo de la IA durante un incidente real no parece un servidor caído. Parece un resumen que es erróneo pero suena convincente, o una recuperación de documentos que extrae un manual obsoleto porque coincide mejor con las palabras clave que el actual, o una acción de respuesta sugerida que suena razonable pero que es discretamente insegura. Esos fallos son silenciosos. No generan un error. Simplemente hacen que tus responsables sean más lentos o potencialmente se equivoquen sin que nadie se dé cuenta hasta más tarde. Un ejercicio de simulación que nunca incluye uno de estos fallos solo está probando la mitad del sistema que realmente estará funcionando durante un incidente real.
Lo que realmente debe incluirse en el ejercicio ahora
Algunas categorías de fallos son lo suficientemente nuevas como para que la mayoría de las bibliotecas de ejercicios existentes aún no tengan inyecciones para ellas. Vale la pena incluirlas:
La IA da una respuesta incorrecta o incompleta con total seguridad. Este es el punto más importante y el más fácil de pasar por alto, porque resulta incómodo diseñar pruebas contra tus propias herramientas. Ejecuta un escenario donde el paso de clasificación asistido por IA alucina la causa raíz, o la búsqueda en el manual devuelve un documento que es parecido pero está desactualizado. La prueba no es si la IA tiene razón. Eventualmente alucinará; eso es un hecho. La prueba es si tus responsables se dan cuenta y si tienen el hábito de verificar en lugar de confiar ciegamente.
Disponibilidad del sistema de IA. Esta es la versión más crítica del problema para los equipos de seguridad: ¿qué sucede cuando aquello en lo que normalmente te apoyas para investigar un compromiso es lo que está comprometido, o está fuera de línea porque el incidente lo dejó inoperativo? La mayoría de los equipos tienen un plan de respaldo para cuando "el SIEM está caído". Pocos han ensayado qué hacer cuando "el sistema de IA que usamos para clasificar no está disponible, y la mitad del equipo nunca ha realizado una clasificación sin él". Esa brecha no aparece hasta que la buscas.
Las medidas de seguridad se prueban bajo presión real, no en una demostración. Las medidas de seguridad que funcionan en una revisión de diseño tranquila a menudo se evaden silenciosamente cuando alguien lleva tres horas en un incidente y solo quiere que la IA tome la acción en lugar de redactar una sugerencia para que un humano la apruebe. Una buena inyección en un ejercicio de simulación coloca al responsable exactamente en esa posición y observa lo que hace, no lo que la política dice que debería hacer.
Nadie recuerda cómo hacerlo a la antigua. La otra cara de la moneda de que la IA haga bien la clasificación y la recuperación de documentos es que la memoria muscular para hacerlo manualmente se atrofia. Si tu equipo ha pasado un año con la IA mostrando de forma fiable el manual correcto en segundos, la mayoría no ha buscado personalmente en la documentación bajo presión de tiempo en mucho tiempo. Pon a prueba esa habilidad directamente, a propósito, antes de que un incidente te obligue a descubrir si se ha perdido.
El punto de transferencia no está claro. La respuesta asistida por IA funciona porque existe un límite: la IA muestra y sugiere, un humano en el proceso decide y actúa. Los ejercicios de simulación son un buen lugar para descubrir si ese límite es realmente comprendido por las personas que operan en él, o si solo está escrito en algún lugar. Crea una inyección donde la sugerencia "obviamente correcta" de la IA sea sutilmente errónea, y observa quién la detecta y quién no.
Lo que esto significa para la forma en que ejecutas el ejercicio
Nada de esto requiere desechar tu programa de simulación actual. Requiere añadirle una capa. Algunos cambios prácticos:
Escribe inyecciones que se dirijan específicamente a la capa de IA, no solo a la capa humana. Si tu documento de escenario solo describe lo que sucede con los sistemas y las personas, y nunca lo que sucede con las herramientas de IA que se interponen entre ellos, te estás perdiendo una categoría de fallo que ahora es parte de tu superficie de ataque real para la calidad de la respuesta.
Incluye en el ejercicio a las personas que crean y mantienen las herramientas de IA, no solo a los responsables que las usan. A menudo son los únicos que realmente entienden los modos de fallo que vale la pena inyectar, y el ejercicio es una buena forma de obligarles a pensar también en ello.
Evalúa tus herramientas de IA de confianza, no solo el cumplimiento de procesos. La pregunta tradicional tras una acción es "¿siguió el equipo el manual?". La nueva pregunta que debe acompañarla es "¿confió el equipo en el sistema de IA en la medida justa?", ni tan poco que desperdicies la inversión, ni tanto que una respuesta errónea se convierta en un incidente por sí misma.
No te conformes con un "ya lo probamos una vez". Los sistemas de IA cambian: los modelos se actualizan, se añaden fuentes de recuperación y se ajustan las salvaguardas de formas que tu documentación estática no refleja. Un simulacro que puso a prueba tu proceso de respuesta asistido por IA hace un año está evaluando un sistema que ya no existe.
La parte incómoda
Los equipos con más probabilidades de saltarse esto son los que han tenido más éxito con la respuesta asistida por IA, porque como funciona, probarlo parece buscar problemas donde no los hay. Es justo al revés. Cuanto más peso soporta el sistema de IA, más caro resulta descubrir sus fallos durante un incidente real en lugar de uno simulado. No integramos la IA en nuestro proceso de respuesta para hacerlo frágil. Los simulacros sirven para asegurarnos de que no lo hemos hecho.
Si tu equipo depende de la IA para triaje, recuperación o respuesta, ya sea en seguridad o en cualquier otro ámbito, la pregunta que debes hacerte este trimestre no es si tu personal está listo para el próximo incidente. Es si realmente has probado el sistema en el que van a confiar para superarlo.
Pon a prueba el sistema antes de que el incidente lo haga por ti.
