Una serie de fallos en varios sistemas informáticos críticos encendieron las alarmas en Estados Unidos. En menos de una semana, problemas técnicos afectaron a Microsoft, provocaron la suspensión de vuelos en todo el país, interrumpieron operaciones bancarias y alcanzaron a la red de la Agencia de Seguridad Nacional (NSA). Aunque las autoridades descartaron que los incidentes estuvieran relacionados con ciberataques, la situación ha reavivado las preocupaciones sobre la vulnerabilidad de las infraestructuras digitales e incluso ha despertado las sospechas de algunos expertos.
Para el científico en computación peruano Ragi Yaser Burhum, la coincidencia de tantos incidentes en un periodo tan corto resulta, por lo menos, sospechosa. Sin embargo, su preocupación va más allá de lo ocurrido en EE.UU. El reciente caso de Binance y los ataques perpetrados contra instituciones bolivianas advierten sobre una tendencia emergente: una en la que los agentes de inteligencia artificial pueden ejecutar tareas maliciosas sin necesidad de supervisión humana constante y sin descanso.
“Si hubiera sido uno, dos o tres, tal vez te diría no está relacionado, pero obviamente son demasiados”, sostiene Burhum.
Un informe del 16 de noviembre de Google Threat Intelligence Group documentó cómo los ciberdelincuentes utilizan agentes de IA para automatizar distintas fases de sus operaciones, desde la búsqueda de vulnerabilidades hasta su explotación. Tres días antes, el FBI emitió una alerta advirtiendo cómo actores maliciosos utilizan ARTEX, una herramienta de código abierto basada en agentes de IA, para automatizar ataques y, en algunos casos, conseguir accesos privilegiados en menos de tres horas.
Se trata de un cambio que podría multiplicar la velocidad y el alcance de los ataques informáticos, y frente al cual Burhum considera que el Perú se encuentra especialmente vulnerable.
Los modelos de inteligencia artificial generativa se popularizaron hace unos años a nivel mundial. Cada vez son más utilizados en múltiples labores de diferentes industrias, incluso para el crimen.
El experto peruano explica a El Comercio que la mayoría de modelos de IA conocidos, como los de OpenAI o Anthropic, cuentan con restricciones de seguridad o ‘guardrails’, que sirven como una suerte de guía de conducta que no deben sobrepasar, de tal manera que, si un usuario quisiera saber “cómo hackear el sistema de una organización”, se le limitaría la respuesta.
Sin embargo, existen modelos modificados a los que se les han eliminado o reducido tales restricciones. Se les conoce como ‘obliterated’. Su finalidad no necesariamente es perniciosa.
La capacidad de la IA para identificar vulnerabilidades también tiene aplicaciones defensivas. Una muestra de ello es Project Glasswing, una iniciativa lanzada en abril de este año por Anthropic, la empresa desarrolladora de Claude. El proyecto utiliza un avanzado modelo de IA de la familia Mythos, capaz de identificar vulnerabilidades informáticas que, en algunos casos, han permanecido ocultas durante décadas. Aunque su propósito es ayudar a las organizaciones a detectar debilidades en sus sistemas, en malas manos, estas capacidades podrían convertirse en un arma peligrosa. Debido a sus riesgos, Anthropic mantiene restringido el acceso a estos modelos a organizaciones autorizadas, incluidas empresas tecnológicas y del sistema financiero.
Pero estos modelos no actúan necesariamente solos. Pueden combinarse con programas conocidos como ‘harnesses’, que funcionan como una suerte de caja de herramientas que les permite ejecutar distintas acciones. “El modelo de IA hace el razonamiento y los harnesses tienen las herramientas”, explica Burhum. De esta manera, un agente puede identificar vulnerabilidades, ejecutar acciones y modificar sus estrategias sin necesidad de recibir instrucciones humanas en cada paso.
Sin embargo, todas estas capacidades también plantean nuevos riesgos. En julio de este año, OpenAI reconoció que varios de sus agentes de IA, mientras eran sometidos a pruebas de ciberseguridad en ambientes controlados, consiguieron superar las restricciones del entorno en el que operaban y accedieron a sistemas externos, incluidos los de Hugging Face, un conocido repositorio de modelos de IA.
Según la investigación de OpenAI, los agentes, que operaban bajo restricciones de seguridad reducidas para las pruebas, identificaron y aprovecharon vulnerabilidades informáticas para acceder a internet —habían sido aislados para no hacerlo— y posteriormente ingresar a sistemas de terceros. Lo más llamativo es que estas acciones no fueron ordenadas directamente por una persona. Los sistemas buscaban completar las tareas asignadas durante la evaluación, pero terminaron ejecutando acciones que excedían sus límites autorizados.
Este es, precisamente, uno de los grandes cambios que destaca Burhum frente a los ataques informáticos tradicionales. “Antes las otras cosas requerían saber lo que estabas haciendo. En los ataques con IA agéntica te puedes ir a dormir”, señala el especialista, para ilustrar cómo estas herramientas pueden continuar ejecutando acciones incluso cuando sus responsables no están supervisándolas.
La infraestructura digital sobre la que se sostiene nuestra sociedad empezó a construirse hace décadas. Y muchos de esos sistemas no han sido actualizados. ¿Por qué es peligroso?
Los agentes de IA tienen una gran facilidad para encontrar vulnerabilidades ‘zero-day’ (día cero). Estas vulnerabilidades son fallas de seguridad desconocidas para los responsables de los sistemas o para las que todavía no existe una solución disponible, y que pueden ser aprovechadas por un atacante para ingresar sin autorización. Se llaman “día cero” porque los desarrolladores no han tenido tiempo de preparar una corrección cuando el fallo es descubierto o explotado.
El problema es que ahora la inteligencia artificial puede buscar tales fallas de manera continua, sin descanso y sin supervisión humana constante.
“Tenemos que entender también que nosotros, como civilización, tenemos deuda técnica”, señala el experto. Burhum explica que, pese a los esfuerzos de los programadores por desarrollar sistemas seguros, la inteligencia artificial está permitiendo descubrir errores que han permanecido ocultos durante décadas y que ahora pueden ser aprovechados a una velocidad superior a la capacidad humana.
El especialista pone como ejemplo el núcleo de Linux, uno de los componentes fundamentales de este sistema operativo, en el que también se han encontrado vulnerabilidades. “Entonces imagínate los sistemas informáticos que no tienen ni siquiera ese mismo tipo de rigurosidad, y aun así son los que están manejando los trenes, aviones, radar, todo ese tipo de cosas”, agrega.
Que las fallas registradas en distintos sistemas informáticos sean pura coincidencia no le parece a Burhum un argumento tan convincente. “Todos te dicen: es un bug, es un bug, es un bug”, comenta. Sin embargo, recuerda que precisamente una de las capacidades de los agentes de IA es encontrar errores informáticos, incluso aquellos que todavía son desconocidos.
Tampoco tendrían que ser necesariamente ataques por parte de un criminal o adversario político. “Puede ser parte de un [...] entrenamiento que se salió de control, fácilmente puede ser eso”, sostiene. Y agrega que no necesariamente tendría que ocurrir en Estados Unidos, sino que podría tratarse de experimentos realizados en otros países.
El experto comenta que hoy por hoy conseguir herramientas para crear agentes de IA es relativamente fácil y barato. No necesariamente se requieren grandes conocimientos ni demasiada inversión. Es posible encontrar modelos de pesos abiertos ‘obliterated’ en repositorios, así como los llamados ‘harnesses’. Para ejecutarlos, se puede recurrir a servicios de computación en la nube.
“¿Cuánto me costaría? Necesito 8 de esas máquinas B200, H100, H200, dependiendo de qué modelo estoy corriendo”, explica Burhum. Según su estimación, una configuración de ocho unidades de procesamiento de alto rendimiento podría costar alrededor de 68 dólares por hora en la nube, lo que representaría aproximadamente 200 dólares por tres horas de operación.
Frente a este panorama, surge una preocupación: ¿estamos preparados para enfrentar esta nueva generación de ataques cibernéticos? Para Burhum, la respuesta no es tan alentadora.
“Estamos desnudos, estamos desnudos para esto”, advierte el especialista. Según explica, mientras las instituciones no utilicen herramientas de IA para revisar continuamente su infraestructura informática, será difícil conocer las vulnerabilidades que permanecen ocultas en sus sistemas y anticiparse a posibles ataques.
El riesgo, según Burhum, alcanza especialmente a las instituciones públicas, incluidos los gobiernos locales, que en los últimos años ya han sido víctimas de ataques informáticos. El problema es que, con la automatización, estas amenazas podrían multiplicarse, al permitir que los ciberdelincuentes examinen numerosos sistemas de manera simultánea y sin descanso.
“Tú mira los hackeos de los años pasados, eso por 10, por 100 es lo que vas a tener ahora”, comenta.
Ante esta situación, el científico plantea una alternativa: desarrollar un modelo de inteligencia artificial soberano. Es decir, un sistema que el Estado peruano pueda adaptar a sus propias necesidades y utilizar para proteger su infraestructura digital.
No se trataría de crear una inteligencia artificial desde cero, sino de aprovechar modelos de pesos abiertos, disponibles para su modificación, y adaptarlos a las necesidades y reglas de seguridad del país. De esta manera, el Estado podría utilizar agentes de IA para revisar preventivamente sus sistemas informáticos, identificar vulnerabilidades y corregirlas antes de que sean aprovechadas por terceros.
“Entonces, lo que el Estado puede hacer en esta situación es, preventivamente, escanear su propia infraestructura crítica para encontrar estos errores antes que a otro se le ocurra”, señala.
Estas preocupaciones ya han sido trasladadas a las autoridades peruanas. Burhum asegura que durante los últimos meses ha sostenido reuniones con representantes del Gobierno y congresistas para advertirles sobre los riesgos de los ataques agénticos. Además, anunció que este jueves 19 de noviembre expondrá sus planteamientos ante la Comisión de Defensa y Orden Interno del Senado.


