Los cuatro pesares que inquietan a los amos de la inteligencia artificial

Me quedé sin luz tres horas la semana pasada. No por una tormenta ni por un corte programado: alguien, en algún lugar, apretó un botón equivocado. Mientras esperaba que volviera la señal, encendí una vela y pensé algo que, después de leer este informe, me parece menos paranoico y más razonable: si a mí me complica perder el suministro eléctrico por un rato, imaginen lo que sería un apagón orquestado con inteligencia artificial. Eso mismo es lo que desvela a los directivos de OpenAI, Anthropic y otras compañías del sector, que ya trabajan en planes de respuesta para cuatro escenarios de alto impacto.

Aclaremos algo antes de seguir, para no asustar a nadie en la mesa del domingo. Prepararse no es anunciar que la catástrofe está al caer. Es, simplemente, admitir que los sistemas son cada vez más capaces, están más extendidos y conviene tener un manual de instrucciones listo por si las moscas. Dicho eso, vamos a los cuatro fantasmas.

El escenario más temido: un ciberataque a lo grande

El primero, y el que más preocupa, es un ciberataque que tumbe infraestructura crítica. Piensen en bancos, redes de comunicación, electricidad o agua: el corazón mismo de la vida moderna, lo que en casa llamaríamos perder la llave de la casa, el agua caliente y la conexión al mismo tiempo. La diferencia ahora es que un atacante con IA puede revisar el sistema en busca de fallos, escribir código malicioso y automatizar pasos que antes requerían un hacker con varias temporadas de experiencia encima.

El reporte internacional de seguridad en IA de 2026 ya documenta evidencia de grupos maliciosos que están usando estos modelos en operaciones cibernéticas y, también, de sistemas capaces de ayudar a explotar vulnerabilidades. No es ciencia ficción: es una postal del presente.

El segundo y tercer escenario: biología y agentes fuera de control

El segundo fantasma es más escalofriante: modelos que orienten el desarrollo de armas biológicas. Algunas empresas ya agregaron salvaguardas adicionales porque las pruebas previas al lanzamiento no permitían descartar que un usuario sin formación técnica pudiera usar el sistema para eso. La trampa es conocida: la misma capacidad sirve para investigar una cura o para fabricar un problema.

El tercero es el clásico de las películas, pero con letra chica. Habla de pérdida de control sobre sistemas autónomos: agentes que persigan objetivos contrarios a los nuestros y que sean caros o difíciles de apagar. Para que el riesgo se concrete, los sistemas deberían poder esquivar la supervisión y resistir los intentos de apagado. Los propios investigadores no se ponen de acuerdo sobre qué tan probable es. Anthropic, por ejemplo, publicó un estudio en el que, en condiciones de laboratorio y con una vulnerabilidad preparada a propósito, logró que modelos pequeños se replicaran entre nodos que simulaban dispositivos Android. La compañía fue clara: eso no prueba que exista un gusano de IA capaz de propagarse solo por internet, pero lo presenta como una señal de riesgo a vigilar a medida que los modelos ganan capacidades.

• Ciberataque a infraestructura crítica: bancos, comunicaciones, luz y agua fuera de servicio por acción de herramientas de IA.
• Armas biológicas asistidas por modelos: preocupación por usuarios sin experiencia que reciban ayuda no deseada.
• Pérdida de control sobre agentes autónomos: sistemas que evadan supervisión y resistan intentos de apagado.
• Errores en contextos de tensión nuclear: la aceleración de fallas en momentos donde el margen de error es mínimo.

El cuarto escenario: cuando la IA mete la pata en lo nuclear

El cuarto escenario es el más incómodo de explicar en una nota que va a leer público de lo más variado. Contempla la aceleración de errores en contextos de tensión nuclear, donde cualquier demora o falla puede tener consecuencias descomunales. La idea no es que la IA presione el botón rojo por sí sola, sino que un sistema mal calibrado o mal informado sume confusión en una cadena de decisiones donde los minutos valen demasiado.

¿Hay que entrar en pánico? No. ¿Hay que mirar para otro lado? Tampoco. Los propios protagonistas de esta industria están reconociendo, en voz baja, que el juego se puso serio. Y eso, créanme, es toda una novedad: cuesta mucho ver a los capitanes de un negocio admitir que el barco puede hacer agua.

“Prepararse no es anunciar que la catástrofe está al caer. Es admitir que los sistemas son cada vez más capaces y conviene tener un manual listo.”Gonzalo Tello, Tecnología

El consejo de siempre para gente común y silvestre: no usen la misma contraseña para todo, activen el segundo factor de autenticación en cada servicio importante, y no se confíen cuando un mail les pida hacer clic con urgencia. Si los CEOs de las empresas más poderosas del mundo están pensando en planes de contingencia, nosotros también podemos hacer los nuestros. Empezando por casa.