Una IA de Google que se pone la bata blanca del hospital sin pedir permiso

Me toca ir al hospital por un trámite y la pantalla de admisión se cuelga. Reinicio, vuelvo a cargar la planilla, y mientras espero pienso: toda mi historia clínica está en un sistema que, probablemente, alguien revisa cuando se acuerda. Esa sensación de inseguridad cotidiana es exactamente el terreno donde Google plantó a Gemini 4 Argon, un modelo de inteligencia artificial orientado a la ciberdefensa que, según la compañía, encontró una falla en un software hospitalario que otros modelos no habían detectado.

En criollo: la API (la puerta de entrada que conecta dos sistemas para que se manden datos) de ese software tenía una vulnerabilidad, o sea un agujero por donde se filtraba información personal y confidencial de pacientes. Argon la localizó mientras la empresa lo probaba dentro de Wiz, una plataforma de seguridad en la nube. Lo relevante no es solo el hallazgo, sino el método: el modelo pudo revisar el sistema web mientras estaba funcionando, sin necesidad de acceder a su código fuente, algo así como revisar si tu casa tiene la cerradura floja sin necesidad de que me pases una copia de la llave.

Qué hace y hasta dónde llega

• Localiza fallas de seguridad en sistemas informáticos.
• Valida que la vulnerabilidad sea real y no un falso positivo.
• Repara el problema de forma autónoma, sin esperar a que un humano se siente a escribir el parche.
• Trabaja en más de 20 lenguajes de programación, desde Python hasta Java, pasando por C++ o JavaScript.
• Revisa sistemas web en producción, sin tocar su código fuente, usando lo que se llama análisis de caja negra: probás desde afuera, como un ladrón, sin conocer el plano interno.

Para medir si esto no es puro marketing, Google lo mandó a CWE-bench v1, una prueba estándar de la industria que evalúa si los modelos pueden encontrar y corregir errores críticos de seguridad. Argon sacó primer puesto. Es el equivalente a que tu alarma domiciliaria gane un premio en un test independiente y no en la gacetilla del fabricante.

Igual, y acá me hago el favor de bajarme un cambio del entusiasmo: ganar un benchmark (una prueba de referencia estandarizada) no significa que el modelo reemplace a un equipo de seguridad. Significa que es muy bueno en esa prueba puntual. El mundo real tiene más ruido, más presión y más código spaghetti que cualquier test de laboratorio.

El acceso se hará por etapas a través de Fairwind, el programa de Google que exonera a los participantes de las restricciones habituales que pesan sobre las tareas de ciberdefensa. La idea es que la empresa pueda ver cómo se comporta el modelo en entornos reales antes de abrirlo a todo el mundo. O sea, lo prueban en unos cuantos antes de dejarlo salir a la calle sin arnés.

Mi consejo de siempre

Si trabajás en un hospital, una clínica o cualquier organización que maneje datos sensibles, no esperés a que una IA de una multinacional te encuentre los agujeros. Andate a buscar vos un buen pentest (un test de penetración, es decir, un ataque controlado hecho por especialistas para medir la seguridad de tu sistema) y, mientras tanto, reforzá accesos, actualizá parches y no le pidas a tu sobrino que te arregle el servidor. La tecnología ayuda, pero no hace milagros.

Dicho esto, reconozco que me genera algo de esperanza ver que estos modelos se prueben en casos donde la falla no solo pierde plata, sino que expone la historia clínica de alguien. Eso, al menos, vale más que mil demostraciones con dibujitos.