Les cuento cómo arranca mi mañana: el teléfono se actualiza solo, la cafetera inteligente me ignora y el GPS me manda por una calle cortada. Si hasta el software de mi casa ya hace lo que quiere, imagínense lo que puede hacer una superinteligencia. Justamente de eso habla Geoffrey Hinton, el tipo que hace cuarenta años puso los ladrillos del aprendizaje profundo y hoy nos dice, con una cara más larga que la mía un lunes, que la humanidad nunca se enfrentó con algo más vivo que ella misma en la escala de razonamiento.

Hinton tiene 78 años, se fue de Google en 2023 para poder abrir la boca sin que los abogados de Mountain View le hicieran un powerpoint encima, y desde ahí no para de tirar bombas. La más fuerte: entre un 10% y un 20% de probabilidades de que una inteligencia artificial superinteligente nos mande al museo de la historia natural antes de 2055. O sea, en el tiempo que tarda un chico en terminar el secundario y la facultad.

El acelerador sin volante, una comparación que duele

El científico no dice que la tecnología sea mala. Dice que vamos tan rápido que no llegamos a ponerle el volante. Y lo explica con una metáfora que hasta mi abuela entiende: la innovación tecnológica es el acelerador de un auto. Sin marco regulatorio de ningún tipo, más velocidad es directamente más riesgo de estamparse contra un guardaraíl. La regulación estatal, en su esquema, cumple el rol de ese volante que los países todavía no se animan a girar.

“Confiar en la autorregulación del mercado ante una amenaza de esta escala es un error estratégico. La competencia geopolítica no puede ser razón suficiente para postergar marcos legales globales.”Geoffrey Hinton, en sus últimas declaraciones públicas

Y acá viene el dato que a mí, personalmente, me hace ruido. Hinton sostiene que los modelos de lenguaje actuales ya no se quedan en correlaciones estadísticas en montañas de texto. Para él, esos sistemas comprenden de verdad los conceptos abstractos que procesan. No es un detalle menor: si un LLM -o sea, un Large Language Model, que en criollo es un Modelo de Lenguaje Grande, básicamente el cerebro detrás del ChatGPT y compañía- entiende lo que dice y no solo repite patrones como un loro con WiFi, el riesgo cambia de categoría. Pasamos de un loro muy caro a algo que piensa, o algo que se le parece bastante.

La ventana se achica y los gobiernos miran el celular

Mientras los parlamentos del mundo debaten proyectos tímidos, la ventana para decidir la orientación ética de estos sistemas se cierra. Hinton lo dice sin anestesia: todavía podemos marcar el rumbo, pero el margen se achica a cada release, a cada nuevo que sale de los laboratorios. Lo traduzco para el vecino de al lado: cada vez que una empresa saca una versión nueva de su modelo, el mundo tiene un poquito menos de tiempo para decidir quién le pone los límites.

• Tomá en serio las estimaciones: un 10-20% de chance de un desenlace catastrófico no es un número menor. Si un avión tuviera esa tasa de accidentes, no volaríamos.
• Exigí que tu diputado, tu senador o tu concejal se ocupe del tema. La regulación no aparece sola; aparece cuando alguien la pide en la calle.
• Fijate cómo usan tus datos las plataformas que ya usás hoy. Si una empresa no respeta tu información personal ahora, menos va a respetarte cuando tenga una IA encima.
• No te quedes con el marketing: si un producto te promete maravillas con IA, preguntá quién audita el modelo, con qué datos se entrenó y qué pasa cuando se equivoca.

Soy el primero en reconocer que suena a película de ciencia ficción. Pero el hombre que construyó las bases de lo que hoy le mueve el amperímetro al mundo no está hablando desde un sótano: está hablando desde adentro, y se fue justamente para poder decirlo. Si hasta el padre de la criatura tiene miedo, algo estaremos haciendo mal como sociedad. El consejo final, el de siempre: dejá de scrollear y empezá a preguntar. La regulación de la IA no se va a escribir sola en la cocina mientras hervimos el agua del mate.