Vayan a confesarse los que alguna vez se quedaron sin internet en medio de una clase de Zoom. Ahora imaginen eso, pero en versión apocalíptica: que un software decida por todos nosotros qué se puede hacer y qué no. Eso, en criollo, es lo que Sam Altman, el mandamás de OpenAI, viene diciendo hace rato. Y no es una queja menor: es el tipo que está construyendo la herramienta.

En las últimas declaraciones que se hicieron públicas, el CEO identificó dos escenarios críticos que, según él, deberían tener a todos en alerta. Son lo que en la jerga tecnológica llamarían un 'double feature' de problemas: por un lado, perder el control de sistemas cada vez más capaces; por el otro, que una sola persona, empresa o país se quede con un poder desproporcionado gracias a esta tecnología. O sea, lo mismo que pasaba en las películas de ciencia ficción, pero sin Will Smith para salvarnos.

Los dos riesgos que Altman pone sobre la mesa

• Que la humanidad pierda el control de la IA: Altman lo resumió con una frase tajante. «Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas», sostuvo. Como traductor, eso viene a decir que si la máquina se vuelve más lista que nosotros y no le pusimos un cinturón de seguridad equivalente a su velocidad, nos pasa por encima.
• Concentración de poder en manos de pocos: «Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos», advirtió. El término 'distópico' se escucha fuerte, pero en buen romance significa que unos pocos nos cocinan la realidad a su gusto y al resto le toca comer lo que sirva.

Para que estos dos males no vengan juntos, Altman reconoció que hay que caminar por un 'angosto camino intermedio'. Suena poético, pero en la práctica significa hacer equilibrio entre regular y no asfixiar la innovación. Algo así como andar en bicicleta por una cornisa: ni frenar de golpe, ni pedalear mirando el celular.

Qué propone para no terminar pidiendo perdón a futuro

Las medidas que enumeró el CEO se resumen en tres patas. Primero, un marco regulatorio federal, o sea, reglas iguales para todos los estados, que fije requisitos de seguridad comunes para los modelos de frontera: esos que están en el límite de lo que la tecnología actual puede dar. Algo así como pedirle a cada fabricante de autos que todos tengan airbag, ABS y la cinturonazo en buenas condiciones, no solo el modelo más caro.

Segundo, auditores independientes metidos en el mecanismo de supervisión. «GA», en criollo, alguien que no cobre de la propia empresa controlada y que pueda mirar los papeles sin pedir permiso. Tercero, coordinación internacional entre gobiernos, porque la IA no respeta fronteras: si Estados Unidos frena y China no, el problema se muda de país y listo.

Sobre la presión competitiva con otras potencias, Altman fue categórico: «Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia». Vamos, traducido al lenguaje de la tribuna: que no nos gane la ansiedad por sacarle una foto a China y larguemos un sistema de IA sin probarlo, como cuando un vecino apurado sube el termotanque a 90 grados y se quema la mano al abrir la ducha.

Tampoco se hace el distraído: dejó en claro que las empresas no deberían esperar nuevas leyes para empezar a cuidarse solas. Es el clásico 'arreglate la gotera antes de que llueva', que en mi casa me decían una y otra vez, hasta que un día la inundación fue real.

“Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas.”Sam Altman, CEO de OpenAI

Mi consejo, ya bajando del análisis a la mesa familiar: no hay que entrar en pánico ni tampoco mirar para otro lado. La próxima vez que le pidan a una IA que redacte el currículum del nene, que organice las vacaciones o que le pinte un cuadro para el living, tómenselo como un ensayo a escala hogareña. Si hoy un chatbot le inventa datos que no le pediste, mañana un sistema más grande podría hacerlo con consecuencias que no queremos ni en broma. Exijan transparencia, lean la letra chica y, sobre todo, no le firmen a una sola empresa el cheque en blanco de su tiempo, su trabajo y su atención. Eso, humildemente, también es estar en el Equipo Humanidad.