La inteligencia artificial necesita que alguien le ponga límites, según Bill Gates, y no parece que vayamos a hacerlo

Empiezo confesando algo: la otra noche le pedí a una aplicación que me resumiera un expediente y terminé con un párrafo que parecía escrito por alguien que había estudiado la materia en otra escuela del mundo. La tecnología nos promete maravillas y, mientras tanto, nos entrega resultados desparejos. Algo de eso, salvando las distancias, vino a decir Bill Gates en el Vaticano, donde soltó una de esas frases que obligan a dejar el café sobre la mesa.

Para el cofundador de Microsoft, la inteligencia artificial no es una innovación más del montón. No la compara con la PC de los ochenta ni con la llegada de Internet: la define como un cambio de naturaleza distinta, casi un salto evolutivo. Traducido al castellano de cocina: la IA puede hacer razonamientos, manejar lenguaje y producir contenidos, algo que hasta ahora era patrimonio exclusivo de los humanos. Por eso la llamó un evento evolutivo. Por eso dijo, además, que no le estamos prestando atención a los riesgos.

Los riesgos, en criollo

Gates puso el dedo en una llaga que a mí, como usuario común, me preocupa bastante: los ciberataques. Según explicó, los delincuentes ahora pueden operar con mayor sofisticación gastando menos. Lo que antes requería un equipo técnico con presupuesto hoy puede resolverse con herramientas de IA al alcance de cualquiera. Fraudes, deepfakes, desinformación y ataques informáticos dejan de ser patrimonio de los malos de las películas y se convierten en un servicio casi de delivery. Frente a eso, sostuvo que el sector no puede autorregularse y que el timón lo tienen que tomar los gobiernos y otros actores neutrales.

“Creo que no estamos prestando atención a los riesgos y que no estamos haciendo lo suficiente para minimizar los daños.”Bill Gates

Desigualdad: la cuenta que llega siempre

También dijo algo que a esta altura suena a Perogrullo pero conviene repetir: si la IA queda librada al mercado, las herramientas más útiles van a llegar primero a los que más pueden pagar. Yo me río de mí mismo porque cada vez que aparece un producto nuevo pienso en suscribirme y termino pagando tres servicios que uso a medias. A escala global, eso significa que la mejor versión de estas tecnologías va a quedar en manos de empresas y países con poder adquisitivo, mientras que los riesgos, esos sí, se reparten parejito entre todos.

• Médicos rurales usando un celular como ecógrafo, con apoyo de IA.
• Estudiantes con apoyo pedagógico personalizado según su nivel.
• Agricultores con recomendaciones adaptadas al suelo y al clima de cada zona.

Los agujeros negros del sistema

Gates señaló dos limitaciones que me parecen las más interesantes y las que menos se discuten. La primera: los modelos se entrenan mayoritariamente en inglés, lo que deja afuera a miles de millones de personas que se manejan en otros idiomas. Traducido a la mesa familiar: imaginen una herramienta potentísima que solo entiende instrucciones si se las das en el idioma de un país del norte. La segunda: hay que revisar cómo se gravan los trabajos frente a un mundo cada vez más automatizado y decidir qué tareas queremos dejar deliberadamente en manos humanas. Nadie dijo cuál es la lista, pero la pregunta ya está sobre la mesa.

Mi consejo, mientras esperamos que los funcionarios entiendan de qué se trata todo esto: no le crean a nadie que les prometa maravillas automáticas sin explicarles qué hay del otro lado. Exijan regulación, pregunten cómo se entrenan los modelos y, sobre todo, no suban a la nube lo que no subirían a una mesa con desconocidos.