A esta altura ya me pasó de todo con la tecnología: teléfonos que se actualizan solos y me borran fotos, asistentes que me entienden al revés y hasta una heladera inteligente que se quedó sin stock justo cuando venía la suegra. Pero cuando leí la última idea de Bill Gates, esta vez no me reí: me preocupé. Y después me reí, claro, porque ya me conozco. El tipo propone crear algo así como un OIEA, pero para la inteligencia artificial. Traducido a la cocina de casa: sería como tener un inspector municipal revisando cada horno industrial del país, para que ninguno termine prendiendo fuego al barrio.

Un organismo global con superpoderes de auditor

Gates publicó esta semana un documento donde sugiere montar una especie de gendarmería mundial de la IA, con facultades para auditar sistemas. Para que se entienda mejor: la idea toma pedazos de tres regímenes que ya existen. El primero es el de inspecciones nucleares, o sea los controles internacionales que evitan que cualquier país arme una bomba atómica en el garaje. El segundo es el de aviación civil, que fija reglas de seguridad para que un avión no se caiga cada dos semanas. El tercero es el acuerdo que en los 80 y 90 frenó el agujero de ozono, cuando el mundo se dio cuenta de que los aerosoles estaban cocinando la atmósfera.

Hasta acá todo pinta razonablemente serio. Lo que no pinta tan bien es lo que falta: Gates no aclara si ese nuevo ente se monta sobre una institución que ya existe, tipo una agencia de la ONU con más presupuesto, o si hay que crear algo desde cero. Tampoco puso nombre, sede ni fecha de estreno. Es como anunciar que vas a remodelar la casa sin decirte qué cuartos se tocan ni cuánto sale.

Estados Unidos y China, los dos que tienen que sentarse

El plan tiene una condición sine qua non, eso que en español castizo significa sin esto no hay negocio: que Estados Unidos y China se pongan de acuerdo. El equipo de Gates viene moviendo fichas para un encuentro con Xi Jinping, previsto en principio para noviembre, aunque todavía no está confirmado. La lógica que maneja Gates es bastante directa: si Washington da el primer paso y pone restricciones a ciertos modelos, Beijing se sumaría, y detrás caerían todos los demás. Una especie de efecto dominó geopolítico. Funcionó con el ozono, funcionó parcialmente con el clima, y apuesta a que funcione con la IA.

“El mundo entero se sumaría a esa iniciativa.”Bill Gates

Qué se controla y qué se deja en paz

• Modelos capaces de diseñar moléculas o de facilitar ataques biológicos: pasan a la lupa obligatoria, sin bloquear usos médicos o científicos legítimos.
• Empresas que reemplacen trabajadores con resultados generados por IA: tendrían un impuesto especial, cuya recaudación iría a redes de protección social.
• Reservar hasta un 40 por ciento de los puestos actuales para personas, en sectores donde el vínculo humano sea irreemplazable, como el cuidado de un familiar enfermo.

La autorregulación no alcanza, dice el propio magnate

“Es positivo que algunas empresas de IA estén proponiendo soluciones a los desafíos provocados por su propia tecnología, pero no deberíamos esperar que sean ellas quienes lideren el proceso.”Bill Gates

Acá hay un detalle que vale la pena subrayar, porque no es menor. Gates no les pide a las big tech que se sienten a la mesa para proponer, sino que avala que otros marquen las reglas. Es como si el dueño de la fábrica pidiera a gritos que alguien lo controle, porque ya sabe que solo no va. Y tiene razón: cuando el que fabrica el producto es el mismo que pone las normas, lo más probable es que las normas salgan con el dibujo del producto. Es lo que pasó con las redes sociales durante una década y media, y todavía estamos pagando los platos rotos.

Dicho todo esto, también hay que marcar los límites de la propuesta. Gates habla de un impuesto y de reservas de empleo, pero no precisa cómo se recaudarían esos fondos ni quién decidiría qué sectores entran en esa cuota del 40 por ciento. Tampoco aclara quién financia al nuevo organismo, ni cómo se evita que termine capturado por los mismos países que dice supervisar. Son preguntas que cualquier regulador serio haría antes de firmar, y que todavía no tienen respuesta.

Mientras tanto, mi consejo para no esperar a que el OIEA de la IA llegue: tratá cada mail sospechoso como si fuera un inspector, no abras enlaces que no pediste y, sobre todo, no le cuentes a un chatbot cosas que no le contarías a tu contador. Lo demás, por ahora, va a tener que esperar a noviembre.