Sam Altman reconoce en voz alta los dos fantasmas que la propia industria de la IA prefiere no nombrar

Sam, el CEO de OpenAI, volvió a hacerse escuchar y esta vez no lo hizo para anunciar un producto nuevo, sino para poner sobre la mesa los dos miedos más incómodos que circulan por los pasillos de Silicon Valley. Yo lo seguí desde la redacción, con el café a medio tomar, mientras leía sus declaraciones y me daba cuenta de que el mensaje era tan directo que parecía casi una confesión: la inteligencia artificial avanza tan rápido que podríamos perder el control de sistemas cada vez más capaces, o terminar viendo cómo una sola persona, una empresa o un país se queda con un poder desproporcionado gracias a esa misma tecnología.

Los dos riesgos que el propio Altman describe

El primer riesgo suena a película de ciencia ficción, pero él lo plantea como una posibilidad concreta: que la humanidad pierda el control del futuro ante la IA. Para explicarlo, usó una frase que se dio el lujo de ser tajante: "Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas". A modo de analogía de cocina, pensémoslo así: es como si estuviéramos encendiendo cada vez más hornallas de una cocina enorme, sin terminar de instalar las llaves de gas que nos permitirían cerrarlas a tiempo si algo empieza a arder mal.

“Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos.”Sam Altman, CEO de OpenAI

El segundo escenario es más terrenal y por eso más preocupante: que el poder quede concentrado. Altman reconoce que evitar ambos al mismo tiempo obliga a caminar por lo que llamó un "angosto camino intermedio", una frase que me dejó pensando largo rato, porque describe bien esa sensación de andar equilibrando la innovación con el cuidado.

Qué propone para que el escenario no se cumpla

• un marco regulatorio federal que fije requisitos de seguridad comunes para los modelos de frontera, es decir, los que están en el límite de lo que la tecnología actual puede hacer
• auditores independientes integrados a los mecanismos de supervisión, para que el control no quede solo en manos de las propias empresas
• coordinación internacional entre gobiernos, porque ningún país puede regular esto de manera aislada
• y una regla de oro que repite: las empresas no deberían esperar nuevas leyes para empezar a aplicar medidas de seguridad por su cuenta

Sobre el final de su mensaje hubo un punto que me me quedó dando vueltas, y quiero compartirlo tal como lo escribió: "Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia". Es decir, ni siquiera la pulseada geopolítica por liderar la carrera tecnológica sirve como excusa para apurar el desarrollo a costa de la seguridad. Lo que sigue en la agenda es ver si esas declaraciones se traducen en hechos concretos, empezando por cómo OpenAI y sus pares se sientan a negociar con reguladores y gobiernos un esquema de supervisión que hoy todavía no existe, y que promete ser una de las discusiones más densas de los próximos años.