Por Fabricio Falcucci.

Creadores de IA piden frenar y Trump exige “ganar la carrera”. Bajo la sombra de la experiencia nuclear, vuelve la pregunta por cuánto poder podemos desatar antes de perder el control.

Imaginemos la escena. El creador de una máquina poderosa, que ni él mismo termina de comprender, se para frente a los micrófonos y pide que alguien ponga un freno. Del otro lado, un presidente responde que hay que ganar la carrera. Los demás miramos, con la sospecha de que las consecuencias también nos tocarán a nosotros.

La escena podría pertenecer a una película sobre los primeros años de la era nuclear. Pero ocurre por estos días, alrededor de la inteligencia artificial y todavía no sabemos cómo termina.

Dario Amodei, director ejecutivo de Anthropic, la empresa que desarrolla Claude, propuso desacelerar el avance de los modelos para que la seguridad pueda alcanzarlos. Pidió evaluadores externos y coordinación internacional. Sam Altman y Elon Musk respaldaron el llamado. Cuando los beneficiarios del negocio advierten sobre sus peligros, convendría prestar atención. También a la letra chica.

Amodei teme que el desarrollo de la IA supere nuestra capacidad de comprenderlo y controlarlo. Escucharlo no exige canonizarlo. Las reglas pueden proteger a la sociedad, pero también consolidar posiciones dominantes. Sería conveniente que los fabricantes del riesgo no obtuvieran, además, el monopolio del remedio.

Trump aportó su particular idea de tranquilidad. El control necesario era un presidente fuerte e inteligente. Él mismo, naturalmente. La seguridad de una transformación planetaria descansaría en la opinión que un hombre tiene de sí mismo. Si se trataba de aliviar la preocupación, cuesta decir que lo haya logrado.

El conocimiento que permitió aprovechar la energía nuclear abrió posibilidades extraordinarias para la medicina y la producción de electricidad. También hizo posible Hiroshima. Aprendimos a liberar aquella fuerza antes de contar con acuerdos suficientes para contenerla. Los tratados y las inspecciones llegaron después de las primeras bombas.

Una inteligencia artificial no es un reactor. Sus riesgos son diferentes y los sistemas digitales pueden reproducirse mucho más allá del lugar donde fueron desarrollados. Copiar los controles nucleares sería insuficiente. Descartar la experiencia, también.

Quizás la semejanza más preocupante esté en la lógica de la carrera. Cada potencia teme favorecer al adversario. Cada empresa supone que sus competidores aprovecharán cualquier demora. Nadie quiere detenerse primero. ¿De qué serviría llegar antes a un lugar del que después nadie sabe cómo salir?

León XIV propuso desarmar la inteligencia artificial en su encíclica Magnifica humanitas. Cuestionó la concentración del conocimiento y la pretensión de dominio. ¿En qué momento aceptamos que el futuro de todos pudiera administrarse como una propiedad de unos pocos? Conocer una herramienta no convierte a sus fabricantes en representantes de la humanidad.

El peligro tampoco necesita parecerse a una película. Podría alcanzar con un gobierno capaz de vigilar mejor a su población o con decisiones sobre derechos que nadie deba explicar. Para imaginar esos escenarios no hace falta atribuirles odio o voluntad a las máquinas. A un poder autoritario le basta con que obedezcan.

Una regulación útil requeriría controles independientes, responsabilidades claras y capacidad de suspender usos cuyos riesgos no puedan contenerse. Las exigencias deberían corresponderse con las capacidades de cada sistema y alcanzar a empresas y gobiernos. La seguridad merece garantías más duraderas que la confianza de un presidente en sí mismo.

Para la Argentina, también es una discusión sobre soberanía. ¿Qué margen conservamos si dependemos de sistemas cuyas condiciones no podemos negociar? Universidades, trabajadores y organizaciones sociales deberían participar antes de que solo quede adaptarse a lo que otros decidieron.

Sería una pena que de la historia del átomo solo nos quedara una buena película sobre científicos atormentados. Podemos ser lo bastante inteligentes para producir una fuerza extraordinaria y no lo bastante prudentes para convivir con ella.

Quizás todavía podamos discutir los límites antes de conocer toda la extensión del daño. Habría que desconfiar de quienes presentan la velocidad como un destino y la cautela como un atraso.

Después de todo, el futuro que prometen también es nuestro. Aunque todavía no nos hayan pedido opinión.