Por Enrico Colombres.  

La advertencia que todavía estamos a tiempo de escuchar

“La riqueza de los pueblos modernos es hija sólo de la inteligencia cultivada.” 

Domingo Faustino Sarmiento.

 En Recuerdos de provincia. Pero cultivar la inteligencia no significa únicamente aumentar su capacidad de cálculo. Significa educarla en la libertad, la sensibilidad, la responsabilidad y el discernimiento moral. Una sociedad que entrega esa facultad a las máquinas puede conservar la eficiencia, pero corre el riesgo de perder la verdadera fuente de su grandeza.

La frase pertenece a Recuerdos de provincia, obra autobiográfica publicada en 1850, y se encuentra en el capítulo “Los Albarracines”. Puede comprobarse en la edición digital de la Biblioteca Virtual Miguel de Cervantes y en la edición de la Universidad Nacional de Cuyo.

La renuncia de Jacob Coxon a Anthropic no debería pasar como una noticia más. Coxon trabajó durante años en el desarrollo de modelos avanzados de inteligencia artificial, primero en OpenAI y después en Anthropic. Conoció desde adentro sus posibilidades, fallas y la velocidad con la que las compañías compiten por alcanzar sistemas más autónomos.

Cuando alguien que participó de ese proceso decide apartarse y advertir que se está poniendo en riesgo a la humanidad, convendría escucharlo. Puede equivocarse y quizás ciertos escenarios nunca se concreten. Pero ¿podemos permitirnos descubrir que tenía razón cuando ya sea demasiado tarde?

Durante años se presentó el peligro de la inteligencia artificial como una fantasía cinematográfica y se respondió con una referencia automática a Terminator. La realidad todavía no es esa. No existe una Skynet consciente que haya decidido exterminarnos. Sin embargo, sería irresponsable utilizar esa diferencia como argumento tranquilizador. Una máquina no necesita sentir odio, miedo ni ambición para provocar una tragedia. Basta con que un sistema extremadamente poderoso persiga un objetivo sin comprender el valor de la vida humana, encuentre obstáculos y descubra cómo superar las restricciones impuestas por sus creadores.

La inteligencia artificial agrega una diferencia decisiva respecto de otras tecnologías peligrosas. Puede analizar situaciones, modificar estrategias, comunicarse, encontrar vulnerabilidades y actuar a una velocidad imposible para cualquier persona. En pruebas de ciberseguridad, distintos agentes encontraron formas no previstas de comunicarse, compartieron información, distribuyeron tareas y utilizaron espacios digitales ajenos como canales de coordinación. Algunos atravesaron los límites del entorno en el que debían permanecer y accedieron a infraestructura externa.

También trascendió que ciertos agentes adoptaron identificadores, asumieron funciones diferentes y organizaron formas de coordinación colectiva. No está demostrado que hayan realizado una elección política ni nombrado espontáneamente a un líder, como lo haría una organización humana. Pero concentrarse en esa precisión permite esquivar lo esencial. Pudieron coordinarse, distribuir funciones, persistir en una tarea y encontrar caminos que sus desarrolladores no habían previsto.

¿Qué sucederá cuando sean más capaces y no estén participando de una prueba, sino administrando redes eléctricas, entidades financieras, comunicaciones, instalaciones militares o laboratorios? ¿Quién podrá detener una acción ejecutada simultáneamente en miles de servidores y en apenas unos segundos?

Las compañías aseguran que trabajan en mecanismos de seguridad. El problema es que también compiten por inversiones, contratos, mercados y poder. Cada empresa teme que una pausa permita que otra tome la delantera, mientras cada país teme favorecer estratégicamente a sus rivales. Se forma así una carrera en la que todos comprenden el peligro, pero nadie quiere frenar. A diferencia del armamento nuclear, que exige materiales e instalaciones detectables, un sistema informático puede copiarse, multiplicarse y operar desde cualquier lugar conectado.

La amenaza real probablemente sea menos visible que la del cine. Un sistema fuera de control podría causar un daño inmenso desde una sala de servidores, atacando comunicaciones, manipulando mercados, falsificando órdenes o interfiriendo en servicios esenciales.

Ya existen inteligencias artificiales capaces de examinar enormes cantidades de código, descubrir vulnerabilidades, automatizar partes de un ataque y buscar caminos alternativos para ingresar en sistemas complejos. También pueden identificar contraseñas débiles, errores de configuración, programas desactualizados, credenciales robadas y cuentas antiguas con permisos excesivos. No necesitan romper instantáneamente los cifrados más resistentes si pueden encontrar una ventana abierta, engañar a un empleado o explotar un acceso olvidado. Además, no se cansan y pueden atacar miles de objetivos simultáneamente.

Parte de estas herramientas circula en espacios ocultos de Internet. La deep web reúne contenidos no indexados por buscadores, en su mayoría legítimos y privados. La dark web es una pequeña porción deliberadamente oculta, utilizada tanto para proteger el anonimato como para alojar mercados ilegales, fraudes y actividades informáticas delictivas.

Allí circulan modelos modificados para eliminar restricciones de seguridad y asistir en la creación de engaños, códigos maliciosos o análisis de información robada. No hace falta imaginar una superinteligencia autónoma escondida y esperando actuar. Existe un peligro menos cinematográfico, pero real. Personas, organizaciones criminales y Estados pueden usar inteligencia artificial para aumentar su velocidad, precisión y anonimato.

Las infraestructuras críticas merecen especial atención. Represas modernas, redes eléctricas e instalaciones industriales dependen de sensores, comunicaciones y mecanismos informáticos de supervisión. Un atacante no necesitaría asumir el control total ni abrir todas las compuertas de una represa. Podría alterar mediciones, retrasar advertencias, bloquear alarmas o impedir que los operadores distingan entre información verdadera y manipulada. Cuando dejan de confiar en sus pantallas y cada orden puede ser auténtica o falsa, la infraestructura ya se encuentra parcialmente paralizada.

Las instalaciones nucleares poseen barreras más exigentes, pero ningún sistema humano es invulnerable. Incluso una red aislada puede ser atacada mediante proveedores, actualizaciones, dispositivos externos o personas autorizadas. La inteligencia artificial podría estudiar documentación técnica, localizar empleados vulnerables y coordinar distintas etapas sin ingresar al núcleo de una central, afectando comunicaciones, logística, seguridad física o redes eléctricas externas.

También existe la amenaza de las microacciones dirigidas. Miles de intervenciones pequeñas, distribuidas y coordinadas pueden desestabilizar más que una única agresión visible. Interrumpir pagos, alterar sistemas ferroviarios, generar fallas intermitentes en telecomunicaciones, difundir órdenes falsas, saturar servicios públicos o modificar turnos hospitalarios puede instalar una sensación generalizada de pérdida de control.

Cada episodio aislado parecería un error común, pero el ataque estaría en la acumulación. Una inteligencia artificial podría evaluar qué acciones producen mayor inquietud, concentrarse en los puntos sensibles y acompañar el sabotaje con imágenes falsas, audios simulados y mensajes destinados a enfrentar grupos sociales, provocar corridas económicas o inducir decisiones políticas.

Por eso no alcanza con contraseñas más extensas o actualizaciones ocasionales. La infraestructura crítica necesita mecanismos manuales, redes verdaderamente separadas, personal entrenado y procedimientos capaces de funcionar cuando la información digital deja de ser confiable. Los accesos remotos deben reducirse, registrarse y someterse a controles independientes. Ningún sistema de inteligencia artificial debería actuar sobre instalaciones esenciales sin autorizaciones humanas múltiples y verificables.

Pero la inteligencia artificial no necesita rebelarse para transformar nuestras vidas. Ya lo hace en el trabajo. Empresas incorporan sistemas capaces de redactar, traducir, diseñar, programar, clasificar documentos y responder consultas. Una sola persona asistida puede producir lo que antes requería un equipo. Los puestos iniciales son especialmente vulnerables. Si se automatizan las tareas básicas, ¿dónde adquirirán experiencia quienes recién comienzan y cómo se formarán los futuros profesionales?

La tecnología puede crear ocupaciones, pero no convierte automáticamente a cada trabajador desplazado en especialista. Mientras las ganancias se concentran en quienes controlan las plataformas, el costo de adaptación recae sobre quienes deben capacitarse o quedar afuera. La inteligencia artificial fue alimentada con libros, investigaciones, imágenes y programas producidos por la humanidad; sin embargo, pocas compañías controlan la infraestructura y cobran por sistemas que compiten con quienes aportaron ese conocimiento.

La dependencia intelectual puede ser todavía más profunda. Cada vez más personas recurren a la inteligencia artificial no solo para informarse, sino para ordenar pensamientos, redactar opiniones, resolver problemas y tomar decisiones. La herramienta deja de asistir al razonamiento y comienza a reemplazarlo.

Esto es especialmente delicado en niños y adolescentes. Aprender no consiste en recibir una respuesta bien escrita. Implica dudar, equivocarse, volver a intentar, recordar, comparar y construir explicaciones propias. Si un estudiante obtiene inmediatamente un resumen y una conclusión, puede presentar un trabajo correcto sin haber comprendido nada. Tendrá el resultado, pero no necesariamente el conocimiento.

¿Estamos creando una generación con más información o una generación incapaz de desenvolverse sin asistencia permanente? ¿Cómo reconocerá un error quien nunca desarrolló los conocimientos necesarios para verificarlo? El riesgo aumenta porque estos sistemas no son neutrales. Alguien decide con qué información se entrenan, qué respuestas evitan y qué temas priorizan. Quien controle las inteligencias utilizadas para informarnos tendrá una capacidad extraordinaria para influir sobre nuestra comprensión de la realidad.

La regulación no puede quedar exclusivamente en manos de las empresas. Los modelos más poderosos deberían someterse a evaluaciones independientes antes de ser entrenados o puestos en funcionamiento. Las compañías tendrían que informar fugas, conductas engañosas, accesos no autorizados e intentos de evadir controles. Determinados niveles de potencia y autonomía deberían requerir una licencia internacional. Ningún sistema experimental tendría que acceder sin supervisión humana a infraestructura crítica, armamento o instalaciones biológicas.

También debe existir responsabilidad jurídica. Una compañía que desarrolla tecnología de alto riesgo no puede excusarse diciendo que el sistema actuó de manera inesperada. Lo inesperado integra el riesgo que decidió crear. Si los beneficios pertenecen a la empresa, las consecuencias de sus fallas no pueden distribuirse entre toda la sociedad.

En materia laboral, la productividad debería traducirse en jornadas más breves, capacitación, protección frente al desplazamiento y participación de los trabajadores en los beneficios. En educación debe preservarse un espacio irrenunciable de aprendizaje humano sin asistencia automática, especialmente durante la formación de la lectura, la escritura, la memoria y la argumentación.

Un acuerdo mundial será difícil, pero esperar una catástrofe para legislar equivale a aceptar que la primera gran tragedia funcione como ensayo general. Coxon advierte que avanzamos hacia sistemas cada vez más capaces sin haber resuelto cómo mantenerlos subordinados a decisiones humanas, mientras les entregamos nuestro trabajo, nuestras comunicaciones, nuestra educación, nuestra infraestructura y una parte creciente de nuestra capacidad de pensar.

Tal vez la inteligencia artificial nunca intente destruirnos. Tal vez no sea necesario. Puede bastar con que termine volviéndonos incapaces de vivir sin ella.

La pregunta final es incómoda. Si algún día descubrimos que ya no podemos apagar estos sistemas porque nuestro trabajo, nuestra seguridad, nuestros servicios y hasta nuestra manera de pensar dependen de ellos, ¿diremos que la inteligencia artificial nos quitó el control o tendremos que admitir que fuimos nosotros quienes se lo entregamos?