Por Ezequiel Aráoz Martínez.
Durante la semana, renunció Jacob Coxon a su cargo en Anthropic. Coxon había trabajado en OpenAi antes de pasar a Anthropic en el área de pretraining de la Inteligencia artificial, es decir, de alguna manera en el momento en que se le da forma al funcionamiento de la IA con grandes masas de datos. Cuando Coxon es reclutado por Anthropic, era porque se había hecho buena fama acerca de su preocupación por las cuestiones de ética y seguridad y de alguna forma son las mismas razones que lo llevaron a renunciar definitivamente al desarrollo de IA. Coxon dijo en X que ninguna compañía está siendo responsable en la carrera por el desarrollo y que “para mejorar la superinteligencia apuestan con nuestras vidas”. Quizá si hubiera sido un tweet aislado no sería tan alarmante pero después ratificó y amplió lo que dijo con el Wall Street Journal y todo se hizo más grande con el hecho de que después Evan Hubinger y Samuel Marks, que también trabajan en Anthropic, no solo no negaran su postura, sino que dijeran que tenía razón. Hubinger agregó que una parte de los investigadores piensa que existe alguna posibilidad de ir a la extinción humana si seguimos por la misma línea y Marks dice que muchos investigadores que piensan que están construyendo algo que podría matar a todos. Hay una que otra comparación con la cuestión del Manhattan Project y la bomba atómica; el mismo Coxon dijo que en la próxima década hay más de un 10% de probabilidad de que estas cosas pasen.
La verdad es que pese a su posición alarmista no sabemos hasta que punto la cuestión es lo suficientemente peligrosa y qué tan cierta es la información hasta que salga un artículo científico con revisión por pares y doble ciego ¿O no?
En el mismo X veía un hilo que decía algo como “Este es el momento donde un científico nos dice la posta y nadie le cree”. Pensé automáticamente en Don’t look up, pero no porque no les creamos a los investigadores de Anthropic, si no por lo complejo que es intentar determinar qué es cierto hoy y qué relevancia tiene.
Me parece espectacular cuando Ariana Grande dice en esa película “¿Ustedes descubrieron un cometa? Eso está buenísimo. Yo tengo un tatuaje de una estrella fugaz en mi espalda”
¿Qué tan importante sería realmente saber que es el fin del mundo? ¿Hay una conciencia real de lo que significa? ¿Es posible pensar que es cierto el nivel de alarma que se propone? Parecía que habíamos descartado la perspectiva tecnoapocalíptica pero sucede que hay una nueva búsqueda hacia esa narrativa y un rechazo social a creerla en primera instancia, por suerte, la verdad.
En primer lugar, otros investigadores de la empresa plantean la preocupación, pero a la vez advierten que el riesgo actual es bajo. Es decir, la preocupación es a futuro, aunque eso sale en letras más chicas en las noticias. “Se viene la catástrofe” siempre se escribe más grande y en letras amarillas, pero de repente, igualmente surge la pregunta. Si esto fuera real en el aquí y en el ahora ¿Qué podemos hacer nosotros al respecto? ¿Qué representamos frente a compañías de semejante magnitud?
Quizá nada y estemos condenados a perecer y si hay alguna posibilidad de salvación será para los ultrarricos como en las películas del fin del mundo estilo 2012, aunque este tipo de posturas pesimistas parecen sencillamente una respuesta cómoda. Quizá podamos subirnos a la carrera tratando de acercarnos al menos a tocar las posibilidades que esta IA que aún “de bajo riesgo” posee. Porque lleguemos o no a la de alto riesgo, no parece que tengamos mucha intervención en lo que pase salvo como consumidores. ¿O es que nadie se anima a tocar la torta de los gigantes?
Si estamos tan lejos de lo que pasa, entonces la verdad al respecto se vuelve irrelevante, como le pasaba a Ariana Grande con el cometa, y la pregunta debería cambiar acerca del rol que ocupamos en esta situación: ¿Hay alguna otra posibilidad más que consumir y llorar que se acaba el mundo?
Creería que sí. También creo que como dijo Camila Egaña en su post al respecto para el medio Agitación: “es hiperstición capitalista”. La apatía y la inacción invisibiliza el resto de lo existente. Hay múltiples dinámicas sociales por detrás de todos estos procesos y cuando repetimos muchas veces un discurso vamos construyendo la realidad.
–Pero si ya pasó que una IA autónoma hackeó hugging face en julio, ¿hasta dónde pueden llegar?”
Bueno, sí. Eso pasó. No es tan simple como pensar que no hay riesgos con el desarrollo de la IA, pero pensar solo en los riesgos es tan absurdo como decidir que no hay que hacer nada frente al desarrollo tecnológico de grandes compañías.
Saber los hechos depende del acceso a la información y el acceso a la información depende de formar parte de la comunidad que comparte la información; formar parte de una comunidad amerita compartir temas en común con esa comunidad; compartir temas en común con desarrolladores de software implica o desarrollar software o poder hablar de eso de una manera más técnica.
Si quisiéramos participar de una conversación, cambiar el futuro o al menos saber mínimamente que está pasando, debemos tomar cierta iniciativa. La inacción es casi un apoyo.
Pensemos por ejemplo en el software libre. Está el laboratorio de Software Libre «Ehekatl» de México que promueve su propio experimento hipersticional. Ellos se preguntaron ¿Cómo pueden sostenerse las comunidades tecnológicas sin el patrocinio de empresas de una ética dudosa? Y proponen varias cosas a partir de al menos dos vertientes: La primera vertiente se orienta a la producción tecnológica y la segunda a una producción interdisciplinaria de saber sobre cibernética. Es algo en construcción, pero ahí está la gracia de ser hipersticional, de construirse en el discurso de su propia existencia posible.
Lo automática que pueda ser la IA y la destrucción que pueda causar es inversamente proporcional a lo que podríamos hacer con el código abierto de su desarrollo, pero no parece que lo que sugieran las grandes compañías sea abrir el código. Tampoco parece que nos quieran contar todo. Entonces no hay verdad ni desarrollo para nosotros los inactivos. ¿Y si activamos un poco? Capaz incluso podríamos volver a pensar en que los procesos automáticos nos alivianen tareas en lugar de sumarnos más, por ejemplo. Tal vez los amigos solarpunk que andan dando vuelta sean también un laboratorio hipersticional con un tinte un poco más optimista. Puede que pensar en un futuro mejor, efectivamente nos abra puertas a un futuro mejor. Pareciera que cabe esa posibilidad. Hay que suponerla.