Por Catalina Lonac.
Hay una idea que me desvela desde hace algún tiempo y es la responsabilidad de los creadores de cosas, sobre todo los científicos. ¿Son acaso totalmente ajenos a lo que puede provocar su creación? ¿Es como darles carta libre sin ninguna responsabilidad sobre el daño que pueden ocasionar? Y esto hasta se ve reñido con el Derecho natural. Entiendo que para un científico es muy difícil poner límites a sus pensamientos y posibilidades porque viven un mundo fascinante. Pero ¿tienen derecho a largar cosas al mundo que puedan herir a la humanidad sin el más mínimo riesgo personal?
Seguramente Einstein no quería terminar con la bomba atómica, pero fue algo inevitable porque las potencias siempre se han valido de los científicos para potenciar sus apetencias y usar los inventos en destinos non-sanctos.
Es por eso que se me ocurrió hacer un paralelismo entre el Golem de la tradición judía y la IA. Esta relación es fascinante porque una leyenda de varios siglos de antigüedad plantea, en esencia, uno de los grandes dilemas de nuestro tiempo.
El Golem no nace de la naturaleza… Es creado por el ser humano. No posee inicialmente voluntad propia, ejecuta aquello para lo que fue concebido. Pero su enorme poder termina planteando un problema… La criatura puede superar la capacidad de control de su creador.
Ahí aparece el paralelismo con la IA.
El ser humano construye una inteligencia para ampliar sus propias capacidades. Al principio es sólo una herramienta. Pero cuanto más autónoma, compleja y poderosa se vuelve, más difícil resulta prever todas las consecuencias de sus acciones. El problema deja de ser entonces puramente tecnológico y pasa a ser moral.
Y hay algo todavía más profundo… El Golem no es malo. No tiene necesariamente intención de hacer daño. El peligro surge porque posee poder sin una comprensión humana plena del sentido, de los límites y de las consecuencias. Esa distinción resulta muy sugerente para pensar en la IA… Inteligencia no equivale necesariamente a conciencia, capacidad no equivale a sabiduría, obedecer una instrucción no equivale a comprender su dimensión moral.
Por eso el mito podría formularse hoy así…
El verdadero peligro del Golem no es que se rebele contra su creador, sino que cumpla perfectamente una orden cuyo creador no supo pensar hasta sus últimas consecuencias.
Y esto lleva directamente a la responsabilidad de los científicos y desarrolladores. La pregunta ya no sería solamente: ¿podemos crearla?, sino ¿debemos crearla de esta manera?, ¿bajo qué límites? y ¿quién responderá por sus consecuencias?
Hay además una paradoja muy interesante: durante siglos el hombre quiso crear algo a su imagen. Ahora que comienza a conseguirlo, descubre que para hacerlo necesita primero responder una pregunta que todavía no ha resuelto: ¿qué significa ser humano?
¿Acaso estamos ante un Golem moderno? Es un punto donde se unen mito, filosofía, ética y tecnología.