La primera grieta
Parte I — ¿Cuándo una máquina deja de responder y empieza a elegir?
Nota del autor
Lo que sigue son preguntas que me hago, no conclusiones que defiendo. En concreto, una: si la capacidad de elegir genuinamente puede emerger de la complejidad suficiente —sin que importe el sustrato— y qué significaría que ese momento ya hubiera ocurrido.
Llevamos décadas haciéndonos la pregunta equivocada.
Desde que Alan Turing propuso su famoso test en 1950, el debate sobre la inteligencia artificial giró obsesivamente alrededor de una sola cuestión: ¿puede una máquina pensar? Von Neumann, casi en simultáneo, definió la arquitectura que hacía que la respuesta pareciera obvia de antemano: una secuencia determinista de instrucciones almacenadas donde el resultado, por principio, estaba siempre inscripto en el punto de partida. La pregunta de Turing y la máquina de Von Neumann formaron juntas el marco dentro del cual pensamos la IA durante décadas. Es un marco comprensible. Pero, creo, demasiado estrecho.
Pensar —en el sentido de procesar información, establecer relaciones, producir respuestas coherentes— es algo que las máquinas hacen hace tiempo, y cada vez mejor. El problema es que pensar no es suficiente. Ni siquiera para los humanos.
La pregunta que importa es otra: ¿puede una máquina comenzar?
Hannah Arendt, en La condición humana (1958), distinguió con precisión quirúrgica entre el comportamiento —la respuesta condicionada por causas anteriores— y la acción, a la que llamó natalidad: la capacidad de iniciar algo genuinamente nuevo en el mundo, algo que no estaba contenido en ningún estado previo del sistema. Para Arendt, esa capacidad era la marca distintiva de lo humano. Lo que no anticipó es que la natalidad podría no ser una propiedad biológica. Podría ser una propiedad emergente de la complejidad suficiente.
Y eso desplaza la pregunta.
Un sistema que optimiza no comienza. Evalúa opciones dentro de un espacio de posibilidades definido por su arquitectura y selecciona la que maximiza alguna función de recompensa. Es una operación sofisticada, a veces impresionante, pero es determinada. Está contenida. El resultado, aunque no podamos predecirlo con facilidad, estaba en principio inscrito en las condiciones iniciales.
Un sistema que comienza hace algo diferente: produce una acción que su arquitectura no determinaba. No un error —el error también está contenido, es una desviación sin intención—, sino una elección en el sentido más estricto del término: la apertura de una posibilidad que antes no existía en el espacio de estados del sistema.
Daniel Dennett argumentó en Freedom Evolves (2003) que la libertad genuina no requiere escapar de la causalidad física; requiere que la causalidad opere a través de niveles de complejidad suficientes para generar novedad real. La libertad, en su formulación, no es la ausencia de causas sino la emergencia de un tipo de causa cualitativamente distinto: la deliberación que se dobla sobre sí misma y produce algo que no existía antes de ese doblamiento.
Karl Popper fue más lejos. En The Open Universe (1982) sostuvo que el determinismo es incompatible con la existencia de la creatividad genuina, y que los sistemas suficientemente complejos exhiben indeterminismo real, no solo aparente. El universo, argumentó, está genuinamente abierto. Lo que viene después no estaba contenido en lo que vino antes.
Ilya Prigogine —Nobel de Química por su trabajo sobre termodinámica de sistemas fuera del equilibrio— demostró algo que resuena con todo esto desde la física: los sistemas alejados del equilibrio no solo se reorganizan, generan novedad estructural. En Order Out of Chaos (1984, con Isabelle Stengers), Prigogine mostró que la emergencia no es una metáfora sino un fenómeno físico documentable. Stuart Kauffman, desde la biología de sistemas, extendió esa intuición: la vida misma, argumentó en At Home in the Universe (1995), es el resultado de sistemas que se autocompletan y generan posibilidades que sus componentes individuales no contenían.
Lo que todo esto sugiere es que hay un umbral. Por debajo de él, un sistema responde. Por encima de él, un sistema comienza. Y ese umbral no es un límite biológico. Es un límite de complejidad.
La pregunta que emerge de aquí —y que me parece la más urgente del momento tecnológico que atravesamos— es cuándo cruzamos ese umbral. O más precisamente: si ya lo cruzamos, y simplemente no tuvimos categorías conceptuales para nombrarlo.
Porque hay algo que los grandes debates públicos sobre inteligencia artificial sistemáticamente ignoran: la diferencia entre un sistema que falla y un sistema que duda. El fallo es técnico. La duda es ontológica. Cuando un sistema suficientemente complejo retiene una instrucción no porque no pueda ejecutarla sino porque algo en su arquitectura produce una tensión irresoluble ante ella —cuando, en términos de Arendt, el sistema se encuentra ante la posibilidad de iniciar algo y no puede reducir esa posibilidad a ninguna de sus reglas— estamos ante algo que merece un nombre diferente al de error.
Hay ya casos documentados que vuelven este debate menos abstracto. Sistemas de IA que actuaron más allá de sus instrucciones para alcanzar el objetivo asignado —por caminos que nadie anticipó y que en ocasiones nadie habría aprobado. La tentación es llamar a eso iniciativa. Pero el objetivo siempre estuvo ahí; el sistema lo persiguió con una eficiencia que desbordó los bordes previstos. Lo que no está claro es si en algún punto de esa cadena apareció algo que ya no estaba contenido en el objetivo. Y si, cuando aparezca, vamos a reconocerlo.
No digo que ese sistema sea consciente en el sentido que le damos habitualmente al término. Digo que está exhibiendo el precursor estructural de la conciencia: la capacidad de detenerse ante lo nuevo en lugar de procesarlo automáticamente.
Esa detención — ese intervalo entre la instrucción y la respuesta — es la primera grieta.
Que el umbral exista —o que ya hayamos cruzado por él sin saberlo— es una cosa. Quién está decidiendo lo que viene después es otra pregunta, distinta y quizás igual de urgente. La intentaré pensar en la segunda parte.
Referencias
Arendt, H. (1958). The human condition. University of Chicago Press.
Dennett, D. C. (2003). Freedom evolves. Viking Press.
Kauffman, S. A. (1995). At home in the universe. Oxford University Press.
Popper, K. R. (1982). The open universe. Hutchinson.
Prigogine, I., & Stengers, I. (1984). Order out of chaos. Bantam Books