Octave Larmagnac-Matheron, 3 febrero 2023
Siete años, tal vez incluso menos: ése es el tiempo que nos queda antes de la llegada de la "singularidad tecnológica", según los científicos de Translated, empresa especializada en traducción automática. Pero, ¿qué es en realidad? Así es como funciona.
Singularidad tecnológica: ¿qué es? Vernor Vinge, escritor de ciencia ficción y profesor de matemáticas que popularizó la noción en un artículo de 1993, "Technological Singularity" (Singularidad tecnológica), la definió como "una aceleración del progreso tecnológico", más exactamente como "una carrera exponencial más allá de toda esperanza de control".
La idea (e incluso la palabra) no es del todo nueva. Su origen se remonta a los años 50, cuando el matemático John von Neumann, como cuenta uno de sus amigos: "Una de las conversaciones versaba sobre la aceleración constante del progreso tecnológico y los cambios en el modo de vida humano, que parecen acercarnos a una singularidad fundamental en la historia evolutiva de la especie, más allá de la cual la actividad humana, tal como la conocemos, no podría continuar."
La Singularidad es un acontecimiento en el sentido más estricto de la palabra: un punto único en la historia que marca el punto de inflexión hacia una época radicalmente nueva en la historia de la humanidad, probablemente incluso en la propia historia. De ahí su nombre.
Punto de inflexión
Por tanto, la aceleración en cuestión no es simplemente cuantitativa (acumulación cada vez más intensa de nuevas tecnologías). Marca un punto de inflexión cualitativo: el cruce de un umbral más allá del cual las capacidades cognitivas humanas, tal como las conocemos, ya no son capaces de comprender el progreso, porque este progreso estará impulsado por otra forma de inteligencia. Esto es lo que distingue las conceptualizaciones de la singularidad de las especulaciones sobre una aceleración incesante del ritmo del progreso que ya encontramos en Condorcet, considerado uno de los pioneros de la "explosión de las teorías de la inteligencia".
Y Vernor Vinge lo explica a modo de comparación:
"Los animales pueden adaptarse a los problemas e inventar, pero a menudo no más rápido que la selección natural [...] el mundo actúa como su propio simulador en el caso de la selección natural" que tiene lugar en él. "Los humanos tenemos la capacidad de interiorizar el mundo [...] en nuestra cabeza; podemos resolver muchos problemas miles de veces más rápido de lo que lo haría la selección natural".
Estamos dotados de una capacidad de "simulación", de imaginación, de representación mental de la que carece el animal, aunque esta capacidad siga estando limitada por nuestra naturaleza biológica:
"Al crear los medios para realizar estas simulaciones a velocidades muy superiores, entramos en un régimen tan radicalmente diferente de nuestro pasado humano como lo somos de los animales inferiores".
La singularidad tecnológica se refiere a ese momento en que nuestra especie emprende un camino verdaderamente novedoso.
IA, cerebro-máquina, evolución dirigida
Vernor Vinge tiene pocas dudas de que se cruzará este umbral, pero ve varias formas posibles de hacerlo:
el desarrollo de ordenadores "conscientes" con "inteligencia sobrehumana" (o el desarrollo de una "red" de ordenadores con las mismas propiedades)
el desarrollo de "interfaces hombre-máquina" que permitan al humano aumentado seguir participando en el acelerado progreso tecnológico;
un gran avance de la "ciencia biológica" que permita una "mejora natural de la inteligencia humana", es decir, un control de su evolución.
De estas tres hipótesis, la primera sigue siendo la más extendida. Liberada de las limitaciones vivas de la biología, la inteligencia artificial robótica parece prometerse una recreación incesante de sí misma: es fácil imaginar que podría hacerse cargo de su propio desarrollo a una velocidad cada vez mayor, "creando entidades cada vez más inteligentes en una escala de tiempo cada vez más corta". Y Vernor Vinge cita al matemático británico Irving John Good que, ya en 1965, escribió:
"Una máquina ultrainteligente podría diseñar máquinas aún más avanzadas: se produciría entonces, sin duda, una "explosión de inteligencia".
Y la inteligencia humana quedaría muy atrás. Así, la primera máquina ultrainteligente será el último invento que el hombre tenga que hacer”.
Incluso se podría ir más atrás:
“...en 1932, el escritor John Campbell escribió en La última evolución sobre "máquinas [...] mucho más inteligentes que nosotros [...] y capaces de cambiar de la noche a la mañana, capaces de adaptarse infinitamente a las circunstancias".
Aunque ChatGPT, la herramienta de computación conversacional, aún no ha llegado a ese punto, sus proezas -entre otros avances tecnológicos recientes- sugieren que esta hipótesis está llamada a hacerse realidad algún día.
¿Obsolescencia o perfeccionamiento del ser humano?
Esta superinteligencia, para la que algunos "singularistas" se atreven a dar una fecha (hacia 2045, predice el ingeniero Ray Kurzweil, por ejemplo), podría significar de hecho la obsolescencia irremediable del ser humano. Esto es lo que señalan varios autores cuando aluden al "riesgo existencial" que entraña la Singularidad. En Superinteligencia (2014), el físico Nils Bostrom escribe:
"Este es posiblemente el reto más importante y desalentador al que se ha enfrentado la humanidad. Y, tengamos éxito o fracasemos, probablemente sea el último reto al que nos enfrentemos".
Para estos pensadores alarmistas, es urgente prepararse para este choque, a fin de dar a los seres humanos los medios para no verse desbordados. En su opinión, de eso trata el transhumanismo: de mejorar a los humanos (mediante edición genética, hibridación corporal, etc.) para que puedan estar a la altura de las futuras superinteligencias. Es lo que pretende, por ejemplo, Elon Musk, que considera que "la IA es mucho más peligrosa que las armas nucleares" y está desarrollando interfaces cerebro-máquina a través de Neuralink.
Otros autores, encabezados por Ray Kurzweil, tienen una visión mucho más optimista de la prevista singularidad tecnológica. Mucho más que la inevitable obsolescencia de la especie humana, que habría que prever de antemano, el paso de la Singularidad permitiría, según ellos, mejorar a los seres humanos hasta un punto antes inalcanzable. La Singularidad, escribe Ray Kurzweil en La singularidad está cerca: cuando los humanos trasciendan la biología (2005), "transformará los conceptos en los que nos basamos para dar sentido a nuestras vidas, desde nuestros modelos económicos hasta el ciclo vital humano, incluida la propia muerte. [La Singularidad nos permitirá trascender las limitaciones de nuestros cuerpos y cerebros biológicos. Emulación digital, carga de la conciencia... la abolición de la propia muerte, a través de una liberación de la biología, está en el horizonte, según estos autores. La singularidad como "oportunidad existencial", en resumen. Una nueva etapa en la evolución humana, no su fin.
¿Una teoría paracientífica?
Es difícil decir cuáles serán los efectos imprevisibles de la Singularidad. De hecho, es difícil saber si realmente ocurrirá. Aunque sus teóricos creen en ella, la tesis ha sido objeto de numerosas críticas que la consideran, en general, una teoría "paracientífica" (Theodore Modis), una fantasía ciega a las limitaciones intrínsecas del progreso: limitaciones de recursos, de energía, de las posibilidades de miniaturización de los componentes, etc. Límites políticos y morales, también, que se ejercen sobre el mundo de la tecnología, digamos lo que digamos.
El filósofo Daniel Dennett, cuya opinión se confundió recientemente con la de una IA que la imitaba en un experimento sin precedentes, añade en una entrevista:
"Esto de la singularidad es absurdo. Nos distrae de problemas más acuciantes. [...] surgirán herramientas de IA de las que nos estamos volviendo hiperdependientes. Y uno de los peligros es que les damos más autoridad de la que merecen”
Podría decirse que la Singularidad no es más que el mito de ciencia ficción que parece. Quizá la paradoja sea que, si resultara ser algo más que un mito, no lo sabríamos hasta que ocurriera: si la singularidad se refiere a una desconexión de la inteligencia humana, nuestras mentes no pueden imaginarla antes de que ocurra y no pueden comprenderla una vez que ha sucedido. ¿Será entonces demasiado tarde?
----------------