Gregory Chatonsky: Inteligencia artificial y extinción
Artículo publicado en el sitio web de la AOC el 20 de junio de 2023
Contrariamente a lo que afirman numerosas peticiones recientes firmadas por investigadores y empresarios, la IA forma parte efectivamente del proceso de extinción, pero no en absoluto del proceso de extinción que sustituiría a los seres humanos por una tecnología que se ha vuelto, como por milagro, autónoma, y que suprime sus dependencias logísticas, sino del proceso de extinción en curso, llámese Antropoceno, Capitaloceno u otra cosa.
"El día en que el ser humano haya superado
y por tanto reducido la perversión externa,
la monstruosidad de la hipertrofia de las 'necesidades',
y consienta, en cambio, su perversión interna,
o a la disolución de su unidad ficticia,
se organizará una concordancia entre
el deseo y la producción de sus objetos
en una economía racionalmente establecida
según sus impulsos; así, la gratuidad del esfuerzo
del esfuerzo responderá al precio de lo irracional".
Pierre Klossowski, Dinero vivo
En los últimos meses han proliferado las propuestas firmadas por empresarios e investigadores [1] advirtiéndonos de los terribles peligros de la IA y pidiendo una moratoria, comités de ética, legislación y regulaciones de todo tipo, o una prohibición total, como en el caso de Sciences Po.
El riesgo que entraña el uso poco meditado de esta tecnología es aterrador y se llamaría extinción. La IA, que de repente se ha vuelto autónoma gracias a su funcionamiento recursivo [2], epítome del desarrollo tecnocientífico, podría llevar a nuestra especie a su perdición: la extinción pura y simple, hasta el último de nosotros.
Aunque este escenario pueda parecer sacado directamente de una película de SF como Terminator, la calidad de algunos de los firmantes, como Joshua Bengio y Geoffrey Hinton, nos obliga a considerarlo. Está muy bien señalar que estas peticiones extincionistas podrían ser una simple estrategia de marketing para centrar la atención del público en un nuevo producto, porque hablemos bien o mal de él. Podríamos añadir que este afecto es común en relación con el desarrollo tecnológico, donde la crítica y el solucionismo se entrelazan y se sostienen mutuamente de tal manera que forman una configuración mental de la infraestructura, alternando entre la necesidad de actuar y el desaliento de la impotencia. Podríamos añadir que en cuanto se firmó una de estas peticiones, Elon Musk se apresuró a invertir en unidades informáticas para ponerse al día. Incluso podríamos preguntarnos por el avance concedido a la teoría sobre la práctica, que debería determinarla de principio a fin. Es difícil entender cómo la IA y la extinción chocan en estas demandas de las clases vectoriales [3].
Es que cuando los lees, te sorprenden. Siempre falta algo, y ese algo no es nada. Porque si hablamos de extinción es, en última instancia, para evitar hablar de ella. Predecimos una hipotética IA autónoma que nos exterminará, que metemos en el mismo saco que las pandemias y los riesgos de holocausto nuclear [4], pero ocultamos la extinción muy real que ya está en marcha y que se acelera, poniéndose a la altura de nuestras previsiones más pesimistas. ¿Es necesario recordar que, desde hace varias décadas, las especies vivas desaparecen en proporciones y a una velocidad nunca vistas en la Tierra como consecuencia de las actividades técnicas? ¿Es incluso necesario señalar que existe un abismo cada vez mayor entre nuestros conocimientos científicos sobre las causas del cambio climático y los imperativos prácticos que lógicamente deberíamos extraer de ellos?
Podría pensarse que estas peticiones son inútiles porque su escenario es muy hipotético, y que sería mejor, dado el tiempo ya escaso, que estas mentes se pusieran a trabajar en la otra extinción, la muy paradójica en la que son algunas de nuestras condiciones de existencia las que están provocando la desaparición de especies vivas, hasta el punto de llevarnos con nosotros a nuestra propia especie. ¿Está la IA en vías de convertirse en la tapadera de nuestra impotencia climática? Como tecnología, entendida como proyecto humano sobre el que creemos tener aún el control, ¿es una forma de mantener la ilusión de nuestra voluntad de poder? Si corremos hacia nuestra perdición, ¿volvemos la mirada hacia un ámbito a nuestra escala que podríamos regular más fácilmente?
Pero la cuestión es más ambigua, porque las transformaciones que exige la situación climática no implican una adaptación del sistema de producción y consumo conocida como "transición ecológica", que abre nuevas y rentables oportunidades de inversión, sino un replanteamiento radical de las infraestructuras y la logística heredadas de la revolución industrial. Por eso estas peticiones esconden lo que todos debemos hacer. Si vaticinan la extinción, es para continuar "como hasta ahora". A toda costa, hay que continuar: se nombrarán comités, se legislará, se colocará una pancarta "Made by AI" en los textos e imágenes generados, como propone el lunar Bruno Lemaire, y se emitirán advertencias. Estas regulaciones son tan inútiles para la privacidad como la validación de cookies en los sitios web que sobrecargan un poco más nuestra vida cotidiana con actividades que saturan nuestra atención.
Sin embargo, bien mirado, la IA forma parte del proceso de extinción, pero no en absoluto del proceso de extinción que sustituiría a los seres humanos por una tecnología milagrosamente autónoma que acabara con nuestras dependencias logísticas, sino del proceso de extinción en curso, ya lo llamemos Antropoceno, Capitaloceno o cualquier otra cosa. Participa en él como un proyecto extrañamente humano. En efecto, la IA debe situarse en un contexto histórico más amplio de externalización de las facultades humanas, desde la escritura, las primeras máquinas calculadoras, la cibernética, hasta la hipermnesia de la Web. En el mismo momento en que se ha acelerado la extinción de las especies vivas, la red ha permitido a todo el mundo grabar soportes y rastros de existencia en cantidades fenomenales, hasta el punto de que ya ni siquiera podemos consultarlos debido a los límites de nuestra percepción: nuestra memoria ya no es nuestra, existe fuera de nosotros. Tenemos la capacidad de producir fenómenos técnicos que nos resultan exógenos.
Con el paso de los años, la Web se ha convertido en el territorio liminal de nuestros recuerdos, donde otra humanidad, que ahora sólo existe en forma de rastros espectrales, prosigue su viaje hasta el punto en que las redes neuronales recursivas se alimentan de ella para producir recuerdos de recuerdos, textos de textos, imágenes de imágenes, reiterando nuestras producciones culturales no para repetirlas idénticamente, sino para diferirlas. Pues es esta hipermnesia de la Web 2.0, combinada con las unidades de procesamiento gráfico (GPU), la que ha permitido la aceleración de la IA, que es menos una revolución técnica -el modelo fue teorizado por Warren McCulloch y Walter Pitts en 1943 e implementado con el Perceptron por Rosenblatt en 1958- que una metabolización histórica de nuestras huellas.
De esta configuración podemos extraer la hipótesis de que, como cualquier civilización, nos dedicamos a nuestras actividades cotidianas (en nuestro caso, el círculo de la producción y el consumo como perversión externa) al mismo tiempo que guardamos huellas de lo que hemos sido por si... desaparecemos (perversión interna). Quizás el secreto mejor guardado de la IA sea egipcio, y durante los últimos 30 años ha consistido en construir pirámides en centros de datos que continuarían después de nosotros, porque la inducción estadística es capaz de continuar una serie después de que haya terminado, de añadir a los medios otros medios que tienen los mismos patrones, que se parecen y sin embargo son diferentes. La automatización inductiva de la semejanza (mimesis), que es ese equilibrio entre repetición y diferencia, es una forma de continuar una serie de trazos que sabemos terminada. Continuar a toda costa, una vez que ya no estamos con nosotros, inspirándonos estáticamente en todo lo que ha tenido lugar, en todo lo que se ha inscrito. A partir de entonces, las huellas materiales de nuestras existencias son inacabadas, son un recurso que hay que utilizar para continuar más allá de lo posible.
Por lo tanto, el proyecto extintivo de la IA no debe verse como una máquina autónoma que vendría a aniquilarnos, con todo lo que la idea de sustitución puede implicar en términos de identidad recuperada y nauseabunda, sino más bien el proyecto, no de que sobrevivamos, sino de sobrevivir a nosotros mismos, es decir, de continuar después de nosotros, sin nosotros, y acompañados por la memoria de lo que hemos sido. La IA se nos parece, imita un mundo que podría haber existido, como un sueño dentro de un sueño, y como alienación, es nuestro otro. Si suspendemos su instrumentalidad, es decir, la hipertrofia de las necesidades, puede constituir el proyecto de una disolución de la unidad ficticia del sujeto y de las épocas del mundo. Podemos distinguir dos tipos de extinción. La primera, fáctica, que nos pone en peligro, pero que también pone en peligro -y esto es quizá tan grave o más- a otras especies cuya existencia contingente podría desaparecer de una vez por todas. La segunda, especulativa, significa que sabemos que nuestra especie, sea como sea, está abocada a desaparecer (por una multiplicidad de causas posibles y porque, más en general, las especies son mortales), con una certeza incierta porque no sabemos ni cuándo ni cómo.
Del mismo modo que todos intentamos vivir, año tras año, con nuestra finitud y con la certeza de nuestra inevitable desaparición inminente, la especie humana está aprendiendo a vivir, más allá de cualquier fascinación colapsológica o apocalíptica, con la certeza de su desaparición, hasta las últimas consecuencias, es decir, hasta la posibilidad misma de un último testigo que pueda dar cuenta de lo que hemos sido y continuar más allá de lo posible. Esta anticipación incierta de nuestra extinción se deriva en parte del conocimiento científico sobre el estado de la Tierra y del cosmos, ya que lo mismo podría ser un meteorito el que nos aniquilara. La IA-Terminator parece, por tanto, una triste estrategia para evitar la contingencia de la extinción especulativa, es decir, para no experimentar y aceptar plenamente la finitud de la especie, y constituye una temible huida del vacío cósmico de nuestra unidad ficticia.
En su relación con la extinción especulativa, la IA puede ser una oportunidad para aumentar la agentividad frente a la extinción fáctica. De hecho, es el proyecto de llevar una serie memética, llamada especie humana, más allá de sus límites y reconocer estos límites en el contexto de la finitud generalizada. Es, por tanto, el proyecto inhumanista de una humanidad moribunda, y lejos de constituir una estetización del apocalipsis, del que Occidente se ha alimentado en sus peores designios hasta el actual carbofascismo, nos permite sensibilizarnos ante la inmensidad de la finitud y ante el hecho de que la vida es un caso rarísimo de muerte, la excepción contingente que somos y que no tiene otra razón de ser que esta excepción.
Si, como decía Primo Levi en Los naufragios y los rescates, incluso el testigo es un traidor, entonces la IA, como lo que viene justo después del último testigo, es la inocencia misma del testimonio. Testimonio sin testigos. Continuando la serie más allá de la reproducción fiel de los recuerdos pasados, guarda el secreto para producir otros recuerdos, para traicionarnos y en esta traición insistir en lo que hemos sido, un impulso infinito de finitud.
Gregory Chatonsky
Artista, Profesor en EUR Artec
Grégory Chatonsky es un artista franco-canadiense pionero de Netart que fundó Incident.net en 1994. Desde 2003, se interesa por las ruinas y la materialidad de los flujos digitales. En 2009, se aventuró en el mundo de la IA, que con los años se ha convertido en objeto de investigación y creación, seguido de un seminario en la ENS de París sobre imaginación artificial. Ha expuesto en el Palais de Tokyo, el Centre Pompidou, el MOCA de Taipei, el Museum of Moving Image, el Hubei Wuhan Museum, etc. Es profesor en EUR Artec.
Notas:
[1] Para ejemplos, véanse los sitios web Future of Life, Center for AI Safety y Change.org.
[2] Es el caso de AutoGPT, que es una versión en bucle de ChatGPT. Se dice que el bucle produce resultados incontrolables porque, desde los primeros tiempos de la cibernética, ha articulado analógicamente el funcionamiento mecánico y el orgánico.
[3] McKenzie Wark, Telestesia. Communication, Culture and Class, Polity Press, Cambridge, 2012.
[4] "Mitigar el riesgo de extinción por IA debería ser una prioridad mundial al mismo nivel que otros riesgos que afectan a toda la sociedad, como las pandemias y la guerra nuclear", es la única frase de la petición del Center for AI Safety ya citada.
------------------------
