Cómo el progreso tecnológico está cambiando radicalmente las connotaciones del ser humano.
Entrevista de Massimo A. Cascone al Prof. Stefano Isola, 14 de febrero de 2024
Entrevista de Massimo A. Cascone con el catedrático de Física Matemática Stefano Isola, profesor de la Universidad de Camerino. Experto en sistemas dinámicos, epistemología e historia de la ciencia. En esta entrevista hemos tenido el placer de conocer su punto de vista sobre las transformaciones que se están produciendo en nuestro mundo contemporáneo, todas las cuales tienen como leitmotiv las tecnologías digitales actuales, que están cambiando tanto la sociedad en la que vivimos como la psicología de los propios ciudadanos en su forma de abordar la vida cotidiana.
En su análisis, se hace especial hincapié en la relación entre el ser humano y la tecnología, el nacimiento del homo digitalis y su reducción a la insignificancia con la llegada de la Inteligencia Artificial.
Será, pues, tarea de quienes mantienen firmes sus raíces en la multiplicidad autocreadora de la dimensión humana activar procesos de autoeducación popular y de construcción de alternativas concretas, comenzando quizá por el frente más antiguo de desempoderamiento y expropiación por parte del Leviatán digital, el de la agricultura campesina y el trabajo artesanal. De lo contrario, nos espera un mundo donde la razón y la palabra serán inútiles porque el caos y la violencia habrán ocupado su lugar.
MÁXIMO A. CASCONE- Durante mucho tiempo, la tecnología estuvo bajo control humano, pero hoy en día asistimos a la aparición de tecnología "inteligente" que aprende y pronto será capaz de tomar decisiones de forma autónoma. ¿Está de acuerdo con esta afirmación?
STEFANO ISOLA- El papel social de la tecnología es una cuestión importante y nada sencilla, entre otras cosas por sus múltiples contaminaciones con un imaginario un tanto fabulador y muy arraigado en la psique colectiva, que la representa como un conjunto de herramientas "neutras" que el hombre puede decidir utilizar o no de vez en cuando, valorando su utilidad, y posiblemente sus riesgos, sin más implicaciones.
La posibilidad de un "control" efectivo de las herramientas tecnológicas por parte del usuario depende en mayor o menor medida del contexto social y cultural del que dichas herramientas forman parte y que ellas mismas contribuyen a determinar. Un artesano que diseña y construye un instrumento musical o un apero agrícola pone en práctica una relación particular entre acción y pensamiento, que tiene que ver con la lógica de los procesos materiales en la relación del hombre con el mundo natural. Pero cuando la tecnología se convierte en el dominio no de la relación entre el hombre y la naturaleza, sino de la propia naturaleza y, por tanto, también del hombre, su acción adquiere un grado de autonomía que la hace portadora de un nuevo poder.
Con la revolución industrial, por ejemplo, se produjo un nuevo mecanismo con el que lograr la acumulación de capital, basado en el hecho de que, al mecanizar el proceso de trabajo, se podía lograr al mismo tiempo la producción de una mayor cantidad de mercancías. En esa transición, la unidad de mano y mente del productor individual dio paso a una relación diferente entre acción y pensamiento, una relación en la que la acción era cada vez más reproducible de forma controlada y "mecánica", incorporando un pensamiento ajeno, un "cálculo intelectual" encarnado por las máquinas industriales. Lo que cambia para el productor no son tanto sus condiciones materiales de vida, sino que se produce para él una doble expropiación: la de su participación en la propiedad de los medios, de los materiales necesarios para la producción y del resultado de su trabajo; y la de su control sobre los pasos de la cadena de producción, es decir, del conocimiento de la relación entre los fines alcanzados y las acciones realizadas para conseguirlos. En este segundo sentido, la mecanización industrial del trabajo productivo ha conducido a su degradación sustancial, lo que a su vez ha preparado el terreno para su completa automatización. La forma en que, en el mundo en que vivimos, se crea y desarrolla el automatismo determina una progresiva pérdida de conciencia y, por tanto, de autonomía de la actividad productiva para quienes participan en ella. Esta es la verdad de la que el progreso tecnológico moderno, en su irrepetible eficacia histórica, es portador para el trabajo humano, una verdad que bien puede expresarse, con David Noble, en los términos de un progreso sin personas. Hoy, después de la eliminación de la mayoría de los campesinos y artesanos, luego de los obreros por la automatización, luego de los oficinistas por la informatización, el advenimiento de la sociedad digital sanciona la obsolescencia de las profesiones administrativas (recaudadores de impuestos, aseguradores, policías, etc.), judiciales (jueces, abogados, etc.), intelectuales (profesores, abogados, etc.). ), intelectuales (profesores, médicos, ingenieros, etc.), e incluso profesiones "creativas" (escritores, músicos, directores de cine, actores, pero también se trabaja en cómo automatizar los gestos de enfermeras, jardineros, panaderos, cocineros) y su progresiva sustitución por algoritmos "inteligentes", que se alimentan de datos de todo tipo sustraídos unilateralmente a la producción humana.
Todo ello, por supuesto, implica la eliminación progresiva de la aportación humana de los hechos significativos y sanciona la inversión del principio de utilidad de la técnica en el de utilidad para la técnica: de la máquina al servicio del hombre, al hombre como terminal de un aparato que le supera y le sobrepasa.
Un paso clave en la actual configuración tecnológica del mundo -que otorga un poder sin precedentes a la llamada "inteligencia artificial" (IA)- es, de hecho, el intento de pasar de máquinas que apoyan tareas y objetivos humanos a máquinas que simulan intenciones y decisiones humanas, mediante algoritmos a los que se asigna una función predictiva, pero cuya funcionalidad real sigue siendo en gran medida inescrutable: el modo en que una red neuronal artificial reconoce una imagen, o selecciona un conjunto de datos como significativos para clasificar de una determinada manera el comportamiento de un usuario, no lo decide el diseñador de la red, sino que se autogenera, por así decirlo, durante una compleja dinámica interna de la red, ya en la fase conocida como "aprendizaje automático": un proceso sobre el que no tenemos ningún control y que sólo obedece a criterios de optimización estadística apoyados en grandes capacidades informáticas. En particular, es un proceso completamente desprovisto de referencia al contexto y al significado, es decir, a los principales criterios de elección y juicio humanos.
Observando las cosas desde este ángulo, puede quedar claro hasta qué punto la narrativa habitual que acompaña a las innovaciones que llueven continuamente sobre nuestras vidas no puede sino ser falsa, no sólo en sus arrebatos apologéticos, que anuncian la inminente liberación del hombre del trabajo degradante para dejar paso por fin a vidas de ocio y contemplación, sino también en sus alarmas catastrofistas, que presagian una amenaza distópica de "ciencia ficción", en la que las criaturas artificiales que hemos creado pronto nos eludirán y se volverán contra nosotros, subyugándonos con su superioridad cognitiva, y posiblemente destruyéndonos. No, se trata más bien de entidades destinadas a sernos ajenas, es decir, capaces de tomar decisiones de forma autónoma e incomprensible para nosotros. Como escribió proféticamente el filósofo Günther Anders hace unas décadas: "somos incapaces de hacernos una imagen de nosotros mismos. En este sentido somos "utópicos al revés": mientras que los utópicos no pueden producir lo que conciben, nosotros no podemos imaginar lo que hemos producido".
El progreso tecnológico siempre ha provocado transformaciones en la sociedad civil. ¿Qué impacto cree que tienen hoy las tecnologías de la información y la comunicación en las relaciones entre los ciudadanos? ¿Estamos en la era del panóptico digital?
En relación con la pregunta anterior, hay quien sostiene que la revolución digital está transformando el homo faber en homo ludens digitalis, el hombre que en lugar de actuar "juega con los dedos". ¿Cómo debe interpretarse esta opinión? Una pizca de realismo demuestra que la inmaterialidad de la vida digitalizada no se abre al tiempo ocioso, sino al de la disponibilidad y la actuación permanentes, lo que también elimina cualquier aspecto lúdico del juego para convertirlo en un aspecto correlativo de un trabajo dilatado que se ha convertido en una autoexplotación continua. Hoy no tenemos más tiempo que el del trabajo, lo llevamos siempre con nosotros, incluso de vacaciones, incluso mientras dormimos. Si las máquinas de la era industrial subyugaban a los trabajadores en la fábrica obligándoles a ritmos y comportamientos heterodirigidos, los dispositivos digitales producen una esclavitud aún más insidiosa al transformar cada lugar en un lugar de trabajo y cada momento en tiempo de trabajo. La utopía lúdica se invierte en una distopía de rendimiento y explotación, que convierte fatalmente la libertad de movimiento en obligación de disponibilidad comunicativa y rendimiento laboral permanente. Y todo ello en la medida en que la creación de valor se identifica cada vez más con la extracción y el tratamiento de datos: el equivalente actual de la huelga sería la desconexión digital colectiva.
En cuanto a la vigilancia, en la sociedad digital no se produce por aislamiento espacial y comunicativo, como en el panóptico benthamiano, sino por conexión permanente e hipercomunicación. Sus habitantes viven en una ilusión de libertad inducida por la vasta disponibilidad de opciones preformadas, y alimentan los algoritmos mostrándose voluntariamente de la forma más "transparente" posible. Las formas en que se lleva a cabo este proceso vienen obviamente impuestas por los protocolos de comunicación puestos a disposición por el sistema digital, y en este sentido los propios comportamientos exhibidos se automodifican precisamente para optimizar su "visibilidad". Bajo esta luz aparece toda la puerilidad de quienes afirman que la sociedad digital "eliminará la soledad", mientras que la eficacia histórica del progreso tecnológico moderno lo ve, por el contrario, como el desintegrador de toda multitud en aglomeraciones de soledades, dentro de las cuales se consuman formas de regresión siempre nuevas e imprevisibles.
En este sentido, la sociedad digital no es sólo una sociedad de control y vigilancia, sino también una sociedad de insignificancia, donde lo que da sentido a la experiencia humana es ante todo su dimensión relacional y social. Cada vez más, el homo digitalis vive rodeado de "guardianes" que le cuidan a cada paso de la vida. Incluso los objetos empiezan a hablar entre sí sin intervención humana, la llamada Internet de los objetos, encarnada en la red 5G.
Así, la comunicación digital, cuya idealidad era la de la realización intersubjetiva y la felicidad producida por la inmediatez y la proximidad, en su concreción ha agravado en cambio el aislamiento de los individuos y destruido el espacio público. No está dominado por la preocupación por el prójimo, sino por el narcisismo y la autoexhibición. Tal es, una vez más, su irrepetible eficacia histórica, que el resto me parecen sobre todo fábulas para adultos infantilizados.
¿Qué se entiende por externalización del ser humano?
Según el FEM, para 2030 se esperan 800 millones más de parados. Sus tareas serán externalizadas a máquinas especializadas y entrenadas para realizarlas. Pero este proceso no sólo afecta a las funciones laborales. Desde hace más de una década, desde que las tecnologías digitales se están convirtiendo en el sistema nervioso del llamado capitalismo globalizado, se ha puesto en marcha una complicada infraestructura en la que las llamadas "tecnologías convergentes" tratan de integrar robótica, nanomateriales, tecnología de sensores, biología computacional, neurotecnologías, etc. en una única plataforma "inteligente". Realizar mediante estas potentes herramientas de intervención en la realidad el sueño que la cibernética persigue desde los años 40: una "buena gestión de las cosas" que supere definitivamente las incertidumbres, contradicciones, defectos, retrasos e imprevisibilidad de la acción humana. Una gestión que implica la eliminación progresiva de la contribución humana de los acontecimientos significativos, junto con la multiplicación de un conglomerado de dispositivos generalmente calificados de inteligentes, como para subrayar el paso de algo imperfecto y poco fiable -la vida y la experiencia humanas- a algo perfectamente controlado y eficiente. Y esta supuesta eficacia estaría garantizada por "guardianes artificiales" investidos de una autoridad cada vez mayor, basada a su vez en una eficacia continuamente amplificada por procesos de "aprendizaje automático": teléfonos inteligentes, cascos inteligentes, gafas inteligentes, chatbots inteligentes, sensores inteligentes, etc., posiblemente integrados en ciudades inteligentes... hasta llegar a armas inteligentes, como los fusiles inteligentes, que neutralizan o matan a seres vivos sin "saber lo que hacen".
En la medida en que la extrinsectación social de las propias facultades contribuye a la construcción del sentimiento de identidad y del equilibrio psíquico de los individuos, el advenimiento de la IA, presentado como una extraordinaria oportunidad expansiva y una promesa de liberación, se traduce colectivamente en un poderoso dispositivo maltusiano, que conduce a impulsos autodestructivos, claramente visibles en el crecimiento anormal de los suicidios y del consumo de drogas (como el fentanilo, que causa cientos de miles de muertes cada año por sobredosis, especialmente en Estados Unidos). Pero, al mismo tiempo, se extienden los chatbots "inteligentes" para la "salud mental": siempre disponibles, no requieren cita previa, se pueden "personalizar" hablando sólo de la persona tutelada y, si es necesario, aportan soluciones y protocolos terapéuticos específicos.
Según el fundador de DeepMind, "dentro de cinco años, la mayoría de la gente tendrá un asistente personal de IA, [...] una herramienta que llegará a 'conocerte' profundamente, entenderá tu historia personal y razonará de forma avanzada, casi como un humano". Como el avatar digital en 3D de Google llamado Replika: "el compañero de la IA siempre dispuesto a escuchar y hablar, siempre a tu lado, sin prejuicios y a salvo del drama o la ansiedad social".
Creo que merece la pena señalar que el tutor artificial, el representante más "personalizado" del proceso de externalización de lo humano, es algo que presupone, y lleva hasta sus últimas consecuencias, la patológica idealidad liberal según la cual cada individuo sería un átomo depositario de deseos e inclinaciones arbitrarias e incuestionables, que no tiene necesidad de compartir una naturaleza común para vivir.
Las transformaciones tecnológicas actuales están reescribiendo lo que ha sido una relación secular entre los ciudadanos y las administraciones públicas, ¿cree que asistiremos a la desmaterialización total de las oficinas públicas en los próximos años y qué consecuencias tendrá?
La tecnología moderna siempre ha sido, en mayor o menor medida, una "producción social", y sus creadores, los ingenieros, no sólo son expertos en ciencias aplicadas, sino también en la gestión de las relaciones sociales. El sistema de tecnologías actuales basado en la razón artificial -que con razón puede considerarse postcientífica- es una producción social que a su vez "produce sociedad", o más bien un sucedáneo de ella: la comunidad. Una comunidad digital, con su política y sus mecanismos automatizados de acceso, control, predicción y exclusión. Todo ello acompañado de un fenómeno poco discutido: el eclipse de la normatividad estadística basada en el "sistema experto". La proliferación de "expertos" en todos los campos, especialmente característica de las últimas décadas del siglo pasado, ha generado también una crisis de credibilidad de la política, desgraciadamente no en la dirección de un retorno a la política como politeia, sino en la dirección contraria de su progresiva sustitución por protocolos de gestión automatizados, dirigidos y personalizados. Así, las estadísticas recogidas y procesadas por expertos y técnicos están dando paso al procesamiento automático de inmensas cantidades de datos, los llamados big data, recogidos por interfaces, sensores y dispositivos inteligentes diseminados de forma cada vez más capilar y que constituyen el material que alimentará constantemente a la IA.
A menudo hablamos de una sociedad impulsada por los datos: "Las huellas digitales que dejamos durante nuestra vida cotidiana -que revelan más sobre nosotros que cualquier cosa que decidamos revelar- proporcionan una poderosa herramienta para abordar los problemas sociales" (Alex Pentland). La propia vigilancia social se convierte en "un cliente de primera para la IA" (Eric Schmidt).
Tradicionalmente, los estadísticos formulaban preguntas y recopilaban datos para responderlas, y luego hacían afirmaciones "objetivas" para apoyar a los responsables de la toma de decisiones. Con el advenimiento de las técnicas conocidas como data science, big data analytics, data mining, sentiment analysis, etc., los datos se adquieren en primer lugar, la investigación, el tratamiento y las previsiones vienen a continuación, y a menudo en tiempo real, con todas las consecuencias que ello conlleva en términos de control y orientación de los procesos colectivos (elecciones políticas, búsqueda de consenso, administración del disenso). La racionalización de la sociedad por la estadística clásica utilizaba un modelo de "hombre medio" con respecto al cual podían medirse las desviaciones. La ciencia de los datos, en cambio, establece una guía no mediada, que se adhiere como un traje inteligente a la superficie del comportamiento para producirlo y anticiparlo.
Pero con la desaparición de la autoridad de las estadísticas y del papel mediador del experto público, no queda nada que las sustituya: los individuos atomizados pueden vivir en cualquier "comunidad imaginaria" que consideren más alineada con lo que están dispuestos a creer. Y, a la inversa, la IA predictiva consagra nuevos "cercos" sobre la base de asociaciones y comparaciones que a menudo no significan nada. Intentemos aclarar este punto. Las voces, los rostros y las emociones de las personas se clasifican ahora mediante aprendizaje automático, y la vida de las personas se perfila mediante algoritmos estadísticos sobre cuya base se toman luego decisiones sobre sus vidas: existen en el mercado programas informáticos que permiten tomar decisiones a partir de correlaciones entre datos de todo tipo, sin referencia alguna al contexto o al significado, asumiendo la posibilidad de predecir si un ciudadano cometerá un delito, si un solicitante de empleo será lo suficientemente cooperativo, si un estudiante abandonará los estudios antes de tiempo, si un deudor potencial devolverá un préstamo o si una persona necesitará cuidados médicos especiales. Una dimensión totalitaria que prefigura una inversión total de la carga de la prueba, reintroduciendo un criterio similar al de los juicios por brujería: uno es culpable de lo que se le acusa. Además, la inextricable imbricación de correlaciones significativas y correlaciones espurias en los big data (estas últimas derivadas únicamente de la numerosidad y no de la naturaleza de los datos), confiere a este tipo de toma de decisiones algorítmicas una dimensión marcadamente irracional, ya que se basa en la idea "psicótica" de que todas las conexiones son significativas, independientemente del reconocimiento de vínculos causales. En el plano jurídico, como han señalado algunos autores, todo esto significa que las decisiones predictivas basadas en sistemas de aprendizaje automático son constitutivamente discriminatorias -mucho más allá de las "discriminaciones culturales" incrustadas en los datos, de las que siempre se habla-, ya que proceden tratando a los individuos en función de su agrupación en categorías constituidas a partir de correlaciones detectadas en los datos de origen y que, sin embargo, pueden ser totalmente irrelevantes respecto de las decisiones que se toman. Esta característica es estructural y no se debe a ineficiencias o imprecisiones técnicamente modificables.
Por otra parte, creer que se pueden predecir las acciones futuras de una persona viva del mismo modo que se puede predecir la aparición de determinadas cadenas de texto en una base de datos equivale a creer que la dimensión del tiempo no forma parte de la experiencia humana y que el futuro es equivalente al pasado. También en este sentido, la adaptación a la gestión algorítmica de las cosas tiene el efecto de estrechar y empobrecer aspectos esenciales de la naturaleza humana: el poder de la IA como guardián universal la hace capaz de comprimir el futuro sobre el presente; se oculta lo que podría suceder para mostrar sólo lo que ya está dado, aunque aún no haya sucedido. En dirección opuesta a la propaganda que acompaña a cada nuevo artilugio inteligente, puntualmente presentado como portador de nuevas potencialidades a la experiencia humana, asistimos a la aniquilación sistemática de la posibilidad de que en el futuro pueda suceder algo distinto de lo que ya tenemos. En esta clave, incluso las ahora extendidas preocupaciones por la "sostenibilidad digital", entendida como garantía de espacios de viabilidad para las generaciones futuras, se convierten en meros oxímoron.
Hemos hablado de la transformación de las relaciones entre los ciudadanos y la administración pública, así como del control omnipresente que permiten las nuevas tecnologías... en su opinión, ¿son éstas dos características centrales de la llamada ciudad inteligente? ¿Existe alguna relación entre estos aspectos y las emergencias planetarias, como las sanitarias o las climáticas?
Las emergencias que se han sucedido ininterrumpidamente durante varias décadas, saltando de una "crisis" a otra sin solución de continuidad, y con una velocidad que se ha vuelto vertiginosa en los últimos tres o cuatro años, han adoptado todas ellas una medicina común: el empuje fanático hacia la digitalización de todo (en la que también se invierte prácticamente en todo, no hay más que ver el desglose de las partidas financiadas por el PNRR).
Emergencia permanente y digitalización parecen dos polos inseparables que se retroalimentan.
Una medida como el confinamiento masivo durante la emergencia Covid, por ejemplo, ni siquiera podría haberse imaginado sin un cierto grado de digitalización generalizada, y a su vez desencadenó la explosión del teletrabajo (smart working), la formación a distancia, la videoconferencia y el comercio electrónico, prácticas todas ellas que han pasado a formar parte de una nueva normalidad. En octubre de 2020, Vittorio Colao -ejecutivo de una empresa de telefonía móvil y Ministro de Innovación Tecnológica y Transición Digital del Gobierno Draghi-, cuando dirigía el Comité Científico Técnico al que el Gobierno italiano había confiado la tarea de gestionar la pandemia, afirmó que: "estamos acelerando la transición digital. No es reversible. Compraremos más por Internet, viajaremos menos. No se puede salvar un mundo que ya no existe". El mundo que la pandemia se estaba llevando, según Colao, era aquel en el que aún se consideraba normal reunirse para discutir o asistir a una conferencia, salir de compras o emprender un viaje para visitar a alguien. En cambio, una ciudad inteligente define un contexto en el que todas estas cosas están predeterminadas dentro de un marco de posibilidades accesibles virtualmente.
Una característica básica de las ciudades que aspiran al estatus de inteligentes es, de hecho, la desmaterialización del espacio público: un lugar sólo existe en la medida en que se le dota de coordenadas geográficas y de una identidad personal digital, convirtiéndose así en una localización, y por tanto todo el espacio físico sólo existe en la medida en que se coloca en correspondencia con una infraestructura invisible que determina de forma única sus características y la consiguiente accesibilidad controlada. Quienes se ven privados de la posibilidad de establecer una "conexión" con dicha infraestructura no "existen" y, a la inversa, todo lo que les rodea se reduce a una fantasmagórica ciudad fantasma. Este proceso de destrucción/reconstrucción del entorno vital y urbano, con su lógica de clasificación basada en indicadores cuantitativos de rendimiento, introduce más o menos subrepticiamente un nuevo "orden moral" que garantiza un disciplinamiento de las ciudades, y de las viviendas que forman parte de ellas, las cuales, para asegurarse la financiación y las subvenciones, no tienen otro camino que aplicar las políticas prescritas por las agendas internacionales. Todo esto, por supuesto, se hace factible en la medida en que la dimensión política original de la ciudad -como espacio de la politeia- es destruida. Este orden, entonces, se extiende sin fisuras a los individuos que las habitan, allanando el camino para experimentos de crédito social que vinculan la vida de las personas a un "bien" predefinido y algorítmicamente mensurable.
Las ciudades inteligentes son, por tanto, ciertamente dispositivos de control social, pero lo son especialmente en la medida en que este control produce valor a través de la extracción de datos. Como ya se ha dicho, la digitalización implica una transformación no tanto de la relación entre los ciudadanos y la administración pública, sino de la propia naturaleza de ambos términos, una transformación de naturaleza política pero sobre todo antropológica.
Vivimos en la era de las primeras aplicaciones de la inteligencia artificial y la ingeniería genética. Se han establecido corrientes de pensamiento -las más famosas reunidas estos últimos días en Davos- que preconizan la integración del hombre con la máquina, a través de los nanomateriales y las neurotecnologías. ¿Cómo serán los hombres del mañana?
Debo decir que los participantes en Davos me parecen a menudo otros tantos pequeños "Napoleones", convencidos de ser los depositarios del control absoluto sobre un mundo que, en cambio, les ignora en gran medida. En efecto, el sueño globalista estadounidense tropieza con serios obstáculos debido a la imposición de estructuras geopolíticas, encarnadas por potencias regionales como China, Rusia, India e Irán, que, sin limitarse al Estado-nación tradicional, rechazan resueltamente el universalismo belicista del Occidente dirigido por los angloamericanos.
No obstante, ciertos escenarios concebidos en ese contexto, y en particular una integración cada vez mayor entre humanos y máquinas, contribuyen en gran medida a dar forma a la ideología transhumanista que impulsa la actual escalada tecnológica en gran parte del mundo. El grado de desarrollo alcanzado por las neuro y nanotecnologías hace ahora factible una gama cada vez mayor de injertos e hibridaciones, como la implantación de un chip en un cerebro humano llevada a cabo hace unos días por la empresa Neuralink de Elon Musk. Entre las muchas promesas de la ideología transhumanista se encuentra, por ejemplo, la de la Fundación Terasem, dedicada a la exploración y promoción de una tecnología "geoética" bajo cuyo cuidado se podría alcanzar la ciberinmortalidad "manteniendo tus células vivas, con tus relojes biológicos parados indefinidamente y, [... después de ser declarado biológicamente muerto, la tecnología futura podría ser capaz de hacerte crecer en un nuevo cuerpo a través de la ectogénesis [es decir, la reproducción de seres humanos en "úteros artificiales"] y tu archivo mental podría ser descargado, lo que te permitiría vivir indefinidamente".
Más allá de los aspectos simultáneamente mesiánicos y potencialmente criminales de tales escenarios, lo que este movimiento tecnoideológico prefigura me parece ser sobre todo un marco normativo y de mandato judicial: en la medida en que tales intervenciones sobre la vida se presentan invariablemente como para el bien, quienes no confían en ellas no pueden sino ser socialmente condenables dado que ponen a la especie en riesgo potencial... Al mismo tiempo, confiar en ello equivale a situarse en las condiciones en las que el cuerpo-mente que somos puede ponerse en correspondencia con una combinación finita de procedimientos y dinámicas automatizadas, es decir, en las condiciones en las que nuestras facultades, lentas e imprecisas, pero arraigadas en el lenguaje y la inteligencia autoconsciente, se reducen a las, mucho más rápidas y precisas, y al mismo tiempo infinitamente más "estúpidas", de una máquina calculadora. Así, para una mirada animada por un mínimo de realismo, un ciborg no aparece como un ser humano con ciertas facultades amplificadas, sino más bien como una máquina con funciones antropomórficas.
Y es muy probable que en el futuro próximo no se produzca un conflicto entre máquinas y humanos, sino principalmente entre quienes "utilizan" las máquinas y quienes se resisten a esa hibridación sistémica.
A pesar de la velocidad desmesurada a la que se producen hoy los avances tecnológicos, ¿es posible identificar a ciertos actores que mantienen las riendas de este progreso? ¿Quiénes son los actuales amos del vapor? En particular, como italianos, hemos asistido en las últimas décadas al progresivo alejamiento de los centros de decisión del territorio. Desde la UE a la OTAN, pasando por la ONU y su brazo sanitario, la OMS, las decisiones que afectan a nuestras vidas no están bajo nuestro control. ¿En qué medida ha influido la tecnología en esta involución de la política y qué podemos esperar en el futuro? ¿Qué posibles vías de resistencia?
Me parece importante poder captar estos fenómenos no sólo como la suma de prácticas individuales, sino también y sobre todo en su aspecto sistémico, sin limitarnos a una visión moralista e individualizadora, según la cual los problemas causados por las tecnologías digitales provienen de las malas intenciones de sus financiadores, de sus diseñadores, de sus usuarios o de la concentración de capital que las produce. Aunque es indudable que de vez en cuando es posible identificar a quienes, de diversas formas, empujan en determinadas direcciones, es difícil que los intereses, las intenciones o la ideología de determinados individuos o instituciones proporcionen por sí solos las claves para entender el tipo de mundo en el que vivimos. El sistema técnico, en particular el actual, expresa en gran medida un poder en sí mismo: del mismo modo que la digitalización ha destruido el espacio público, también ha subsumido en sí misma las funciones gubernamentales, transformando, como decíamos, la sociedad en una comunidad, donde el poder se ejerce sobre todo a través de mecanismos de condicionamiento operante, compuestos de incentivos, refuerzos, aislamiento, castigos. El sueño de Burrhus Skinner de una sociedad en la que el comportamiento de cada uno de sus miembros esté rígidamente controlado parece así hacerse realidad, al menos en algunas zonas del mundo. Y una realidad en muchos aspectos peor que la de los totalitarismos históricos, porque la pone en práctica un Estado que, ayudado por organismos internacionales como la UE, la OTAN y la OMS, se erige en nuevo Leviatán y al mismo tiempo se retira de cualquier función protectora hacia sus ciudadanos (trabajo, vivienda, sanidad, educación, etc.), dejándola en manos de dispositivos automáticos de gestión. Como dijo Klaus Schwab: "los humanos deben aceptar convertirse en una fuente de energía para las máquinas de IA". La gobernanza "predictiva" que se está imponiendo con la difusión de la IA opera a la vez como una dataficación y una interpretación algorítmica de la realidad, y como una prescripción de las decisiones e intervenciones que deben aplicarse. La IA no sólo apoya, asiste, amplifica, etc., sino que también decide, juzga, evalúa, diagnostica y prescribe pronósticos.
No hay lugar para nada más, ni para el discernimiento o la acción humana, ni para la política. La sociedad digital tiende a aniquilar la acción humana en la medida en que dispone una positividad genérica que hace desaparecer todas las formas de oposición, dejando espacio sólo para diferentes estados de lo igual.
Y no deja de ser una aparente paradoja que el nuevo reinado del bien artificial se inaugure en un contexto cada vez menos democrático, atravesado por un sufrimiento y una brutalidad sin precedentes. La sucesión compulsiva de emergencias globales y el descenso a la barbarie asociado a las guerras y la destrucción parecen ahora elementos inseparables para la perpetuación del "capitalismo absoluto" y su "casino financiero", que moldea y subsume bajo sí todo lo posible. Si la tecnología digital se está convirtiendo en el frente más caliente de los enfrentamientos geopolíticos, es también porque el potencial destructor de la actual fase "emergente" del capitalismo globalizado es inmenso y sólo puede ser guiado por un "guardián" privado de toda posible dimensión ética.
Del mismo modo que la economía financiera se muestra cada vez más inmaterial e incomprensible, manejable sólo por una complicadísima infraestructura algorítmica, del mismo modo los acontecimientos globales, las crisis, las amenazas, las emergencias y las guerras, que hoy arrastran la vida de enormes masas de personas, son también entidades espectrales e incomprensibles, manejables sólo por algoritmos inescrutables. Todo tiende a funcionar así y contribuye a aniquilar toda dimensión política, toda conciencia individual, todo debate público, en beneficio de un nuevo fideísmo pseudoreligioso y neomedieval, donde todos deben tener los mismos miedos y esperanzas.
En este escenario, la crítica y la resistencia parecen inviables. Y no sólo porque toda protesta acaba fatalmente alimentando y reforzando el control, sino también porque tienden a esterilizarse aguas arriba con la aniquilación de la dimensión política dentro de la cual es siquiera concebible una acción colectiva que pueda cambiar algo. Parece que el único espacio para la crítica se reduce a expresar opiniones sucedáneas e inofensivas, iconizadas por likes o insultos en las "redes sociales", que luego contribuyen a formar y mejorar el sistema general.
Y creo que también es importante señalar que no podemos salir de esta situación con resoluciones y mecanismos de garantía, ni con apelaciones a un "Internet libre" y a un "digital alternativo", que parten del supuesto ilusorio de que la tecnosfera es sólo un conjunto de servicios de acceso a la información. La idea misma de que tiene sentido pensar en la regulación, o incluso en la reapropiación de las "herramientas digitales", no sólo me parece en gran medida engañosa, sino que creo que contribuye significativamente a la normalización de la tecnoacción sin reflexión. La posibilidad de no avanzar en determinadas direcciones, de no construir ciertos sistemas y de repensar las cosas en su raíz, nunca se contempla precisamente por el discurso "ético" que vacía preventivamente de sentido las cuestiones subyacentes, planteando las innovaciones tecnológicas a priori como inevitables, siempre y cuando se adopten "códigos de conducta" adecuados que garanticen, como la etiqueta de un producto de supermercado, su carácter beneficioso.
Más bien, creo que hay que volver a la raíz de los problemas, observando que la principal fuente de incertidumbre que puede hacer ineficaz un sistema de control y predicción basado en el análisis de grandes cantidades de datos es precisamente el elemento humano, sobre todo en su comportamiento social y en la dimensión de la acción, al tomar la iniciativa en direcciones inesperadas, al entrar en relación con otros hombres, al crear lo nuevo, en la capacidad de producir acontecimientos e historias capaces de iluminar de sentido la experiencia. En la medida en que la vida humana se desenvuelve en un contexto caracterizado principalmente por comportamientos orientados a la obtención de un beneficio predefinido, entonces es plenamente concebible que muy pronto las máquinas "lo hagan mejor que nosotros" en cualquier campo. Sin embargo, me parece que la constatación de este elemento abre, precisamente en esta fase histórica, una oportunidad sin precedentes: la de poder distinguir con nueva lucidez entre lo que es auténticamente portador de autonomía y planificación creativa y lo que es potencialmente un sucedáneo artificial.
Desde esta perspectiva, la IA es una revolución que deja más espacio vital precisamente a quienes la eluden, en lugar de "hacer borrón y cuenta nueva" dramáticamente a quienes piensan y operan considerando los protocolos estandarizados como lo mejor de la vida, simplemente porque pronto los realizarán mucho mejor que ellos. Será, por tanto, tarea de quienes mantengan sus raíces firmemente plantadas en la multiplicidad autocreadora de la dimensión humana activar procesos de autoeducación popular y construcción de alternativas concretas, quizás empezando por el frente más antiguo de desempoderamiento y expropiación por parte del Leviatán digital, el de la agricultura campesina y el trabajo artesanal. De lo contrario, nos espera un mundo donde la razón y la palabra serán inútiles porque el caos y la violencia habrán ocupado su lugar.
Stefano Isola, catedrático de Física Matemática en la Universidad de Camerino. Autor de numerosas publicaciones científicas sobre temas de sistemas dinámicos, probabilidad, epistemología, historia de la ciencia y teoría musical, así como de varios libros y ensayos de divulgación sobre historia y crítica social. Su último ensayo "A fin di bene: il nuovo potere della ragione artificiale", Asterios Editore, se publicó en 2023 y preparó el terreno para esta entrevista.
----------------------