"La Era del Individuo Tirano": Reflexiones de Éric Sadin sobre la Soledad Digital

“La Era del Individuo Tirano” es un libro escrito por el filósofo francés Éric Sadin. En esta obra, Sadin explora cómo las tecnologías digitales y la cultura contemporánea han transformado nuestra sociedad, otorgando un poder sin precedentes a los individuos. 

Éric Sadin (París, 1973) es escritor y filósofo, y uno de los pensadores más críticos sobre los efectos de las tecnologías digitales. Colabora regularmente con diarios como ‘Le Monde’, ‘Le Figaro’, ‘Libération’, ‘El País’, ‘Die Zeit’ y ‘Corriere della Sera’.

Para los que gustan de profundizar y leer textos largos, algo que es casi un acto de rebeldía al mandato de las redes sociales, les compartimos un artículo escrito por Daniel Gigena para La Nación que titula: Éric Sadin: "El lenguaje estandarizado de la inteligencia artificial huele a muerte’"

El filósofo afirma que la lengua humana es la creación de una persona que habla en libertad; opuesto a lo que produce ChatGPT.

El pensador francés Éric Sadin visitó Argentina hace un par de meses para brindar dos conferencias y para presentar su nuevo libro, La vida espectral. Pensar la era del metaverso y las inteligencias artificiales generativas, escrito antes y después de los anuncios de OpenAI sobre los avances en materia de inteligencia artificial. Para Sadin, el futuro que espera a la humanidad es poco menos que catastrófico si no se ponen límites a las mentes (humanas) de Silicon Valley y a lo que llama la “tecnologización de la vida cotidiana”.

“Estoy feliz –dice– con la recepción que reciben tanto mis obras como mis posiciones en el mundo hispanoparlante, algo que empezó hace siete años, con la aparición de La realidad aumentada”. En Francia, sus libros venden decenas de miles de ejemplares; Sadin colabora en los medios franceses más importantes, como Le Monde y Le Figaro.

Como pasa con las obras de otros pensadores contemporáneos, la de Sadin prosigue una argumentación de un libro a otro; este no es la excepción y en varios capítulos continúa el debate iniciado en libros anteriores, como La era del individuo tirano, donde se enfocaba en el “usuario” formateado por el “tecnoliberalismo”.

Su nuevo ensayo aborda el impacto que tiene en la sociedad la adicción a las pantallas, puesta en tensión con el legado cultural, artístico y político del pasado: “Analizar las consecuencias de lo que llamo la pixelización integral de nuestras vidas, el hecho de que cada vez más actividades de la vida humana se pierden en pantallas y sistemas digitales”.

El proyecto inicial era analizar el alcance de este proceso, que cristalizó en la aparición de la industria del metaverso, cuenta el filósofo, autor también de La silicolonización del mundo (Caja Negra, 2018). Sin embargo, en medio de la escritura del libro, irrumpió un acontecimiento insoslayable: la puesta en línea del ChatGPT, el 30 de noviembre de 2022. “Eso me produjo una suerte de vértigo –dice Sadin–. Ahí entendí que se trataba de una fecha histórica, única en la historia de la humanidad. Fue la primera vez en un libro que me pasa esto de trabajar en dos dimensiones sin haberlo previsto. Eso hace que este sea un libro que da un testimonio sobre el curso del estado de las cosas, tiene una dimensión prospectiva, pero sigue siendo bastante híbrido. Por eso tengo la idea de escribir otro de 150 páginas sobre el fenómeno preponderante, este terremoto que presenta la irrupción de la IA generativa, las consecuencias y cómo deberíamos actuar como sociedad”.

¿Y cómo deberíamos actuar?

Hablemos primero de lo que tenemos enfrente. Desde hace unos quince años están en funcionamiento unos sistemas de IA. La IA era, hasta 2022, un sistema de diagnóstico y recomendación, un sistema de evaluación de una cantidad de aspectos de la vida humana; por ejemplo, tomar tal camino o no, comprar tal producto en tal lugar o no. Es lo que llamo la organización cognitiva y organizacional de la IA. 

Esta dimensión sigue en funcionamiento más que nunca, con una cantidad de consecuencias jurídicas y políticas que a mi juicio no están siendo pensadas y que analicé en 2018 en La inteligencia artificial o el desafío del siglo. Pero desde noviembre de 2022, si bien este sistema sigue en pie, vivimos lo que llamo el giro intelectual y creativo de la IA.

¿Qué implica ese giro?

Significa que ahora hay un sistema al que le encargamos que realice tareas que hasta este momento movilizaban nuestras facultades intelectuales y creativas. En diciembre de 2022 se puso en línea ChatGPT y una multitud de gente dijo que era increíble un sistema que, con una mera instrucción, un prompt, pudiera producir texto en un seudolenguaje. 

Estas mismas personas dijeron que todavía hacían falta nuevos desarrollos para que el ChatGPT se acercara a un lenguaje humano. Lo que tendríamos que haber hecho entonces es ver cómo funcionaba eso, quizá para un filósofo de la técnica ese era su deber, ya que los ingenieros no nos explican cómo funciona, nos dicen que va a ser genial y que vamos a vivir en un mundo maravilloso. 

El sistema de IA generativa deglutió todos los corpus existentes desde la noche de los tiempos hasta 2021, con miras a someterlos a análisis estadísticos, matemáticos, esquemas lógicos y ecuaciones probabilísticas. Por ejemplo, cuando escribimos en WhatsApp, el predictivo completa la frase. En una dimensión probabilística el sistema funciona a través de correlaciones y aparecen entonces las probabilidades más altas en función de estadísticas y ejemplos lógicos. Pero esto es lo opuesto a la manera en que mantenemos nuestra relación con el lenguaje hasta ahora.

¿En qué se contrapone con nuestro uso del lenguaje?

La relación con la lengua es el lugar del encuentro, el maravilloso choque entre el legado común y cada singularidad con su capacidad subjetiva. Lo que llamamos cultura está hecho de una infinidad de textos, esquemas de construcción, gramática y ortografía que aprendemos en la infancia y que, en la adultez, nos permite forjar textos en primera persona, de manera única. 

Lo que voy a decir ahora mismo, la palabra que vamos a decir en el momento siguiente no la podemos predecir, no la sabemos. Y no lo sabemos porque no mantenemos una relación probabilística con el lenguaje sino indeterminada. Y ese es el lugar de la libertad humana, el lugar de la creatividad; el lenguaje es la creación continua y siempre singular de una persona que habla en nombre propio con libertad. 

Es lo opuesto al lenguaje necrosado de la IA, que huele a muerte porque está fundado en esquemas lógicos de correlaciones: si hay A, hay B y habrá C. Nosotros utilizamos el lenguaje dentro de una dimensión asociativa. Ahora este lenguaje necrosado, industrializado, estandarizado, esquematizado está llamado a convertirse en algo mayoritario en el espacio simbólico. Cuando las personas empezaron a utilizar ChatGPT no vieron las consecuencias civilizatorias que tiene.

¿Solamente se valoró su función práctica y utilitaria?

Sí, y eso es terrible. Porque el utilitarismo se convirtió tanto en una norma en nuestra sociedad que llegó a infiltrar nuestros cerebros y solo pensamos en términos utilitaristas. Ahora bien, la cuestión en particular que nos van a plantear pronto nuestros hijos es: “¿Por qué debo ir a la escuela si hay sistemas que a través de una mera instrucción producen texto? ¿Para qué voy a estudiar en la escuela, perdiendo tiempo con la gramática y la ortografía?”.

¿Qué deberían responder los adultos ante un planteo como ese?

La educación es el aprendizaje de la alteridad. La educación en casa es verse solo a sí mismo y eso contribuye al estatuto del individuo tirano. Lo que propongo hacer es tratar de captar las consecuencias sociales, políticas y civilizatorias del ChatGPT. Quizás el utilitarismo nos impide hacer el esfuerzo de captar todo esto. Quizás a los niños haya que hacerles entender que el lenguaje es el lugar de la libertad humana, la pluralidad, la capacidad para construirse como individuo singular, un ser capaz de tener posiciones propias en una sociedad libre y plural; que el aprendizaje de los grandes textos y de la cultura son una ocasión de alegría intensa para la existencia. 

Podríamos responderles también que el seudolenguaje de la IA va a reforzar un capitalismo algorítmico que solo brega por el lucro. Podríamos decir, además, que son sistemas que van a generar consecuencias de consumo energético más grandes, en momentos en que se dice que hay que modificarlos.
 
"Lo que está sucediendo hoy con las IA generativas es que con una simple instrucción, el menor esfuerzo, sentadito en un sillón, puedo pedir que prepare el discurso de esta noche mientras yo duermo la siesta".

¿Qué impacto tendrá en el mundo de las representaciones?

Lo que está sucediendo hoy con las IA generativas es que con una simple instrucción, el menor esfuerzo, sentadito en un sillón, puedo pedir que prepare el discurso de esta noche mientras yo duermo la siesta. Es lo que llamo el “régimen del promptismo generalizado”. No pasa solamente con el seudolenguaje, sino también con las imágenes. Con una instrucción se pueden generar imágenes falsas, como la del papa Francisco con campera o el falso audio de Joe Biden.

Se trata de una cuestión ontológica.

Más que eso, un audio falso de Biden pidiendo a sus electores no votar en Nuevo Hampshire para reservarse y votar en Florida o el video seudopornográfico de Taylor Swift producen consecuencias concretas. A través de una instrucción puedo pedir a la IA que cree un video falso de un vecino con el que tengo una diferencia, pegándole a una mujer, y después lo subo a internet. 

Vamos camino a eso porque son tecnologías que están en manos de todos; vamos hacia un entorno en donde no sabremos cuál es la verdad y eso supone una extrema gravedad, porque una sociedad no es solo los principios en común, sino también las referencias en común. La sociedad ya está lo suficientemente enloquecida con las fake news, con la posverdad, con la expresión del rencor, con el complotismo.

¿Cuáles podrían ser las consecuencias en el mundo del trabajo?

Un año después de la puesta en línea del ChatGPT, Sam Altman dijo que habíamos tenido un buen año y todos se rieron, el auditorio se rio, todo el mundo se rio, pero también dijo que eso no era nada en comparación con lo que se venía. “Vamos a darles a todos los individuos del planeta superpoderes con los superasistentes”, dijo. O sea, sistemas de IA generativa que van a responder de manera personalizada. 

Te vas a mudar y necesitas un arquitecto que te asesore; por ahora es un arquitecto, pero pronto un superasistente va a incorporar todos tus deseos y datos; un médico clínico será cada vez menos necesario si se puede tener una entrevista con una IA que analizará mi cara y me dará consejos de salud. En el mundo más de dos tercios de los empleos pertenecen al sector terciario, de servicios. Habíamos hablado del giro intelectual y creativo, que es lo que caracteriza a las profesiones que tienen que ver con los servicios, porque movilizan nuestras facultades intelectuales. 

Ahora hay sistemas que pueden desempeñar de manera infinitamente más rápida y fiable, y a menor costo, esas tareas. No hay que ser adivino para ver lo que se viene. Diseñadores, periodistas, abogados, profesores, en suma, todas las profesiones que en su mayoría requieren largos y costosos estudios y además son oficios que procuran placer y fenómenos de reconocimiento, dentro de pocos años van a sufrir un huracán, todas esas profesiones van a ser trituradas y destruidas. Por eso los gurúes de Silicon Valley ya hablan de un “salario mínimo universal”.

En mayo de 2023, los guionistas de Hollywood reaccionaron, fueron muy valientes y sin esperar a los legisladores o la regulación se movilizaron, hicieron huelga y dijeron “esto no lo queremos”. Eso necesitamos hoy: tiene que haber una movilización en las corporaciones.

Augura un futuro inmediato turbulento.

Nos corresponde a nosotros más que nunca promover una sociedad crítica que nos permita estar más al corriente de la realidad de estas cosas y no a merced de discursos que vienen de supuestos expertos que nos cuentan tonterías. Los guionistas de Hollywood relataron lo que estaba pasando y dieron testimonio de lo que iba a pasar y cómo este huracán se los iba a llevar puestos. Tuvieron la determinación, la valentía, la conciencia, se comprometieron en una acción política, una acción social. Es muy probable que la sociedad entre en ebullición de acá a seis meses o un año. Desde el sector terciario tenemos que movilizarnos por eso.

¿Hay una relación entre el auge de estas tecnologías y la intolerancia actual?

Muchas promesas fueron defraudadas y, en un momento histórico, se colocó en manos de los individuos herramientas para la expresión. Eso liberó rencores, resentimiento, teorías alocadas, y ahora llegamos a un mundo donde solo se ve lo real a partir de los propios rencores.

¿Qué les diría a los jóvenes que utilizan estas herramientas?

Muchas cosas. Que es envidiable una vida cotidiana con compañías que nos estimulan y buscan estimular nuestros comportamientos, en lugar de actuar en forma pasiva con herramientas que muchas veces nos llevan a compararnos con los demás, a estar en un juego de competición social sumamente triste. 

No son solo los jóvenes, es todo el mundo. Ahora sabemos que frecuentar de manera compulsiva las pantallas genera conexiones neuronales empobrecidas, sistemas que nos privan de la expresión de la singularidad, la tranquilidad y de impulsos a los que no dejamos de responder. 

Sabemos hoy, mediante estudios, que la lectura de libros estimula zonas del cerebro, aportando alegría, reflexión, aprendizaje, singularización. Hay que ofrecer medios para hacer valer nuestra libertad y subjetividad, y esto es indisociable de otras temporalidades que no son las de las pantallas, y del aprendizaje de la alteridad. Hay libros que cambian una vida; ver un video en TikTok no cambia la vida.