Las “IA”: Por primera vez, hay tecnologías con la facultad de incitarnos a actuar de tal manera u otra…

En la línea del pensamiento crítico francés, Eric Sadin es un ensayista que con su libro Vigilancia global (2009) comenzó a lanzar advertencias muy fuertes sobre las implicancias de la digitalidad, la “siliconización del mundo” --otro libro suyo-- y lo que él considera una pérdida de autonomía del ser humano a través de las tecnologías, lo cual estaría conduciéndonos a un “antihumanismo radical”. Su último libro publicado en Argentina por Caja Negra ha sido un éxito de ventas --La Inteligencia Artificial o el desafío del siglo-- y en esta entrevista aborda a fondo algunos perfiles de su pensamiento, incluyendo el uso de las redes sociales por parte de las ultraderechas globales. Concluye que sería inútil ir a enfrentar a esos neofascismos en el terreno digital, reivindicando metafóricamente la necesidad de un regreso al agora griega donde las cosas se debaten cara a cara.
 

Por Julián Varsavsky

--En Argentina la ultraderecha está disputando el poder. El lugar donde más votos alcanzó en todo el país en primera vuelta fue un pueblito criollo y originario de la Puna a 4200 m.s.n.m.: 63% en San Antonio de los Cobres. Jamás un militante de esa fuerza pisó ese lugar. El partido tiene cybermilitantes no orgánicos ni muy conectados entre sí, pero desde su casa crean videos que ven millones: la campaña es bastante efectiva y cuesta casi cero. El partido en sí trabaja en dos frentes: el televisivo --de donde surgió-- y el cyberespacio, viralizando videos en TikTok, la red que tiene la mejor IA extractiva de datos. ¿Ese formato ultrabreve solo puede ser una herramienta útil para discursos de odio y propuestas falaces? ¿Puede servir para edificar políticas colectivas? ¿O solo para derrumbarlas?
--Quizás nos equivocamos en el orden de los factores al creer que las tecnologías son las que influyen en los electores de esos pueblos. Sería erróneo creer que el uso de esas nuevas tecnologías de persuasión de masas son la gran causa de lo sucedido. Hay un estado de cosas que no está en funcionamiento solo en esos pueblos, sino en casi la totalidad de las democracias liberales. Me refiero a un estado psíquico, a las disposiciones afectivas de la gente que vive desde hace unos 40 años la instauración del orden neoliberal --aunque no todo depende de eso-- en el que estamos viviendo de desilusión en desilusión, con la desaparición progresiva del poder público, del poder regulador del Estado, en condiciones de trabajo cada vez más precarias; son desilusiones relativas a las promesas políticas. Subyacen impresiones colectivas que hacen que ya no se pueda creer en los regímenes políticos, e impresiones de impotencia y de inutilidad de uno mismo. Vivimos con la conciencia de que hay fuerzas más grandes que uno mismo, que tienen más poder. Somos un engranaje de un sistema que nos supera. Se crea una ecuación entre la libertad individual, la posibilidad de alcanzar las propias ambiciones y el tener en cuenta el interés colectivo. Esa ecuación quedó en un plano de la ficción y luego se impusieron otros intereses, dañando la posibilidad de ese vivir en común, dañando los cuerpos y las mentes de las personas. Como analicé mi libro La era del individuo tirano, a partir de fines de los años 90 y a lo largo de los 2000 aparecieron en las manos de millones de personas, instrumentos digitales que nos crearon una ilusión de superpotencia y de una gran centralidad de uno mismo. Hay un montón de servicios y productos a nuestra disposición que supuestamente nos facilitan la existencia. Hay plataformas que nos permiten expresarnos contínuamente o exponer a ojos de todos nuestra vida cotidiana: las redes sociales. Todo esto generó una superposición entre un sentimiento de despojamiento de uno mismo en general y de pronto, la impresión de un superpoderío a través de tecnologías que otorgan a las personas una sensación de centralidad, de que el mundo viene a nosotros a partir del acceso a información, a productos y servicios personalizados que se nos proponen. Tenemos la ilusión de ser el centro del mundo. Facebook dio la posibilidad de exponerse a la vista de todos, de recibir likes, de momentos de entusiasmo. Y también Twitter dejó la puerta abierta a la expresividad de cada uno; de golpe creímos poder formar parte de toda una serie de opiniones marcadas por el sello de la desilusión, del rencor, del resentimiento y a veces del odio. Por eso yo no hablo de redes sociales, sino de plataformas de la expresividad que fueron concebidas para poder acceder a un montón de fuentes de información. Cada uno pudo crear sus propias fuentes de información. Y hubo así una diseminación de relatos, una atomización de la verdad, mucho más que fake news. Cada uno percibe lo real y los acontecimientos según el prisma de su propia subjetividad, de su propio resentimiento o dolor, de sus propios rencores en una suerte de diluvio verbal. Es evidente que las tecnologías políticas de persuasión de masas pueden afectar individualmente a las personas, crear grupos, analizar comportamientos, analizar mensajes y reacciones. Quienes explotan comercialmente esas nuevas tecnologías de persuasión de masas son justamente quienes saben jugar con esas sensaciones negativas y mortíferas que tienen las personas, con el hecho de que la gente sienta rencor y resentimiento. Y podemos comprender así la elección de Donald Trump. Según esta óptica, son esas sensaciones, sentimientos y emociones negativas lo que fue aprovechado, aquello de lo que se nutrió y se cultivó políticamente, a través de las tecnologías de persuasión de masas. Podemos pensar en el Brexit en 2016 o en Bolsonaro. Esas tecnologías no afectan específicamente a un pueblito de montaña del norte de Argentina, sino que afectan a poblaciones que sienten ese resentimiento o rencor respecto del Estado, del gobierno y del poder público. Son gente que se sintió dejada de lado y las tecnologías supieron mantener una relación directa y explotar esas sensaciones negativas. Entonces, antes de hablar de esas tecnologías, hay que hablar de un estado de desilusión, una sensación de inutilidad que ya sentían las personas. Y poner eso en resonancia con la desigualdad y la precariedad. Esas tecnologías permiten a la ultraderecha explotar un estado intenso de resentimiento generalizado en todo el mundo. Se explota y se cultiva ese resentimiento.
--¿Con esas tecnologías se podría hacer política de otro modo?
--Ciertamente no; la política no tiene que ver con la conexión, sino con un tipo de presencia juntos, es la expresión de la pluralidad y no de un diluvio verbal permanente. Es una pluralidad y una subjetividad que se expresan en un marco estructurado. Es el hecho de producir acuerdos escuchándonos dentro de un marco de pluralidad, en conformidad con principios que nos rigen. Esto es lo opuesto a las redes sociales y a la tecnología digital en general. Lo digital genera interferencia entre las personas porque crea una primacía de la palabra de cada una. Hace quince años había toda una literatura sobre la democracia de Internet y las nuevas maneras de poder organizar la democracia a través de esa nueva tecnología. ¿En qué resultó todo eso? En nada. Porque no es a través de las pantallas que vamos a fabricar la democracia, sino con presencia, con una articulación de la palabra propia que toma en cuenta la escucha del otro, la pluralidad. Y que tiene en cuenta el hecho de que el sufrimiento y la expresión del sufrimiento de cada uno no basta: a eso le tiene que seguir una acción y un acuerdo sobre la realidad y la vida cotidiana. 

--En su libro La Inteligencia Artificial o el desafío del siglo, se plantea que las máquinas nunca se rebelarán como los perros robot de Black Mirror. Pero van a erradicarnos simbólicamente y en los hechos, quitándonos la facultad de actuar de manera libre con lo real y engendrando lógicas autoritarias inéditas. ¿Posturas como la de Yuval Harari que predice “el fin de la humanidad” adolecen de un apocaliptismo ajeno a la realidad? ¿Cuál es el punto más verosímil sobre lo que está amenazado?
--Ahora todos tienen algo para decir sobre la IA pero adolecemos de una definición. Yo desde antes de 2018 ya me dediqué a trabajar sobre qué es la IA: es un cambio de estatuto de las tecnologías digitales que ya no solo permiten recabar datos de manera automática y su almacenamiento con fines informativos, sino también indexar y manipular esos datos. Pero a fines de los 2000 surgió una nueva rama de las tecnologías digitales con una nueva misión. Harari es un historiador de la antigüedad que no sabe nada de esto y juega con el sensacionalismo. ¿Cómo vamos a confiar en lo que dice un historiador sobre este tema? En lugar de confiar en filósofos independientes especializados en este tema. La IA es una potencia de diagnóstico de situaciones, cada vez más diversa. Esto es una IA. Por ejemplo, la aplicación para conducir autos Waze analiza situaciones en tiempo real con velocidades infinitamente superiores a las capacidades cognitivas del ser humano, recoge información que ninguno de nosotros puede recabar con semejante velocidad. Y ese volumen de información diagnostica el estado del tránsito. Pero no solamente eso. La IA tiene una potencia de recomendación: sugiere actuar de determinada manera y no de otra. A esto lo llamé “el giro conminatorio de la tecnología”. Por primera vez en la historia de la humanidad, hay tecnologías dotadas de la facultad de obligarnos, de incitarnos a actuar de tal manera u otra. Son sistemas de interpretación de comportamientos que nos alientan a ir a tal negocio a comprar. Ese movimiento empieza a emerger en 2007 con el advenimiento del iPhone: sus aplicaciones interpretan comportamientos, nos hablan y alientan a comportarnos de determinada manera. Luego vinieron los asistentes digitales personales y los parlantes inteligentes que se pusieron a hablarnos. La primera consecuencia de esto fue el cultivo por parte de esos aparatos, de una relación continua con los individuos. Compañías del mundo entero crearon esto para facilitar el curso de nuestras existencias. A esto lo llamé “capitalismo de la administración de nuestro bienestar”. No es un “capitalismo de vigilancia” como dice erróneamente Shoshana Zuboff. Esas tecnologías no nos vigilan: les da igual. Lo que hacen es jugar con nuestra pereza y alivianar el curso de nuestras existencias. Ese es el primer nivel de la IA, dotada de la facultad de enunciar la verdad. La verdad siempre tiene un poder prescriptivo. Por ejemplo, la verdad religiosa que nos manda actuar de determinada manera en función de un dogma. Aquí entonces, estamos frente a tecnologías que nos hablan y nos dicen “hacé esto” o “aquello”, con miras a generar la mercantilización integral de la vida. En 2015 llamé a esto “acompañamiento algorítmico de la vida”. Y no me equivoqué tanto: en mayo de 2023 Google dijo que estaba trabajando en un asistente que nos diera consejos todo el día sobre lo que más nos conviene a cada uno. En aras de nuestro supuesto bienestar, se mercantiliza nuestra vida. Y la segunda consecuencia es que aparecen sistemas que administran sectores colectivos. Un ejemplo es el campo de la contratación de personal. Ahí unos chatbots interpretan diálogos con 300 candidatos: los entrevistan por audio y video mediante el chatbot para cubrir un puesto en una empresa. Así se seleccionan cinco candidatos para la audición final. Luego aparecen humanos que escuchan a esos últimos finalistas, pero mañana, quién sabe. Esto se inscribe en el fenómeno creciente de la automatización de los asuntos humanos: cada vez más, la acción humana se hace a través de sistemas automáticos para responder a una visión estrictamente hiperracionalizada y optimizada de la sociedad. Y esto es un problema político notable. No es el final de la humanidad. Esa frase de Harari es grotesca. Pienso en los almacenes de Amazon donde los empleados reciben señales y según la posición de la mercadería, se les ordena a través de un auricular que muevan los productos. Esto reduce a los seres a robots de carne y hueso, quienes además sufren trastornos físicos. Se ofende la dignidad humana. Esto es inaceptable. Padecemos la falta de regulación sobre temas muy importantes. Con ChatGPT y otras aplicaciones, estamos frente a tecnologías que hablan y orientan en lugar nuestro y deciden, limitándonos el derecho natural a determinarnos individual y colectivamente con libertad. Nos hablan y hablan en nuestro nombre: están ya sobre la última frontera de la automatización de los asuntos humanos. Se hacen cargo de aquello que nos constituye; delegamos en sistemas la facultad de producir lenguaje y representación. Y este es un problema político muy importante que alienta la psiquiatrización de la sociedad. Todo el mundo utiliza estos sistemas sin conciencia crítica, los banalizan.
--¿Ejemplo?
--En Colombia me invitaron a una escuela secundaria. Pero podría haber sido en Corea, Italia o Argentina. Todos los chicos de 14 a 18 años frente a mí utilizaban ChatGPT. Es impresionante con qué velocidad todo el mundo lo adopta. Se piensa: “Esto es cool, es canchero y me va a facilitar la tarea”. ¿Pero vemos las consecuencias civilizatorias de esto? Cuando se puso en línea ChatGPT todos dijeron “ah, es increíble, pero todavía no es perfecto”. Pero esto ya da cuenta de una voluntad de querer siempre más, de la deficiencia crítica que persiste y de la incapacidad de captar lo que está pasando. Ahí no se está jugando el tema del lenguaje, eso es un pseudo-lenguaje. Es una lengua muerta. Porque son sistemas que se alimentan únicamente de análisis estadísticos, de procesamiento, de análisis de corpus pasados y que en función de ecuaciones de probabilidad, colocan una palabra detrás de otra, en relación con procesamientos semánticos hípersistematizados y matematizados. Y esto es lo opuesto a la manera en que utilizamos el lenguaje. Nosotros no buscamos en un corpus pasado, no somos máquinas que tragamos volúmenes colosales de textos. Somos seres que mantenemos una relación con el lenguaje en base a aprendizaje, reglas, esfuerzo y ambigüedad. Y nuestra relación con el lenguaje es una singularización entre lo común, lo pasado y la palabra del otro. Tal como estoy hablando ahora, no estoy en una ecuación probabilística sino en una relación indeterminista. ¿Y qué significa esto? Es una relación de inventiva, de subjetivación continua y permanente. Hay una inventiva en la determinación del presente. Es una lengua hecha de vitalidad. El utilitarismo está en funcionamiento desde hace un siglo y llegó a infiltrar tanto nuestros cerebros enfermos de utilitarismo, que la gente dice: “con ChatGPT voy a poder escribir una carta de amor, de renuncia o de candidatura para un puesto, y voy a pedirle una receta de cocina o que me cree una novela cortita sobre mí mismo”. Vamos a ver desaparecer la alteridad y la palabra del otro, en beneficio de ver el mundo desde nuestra propia ventana. Eso es una renuncia a nuestras facultades más fundamentales. El utilitarismo es ver los intereses propios en detrimento del interés general, a pesar de las consecuencias civilizacionales que esto trae. Así vamos a ver surgir un régimen simbólico hecho por una lengua muerta e imágenes ajustadas al capricho de cada uno, que harán que la necrosis y la muerte sobrevuelen e infiltren la sociedad. La sociedad implica referencias comunes. La IA va en contra de eso. Y con la inversión pública, se quiere sostener ese movimiento. ¿Cómo no decir “esto es suficiente, hay que frenar y regularlo”? Nos hacen creer que el Acta Europea de Inteligencia Artificial que fue votada es extraordinaria. Pero para mí serán medidas sin importancia. No se habla de los estudiantes que no van a necesitar más ir a la escuela. Para qué van a ir, si todos se pueden sentar en un sillón y pedirle cosas al chatbot. Habría que apelar a nuestra movilización política, no en las redes sociales, sino en el terreno de la realidad cotidiana. Miremos a los guionistas en Hollywood que dijeron “no queremos que nuestras facultades fundamentales creativas sean ahogadas, así que hacemos paro”. A mí me encantaría que todos los profesores del mundo se alcen y digan “no vamos a esperar que los políticos hagan esta regulación. No queremos ChatGPT en la escuela, en nombre de la humanidad, del ingenio que tenemos y de las obras intelectuales”. Y que un puñado de individuos no sean los que generen un devenir de la humanidad, que se va a convertir en una especie de vegetal.

Fuente: https://www.pagina12.com.ar/613609-eric-sadin-las-ia-ofenden-la-dignidad-humana