El futuro de la Inteligencia Artificial y el capitalismo salvaje
Tal y como se concibe actualmente, la tecnología promete concentrar la riqueza y restar poder a los trabajadores. ¿Es posible una alternativa?: Cuando hablamos de inteligencia artificial, recurrimos a la metáfora, como hacemos siempre que tratamos con algo nuevo y desconocido. Las metáforas son, por naturaleza, imperfectas, pero aun así debemos elegirlas con cuidado, porque las malas pueden llevarnos por mal camino. Por ejemplo, se ha vuelto muy común comparar las Inteligencias Artificiales potentes con los genios de los cuentos de hadas.
Por Ted Chiang
El informático Stuart Russell ha citado la parábola del rey Midas, que exigía que todo lo que tocaba se convirtiera en oro, para ilustrar los peligros de que una inteligencia artificial haga lo que le dices en lugar de lo que quieres que haga. Esta metáfora tiene múltiples problemas, pero uno de ellos es que extrae lecciones equivocadas del cuento al que se refiere. La idea de la parábola de Midas es que la codicia te destruirá y que la búsqueda de la riqueza te costará todo lo que es verdaderamente importante. Si tu lectura de la parábola es que, cuando los dioses te conceden un deseo, debes formularlo con mucho, mucho cuidado, entonces no has entendido nada.
Así que me gustaría proponer otra metáfora para los riesgos de la inteligencia artificial. Sugiero que pensemos en la inteligencia artificial como una empresa de consultoría de gestión, del tipo de McKinsey & Company. Las empresas como McKinsey son contratadas por una amplia variedad de razones, y los sistemas de inteligencia artificial también se utilizan por muchas razones. Pero las similitudes entre McKinsey -una consultora que trabaja con el noventa por ciento de las empresas de Fortune 100- y la inteligencia artificial también son evidentes. Las empresas de redes sociales utilizan el aprendizaje automático para mantener a los usuarios pegados a sus feeds.
De forma similar, Purdue Pharma recurrió a McKinsey para averiguar cómo "turboalimentar" las ventas de OxyContin durante la epidemia de opioides. (Nota de Climaterra: Con este medicamento se inició la denominada crisis de los opiodides que desencadenó en muertes masivas por sobredosis y terminó con una disminución de la expectativa de vida en EE.UU).
Al igual que la Inteligencia Artificial promete ofrecer a los directivos un sustituto barato de los trabajadores humanos, McKinsey y otras empresas similares ayudaron a normalizar la práctica de los despidos masivos como forma de aumentar el precio de las acciones y la remuneración de los ejecutivos, contribuyendo a la destrucción de la clase media en Estados Unidos.
Un antiguo empleado de McKinsey ha descrito la empresa como "los verdugos voluntarios del capital": si quieres que se haga algo pero no quieres ensuciarte las manos, McKinsey lo hará por ti. Esa evasión de responsabilidades es uno de los servicios más valiosos que prestan las consultorías de gestión. Los jefes tienen ciertos objetivos, pero no quieren que se les culpe por hacer lo necesario para alcanzarlos; contratando a consultores, la dirección puede decir que se limitó a seguir un consejo independiente y experto. Incluso en su forma rudimentaria actual, la Inteligencia Artificial se ha convertido en una forma de que una empresa eluda su responsabilidad diciendo que sólo está haciendo lo que dice "el algoritmo", a pesar de que fue la empresa la que encargó el algoritmo en primer lugar.
La pregunta que deberíamos hacernos es: a medida que la inteligencia artificial se hace más potente y flexible, ¿hay alguna forma de evitar que se convierta en otra versión de McKinsey? Merece la pena plantearse la pregunta a través de los diferentes significados del término "I.A.". Si pensamos en la inteligencia artificial como un amplio conjunto de tecnologías que se comercializan a las empresas para ayudarles a reducir sus costes, la pregunta es: ¿cómo evitamos que esas tecnologías funcionen como "verdugos voluntarios del capital"? Alternativamente, si imaginamos la inteligencia artificial como un programa de software semiautónomo que resuelve los problemas que los humanos le piden que resuelva, la pregunta es: ¿cómo evitamos que ese software ayude a las empresas de forma que empeore la vida de las personas? Supongamos que hemos construido una inteligencia artificial semiautónoma que obedece totalmente a los humanos y que comprueba repetidamente que no ha malinterpretado las instrucciones que ha recibido. Este es el sueño de muchos investigadores de la inteligencia artificial. Sin embargo, un software de este tipo podría fácilmente causar tanto daño como el que ha causado McKinsey.
Hay que tener en cuenta que no se puede decir simplemente que se va a construir una inteligencia artificial que sólo ofrezca soluciones pro-sociales a los problemas que se le pida que resuelva. Eso equivaldría a decir que se puede desactivar la amenaza de McKinsey creando una consultora que sólo ofrezca ese tipo de soluciones. La realidad es que las empresas de Fortune 100 contratarán a McKinsey en lugar de a su empresa prosocial, porque las soluciones de McKinsey aumentarán el valor para los accionistas más que las soluciones de la empresa prosocial. Siempre será posible construir una inteligencia artificial que persiga el valor para el accionista por encima de todo, y la mayoría de las empresas preferirán utilizar esa inteligencia artificial en lugar de una limitada por sus principios.
¿Hay alguna forma de que la I.A. haga algo más que afilar la hoja del cuchillo del capitalismo? Para que quede claro, cuando me refiero al capitalismo, no hablo del intercambio de bienes o servicios a precios determinados por un mercado, que es una propiedad de muchos sistemas económicos. Cuando hablo de capitalismo, hablo de una relación específica entre capital y trabajo, en la que los particulares que tienen dinero pueden beneficiarse del esfuerzo de otros. Así que, en el contexto de este debate, cuando critico el capitalismo, no critico la idea de vender cosas; critico la idea de que la gente que tiene mucho dinero pueda ejercer poder sobre la gente que realmente trabaja. Y, más concretamente, critico la concentración cada vez mayor de riqueza en un número cada vez menor de personas, que puede o no ser una propiedad intrínseca del capitalismo, pero que caracteriza absolutamente al capitalismo tal y como se practica hoy en día.
Gráfico: La inequidad de la riqueza global - 8 personas tienen la misma riqueza que la mitad de la población mundial.
Tal y como se despliega en la actualidad, la Inteligencia Artificial a menudo equivale a un esfuerzo por analizar una tarea que realizan los seres humanos y encontrar una forma de sustituir al ser humano. Casualmente, este es exactamente el tipo de problema que la dirección quiere resolver. Como resultado, la inteligencia artificial ayuda al capital a expensas de la mano de obra. En realidad, no existe nada parecido a una empresa de consultoría laboral que favorezca los intereses de los trabajadores. ¿Es posible que la inteligencia artificial asuma ese papel? ¿Puede la inteligencia artificial ayudar a los trabajadores en lugar de a la patronal?
Algunos dirán que la misión de la inteligencia artificial no es oponerse al capitalismo. Puede que sea cierto, pero tampoco es tarea de la inteligencia artificial reforzar el capitalismo. Sin embargo, eso es lo que hace actualmente. Si la inteligencia artificial no puede reducir la concentración de la riqueza, es difícil afirmar que es una tecnología neutra, y mucho menos beneficiosa.
Mucha gente piensa que la inteligencia artificial creará más desempleo y propone la renta básica universal como solución a ese problema. En general, me gusta la idea de la renta básica universal; sin embargo, con el tiempo, me he vuelto escéptico sobre la forma en que la gente que trabaja en Inteligencia Artificial sugiere la I.B.U. como respuesta al desempleo provocado por la Inteligencia Artificial. Sería diferente si ya tuviéramos una renta básica universal, pero no la tenemos, así que expresarse a favor de ella parece una forma de que las personas que desarrollan la inteligencia artificial pasen la pelota al gobierno. En efecto, están intensificando los problemas que crea el capitalismo con la expectativa de que, cuando esos problemas se agraven lo suficiente, el gobierno no tendrá más remedio que intervenir. Como estrategia para hacer del mundo un lugar mejor, esto parece dudoso.
Puede que recuerdes que, en el periodo previo a las elecciones de 2016, la actriz Susan Sarandon -que era una ferviente partidaria de Bernie Sanders- dijo que votar a Donald Trump sería mejor que votar a Hillary Clinton porque provocaría la revolución más rápidamente. No sé hasta qué punto Sarandon había reflexionado sobre ello, pero el filósofo esloveno Slavoj Žižek dijo lo mismo, y estoy bastante seguro de que había reflexionado mucho sobre el asunto. Sostuvo que la elección de Trump supondría tal conmoción para el sistema que provocaría un cambio.
Lo que defendía Žižek es un ejemplo de una idea de la filosofía política conocida como aceleracionismo. Hay muchas versiones diferentes del aceleracionismo, pero el hilo común que une a los aceleracionistas de izquierdas es la noción de que la única manera de mejorar las cosas es empeorarlas. El aceleracionismo dice que es inútil intentar oponerse o reformar el capitalismo; en su lugar, tenemos que exacerbar las peores tendencias del capitalismo hasta que todo el sistema se venga abajo. La única manera de ir más allá del capitalismo es pisar el acelerador del neoliberalismo hasta que el motor explote.
Supongo que ésta es una forma de conseguir un mundo mejor, pero, si es el enfoque que está adoptando la industria de la inteligencia artificial, quiero asegurarme de que todo el mundo lo tenga claro. Al crear inteligencia artificial para que realice las tareas que antes realizaban las personas, los investigadores de la inteligencia artificial están aumentando la concentración de riqueza hasta niveles tan extremos que la única forma de evitar el colapso de la sociedad es que intervenga el gobierno. Intencionadamente o no, esto es muy similar a votar a Trump con el objetivo de conseguir un mundo mejor. Y el ascenso de Trump ilustra los riesgos de perseguir el aceleracionismo como estrategia: las cosas pueden ir muy mal, y seguir muy mal durante mucho tiempo, antes de mejorar. De hecho, no tienes ni idea de cuánto tardarán las cosas en mejorar; de lo único que puedes estar seguro es de que habrá mucho dolor y sufrimiento a corto y medio plazo.
No me convencen mucho las afirmaciones de que la inteligencia artificial representa un peligro para la humanidad porque podría desarrollar objetivos propios y evitar que la desactivemos. Sin embargo, sí creo que la I.A. es peligrosa en la medida en que aumenta el poder del capitalismo. El escenario del fin del mundo no es una I.A. manufacturera transformando todo el planeta en clips de papel, como ha imaginado un famoso experimento mental. Se trata de corporaciones sobrecargadas de inteligencia artificial que destruyen el medio ambiente y a la clase trabajadora en su búsqueda del valor para el accionista. El capitalismo es la máquina que hará lo que sea necesario para evitar que la apaguemos, y el arma más exitosa de su arsenal ha sido su campaña para evitar que consideremos cualquier alternativa.
A los que critican las nuevas tecnologías se les llama a veces luditas, pero conviene aclarar qué querían realmente los luditas. Lo que más protestaban era el hecho de que sus salarios disminuían al mismo tiempo que aumentaban los beneficios de los propietarios de las fábricas, junto con los precios de los alimentos. También protestaban por las condiciones de trabajo inseguras, el uso de mano de obra infantil y la venta de productos de mala calidad que desacreditaban a toda la industria textil. Los luditas no destruían máquinas indiscriminadamente; si el propietario de una máquina pagaba bien a sus trabajadores, la dejaban en paz. Los luditas no eran antitecnológicos; lo que querían era justicia económica. Destruían maquinaria como forma de llamar la atención de los propietarios de las fábricas. El hecho de que la palabra "ludita" se utilice ahora como un insulto, una forma de llamar a alguien irracional e ignorante, es el resultado de una campaña de desprestigio por parte de las fuerzas del capital.
Cada vez que alguien acusa a otro de ser un ludita, vale la pena preguntarse si la persona acusada está realmente en contra de la tecnología. ¿O está a favor de la justicia económica? Y la persona que hace la acusación, ¿está realmente a favor de mejorar la vida de las personas? ¿O sólo pretende aumentar la acumulación privada de capital?
Hoy en día, nos encontramos en una situación en la que la tecnología se ha confundido con el capitalismo, que a su vez se ha confundido con la noción misma de progreso. Si uno intenta criticar el capitalismo, se le acusa de oponerse tanto a la tecnología como al progreso. Pero, ¿qué significa el progreso si no incluye una vida mejor para las personas que trabajan? ¿Qué sentido tiene una mayor eficiencia si el dinero que se ahorra no va a ninguna parte, excepto a las cuentas bancarias de los accionistas? Todos deberíamos esforzarnos por ser luditas, porque todos deberíamos preocuparnos más por la justicia económica que por aumentar la acumulación privada de capital. Tenemos que ser capaces de criticar los usos nocivos de la tecnología -y entre ellos se incluyen los usos que benefician a los accionistas en detrimento de los trabajadores- sin que se nos describa como opositores a la tecnología.
Imaginemos un futuro idealizado, dentro de cien años, en el que nadie se vea obligado a trabajar en un empleo que no le guste y todo el mundo pueda dedicar su tiempo a lo que le resulte más satisfactorio personalmente. Obviamente, es difícil ver cómo llegaríamos allí desde aquí. Pero consideremos ahora dos posibles escenarios para las próximas décadas. En uno, la dirección y las fuerzas del capital son aún más poderosas que ahora. En el otro, los trabajadores son más poderosos que ahora. ¿Cuál de los dos parece más probable que nos acerque a ese futuro idealizado? Y, tal como se despliega actualmente, ¿hacia cuál nos empuja la inteligencia artificial?
Por supuesto, existe el argumento de que las nuevas tecnologías mejoran nuestro nivel de vida a largo plazo, lo que compensa el desempleo que crean a corto plazo. Este argumento tuvo peso durante gran parte del periodo posterior a la Revolución Industrial, pero ha perdido fuerza en el último medio siglo. En Estados Unidos, el PIB per cápita casi se ha duplicado desde 1980, mientras que la renta media de los hogares se ha quedado muy rezagada. Ese periodo abarca la revolución de las tecnologías de la información. Esto significa que el valor económico creado por el ordenador personal e Internet ha servido sobre todo para aumentar la riqueza del 1% de los más ricos, en lugar de elevar el nivel de vida del conjunto de los ciudadanos estadounidenses.
Por supuesto, ahora todos tenemos Internet, e Internet es increíble. Pero los precios de la propiedad inmobiliaria, las matrículas universitarias y los costes de la sanidad han subido más rápido que la inflación. En 1980, era común mantener a una familia con un solo ingreso; ahora es raro. Entonces, ¿cuánto hemos avanzado realmente en los últimos cuarenta años? Claro que comprar por Internet es rápido y fácil, y ver películas en casa es genial, pero creo que mucha gente cambiaría de buena gana esas comodidades por la posibilidad de tener casa propia, enviar a sus hijos a la universidad sin endeudarse de por vida e ir al hospital sin caer en la bancarrota. No es culpa de la tecnología que la renta media no haya seguido el ritmo del PIB per cápita; la culpa es sobre todo de Ronald Reagan y Milton Friedman. Pero parte de la responsabilidad recae también en las políticas de gestión de consejeros delegados como Jack Welch, que dirigió General Electric entre 1981 y 2001, así como en consultoras como McKinsey. No estoy culpando al ordenador personal del aumento de la desigualdad de riqueza, sólo digo que la afirmación de que una mejor tecnología mejorará necesariamente el nivel de vida de la gente no es correcta.
El hecho de que los ordenadores personales no aumentaran la mediana de los ingresos es especialmente relevante a la hora de pensar en los posibles beneficios de la inteligencia artificial. A menudo se sugiere que los investigadores se centren en las formas en que la inteligencia artificial puede aumentar la productividad de los trabajadores individuales en lugar de sustituirlos; esto se conoce como la vía del aumento, en contraposición a la vía de la automatización. Es un objetivo loable, pero por sí solo no mejorará la suerte económica de la gente. El software de productividad que funcionaba en los ordenadores personales era un ejemplo perfecto de aumento en lugar de automatización: los programas de tratamiento de textos sustituían a las máquinas de escribir en lugar de a los mecanógrafos, y los programas de hojas de cálculo sustituían a las hojas de cálculo en papel en lugar de a los contables. Pero el aumento de la productividad personal que trajo consigo el ordenador personal no se vio acompañado de un aumento del nivel de vida.
La única forma de que la tecnología aumente el nivel de vida es que existan políticas económicas que distribuyan adecuadamente los beneficios de la tecnología. No hemos tenido esas políticas en los últimos cuarenta años y, a menos que las tengamos, no hay razón para pensar que los próximos avances en inteligencia artificial aumentarán los ingresos medios, incluso si somos capaces de idear formas para que aumente a los trabajadores individuales. Sin duda, la inteligencia artificial reducirá los costes laborales y aumentará los beneficios de las empresas, pero eso es totalmente distinto de mejorar nuestro nivel de vida.
Sería conveniente que pudiéramos suponer que un futuro utópico está a la vuelta de la esquina y desarrollar tecnología para utilizarla en ese futuro. Pero el hecho de que una tecnología determinada sea útil en una utopía no implica que sea útil ahora. En una utopía en la que existiera una máquina que convirtiera los residuos tóxicos en alimentos, la generación de residuos tóxicos no sería un problema, pero, aquí y ahora, nadie podría afirmar que generar residuos tóxicos es inofensivo. Los aceleracionistas podrían argumentar que generar más residuos tóxicos motivará la invención de un convertidor de residuos en alimentos, pero ¿hasta qué punto es convincente? Evaluamos el impacto medioambiental de las tecnologías en el contexto de las mitigaciones disponibles en la actualidad, no en el contexto de hipotéticas mitigaciones futuras. Del mismo modo, no podemos evaluar la inteligencia artificial imaginando lo útil que será en un mundo con inteligencia biológica unificada; tenemos que evaluarla a la luz del desequilibrio existente entre capital y trabajo y, en ese contexto, la inteligencia artificial es una amenaza por la forma en que ayuda al capital.
Un antiguo socio de McKinsey defendió las acciones de la empresa diciendo: "Nosotros no hacemos política. Hacemos ejecución". Pero se trata de una excusa bastante endeble; es más probable que se tomen decisiones políticas perjudiciales cuando las consultoras -o las nuevas tecnologías- ofrecen formas de aplicarlas. La versión de la inteligencia artificial que se está desarrollando actualmente facilita a las empresas el despido. Entonces, ¿hay alguna forma de desarrollar un tipo de inteligencia artificial que lo haga más difícil?
En su libro "", el sociólogo Erik Olin Wright ofrece una taxonomía de estrategias para responder a los daños del capitalismo. Dos de las estrategias que menciona son aplastar el capitalismo y desmantelar el capitalismo, que probablemente quedan fuera del ámbito de este debate. Las que son más relevantes aquí son domesticar el capitalismo y resistir al capitalismo. A grandes rasgos, domesticar el capitalismo significa regulación gubernamental, y resistir al capitalismo significa activismo de base y sindicatos. ¿Hay formas de que la inteligencia artificial refuerce estas cosas? ¿Hay alguna forma de que la inteligencia artificial refuerce los sindicatos o las cooperativas de trabajadores?
En 1976, los trabajadores de Lucas Aerospace Corporation en Birmingham, Inglaterra, se enfrentaban a despidos debido a los recortes en gastos de defensa. En respuesta, los delegados sindicales elaboraron un documento conocido como el Plan Lucas, que describía ciento cincuenta "productos socialmente útiles", desde máquinas de diálisis hasta turbinas eólicas y motores híbridos para automóviles, que los trabajadores podrían fabricar con sus conocimientos y equipos actuales en lugar de ser despedidos. La dirección de Lucas Aerospace rechazó la propuesta, pero sigue siendo un notable ejemplo moderno de trabajadores que intentan dirigir el capitalismo en una dirección más humana. Seguro que algo parecido es posible con la tecnología informática moderna.
¿Tiene que ser el capitalismo tan dañino como lo es actualmente? Puede que no. Las tres décadas que siguieron a la Segunda Guerra Mundial se conocen a veces como la edad de oro del capitalismo. Este periodo fue en parte el resultado de mejores políticas gubernamentales, pero el gobierno no creó la edad de oro por sí solo: la cultura corporativa era diferente durante esta época. En el informe anual de General Electric de 1953, la empresa alardeaba de cuánto pagaba en impuestos y cuánto gastaba en nóminas. Decía explícitamente que "maximizar la seguridad del empleo es un objetivo primordial de la empresa". El fundador de Johnson & Johnson afirmaba que la responsabilidad de la empresa para con sus empleados era superior a su responsabilidad para con sus accionistas. Las empresas de entonces tenían una concepción radicalmente distinta de su papel en la sociedad en comparación con las actuales.
¿Hay alguna forma de volver a esos valores? Parece improbable, pero hay que recordar que la edad de oro del capitalismo llegó después de la enorme desigualdad de riqueza de la Edad Dorada. Ahora mismo estamos viviendo una segunda Edad Dorada, en la que la desigualdad de la riqueza es más o menos la misma que en 1913, así que no es imposible que podamos pasar de donde estamos ahora a una segunda edad de oro. Por supuesto, entre la primera Edad Dorada y la edad de oro tuvimos la Gran Depresión y dos Guerras Mundiales. Un aceleracionista podría decir que esos acontecimientos fueron necesarios para llegar a la edad de oro, pero creo que la mayoría de nosotros preferiría saltarse esos pasos. La tarea que tenemos ante nosotros es imaginar formas de que la tecnología nos haga avanzar hacia una edad de oro sin provocar antes otra Gran Depresión.
Todos vivimos en un sistema capitalista, así que todos somos partícipes del capitalismo, nos guste o no. Y es razonable preguntarse si hay algo que tú, como individuo, puedas hacer. Si trabajas como científico alimentario en Frito-Lay y tu trabajo consiste en inventar nuevos sabores de patatas fritas, no voy a decir que tienes la obligación ética de dimitir porque estás ayudando al motor del consumismo. Estás utilizando tu formación como científico de los alimentos para ofrecer a los clientes una experiencia agradable; es una forma perfectamente razonable de ganarse la vida.
Pero muchos de los que trabajan en Inteligencia Artificial lo consideran más importante que inventar nuevos sabores de patatas fritas. Dicen que es una tecnología que cambia el mundo. Si es así, tienen el deber de encontrar la manera de que la inteligencia artificial mejore el mundo sin empeorarlo. ¿Puede la inteligencia artificial mejorar las desigualdades de nuestro mundo sin llevarnos al borde del colapso social? Si la inteligencia artificial es una herramienta tan poderosa como afirman sus defensores, deberían poder encontrarle otros usos además de intensificar la crueldad del capital.
Si alguna lección debemos extraer de las historias de genios que conceden deseos, es que el deseo de conseguir algo sin esfuerzo es el verdadero problema. Pensemos en la historia de "El aprendiz de brujo", en la que el aprendiz lanza un hechizo para que las escobas lleven agua, pero es incapaz de hacer que se detengan. La lección de esa historia no es que la magia sea imposible de controlar: al final de la historia, el hechicero vuelve e inmediatamente arregla el desastre que hizo el aprendiz. La lección es que no puedes librarte de hacer el trabajo duro. El aprendiz quería evitar sus tareas, y buscar un atajo fue lo que le metió en problemas.
La tendencia a pensar en la inteligencia artificial como un solucionador mágico de problemas es indicativa de un deseo de evitar el trabajo duro que requiere la construcción de un mundo mejor. Ese trabajo duro implicará cosas como abordar la desigualdad de la riqueza y domar el capitalismo. Para los tecnólogos, el trabajo más duro de todos -la tarea que más quieren evitar- será cuestionar la suposición de que más tecnología es siempre mejor, y la creencia de que pueden continuar con los negocios como de costumbre y todo se resolverá por sí solo. A nadie le gusta pensar en su complicidad en las injusticias del mundo, pero es imperativo que las personas que están construyendo tecnologías revolucionarias se comprometan con este tipo de autoexamen crítico. Es su voluntad de analizar sin pestañear su propio papel en el sistema lo que determinará si la inteligencia artificial conduce a un mundo mejor o a uno peor. ♦
Fuente original: The New Yorker - Por Ted Chiang - 4 de mayo de 2023 - Publicado en ClimaTerra: https://www.climaterra.org/post/el-futuro-de-la-inteligencia-artificial-y-el-capitalismo-salvaje
