“En las manos equivocadas, la IA puede hacer más daño que otras tecnologías previas”
Ayona Datta es geógrafa y profesora en la University College de Londres. Creció en Delhi, India, y quiso entender cómo el diseño de las ciudades condiciona la vivencia que de ella tienen las mujeres. Ahora reside en Londres, pero su trabajo de campo se desarrolla en periferias de ciudades de México, Kenia e India. Su campo de investigación gira en torno a dos binomios “ciudad inteligente” e “inteligencia artificial”, aunque cuestiona ambos conceptos como punto de partida. En su ponencia en el curso ¿Inteligencia Artificial para la Innovación Social? (AI4SI), incluida en el programa de verano de la Universidad del País Vasco, habló de su trabajo sobre smart cities. En su presentación no había imágenes de rascacielos ni personas con smartphones de última generación conduciendo teslas.
Entrevista de: Patricia Reguero Ríos
Cuando se piensa en una smart city, una ciudad inteligente, el imaginario social reproduce lo que aparece en una búsqueda de Google. Edificios grandes, amplias avenidas, luces de bajo consumo y móviles de última generación. Pero, ¿cuál es la imagen que tiene usted de una smart city, según sus investigaciones?
Mi investigación desde el principio ha consistido en cuestionar ese imaginario, un imaginario fantástico que casi parece una película de ciencia ficción. Empecé a investigar sobre ciudades inteligentes porque me interesaba ver qué otras versiones existen, qué es lo que realmente significa ser inteligente. Las imágenes de “ciudades inteligentes”, particularmente en la forma en que se producen y circulan en el Sur global, son muy parecidas a la ciencia ficción y creo que se debe a que provienen de su comprensión de que la tecnología lo resolverá todo. Ya hemos pasado por eso en los años 40, en los 70, en los 2000.
Yo quería ver cuál es la inteligencia que existe realmente, cómo se desarrolla la vida en la calle a través de la tecnología, o sin ella. Y descubrí varias versiones de ser “inteligente”, algo que comenzó cuando empecé a trabajar con las comunidades, a preguntar en ella qué es ser “inteligente”.
Hay muchas versiones de ser inteligente porque inteligente en sí no es una palabra cargada de tecnología. Inteligente solo significa ser prudente en la forma en que usas los recursos, en cómo poder usarlos para hacer más con menos. Y eso es realmente lo que nos dicen las comunidades.Así que quería trabajar con esa definición de inteligente, una definición que pudiera usarse.
Cuando empiezas a pensar en la relación entre la ciudad inteligente y la tecnología, esta es muy fuerte, debido a las narrativas que transmiten de arriba hacia abajo los gobiernos y todas las empresas globales. Pero si vamos a pie de calle, ahí se hace un gran uso de la tecnología porque, por supuesto, en los últimos 20 años, las zonas pobres urbanas del Sur global han sido las mayores receptoras de tecnología, y hoy en día cada persona tiene un teléfono móvil.
Eso no significa que sepan cómo usarlo para extraer la información correcta, pero cuando hablamos de ser inteligente, yo quiero hablar sobre el uso de tecnologías frugales y de bajo costo y sobre cómo las personas sobre el terreno sobreviven mediante el uso de este tipo de tecnologías.
Este tipo de lucha ha estado ahí durante generaciones, pero ahora hay una estratificación de la tecnología. Así es como entiendo la inteligencia, de manera mucho más diversa.
Acaba de hablar de qué considera “inteligente”. En su ponencia también explicaba qué entiende por IA, Inteligencia Artificial, y cómo la IA está presente en el uso de WhatsApp o de aplicaciones sencillas. ¿Qué es esta tecnología?
No veo mucha diferencia entre IA y smart. Creo que la IA es un continuo de innovaciones y tecnologías anteriores. Smart es reciente, mientras que IA es aún más reciente. Yo cuestiono la etiqueta de “inteligencia artificial”, porque la inteligencia no puede ser artificial. Para que la IA funcione, necesitamos más intervención humana.
A principios de la década de 2000, también utilizábamos tipos particulares de codificaciones y algoritmos. Por ejemplo, si quieres crear un sensor de humo, o si quieres crear un sistema de residuos inteligente o un sistema de reconocimiento facial instalado en todas las cámaras de circuito cerrado de televisión de una sala de control de tráfico de la ciudad, eso también era una ciudad inteligente. Ha sido imposible hacer este tipo de tecnología en los últimos años sin algoritmos y codificación, entonces. Es decir, el concepto “inteligencia artificial” inapropiado porque realmente necesita inteligencia humana para funcionar, no tiene el tipo de agencia que se muestra.Dicho esto, también está el otro lado, que es la IA generativa más reciente, que parece que tiene vida propia, como Chat GPT, por ejemplo, o los deepfakes. Incluso eso necesita la intervención humana. La IA generativa se está volviendo cada vez más popular, pero creo que también nos estamos volviendo cada vez más inteligentes al entender que realmente no podemos permitir que domine el mundo. Así que soy un poco escéptica ante estas visiones que dicen que la IA se apoderará de todo. La IA es, para mí, igual que la tecnología smart y, en ese sentido, es una tecnología menor, especialmente en la vida de las personas a pie de calle. Si vas a hablar con mujeres jóvenes que viven en asentamientos, en comunidades de clase trabajadoras y preguntas y preguntas si usan inteligencia artificial, pensarán: “¿De qué mundo vienes? Intento pagar mis facturas y comprar comida”. Pero, por supuesto, me preocupa el tipo de extracción de datos que la IA es capaz de realizar. Como con otras tecnologías, hay cosas positivas que decir y algunos aspectos problemáticos, igual que pasa con otras tecnologías. Aunque creo que, en las manos equivocadas, puede causar mucho más daño del que podrían haber causado las tecnologías anteriores.
Por eso necesitamos una regulación sólida. Pero, como decía, creo que de una forma u otra la IA siempre ha estado ahí, aunque ahora mismo su impacto en el terreno cotidiano, en el día a día de la gente, es menor, aunque se está apoderando de gran parte de la gobernanza.
La IAS se nos presenta como un nuevo dios, pero usted habla de ella como una tecnología menor…
Hace diez años, la IA se propuso como la próxima gran cosa. Y ahora mira dónde estamos, es como si hubiera pedacitos fragmentados e irregulares en diferentes ciudades del norte y el sur del mundo. Siento que siempre hay mucha prisa por entusiasmarse con algo nuevo, y no digo que no sea algo de lo que preocuparse. Lo es, puede utilizarse para desinformar. Pero no va a reemplazar a los humanos, nunca, porque siempre necesitará una enorme cantidad de trabajo humano. Cambiará el tipo de trabajo humano, sí. Pero la IA necesita una enorme cantidad de intervención humana y reconocimiento humano para que funcione de la manera en que está. Chat GPT nunca reemplazará a los humanos.
Durante su presentación, mostró un vídeo de un grupo de chicas de una ciudad periférica en la India, donde una de ellas dice que “la ciudad inteligente es una falacia”. ¿Está de acuerdo con ella?
Estoy de acuerdo con que es una falacia para algunas personas, dependiendo de en qué lado de la ciudad se encuentren. Lo básico de una ciudad inteligente es que las tecnologías inteligentes tienen que superponerse a la infraestructura existente. Y por eso creo que para muchas de estas personas de la clase trabajadora, las ciudades inteligentes son una falacia porque no cuentan con una infraestructura que funcione arduamente. En el vídeo se ven montañas de basura y se ve que ni siquiera hay electricidad, no hay luz. Así que en un barrio donde no hay electricidad, no puedes poner luces con sensores porque no hay infraestructura de iluminación. No se pueden hacer un sistema de residuos inteligentes si no hay un sistema de saneamiento incorporado y la gente va a los campos a defecar.
Para las clases menos favorecidas la ciudad inteligente es una falacia porque las tecnologías inteligentes solo son posibles cuando ya existe un tipo particular de infraestructura física. La forma en que se están implementando las tecnologías inteligentes en partes del Sur global es principalmente en los centros de las ciudades, en los distritos comerciales y en los barrios de clase media, porque ahí es donde hay mucha infraestructura.
Luego están las personas que siquiera pueden llegar a la ciudad porque no hay transporte público y para quienes la smart city es sin duda una falacia, pero de quienes, sin que ellos lo sepan, la IA recopila datos, sus datos se extraen continuamente.
Ha realizado previamente trabajo sobre infraestructuras y género. ¿La IA también tiene sesgos de género?
Bueno, he trabajado sobre cómo las ciudades inteligentes tienen un sesgo de género y parte de mi trabajo viene de ahí. No he trabajado en cómo la IA tiene sesgos de género, pero por lo que entiendo hasta ahora, es que este sesgo viene de las capacidades de extracción de datos de la IA y también en la codificación de la IA, de manera que los códigos están realmente dirigidos a tipos particulares de parámetros que podrían perjudicar no solo a las mujeres, sino también a las minorías.
Lo que me parece realmente problemático es la forma en que la IA es tan íntima en nuestras vidas. Tenemos esta visión de que va a hacer nuestra vida más fácil y sencilla, y así te seduce para que des más información. Y luego no sabemos qué se está haciendo con esta información ni cómo eso realmente puede afectar nuestras vidas. Esto ocurre en un contexto donde a veces no hay otros datos disponibles. Por ejemplo, durante la pandemia, en la India, de repente aparecieron un montón de trabajadores migrantes que necesitaban volver a sus hogares. El Estado no sabía que existían, no sabía cómo ayudarlos. Pero todos utilizaban teléfonos móviles.
¿Cómo se entrelazan la IA y la perspectiva decolonial?
Me interesa mucho ver cómo se acumulan las desigualdades de generación en generación. Por eso es importante ver cómo las tecnologías van y vienen pero también se basan la una en la otra, creo. Así que si piensas en la lógica colonial, en la cartografía del territorio, la construcción de infraestructura, por ejemplo en Canadá o la India, siempre se ha centrado en mover mercancías, en trasladar personas de los puertos a la ciudad, porque eso también forma parte de la expansión capitalista de las colonias. Más tarde, cuando llegaron la radio, los telegramas, la electricidad… estas infraestructuras siguieron ese camino. La colonialidad tiene una geografía que se transmite de generación en generación.
Los desarrollos poscoloniales también siguieron esa línea. Así que los corredores industriales, los corredores económicos, siguieron las líneas ferroviarias que creó el gobierno colonial, porque estas vías ya se habían creado. Y ahora, si realmente se superpone la infraestructura digital, se ve una fuerte correlación entre lo que había antes desde el punto de vista geográfico y el tipo de red de telefonía móvil que existe. Porque cuando se empieza a construir una infraestructura se injerta sobre otra. En ese sentido, se puede ver una genealogía, una historicidad de estas tecnologías. Pero, por supuesto, las nuevas tecnologías también traen consigo nuevas desigualdades y nuevas marginaciones. Así que sí, me interesa mucho analizar las tecnologías y las discriminaciones de las tecnologías y las desigualdades de las tecnologías en el momento actual.
Necesitamos ver lo que está sucediendo ahora en relación con lo que ha sucedido antes. Sé que ves que con comunidades particulares, comunidades que históricamente han quedado atrás: las clases trabajadoras, las mujeres, creo que las minorías, las poblaciones negras… históricamente se han quedado atrás y ahora también se han convertido en las fronteras de los nuevos experimentos con tecnologías digitales, de los nuevos experimentos con la IA. Veo una especie de continuidad histórica.
El título del curso en el que ha participado estos días es “¿Inteligencia Artificial para la Innovación Social? (AI4SI)”. ¿Es optimista sobre cómo la IA puede contribuir a un cambio social? ¿No puede pensar que la IA está hecha para clases privilegiadas, principalmente hombres cishetero?
Es verdad que hay un sesgo, pero también hay sures globales dentro del Norte, y hay nortes dentro del Sur global. Así que creo que la discriminación y la desventaja son contextuales, no se trata de hombres blancos hetero contra mujeres negras, sino que necesitamos entender realmente cómo se desarrollan las tecnologías in situ en su contexto y qué tipo de nuevas desigualdades provocan.
Debemos adoptar un enfoque crítico con respecto a la IA. Y sí, absolutamente, puede brindar justicia social, cuando se utiliza de manera ética, colaborativa y democrática, igual que cualquier otra tecnología.
¿Cómo te interesaste por este campo de trabajo?
Claro. Bueno, soy arquitecta. He ejercido como arquitecta y luego estudié geografía urbana.Me interesan mucho las ciudades. Y me metí en la tecnología por accidente, porque estaba siguiendo las transformaciones urbanas en el Sur global. Y de repente empecé a ver, igual que tú, todas esas fascinantes imágenes de ciencia ficción, a preguntarme por qué la tecnología se ha vuelto tan importante. Creo que quienes estudian urbanismo no pueden alejarse de lo digital, porque la tecnología porque la tecnología está cambiando enormemente las ciudades, y las ciudades también están configurando las tecnologías.
Y si me interesé por el género es porque crecí en Delhi, donde hay muchas agresiones sexuales contra las mujeres. Eso se hizo muy consciente y crítica con la forma en que se crean y producen las ciudades. Siempre quise entender por qué, tradicionalmente, las mujeres han estado excluidas tanto del diseño de las ciudades como de la vida urbana. La discriminación de género también se da en Londres, simplemente es más invisible.
Fuente: https://www.elsaltodiario.com/tecnologia/ayona-datta-manos-equivocadas-ia-puede-hacer-dano-otras-tecnologias-previas -
