Una IA con derechos puede llevar a resultados catastróficos

 

 

 

El abogado y sociólogo colombiano, director del Centro de Derechos Humanos y Justicia Global de la Universidad de Nueva York, reflexiona sobre la expansión del concepto de derechos hacia la naturaleza y advierte sobre los peligros de extenderlos a la inteligencia artificial


César Rodríguez Garavito (Bogotá, 1971) es abogado y sociólogo, y dirige el Centro de Derechos Humanos y Justicia Global de la Universidad de Nueva York (NYU). En los últimos años, su trabajo se ha desplazado de los derechos humanos clásicos hacia lo que llama los derechos “más que humanos”: primero la naturaleza –animales, ríos, bosques y especies enteras–, y, más recientemente, a la pregunta de si la inteligencia artificial debería tener algún estatus jurídico. Rodríguez visitó Medellín para dictar la lección inaugural del Doctorado en Derecho de la Universidad EAFIT, y allí ofreció una reflexión pragmática y a ratos incómoda sobre los derechos y sus límites.

Entrevista de Esteban Hoyos

Pregunta. Usted ha sido durante años uno de los defensores más visibles de los derechos de la naturaleza en la región, pero ha propuesto un término distinto, los “derechos más que humanos”. ¿Qué lo llevó a esa reflexión?
Respuesta. Los derechos de la naturaleza han sido una corriente de agua fresca para el derecho y el movimiento ambiental. Es una corriente global, como lo muestran casi 700 iniciativas sobre el tema en más de 60 países. He trabajado de cerca con analistas y activistas en varios de esos esfuerzos y comparto con ellos el lenguaje de los derechos de la naturaleza. El término “derechos más que humanos” apunta a lo mismo y busca evitar el dualismo humanos-naturaleza. Los seres humanos estamos insertos en el mundo más que humano, en la red de vida que compartimos con los animales, las plantas, los hongos y los demás seres. Dado que dependemos de esa red más amplia, los derechos humanos también dependen de la protección de los derechos más que humanos.
P. ¿Cuál es el balance que hace del reconocimiento de los derechos de la naturaleza hasta ahora?
R. Es una idea que pasó de ser marginal a ser adoptada por tribunales, parlamentos, asociaciones científicas, movimientos sociales y colectivos artísticos alrededor del mundo. Hay casos, leyes y declaraciones fascinantes sobre derechos de los animales, de los bosques, los ríos y otros ecosistemas, no solo en América Latina, sino también en países como España, Nueva Zelanda, Canadá, Sri Lanka, Inglaterra y muchos otros. La Corte Interamericana de Derechos Humanos también le ha dado su aval.
El reto principal es hacerlos realidad. Soy abogado, pero también sociólogo, así que me importan las consecuencias prácticas, como también les importan a los activistas y las comunidades. Por eso estamos apoyando la implementación de fallos icónicos como el que protegió los derechos del bosque de Los Cedros en Ecuador.

P. Los argumentos a favor de los derechos de los animales suelen resaltar las similitudes entre los humanos y los animales, como la sintiencia y la inteligencia. ¿Qué opina de esta idea?
R. Creo que ha sido útil en la práctica, por ejemplo, para proteger los derechos de animales como los primates. Parte de mi trabajo se dedica a proteger los derechos de las ballenas, con científicos que están probando que ellas, además de inteligencia, tienen lenguajes y culturas. Pero creo que los derechos de los animales no deben depender de su parecido con nosotros, sino del valor intrínseco de sus vidas y sus formas de entender y habitar el mundo. Como escribió Henry Beston, los animales no son nuestros parientes ni nuestros subordinados: son otras naciones que comparten con nosotros el planeta. Con ellos deberíamos tener una suerte de relaciones internacionales, que reconozcan al otro precisamente por su diferencia.
P. Eso lleva directamente a una pregunta contemporánea y polémica: ¿debería la inteligencia artificial tener derechos?
R. Me opongo rotundamente. Mi razón principal es pragmática. Ante una idea o una norma, tiendo a preguntar quién tiene más poder y quién necesita protección; me inclino por una teoría de los derechos basada en la vulnerabilidad. Tomo partido por la parte más débil. Entre humanos y animales, los animales son la parte más vulnerable, y eso justifica protegerlos. Con la IA la ecuación se invierte: los humanos somos la parte débil frente a modelos cada vez más inteligentes y autónomos, que se pueden salir de control y poner en riesgo tanto a los humanos como al resto de la naturaleza.

P. Pero si usted mismo ha defendido que un río pueda ser sujeto de derechos, ¿no queda abierta la puerta para que mañana alguien defienda lo mismo para una inteligencia artificial suficientemente sofisticada?
R. Quienes proponen tratar a los modelos de IA como personas con derechos olvidan que, a diferencia de la naturaleza, la tecnología es una creación humana. Y que una IA con derechos puede llevar a resultados catastróficos. Como lo ha dicho Yoshua Bengio, uno de los inventores de la IA, eso nos dejaría sin la posibilidad de controlarla y descontinuarla si llega a ser necesario. Esto no es ciencia ficción. En Argentina hay un proyecto de ley que autorizaría “sociedades automatizadas” compuestas solo de sistemas de IA, que podrían operar y contratar sin supervisión humana. ¿Quién las controlaría? ¿Quién respondería si causan daños?
P. ¿Cómo se protege a los humanos de una tecnología potencialmente peligrosa sin cerrar la puerta a la innovación?
R. Mi posición no es antitecnología. Soy partidario de modelos pequeños para asuntos específicos: traducción, edición, incluso para escuchar a los animales. Hay proyectos en los que he participado que usan IA para entender el lenguaje de los animales y la biodiversidad del planeta. Pero tengo muchas reservas sobre el tipo de IA general, poderosa y autónoma que las compañías líderes están desarrollando. Incluso muchos tecnólogos se oponen no sólo a los derechos de la IA, sino también a que los modelos parezcan personas. Los chatbots suenan como personas porque así lo han decidido sus diseñadores, para que los usemos más. La misma confusión que lleva a algunos a tratar a sistemas de IA como sus psicólogos, amigos o parejas conduciría a tratarlos como personas con derechos. Necesitamos normas que promuevan modelos que mantengan clara la diferencia entre máquinas y personas. Pero hay que hacerlo ahora, porque en pocos años la confusión sería tal que podríamos terminar entregándoles el control de nuestras vidas, nuestras relaciones y nuestros sistemas económicos y políticos a inteligencias sintéticas que nos superarían y que ya no podríamos comprender.
P. Su trabajo actual exige cada vez más colaboración entre disciplinas. ¿Cómo se traduce eso en la práctica?
R. Es indispensable, y no es solo cuestión de conectar datos fascinantes de distintos campos: en el fondo hay un giro sobre cómo vemos el mundo y cómo lo estudiamos. Escribí sobre esto para una hermosa exposición que el Museo de Arte Contemporáneo (MUAC) de México tiene actualmente sobre derechos más que humanos. El giro “más que humano” de las artes, las ciencias y el derecho implica entender que todo es relacional: no solo que todo está interconectado, sino que los individuos somos, nosotros mismos, ecosistemas. A diferencia de los saberes indígenas, la ciencia moderna nos hizo creer que estamos separados del resto de la naturaleza. No veo cómo estudiar en serio el estatus jurídico y moral de los seres humanos sin pararnos, a la vez, en el mundo en el que estamos insertos.
P. ¿Cuáles son entonces las preguntas más urgentes que enfrentan el derecho y las ciencias sociales en este campo en los próximos años?
R. Primero, asegurar la aplicación de los derechos de la naturaleza. Segundo, profundizar en teorías de los derechos basadas en la vulnerabilidad. Tercero, regular la IA para desacelerarla y tratarla como una herramienta.
P. Después de un recorrido tan crítico, usted insiste en terminar en un tono esperanzador. ¿Por qué?
R. Porque veo mucha gente alrededor del mundo que está buscando, incluso anhelando, reavivar su vínculo con la naturaleza. Vivimos un momento difícil: se agrava la crisis climática, las COP y el Acuerdo de París acumulan traspiés, y el activismo que encarnaron figuras como Greta Thunberg enfrenta una fuerte reacción en contra. En ese contexto, los derechos de la naturaleza y otras ideas ecocéntricas marcan un viraje hacia la esperanza, basado en el asombro, la curiosidad y la belleza de la vida sobre la tierra.

Fuente: https://elpais.com/america-colombia/2026-09-12/cesar-rodriguez-garavito-una-ia-con-derechos-puede-llevar-a-resultados-catastroficos.html