Tres libros sobre la inteligencia artificial
La inteligencia artificial (IA) induce cada vez más a fantasear, prometiendo al mismo tiempo lo peor (un mundo en que las máquinas dominan a los humanos) y lo mejor (un mundo liberado por fin de todos los trabajos poco gratificantes). Estos tres libros tienen en común que los han escrito autores que figuran entre los mejores especialistas franceses en materia de inteligencia artificial. Asimismo, comparten un mérito fundamental: el de calmar los ardores de quienes extrapolan sin límite los éxitos actuales de la IA; citemos entre los más conocidos a Elon Musk, Bill Gates, incluso Stephen Hawking.
" Cuando la máquina aprende. La revolución de las neuronas artificiales y el aprendizaje profundo
Yann Le Cun
"Inteligencia artificial, ¿hacia una dominación programada?"
"Inteligencia artificial, ¿hacia una dominación programada?"
Jean-Gabriel Ganascia
"La inteligencia artificial no existe"
"La inteligencia artificial no existe"
Luc Julia
Reseña de: Hubert Krivine
Inteligencia artificial débil, Inteligencia artificial fuerte
Cabe distinguir entre la IA débil –o mejor dicho, estrecha– y la IA fuerte. La primera ha de resolver un problema o tomar una decisión dentro de un marco bien definido (juego de go, conducción automática de trenes, reconocimiento de imágenes, traducción...), es decir, con escasa interacción con el entorno. Esta es la única que existe realmente hoy en día. La segunda trataría de emular el cerebro humano. Esta es la que supuestamente aseguraría la famosa singularidad, es decir, el triunfo de la máquina sobre el ser humano.
Por ejemplo, la IA débil nos indicará el mejor itinerario para ir de casa a un punto B. La IA fuerte nos diría, teniendo en cuenta nuestra situación geográfica, financiera, psicológica, meteorológica y la opinión de nuestra pareja qué punto B conviene elegir. Señalemos que la publicidad selectiva ya nos da una imagen muy embrionaria de este potencial de la IA.
Los tres autores consideran evidentemente y con razón que la IA débil es muy superior al ser humano. Sus éxitos en el ajedrez y en el juego de go son espectaculares. En medicina tenemos los ejemplos de la caracterización de tumores cutáneos o el diagnóstico de la retinopatía diabética, que son mejores que las de los médicos. Sin hablar ya del reconocimiento facial, tan apreciado por policías de todos los países. Sin embargo, para estos tres autores cualquier ratón es infinitamente más inteligente, porque sabrá adaptarse a muchas situaciones imprevistas, cosa que le resulta difícil, por no decir imposible, a la IA, dado que esta procede por inducción, es decir, por generalización de situaciones registradas.
La IA moderna, cuando se basa en el aprendizaje máquina (machine learning), se nutre de datos masivos (big data), es decir, efectúa un tratamiento estadístico de millones (léase miles de millones) de datos brutos, etiquetados o no, que permiten descubrir correlaciones insospechadas. Conviene, desde luego, que los datos ingeridos por la máquina no estén sesgados o sean incompletos por una razón u otra.
De la correlación a la causalidad
Los tres autores consideran evidentemente y con razón que la IA débil es muy superior al ser humano. Sus éxitos en el ajedrez y en el juego de go son espectaculares. En medicina tenemos los ejemplos de la caracterización de tumores cutáneos o el diagnóstico de la retinopatía diabética, que son mejores que las de los médicos. Sin hablar ya del reconocimiento facial, tan apreciado por policías de todos los países. Sin embargo, para estos tres autores cualquier ratón es infinitamente más inteligente, porque sabrá adaptarse a muchas situaciones imprevistas, cosa que le resulta difícil, por no decir imposible, a la IA, dado que esta procede por inducción, es decir, por generalización de situaciones registradas.
La IA moderna, cuando se basa en el aprendizaje máquina (machine learning), se nutre de datos masivos (big data), es decir, efectúa un tratamiento estadístico de millones (léase miles de millones) de datos brutos, etiquetados o no, que permiten descubrir correlaciones insospechadas. Conviene, desde luego, que los datos ingeridos por la máquina no estén sesgados o sean incompletos por una razón u otra.
De la correlación a la causalidad
La IA permite prever, no comprender: la correlación puede sugerir una causalidad, pero no la implica. El paso de una a otra presupone grandes precauciones metodológicas, y el paso de la causalidad a la explicación (que nuestros autores no parecen considerar) impone una reflexión teórica. Es más: únicamente esta última puede permitir previsiones inauditas en el sentido etimológico del término (que nunca se han oído, ni escuchado). En efecto, para la IA que funciona por generalización, todo lo que se producirá, o bien ya se ha producido, o bien ha estado a punto de producirse. Jamás se habría podido anticipar, por ejemplo, la existencia de las ondas de radio o de las ondas gravitacionales. Apostamos a que, al igual que en 2008, las previsiones de la IA con respecto a la próxima crisis económica, cuyas precondiciones son múltiples y, en algunos casos, originales, serán falsas.
Estirando un poco las consideraciones de estos tres autores, me parece que podemos concluir que la IA es tanto más eficaz, cuanto más simples son los problemas que aborda. Los problemas que aquí llamaremos simples son aquellos cuyo estudio puede aislarse razonablemente de su entorno. Es el típico caso de los juegos (go, ajedrez…) o del reconocimiento de imágenes. Simple no tiene aquí en modo alguno el significado habitual de sencillo o fácil: según cálculos sensatos, existen 10600 partidas [1] posibles en el primero de los juegos y tan solo 10123 en el segundo, ¡nada menos! Señalemos que el número total de átomos del universo se cifra en 1080. Simple quiere decir sin intervención inopinada o complicada del exterior. Esto ocurre a menudo en el campo de la física, donde se puede aislar el objeto de estudio de su entorno (véase mi artículo en Viento Sur), pero ¡intentémoslo en economía, historia, pedagogía [2] , biología [3] o en teoría de la evolución!
Aunque posiblemente no sean causales, estas correlaciones pueden tener virtudes predictivas. Un ejemplo: cuanto más helados come la gente, más ahogamientos se producen. ¿Por qué? Porque el consumo de helados está asociado a la temperatura [4] y cuanto más calor hace, más se baña la gente… Yan Le Cun subraya con razón que el paso a la causalidad es uno de los principales problemas que encierra la IA, pero no dice mucho más al respecto. En medicina se da este problema: aspirina y descenso de la fiebre están correlacionadas. En este caso, la causalidad puede establecerse (bastante) fácilmente: dividimos a las personas enfermas en dos grupos; a las del primero les administramos un remedio milagroso (por ejemplo, un preparado homeopático) y a las del segundo, ácido salicílico. Es lo que se denomina un razonamiento contrafactual. Sin embargo, muy a menudo es inaplicable: no tenemos poder para escoger nuestros datos.
En los ámbitos simples, las previsiones o indicaciones de la IA, aunque vengan determinadas estadísticamente, pueden ser pertinentes individualmente. En el ajedrez, la partida la ganará, casi seguro, la máquina. En cambio, en otros ámbitos en que se da una fuerte interacción con el exterior, las previsiones solamente son pertinentes en promedio. Hay en este terreno una puerta abierta a lo imprevisto y a la originalidad que la IA no domina.
Claro que cabe suponer que las mismas causas producen los mismos efectos, pero todo suceso es singular. ¿Dónde y cuándo se dan estrictamente las mismas causas? Puede ocurrir que unas variaciones indetectables de las causas generen enormes variaciones de los efectos. Por ejemplo, los resultados de un cara o cruz dependen mucho del entorno (las condiciones de lanzamiento de la moneda, la agitación del aire, etc.). La IA dirá que en promedio en el 50 % de los casos saldrá cara, pero no podrá predecir el resultado en un caso concreto. Sucede lo mismo en economía: el ser humano medio no existe. Las probabilidades de reincidencia de un preso tampoco permiten anticipar el comportamiento de un futuro liberado. El ser humano real se diferencia siempre del ser humano medio, y esta diferencia viene determinada por su interacción con el entorno, que siempre es singular.
Por qué la IA no es inteligente
Estirando un poco las consideraciones de estos tres autores, me parece que podemos concluir que la IA es tanto más eficaz, cuanto más simples son los problemas que aborda. Los problemas que aquí llamaremos simples son aquellos cuyo estudio puede aislarse razonablemente de su entorno. Es el típico caso de los juegos (go, ajedrez…) o del reconocimiento de imágenes. Simple no tiene aquí en modo alguno el significado habitual de sencillo o fácil: según cálculos sensatos, existen 10600 partidas [1] posibles en el primero de los juegos y tan solo 10123 en el segundo, ¡nada menos! Señalemos que el número total de átomos del universo se cifra en 1080. Simple quiere decir sin intervención inopinada o complicada del exterior. Esto ocurre a menudo en el campo de la física, donde se puede aislar el objeto de estudio de su entorno (véase mi artículo en Viento Sur), pero ¡intentémoslo en economía, historia, pedagogía [2] , biología [3] o en teoría de la evolución!
Aunque posiblemente no sean causales, estas correlaciones pueden tener virtudes predictivas. Un ejemplo: cuanto más helados come la gente, más ahogamientos se producen. ¿Por qué? Porque el consumo de helados está asociado a la temperatura [4] y cuanto más calor hace, más se baña la gente… Yan Le Cun subraya con razón que el paso a la causalidad es uno de los principales problemas que encierra la IA, pero no dice mucho más al respecto. En medicina se da este problema: aspirina y descenso de la fiebre están correlacionadas. En este caso, la causalidad puede establecerse (bastante) fácilmente: dividimos a las personas enfermas en dos grupos; a las del primero les administramos un remedio milagroso (por ejemplo, un preparado homeopático) y a las del segundo, ácido salicílico. Es lo que se denomina un razonamiento contrafactual. Sin embargo, muy a menudo es inaplicable: no tenemos poder para escoger nuestros datos.
En los ámbitos simples, las previsiones o indicaciones de la IA, aunque vengan determinadas estadísticamente, pueden ser pertinentes individualmente. En el ajedrez, la partida la ganará, casi seguro, la máquina. En cambio, en otros ámbitos en que se da una fuerte interacción con el exterior, las previsiones solamente son pertinentes en promedio. Hay en este terreno una puerta abierta a lo imprevisto y a la originalidad que la IA no domina.
Claro que cabe suponer que las mismas causas producen los mismos efectos, pero todo suceso es singular. ¿Dónde y cuándo se dan estrictamente las mismas causas? Puede ocurrir que unas variaciones indetectables de las causas generen enormes variaciones de los efectos. Por ejemplo, los resultados de un cara o cruz dependen mucho del entorno (las condiciones de lanzamiento de la moneda, la agitación del aire, etc.). La IA dirá que en promedio en el 50 % de los casos saldrá cara, pero no podrá predecir el resultado en un caso concreto. Sucede lo mismo en economía: el ser humano medio no existe. Las probabilidades de reincidencia de un preso tampoco permiten anticipar el comportamiento de un futuro liberado. El ser humano real se diferencia siempre del ser humano medio, y esta diferencia viene determinada por su interacción con el entorno, que siempre es singular.
Por qué la IA no es inteligente
Admitamos que se ha establecido la causalidad: la aspirina es sin duda la causa de la bajada de la temperatura. Ahora hay que explicar el mecanismo de esta acción. Claro que una explicación siempre es relativa: cabe decir que la ley de gravitación de Newton es la causa de la caída de las manzanas y del movimiento de los planetas, pero ¿cuál es la causa de esta ley? Einstein explicará que es una curvatura del espacio-tiempo creada por las masas en presencia. Bien, como vemos, la secuencia de porqués es infinita, cualquiera que sea la edad de quien pregunta.
La máquina está dedicada a una tarea (tal vez muy compleja), el cerebro no: es el producto de una evolución darwiniana a lo largo de cientos de millones de años que le han enseñado a afrontar toda clase de situaciones. Lejos de ser lineal, esta evolución ha explorado muchos caminos, aparentemente inútiles, pero que le han conferido, en un proceso que todavía es bastante misterioso, su imaginación y su creatividad. Por ejemplo, para reconocer un hipopótamo, una máquina necesita haberse entrenado a base de miles de imágenes, pero a un niño o niña de cuatro años le bastarán dos o tres. El porqué es una pregunta importante y de ello son conscientes los tres autores. A Yann Le Cun no le cabe duda de que lo innato es inevitable. Se trata por tanto de una propiedad emergente, adquirida a lo largo de 3.000 millones de años. Un terreno muy vasto para estudiar.
La IA fuerte, si es que alguna vez llega a materializarse, está lejos, muy lejos, de lograrlo dentro de una horizonte previsible. Quienes creen en ella, sin embargo, cometen a mi juicio un doble error:
1) Reducirla a una agregación de IA débiles,
2) Identificar el conocimiento del entorno con el contenido de los datos, por masivos que sean.
En conclusión
Aparte de su título justamente provocador y sus consideraciones sensatas sobre la IA, el libro de Luc Julia tiene la particularidad de que probablemente molestará a los lectores y las lectoras de esta revista cuando afirma que “la capacidad de escucha y de análisis del presidente Macron son impresionantes”, hasta el pLunto de que ha logrado seducir a Sohn, el presidente de Samsung. Nos enteramos de que durante los cinco primeros años de la presidencia de François Hollande hubo reuniones de grandes empresas extranjeras, organizadas por Muriel Pénicaut, presidenta de Business France y coordinadas en el Elíseo por Macron. Y que esto continúa hasta ahora.
El libro de J.-G. Ganascia es tal vez el más convincente cuando desmonta el mito de la singularidad, que nos describe un mundo futuro dominado por las máquinas en detrimento de los humanos. Plantea, por otro lado, interesantes cuestiones teóricas, en particular sobre la creatividad potencial de la máquina. Lo que da mérito al libro de Le Cun, entre otras cosas, es su exposición muy pedagógica de los mecanismos del deep learning (aprendizaje profundo). Es un libro rico desde todo los puntos de vista.
La máquina está dedicada a una tarea (tal vez muy compleja), el cerebro no: es el producto de una evolución darwiniana a lo largo de cientos de millones de años que le han enseñado a afrontar toda clase de situaciones. Lejos de ser lineal, esta evolución ha explorado muchos caminos, aparentemente inútiles, pero que le han conferido, en un proceso que todavía es bastante misterioso, su imaginación y su creatividad. Por ejemplo, para reconocer un hipopótamo, una máquina necesita haberse entrenado a base de miles de imágenes, pero a un niño o niña de cuatro años le bastarán dos o tres. El porqué es una pregunta importante y de ello son conscientes los tres autores. A Yann Le Cun no le cabe duda de que lo innato es inevitable. Se trata por tanto de una propiedad emergente, adquirida a lo largo de 3.000 millones de años. Un terreno muy vasto para estudiar.
La IA fuerte, si es que alguna vez llega a materializarse, está lejos, muy lejos, de lograrlo dentro de una horizonte previsible. Quienes creen en ella, sin embargo, cometen a mi juicio un doble error:
1) Reducirla a una agregación de IA débiles,
2) Identificar el conocimiento del entorno con el contenido de los datos, por masivos que sean.
En conclusión
Aparte de su título justamente provocador y sus consideraciones sensatas sobre la IA, el libro de Luc Julia tiene la particularidad de que probablemente molestará a los lectores y las lectoras de esta revista cuando afirma que “la capacidad de escucha y de análisis del presidente Macron son impresionantes”, hasta el pLunto de que ha logrado seducir a Sohn, el presidente de Samsung. Nos enteramos de que durante los cinco primeros años de la presidencia de François Hollande hubo reuniones de grandes empresas extranjeras, organizadas por Muriel Pénicaut, presidenta de Business France y coordinadas en el Elíseo por Macron. Y que esto continúa hasta ahora.
El libro de J.-G. Ganascia es tal vez el más convincente cuando desmonta el mito de la singularidad, que nos describe un mundo futuro dominado por las máquinas en detrimento de los humanos. Plantea, por otro lado, interesantes cuestiones teóricas, en particular sobre la creatividad potencial de la máquina. Lo que da mérito al libro de Le Cun, entre otras cosas, es su exposición muy pedagógica de los mecanismos del deep learning (aprendizaje profundo). Es un libro rico desde todo los puntos de vista.
Notas:
1/ Es decir, un 1 seguido de seiscientos ceros.
2/ Véanse las decepciones de la neuropedagogía, cuando pretende reducir el funcionamiento del cerebro a su fisiología.
3/ Salvo que en ocasiones se puede realizar estudios in vitro que tienen sentido.
4/ Lo que se denomina factor de confusión.
Hubert Krivine es físico, su último libro publicado se titula Comprendre sans prévoir, prévoir sans comprendre [Comprender sin prever, prever sin comprender], Cassini, 2018.
Artículo publicado en L’Anticapitliste, revista del NPA
Fuente: https://vientosur.info/spip.php?article15446 - Imagenes: Medium - Xataka - ticbeat.com
