El mito de la inteligencia artificial

 

Escrito por Erik J. Larson y publicado por Shackleton Books en 2022 (el original es del 2021).

Nuevamente al autor no lo conocía, pero visto que había trabajado para el DARPA y que se dedicaba a la IA (inteligencia artificial), podía merecer la pena, y de verdad que lo ha hecho.

El subtítulo ya nos indica de lo que va a hablar: "por qué las máquinas no pueden pensar como nosotros lo hacemos", y en el link, hay una entrevista en la web de Naukas en la que resume un poco el libro, pero hay un comentario al principio del mismo que nos fija cuál es el objetivo de libro: averiguar si tenía razón Von Neumann cuando dijo, tal y como recordaba Stanislaw Ulam, que: "el proceso de aceleración constante de la tecnología ... parece sugerir que nos acercamos a una singularidad esencial en la historia de nuestra raza, tras la cual los asuntos humanos tal y como los conocemos, no podrán seguir igual".

Hace un breve resumen de lo que es la IA hoy en día y de dónde viene (y ahí me he sentido mencionado, que muchas de las cosas que dice que se hacían, las hacía yo en su día). La parte fundamental con la que hay que quedarse casi nada más empezar el libro son los tres tipos de inferencia que hay: "La IA clásica exploró uno (las deducciones), la IA moderna explora otro (las inducciones), y el tercer tipo (las abducciones) conduce a la inteligencia general y, sorpresa: nadie está trabajando en él."

Con las deducciones se trabajaba antes del famoso aprendizaje profundo (deep learning) y de la web 2.0, momento a partir del cual se empezó (y se sigue) trabajando con las inducciones, pero esto nos plantea un problema (bueno, varios). El primero es que, tal y como dijo David Hume, confiar en la inducción requiere de nosotros la convicción de que "los casos de los que no tenemos experiencia se parezcan a aquellos de los que sí la tenemos". Hablando de este mismo asunto menciona a Nicholas Taleb, del que comenté un libro con anterioridad (éste). Y el segundo problema, derivado de ese primero, es que mediante la inducción no podremos llegar a nada nuevo. Nunca. Podremos llegar a darnos cuenta de cosas que en la que no nos habíamos fijado o a obtener nuevas combinaciones de elementos existentes, pero nada disruptivo. Y eso implica que si nos dedicamos a creer que mediante el procesamiento de datos vamos a lograr hacer pensar a una máquina, estamos cometiendo un error de partida (por mucho datos que se puedan procesar en la web), porque una cosa es que parezca que piensas y otra hacerlo (tal y como se está demostrando estos días con el famoso "chatGPT" y sus múltiples variantes). Para aclarar esto, habla bastante del test de Turing, de las máximas de Grice (que son unas máximas para mantener una conversación con éxito), y de que, como dice textualmente: "las ideas nuevas se conciben en el intelecto de los científicos individuales, y en especial tienden a originarse allí donde hay numerosos intelectos bien entrenados, y por encima de todo allí donde se valora el intelecto".

Resumiendo, un libro de 332 páginas que se leen de forma muy agradable y que aunque habla de temas complejos, lo hace de una forma sencilla y fácil de entender. También hace referencias más normales, como a la película Ex Machina (que a mi me gustó), a frases graciosas como una de Eliezer Yudkowsky: "La IA no te odia, tampoco te ama, pero es que estás hecho de unos átomos que ella podría usar para hacer otra cosa", y escribe un link a una entrevista a Peter Thiel, que utiliza como guion en el capítulo 18 (ésta). Vamos un libro muy agradable que nos indica que nos falta mucha investigación en neurociencia para lograr saber cómo funciona realmente lo que llamamos "inteligencia".

Como siempre, copio un trocito:

"Puesto que los enfoques de IA basados en datos dependen del análisis estadístico de numerosos ejemplos, preguntas extrañas como las que encontramos en los esquemas de Winograd constituyen un desafío notable - todo ello en una sola frase -. De hecho, los esquemas de Winograd son bastante inmunes a trucos como el de conteo de páginas web. Están hechos "a prueba de Google", en palabras de Levesque. Pero la necesidad de contar con un conocimiento cotidiano para interpretarlos sigue siendo una razón de mayor peso para que a los ordenadores no se les den bien. Cambiar el sujeto de Marcus, de cocodrilos a gacelas(*), haría cambiar también la respuesta (las gacelas pueden saltar obstáculos sin problemas), pero la pregunta sigue siendo extraña, así que resulta infrecuente para la red). El aprendizaje automático y el big data no sirven de ayuda. Los sistemas de IA no pueden buscar la respuesta".

(*) está analizando la frase: "¿podría un cocodrilo participar en una carrera de obstáculos?"

Clasificación:

Facilidad de lectura: 1-2 (muy divulgativo, sin demasiados tecnicismos)

Opinión: 4-5

La última voz

Escrito por José Ignacio Latorre y María Teresa Soto-Sanfiel y publicado por Editorial Ariel en el 2022.

Bueno, nuevamente, a los autores no los conocía de nada, pero una crítica del libro en internet que explicaba de qué trataba, hizo que me apeteciese echarle un ojo. José Ignacio Latorre es catedrático de física teórica en excedencia en la Universidad de Barcelona (y muchas cosas más que se pueden leer en link) y María Teresa Soto-Sanfiel es doctora en comunicación audiovisual y dirigió el documental: "That's the Story. Roy J. Glauber remembers the making of the atomic bomb", que es el germen de este libro. De hecho el subtítulo del libro es: "Roy J. Glauber y el inicio de la era atómica".

Antes de decir nada más sobre el libro, comentar que Roy J. Glauber era aún un estudiante de Físicas de 18 años cuando se fue a Los Alamos a participar en el proyecto, entonces secreto, hoy en día conocido por todo el mundo, que se llamaba proyecto Manhattan (liderado por Robert Oppenheimer). Con posterioridad terminaría recibiendo el premio Nobel de física en 2005. Se puede ver su intervención completa en este link.

El libro, como en el mismo indican, es el producto de una serie de largas entrevistas con Roy desarrolladas a lo largo de tres años, desde el 2011 en Benasque, y posteriormente, en Singapur y Cambridge (EEUU). En estas entrevistas nos da su visión de lo que pasaba en las instalaciones de investigación, tanto desde el punto de vista organizativo y administrativo, como desde el teórico-experimental.

En algunos momentos me recuerda a otro libro que comenté: "Aventuras de un matemático", entre otras cosas porque menciona que fue Stanislaw Ulam el que solucionó el problema de la bomba de hidrógeno (bueno, uno de ellos).

Es un libro que se lee de forma muy fácil ya que prácticamente no entran en conceptos complejos y cuando lo hacen, como cuando mencionan lo que es "interferometría de intensidad" y "interferometría de amplitud", lo hacen de forma que se puede leer sin problemas. Son sólo 200 páginas y una serie de anexos finales en los que dan detalles de algunos de los protagonistas del libro. En mi opinión muy recomendable y agradable de leer.

Como siempre, copio un trocito:

"Nagasaki fue escogida porque tenía un gran puerto, Fue la ciudad que remplazó a Kioto en la lista de las cuatro ciudades finalmente escogidas (Hiroshima, Kokura, Kioto y Yokohama) como objetivo de las bombas. Estas ciudades fueron propuestas por un comité debido a que eran áreas urbanas de más de tres millas de diámetro, capaces de ser dañadas efectivamente por la onda expansiva, y no habían sido destruidas por bombardeos anteriores. El Secretario de Guerra de Estados Unidos, Henry Stimson, persuadió al presidente Truman de que retirara a Kioto de la lista porque era un bien cultural de Japón y de la humanidad. Stimson había visitado dos veces Kioto y su belleza le había conmovido. Era necesario ganar la guerra, no acabar con la cultura japonesa".

Clasificación:

Facilidad de lectura: 1

Opinión: 4

El reto de Hilbert

Escrito por Jeremy J. Gray y publicado por Editorial Crítica en 2003 (el original es del 2000) dentro, como no, de su colección Drakontos.

Tengo que volver a reconocer, como ya me ha pasado en otros libros anteriores, que al autor no lo conocía previamente, pero la idea de leerme un libro sobre la conferencia que dio en 1900 Hilbert en París era algo que me atraía bastante (como le debería pasar a casi todos los matemáticos). Para todos aquellos que no hayan oído hablar de David Hilbert, decir que fue uno de los grandes matemáticos de finales del siglo XIX y principio del XX y como muchos de los de aquella época estuvo dando clases en la Universidad de Göttingen. Para los matemáticos y físicos es conocido, sobre todo, por los famosos espacios de Hilbert (un tipo particular de espacios de Banach).

El libro, como indica en el subtitulo: "los 23 problemas que desafiaron a la matemática", trata de la conferencia que dio Hilbert en 1900 en París (la segunda conferencia del ICM, que tuvimos la suerte de celebrar una en 2006 en España). Como muy bien explican, Hilbert se planteó dar una conferencia normal, sobre lo que se había hecho en los últimos años y los avances conseguidos, pero después de pensarlo y hablarlo con Minkowski (sí, el famoso del espaciotiempo de Minkowski) decidió: "... hacer una caracterización de los problemas a los que los matemáticos deberían orientarse en el futuro.", y así lo hizo. Y para ello preparó 23 problemas (aunque no habló de todos ellos durante su conferencia por cuestión de tiempo, pero sí estaban todos en las actas de la conferencia).

Para que vayamos entrando en materia, el libro comienza relatando un poco los avances que logró Hilbert a lo largo de los años anteriores a la conferencia y también sobre la primera conferencia del ICM que dio otro de los grandes de todos los tiempos: Henri Poincaré, del que se dice que fue el último matemático en conocer todas las matemáticas de su época (y que cada vez que oigo su nombre me acuerdo del teorema de Poincaré-Bendixson, será por deformación estudiantil). Nos comenta los estudios de Hilbert sobre geometría no euclídea, teoría de invariantes, teoría de números, ... y como fue decidiendo y seleccionando los problemas que iba a incluir en su conferencia (están todos en el link que he puesto relativo a su conferencia). El libro se adentra un varios de ellos y en si han sido finalmente resueltos o aún no (entre los que aún no han sido resueltos totalmente están la hipótesis del continuo y la hipótesis de Riemann). Y finalmente transcribe la conferencia completa (las actas, con todos los problemas).

Está muy bien narrado, dentro de que los problemas en sí son bastante complejos (por eso los escogió). Pero introduce conceptos curiosos y anécdotas que van haciendo llevaderas las partes más complejas. Por ejemplo, habla del principio de Dirichlet (también conocido como el principio del palomar, que de forma sencilla lo que viene a decir es que "si hay n huecos en un palomar y n+1 palomas, entonces hay al menos un hueco en el que viven al menos dos palomas"), comenta una gran frase de Plutarco: "no se sigue por necesidad que, si la obra te agrada con su gracia, aquel que la forjó sea digno de tu estima", introduce un chiste de matemáticos polacos, en el que un matemático polaco responde a por qué tanto antes como después de la segunda guerra mundial en Polonia habían trabajado sobre algo tan recóndito como la lógica matemática, y el matemático responde: " antes de la guerra lo hacíamos porque la Iglesia no podía entenderlo, y ahora lo hacemos porque el Partido no puede entenderlo" (sobre matemáticas en Polonia, comenté un libro muy bueno sobre la vida de Ulam). Y como no, cuando se habla de lógica, vuelve a salir Gödel (del que ya comenté su famoso teorema en este link).

Por resumir, 258 páginas más 49 de la conferencia, que se pueden leer a ratitos ya que cada problema es medio independiente del anterior y no hay por qué forzar el cerebro más de lo estrictamente necesario.

Copio un trocito:
"La habilidad concreta de Hilbert puede haber residido en su capacidad de ver, o crear, el escenario general correcto que hacía que los problemas viejos y difíciles parecieran fáciles, pero él creó teorías que funcionaban. Quizá haya producido algunos de sus mejores trabajos en algunas de las áreas más puras de las matemáticas, pero también vale la pena recordar que tuvo un persistente interés en la física. Yo diría que Hilbert no planteó 23 problemas. Ni exhortó a la axiomatización y abstracción en un mundo concreto. Exhortó al proceso de equilibrar problemas con teorías y desarrollarlos a la vez. Es en este sentido, como evidenciaban sus 23 problemas, en el que era, como le calificó Blumenthal, un hombre de problemas.".

Clasificación:
Facilidad de lectura: 3-4 (no hay que olvidar que está hablando de problemas de las matemáticas y hay mucha formula por el camino, aunque las evita todo lo que puede).
Opinión: 3-4 (yo diría que un 4 para los científicos y un 3 para el resto).

Aventuras de un matemático

Escrito por Stanislaw M. Ulam y editado por Nivola en 2002.

Nuevamente un libro que no se adentra en las cuestiones técnicas y áridas de las matemáticas. Son las memorias de Stanislaw M Ulam, que fue uno de los grandes matemáticos de la escuela polaca y que fue miembro del equipo que trabajó en Los Alamos (o en Los Ulamos, como le decía algún que otro físico) en el desarrollo de la bomba atómica.

Son unas memorias llenas de anécdotas, algunas divertidas y otras no tanto. En las que se narra la historia del cuaderno escocés de la ciudad de Lviv, cómo afectó la segunda guerra mundial a los matemáticos y científicos polacos (y no sólo a ellos) y los encuentros a lo largo de su vida con grandes matemáticos y físicos, como Banach, Von Neumann, Oppenheimer, Teller,  Bethe, Feynman, Fermi, Bohr...

Otro libro recomendable, de lectura fácil, aunque con una letra que hace que las 304 páginas no se puedan leer en un par de tardes y se necesite alguna más (no necesariamente un número par de ellas).

Y vamos con un par de frases copiadas del libro:

"Banach me dijo una vez: "Los buenos matemáticos ven analogías entre teoremas o teorías, pero los mejores de todos ven analogías entre analogías" "

Clasificación:

Facilidad de lectura: 1

Opinión: 5

PD: si alguien piensa que le pongo un 5 a todos los libros se equivoca, lo que pasa es que he empezado comentando algunos de los que realmente me han gustado de verdad.