El mito de la inteligencia artificial

 

Escrito por Erik J. Larson y publicado por Shackleton Books en 2022 (el original es del 2021).

Nuevamente al autor no lo conocía, pero visto que había trabajado para el DARPA y que se dedicaba a la IA (inteligencia artificial), podía merecer la pena, y de verdad que lo ha hecho.

El subtítulo ya nos indica de lo que va a hablar: "por qué las máquinas no pueden pensar como nosotros lo hacemos", y en el link, hay una entrevista en la web de Naukas en la que resume un poco el libro, pero hay un comentario al principio del mismo que nos fija cuál es el objetivo de libro: averiguar si tenía razón Von Neumann cuando dijo, tal y como recordaba Stanislaw Ulam, que: "el proceso de aceleración constante de la tecnología ... parece sugerir que nos acercamos a una singularidad esencial en la historia de nuestra raza, tras la cual los asuntos humanos tal y como los conocemos, no podrán seguir igual".

Hace un breve resumen de lo que es la IA hoy en día y de dónde viene (y ahí me he sentido mencionado, que muchas de las cosas que dice que se hacían, las hacía yo en su día). La parte fundamental con la que hay que quedarse casi nada más empezar el libro son los tres tipos de inferencia que hay: "La IA clásica exploró uno (las deducciones), la IA moderna explora otro (las inducciones), y el tercer tipo (las abducciones) conduce a la inteligencia general y, sorpresa: nadie está trabajando en él."

Con las deducciones se trabajaba antes del famoso aprendizaje profundo (deep learning) y de la web 2.0, momento a partir del cual se empezó (y se sigue) trabajando con las inducciones, pero esto nos plantea un problema (bueno, varios). El primero es que, tal y como dijo David Hume, confiar en la inducción requiere de nosotros la convicción de que "los casos de los que no tenemos experiencia se parezcan a aquellos de los que sí la tenemos". Hablando de este mismo asunto menciona a Nicholas Taleb, del que comenté un libro con anterioridad (éste). Y el segundo problema, derivado de ese primero, es que mediante la inducción no podremos llegar a nada nuevo. Nunca. Podremos llegar a darnos cuenta de cosas que en la que no nos habíamos fijado o a obtener nuevas combinaciones de elementos existentes, pero nada disruptivo. Y eso implica que si nos dedicamos a creer que mediante el procesamiento de datos vamos a lograr hacer pensar a una máquina, estamos cometiendo un error de partida (por mucho datos que se puedan procesar en la web), porque una cosa es que parezca que piensas y otra hacerlo (tal y como se está demostrando estos días con el famoso "chatGPT" y sus múltiples variantes). Para aclarar esto, habla bastante del test de Turing, de las máximas de Grice (que son unas máximas para mantener una conversación con éxito), y de que, como dice textualmente: "las ideas nuevas se conciben en el intelecto de los científicos individuales, y en especial tienden a originarse allí donde hay numerosos intelectos bien entrenados, y por encima de todo allí donde se valora el intelecto".

Resumiendo, un libro de 332 páginas que se leen de forma muy agradable y que aunque habla de temas complejos, lo hace de una forma sencilla y fácil de entender. También hace referencias más normales, como a la película Ex Machina (que a mi me gustó), a frases graciosas como una de Eliezer Yudkowsky: "La IA no te odia, tampoco te ama, pero es que estás hecho de unos átomos que ella podría usar para hacer otra cosa", y escribe un link a una entrevista a Peter Thiel, que utiliza como guion en el capítulo 18 (ésta). Vamos un libro muy agradable que nos indica que nos falta mucha investigación en neurociencia para lograr saber cómo funciona realmente lo que llamamos "inteligencia".

Como siempre, copio un trocito:

"Puesto que los enfoques de IA basados en datos dependen del análisis estadístico de numerosos ejemplos, preguntas extrañas como las que encontramos en los esquemas de Winograd constituyen un desafío notable - todo ello en una sola frase -. De hecho, los esquemas de Winograd son bastante inmunes a trucos como el de conteo de páginas web. Están hechos "a prueba de Google", en palabras de Levesque. Pero la necesidad de contar con un conocimiento cotidiano para interpretarlos sigue siendo una razón de mayor peso para que a los ordenadores no se les den bien. Cambiar el sujeto de Marcus, de cocodrilos a gacelas(*), haría cambiar también la respuesta (las gacelas pueden saltar obstáculos sin problemas), pero la pregunta sigue siendo extraña, así que resulta infrecuente para la red). El aprendizaje automático y el big data no sirven de ayuda. Los sistemas de IA no pueden buscar la respuesta".

(*) está analizando la frase: "¿podría un cocodrilo participar en una carrera de obstáculos?"

Clasificación:

Facilidad de lectura: 1-2 (muy divulgativo, sin demasiados tecnicismos)

Opinión: 4-5

La física del futuro

Escrito por Michio Kaku y publicado por Editorial Debate en 2011.

Sobre el autor poco que decir que no haya dicho ya en otras entradas de este blog (por ejemplo en "Hiperespacio"), simplemente indicar de nuevo que es uno de los padres de la teoría de cuerdas (sobre la cual he comentado unos cuantos libros) y uno de los mayores divulgadores científicos actuales (con programas de radio, televisión y multitud de libros y artículos publicados).

Sobre el libro, indicar que lo que trata el autor es de avanzarnos las posibles tendencias futuras de la física, la medicina, la biología y la ingeniería en los próximos 100 años. Alguien podría pensar que eso mismo ya lo hacen los autores de ciencia ficción, pero no tiene realmente nada que ver una cosa con otra. El libro lo ha escrito alguien que entiende perfectamente las cuatro fuerzas y las leyes de la naturaleza (las cuales se supone que no deberían cambiar demasiado en los próximos cien años), y está basado, como él mismo indica en la página 31 del libro, en entrevistas con mas de 300 científicos del más alto nivel (aquellos que están involucrados en los descubrimientos del futuro).

Tiene algún parecido con otro libro del mismo autor que ya comenté aquí, "La física de lo imposible", pero con una sutil diferencia, en el otro libro sólo habla de física, y se refiere a la física que aparece en los libros y programas de ciencia ficción. En este libro habla de más asuntos y además no desde el punto de vista de la ciencia ficción, sino de la ciencia real, la que hace que la humanidad avance (aunque a veces se nos olvide a todos y nuestros científicos tengan que irse a otros países para poder seguir investigando). El parecido se encuentra en que en los dos libros, realiza un ejercicio imaginativo sobre el futuro que nos espera, siempre que no lo estropeemos antes con alguna de las guerras que tantas cosas positivas nos han aportado siempre a los hombres (nótese la ironía) y en ambos habla del la consecución de una civilización planetaria (paso previo a ser una civilización estelar) y de que, a su entender, esa transición será la que marque el destino de la humanidad (hace un muy buen resumen de los diferentes tipos de civilizaciones en las páginas 450 y siguientes).

Por resumir todos los campos que trata el libro, creo que mencionando los capítulos, se ve claramente, así que resumo un poco los títulos de los mismos: El futuro de los ordenadores, de la IA, de la medicina, de la energía, de los viajes espaciales, de la riqueza, de la humanidad y de la nanotecnología. Todos estos temas están tratados por expertos en los mismos y vistos a través de los ojos de un gran físico teórico, lo que le da bastante validez a las predicciones. Tengo que decir que, al principio del capitulo dedicado a la medicina, hay una frase que me dejó un poco inquieto: "No pienso que haya llegado el momento, pero está cerca. Me temo que, por desgracia, pertenezco a la última generación que va a morir (Gerald Sussman)".

Por resumir, 498 páginas en un formato de letra muy agradable y que se leen perfectamente en una tumbona en la playa (o en el sofá de casa, dependiendo de la suerte que tenga cada uno), vamos, que no hay que concentrarse mucho y solamente hay que disfrutar del futuro que nos espera (o no).

Como siempre, copio un trocito:

"No obstante, una cosa está muy clara. En una economía postindustrial muchos de los viejos puestos de trabajo que ocupaban los obreros en las fábricas han desaparecido definitivamente. A lo largo de los años siempre ha habido economistas que han jugado con la idea de "reindustrializar Estados Unidos", hasta que se han dado cuenta de que no se puede hacer retroceder las manecillas del reloj. Estados Unidos y Europa realizaron hace décadas la transición de una economía en gran medida industrial a una economía de servicios, un histórico que no tiene marcha atrás. El apogeo de la industrialización ha pasado para siempre".

Clasificación:

Facilidad de lectura: 1.

Opinión: 4-5 (muy entretenido).

La Nueva Mente del Emperador

Escrito por Roger Penrose y editado por Mondadori España en 1991 (año en el que me lo regaló mi actual mujer, en aquellos momentos mi novia, y tuve el placer de leérmelo).

Sobre el autor tengo poco que decir que no sepa la gente y que no haya dicho yo antes, así que no diré nada y dejaré que el que esté interesado en él, eche un vistazo al link de un poco más arriba.

Hace poco comenté otro libro suyo (El camino a la realidad) y dije que Roger Penrose escribía libros de física para físicos y matemáticos. Tengo que reconocer que éste es un poco mas fácil de leer que el que comenté antes (bueno, un poco bastante), pero sigue requiriendo cierto nivel de matemáticas para no perderse más veces de las estrictamente necesarias.

Es un libro del que recomiendo su lectura a todos aquellos interesados en dar un buen repaso a la física que existía en 1989 (que aunque parezca que ha debido cambiar mucho no lo ha hecho tanto y por consiguiente sigue siendo válido en casi todo) y en entender un poco en qué consiste eso que los científicos llaman inteligencia artificial (y que, por experiencia propia, diré que es un campo de investigación multidisciplinar, donde coincidí en los cursos de doctorado con informáticos, ingenieros, médicos, matemáticos y físicos).

Habla un poco de todo, desde la máquina de Turing (por cierto, el que no quiera que no compruebe la codificación de "u" de la página 560 que ocupa un par de folios, que ya lo hice yo y está correcta), de espacios de fases, de computabilidad, de la flecha del tiempo, de la mecánica cuántica, de otros muchos temas y termina con el capitulo 10 dedicado a intentar explicar ¿dónde reside de física de la mente?.

No es que el libro nos vaya a dar la respuesta definitiva a si las máquinas lograrán pensar realmente algún día, pero nos plantea argumentos realmente muy buenos al respecto (quizá los defensores de la IA fuerte no estén tan de acuerdo con que los argumentos son buenos, pero para mi sí que lo son).

Por resumir, el primer libro de divulgación científica que me leí y del que guardo un muy grato recuerdo. Son 557 páginas (no las 1398 del anterior que comenté) de las cuales hay algunas que podrían ser un poco engorrosas si no se tiene una formación de ciencias, pero que creo que con calma (e incluso saltándose algunas manipulaciones matemáticas que no se entiendan) se puede leer sin demasiados problemas.

Como de costumbre, copio un trocito:

"Ciertamente existe un interrogante para cualquier descripción cuántica "ordinaria" de nuestros cerebros, ya que la acción de "observación" se considera un ingrediente esencial de la interpretación válida de la teoría cuántica convencional. ¿Debe considerarse el cerebro "observándose a sí mismo" cuando un pensamiento o percepción emerge a la atención consciente? La teoría convencional nos deja sin ninguna regla clara de cómo la mecánica cuántica podría tomar esto en consideración y, en consecuencia, aplicarlo al cerebro como un todo."

Clasificación:

Facilidad de lectura: 2 (algunas partes son realmente densas)

Opinión: 5 (muy, muy bueno).