Opinion Sur
en épocas de inteligencia artificial
Ilustración del libro Go East by Going West, por Pedro Cuperman e Izhar Patkin, 1989.
¿Qué tiene que ver la literatura con nuestra situación geopolítica y científica? Paciencia lector: es la humanidad desquiciada lo que está en juego. Una gran novela nos puede ayudar. Veamos adonde hemos llegado desde la publicación de Don Quijote de la Mancha (1605) hasta nuestros días.
El Quijote es la gran novela –primera y definitiva—en la historia de nuestra literatura. En su primera parte conocemos a los personajes que, como decía Jorge Luis Borges, mas que admirables y admirados son amigos. Alonso Quijano el Bueno y sus compinches: el barbero, el bachiller, los duques, nos resultan familiares y podrían estar en cualquier pueblo polvoriento y aburrido de los tantos que conocemos. Cuando Quijano enloquece –por leer demasiados libros de caballería que ya nadie lee— la identidad que adopta (en caballero de la triste figura) como Don Quijote de la Mancha, es un entrañable personaje que decide salir al mundo como un valiente guerrero andante, para hacer justicia, o como él dice “a desfazer entuertos.” En otras palabras, Quijano y el Quijote son unos locos lindos, dignos de nuestra amistad y también de una balada de Astor Piazzola[1]. Hasta el redondo Sancho Panza (que aparece un poco mas tarde como su fiel compañero, en la segunda salida) con su bonhomía ignorante y campesina, nos resulta simpático –algo así como un tío gallego que yo tenía en Buenos Aires, don Pepe Chouza, que venía no de la árida Mancha sino de las rías bajas bien mojadas, y también de Avellaneda.
La segunda parte de la novela cervantina es mas compleja y avanzada. Los personajes ya han leído la primera parte del libro, supuestamente escrito por un historiador musulmán. Hasta le hacen el juego al loco lindo Quijano/Quijote pretendiendo formar parte de su mundo y de su fantasía. (Nos hacen recordar a Luigi Pirandello.) Aquí vuelve el Quijote con sus aventuras disparatadas que ya conoce mucha gente. Es su tercera y última salida y ocupa toda la segunda parte de la novela. Y recordemos que para complicar mas las cosas Cervantes se esconde detrás de un escritor ficticio: Cide Hamete Benengeli de cuya pluma, dice, salió la historia.
Cervantes nunca escribió otra vuelta mas de don Quijote o una tercera parte de la novela, porque ello hubiese excedido el desarrollo social de su tiempo. En cambio, concluyó la novela (con bastante nostalgia por sus personajes) cuando Alonso Quijano se cura de su locura, vuelve al mundo real, chato y cotidiano, y al final se enferma y expira. Dice entonces Cervantes “el cual, entre compasiones y lágrimas de los que allí se hallaron, dio su espíritu, quiero decir que se murió.”
Y algo curioso ocurre, como suele ocurrir con la gran literatura. Muere el hombre y nace el mito. Mueren Alonso Quijano el Bueno en la novela y Miguel de Cervantes en Madrid (la muerte de Cervantes coincide con la de Shakespeare), pero don Quijote sobrevive en la lealtad empedernida de los lectores, generación tras generación, igual que Otelo, Romeo, Emma Bovary, Hamlet, Rodion Raskolnikov y tantos otros personajes. La razón de tal supervivencia es un misterio[2], pero tal vez tenga que ver con el hecho que don Quijote mejora el mundo; le regala imaginación y fantasía, amor y sed de justicia –y todo eso contra viento y marea. Es el mundo de los buenos libros que nos inspiran, antes de que con Wikipedia se (mal) cumpliese la profecía del poeta Stéphane Mallarmé: “Le monde est fait pour aboutir à un beau livre” (el mundo fue hecho para terminar en un lindo libro).
Una nueva vuelta del Quijote, a cuyas puertas estamos, no sería solamente mas compleja que las anteriores, sino mucho mas inquietante. Mas todavía: me parece que sería o será siniestra. Ya ni el Quijote sería la buena locura del personaje Quijano, ni la novela sería obra de un autor de carne y hueso. El mundo fantástico habrá soltado amarras de toda realidad antigua para volverse una invención fantasmagórica sin moral, sin amor, sin justicia –un producto variado y perverso de unas máquinas “pensantes” (o delirantes). Los seres humanos se volverían unos simios teledirigidos por una inteligencia artificial que los supera en el cálculo y en la imaginación, pero que es incapaz de tener piedad y buen juicio. Como afirma el ensayista Thomas Friedman: “seremos capaces de partir el Mar Rojo pero nos habremos olvidado de los Diez Mandamientos.”[3]
La máquina hace de los seres humanos unos muñecos descartables y juega con ellos como jugaban los antiguos dioses con los griegos: porque sí. Quijano y el Quijote: no importa quién es quién porque los dos serán muñecos vacíos, y lo es también el autor, que dejó de ser autor, y los lectores, que están irremediablemente confundidos. Todo es simulación maquinada, como en la novela de Adolfo Bioy Casares La invención de Morel. Los lectores son leídos por las máquinas y se ponen a rumiar el bolo informático que ellos mismos entregaron en sus pantallitas del celular tan difundido: los soñadores son soñados, las noticias que reciben son inventos. ¿Qué es lo falso y qué es lo verdadero? Ya no hay ni ilusión ni ideología, que presuponen una realidad que los contrasta. Aquí todo es puro invento, sin salida. Los seres pos-humanos son marionetas digitadas, pero ¿por cuál titiritero? ¿Acaso los dueños de Google, los ejecutivos de Meta y Facebook, el billonario juguetón que compró Twitter, o aquéllos que armaron Tik Tok? No: ellos también serán superados. Por eso estos ‘reyes del universo’ también están preocupados. Lo real y lo novelesco estarán indisolublemente confundidos. Y no crean que sería el suyo un mundo sumiso y ordenado como pretendería un líder en Beijing o en Pyongyang. En el mundo de la Inteligencia Artificial, la humanidad conformada como una colmena ordenadita (el sueño del partido comunista de cualquier república popular) no es mas que un cuento chino. El destino no es la dictadura o la democracia sino el desorden y la anarquía. Esa misma Inteligencia Artificial podría experimentar, es decir jugar, con una humanidad en la que todos odian a todos y se lanzan a una tenaz destrucción mutua. ¿Por qué no? si todo es igual, dale que va, como en el tango de Enrique Santos Discépolo. En términos de la filosofía clásica (ya perimida), cuando la evolución de la humanidad llega al espíritu absoluto (Hegel) a través del Internet, resulta que su fenomenología termina en una broma de mal gusto.
Las figuras principales entre los “dueños del universo” (incluido Elon Musk) han firmado un documento llamando a hacer una pausa en el loco desarrollo de la I.A., preocupados de que los laboratorios donde se desarrolla entren en una carrera sin control para desarrollar y lanzar al mercado poderosos sistemas que nadie –tampoco sus creadores—logre entender, predecir, o controlar. Habiendo dejado muy atrás a las humanidades y a las ciencias sociales, hoy los ingenieros llevan la delantera a los propios científicos, y lanzan al mercado inventos sin que nadie conozca las consecuencias.
Lo que está en juego es la pérdida de control, aun por parte de las elites mas poderosas. La biotecnología y los algoritmos en las computadoras producirán una división radical en la sociedad humana, mucho mas fuerte que la venerable división de clases. Producirán “cuerpos, cerebros, y mentalidades” que sólo sabrán manipular algunos ingenieros por un tiempo, y nadie mas, y al final, ninguno. Los que se queden atrás serán los primeros en extinguirse, y los seguirá el resto. Es la opinión de los que hasta ahora reflexionan sobre el asunto, en particular el pensador Yuval Harari (Homo Deus). Pero no sólo los intelectuales mediáticos o popes de opinión reconocidos sino también los científicos están alarmados.
Consternados por los avances y sobre todo por las aplicaciones que podría tener la Inteligencia Artificial (I.A.), un grupo de reconocidos científicos se reunió no hace mucho para analizar los riesgos en las investigaciones en I.A., las cuales podrían tener como consecuencia una pérdida del control humano sobre las máquinas y conducir a la humanidad a un desastre. Uno de los participantes en la reunión, Eric Horvitz, investigador de Microsoft y presidente de la Asociación para el Avance de la Inteligencia Artificial (AAIA), dijo: “El desarrollo de la inteligencia artificial debería ser controlado de forma activa antes de tener máquinas súper inteligentes correteando (y eventualmente disparando) por ahí.” (Como siempre los primeros usuarios son los militares y los criminales.) Según estos científicos preocupados la humanidad puede quedar perdida en un desierto, donde la única respuesta de la “realidad” vendrá del medio ambiente degradado, que se ha de vengar con saña de nuestra especie. La tecnología es capaz de reemplazar a los humanos[4], y entonces la naturaleza tendrá la última palabra con catástrofes inapelables, frente al estupor de muchedumbres que serán al mismo tiempo inteligentes e idiotizadas.
¿Qué opinar de todo esto? Decir algo así como Sic transit gloria mundi (así se va la gloria del mundo) o mas sencillamente, sic transit humanitas, es decir: así puede terminar la aventura humana, no es suficiente. Es un mal augurio. Malos tiempos correrán y si no los frenamos, no habrá consuelo para los afligidos. Los molinos de viento del Quijote serán monstruos verdaderos producidos no por la febril imaginación de un loco lindo sino en un laboratorio de China, de Rusia, o del Pentágono, a cielo abierto o en secreto.
¿Cómo parar este proceso infernal que se nos viene encima? ¿Quién se anima en esta hora tardía a enderezar los nuevos entuertos? ¿Quién le pone el cascabel al gato? Yo empezaría por reforzar (a través de la educación masiva) algunos valores antiguos, extraídos de nuestras religiones, de nuestras bibliotecas[5], de maestros ejemplares –toda aquella vida que nos ha dado tanto. Y por educar también, masivamente, a los ingenieros.[6] La Inteligencia Artificial nos puede ayudar a mejorar la salud y a cuidar el planeta, pero sólo a condición de que salvemos con urgencia las humanidades. Que éstas nos ayuden a vivir, como Don Quijote, de la siguiente manera:
“-¿Observas, Panza amigo -decía D. Quijote-, qué hermoso oficio y aun saludable es este que yo ejercito y en que tú me sigues como satélite? Andamos todo el día desfaciendo agravios, enderezando entuertos, acorriendo viudas, limpiando la tierra de gigantes y malandrines; reparamos las fuerzas con frugales alimentos bajo los árboles y peñascos; bebemos agua sacada de las límpidas corrientes; departimos con pastores, como si de tiempo en tiempo pasáramos por la felicísima Arcadia; dormimos bien y de un tirón la noche toda, y salimos al alba de nuevo, alborozados, recibiendo aire puro nuestros pulmones, clara luz nuestros ojos, cantos de alondras nuestros oídos, perfumes de tomillo y mejorana nuestro olfato, salud nuestro cuerpo y fortaleza nuestro espíritu”.
Que así sea.
[1] https://www.youtube.com/watch?v=k7VbmmAtVxo La letra de este tango es del uruguayo Horacio Ferrer.
[2] Previendo ese destino misterioso el texto le da la ultima palabra a la pluma del ficticio autor Cide Hamete, quien sugiere que es Cervantes el falsario que se hace pasar por autor.
[3] The New York Times, 3 de mayo de 2023.
[4] Ver las entrevistas con el filósofo Harari en especial su charla con Anderson Cooper en el programa “60 Minutes.” https://www.cbsnews.com/news/60-minutes-yuval-noah-harari-2021-10-31/
[5] Un dato inquietante: algunas universidades norteamericanas estan cerrando bibliotecas (sobre todo las de humanidades y ciencias sociales) con pretextos presupuestarios a favor de las pantallas y de la preferencia estudiantil por ocupaciones técnicas y platudas. Leer como ejemplo el artículo “An Old School Library Sit-In Is a Fight for Humanities in an A.I. Age,” The New York Times, 3 de mayo de 2023.
[6] Vale la pena releer y repensar los artículos de Thorstein Veblen recopilados en el libro The Engineers and the Price System (1919).
Si te interesó este texto puedes suscribirte completando el formulario que aparece en esta página para recibir una vez al mes un breve resumen de la edición en español de Opinión Sur
