Textos alarmistas sobre inteligencia artificial

 Por Andrés García Barrios

No sé si a ustedes les pasa, estimados lectores, pero a mí, en los últimos días ─bajo la avalancha de ideas sobre inteligencia artificial (IA)─ se me ha vuelto muy difícil pensar en una sola dirección y con un criterio único. Mientras más escucho y leo, más me confundo entre teorías y suposiciones, viejos y nuevos problemas, buenas y malas intenciones, esperanzas y horrores.

Claro que siempre es mejor sentirnos confundidos en un mar de razonamientos que aferrarnos a la primera idea de apariencia sólida que se nos presenta, y decir “de aquí soy” sin verificar si realmente resiste. Yo, en cuanto siento que algo en mi soporte se tambalea, empiezo a retirarme de ahí en busca de un pilar más sólido de pensamiento.

Confieso que en cuanto al tema en cuestión, todavía no he encontrado ningún asidero de verdad firme (a quien lo haya hecho, le ruego dejarlo en los comentarios). En realidad, esto es algo que a mí me ocurre con casi todos los temas con los que me enfrento. Soy mejor para hallar errores en las ideas ajenas y darme cuenta cuando las cosas sólo son sólidas en apariencia. No lo considero una cualidad, pero se me da. Así pues, no puedo ofrecer aquí una versión fidedigna de lo que está pasando con todo esto de la IA, pero si puedo darles una par de advertencias sobre ideas de las cuales creo es mejor alejarse antes de que se hundan, llevándose consigo a los que han confiado en ellas.

Mencionaré sólo dos ejemplos. El primero no trata sólo de IA sino de tecnología innovadora en general, y más bien sobre ciertas preguntas éticas que éstas renuevan y que es importante cuestionarnos. El segundo es de orden técnico (aunque no deja de tener su aspecto ético), y nos advierte sobre el uso del lenguaje y sobre cómo éste puede engañarnos, no sólo como lectores sino como escritores y como creadores de pensamiento.

Lo anterior es crucial en el medio educativo, donde además de nuestra salvaguarda personal tenemos la misión de guiar a nuestros estudiantes en el desarrollo de destrezas frente a la escasez de asideros firmes (¿o deberíamos decir “a la proliferación de asideros inestables”?).

Historia de familia

Mi bisabuelo era un hombre muy rico, poseedor de plantaciones de azúcar en la vieja Cuba. Un día, comenzada la Segunda Guerra Mundial, llegó feliz a casa a dar la gran noticia: con Europa en guerra, la demanda de azúcar cubana se dispararía hasta el cielo y la fortuna familiar crecería con ella. En vez de alegrarse, mi bisabuela lo miró con tristeza: “¿Cómo puedes estar feliz con lo que significará el sufrimiento de tanta gente?” Cuenta la leyenda que el bisabuelo sacó su cartera y la entregó a su esposa, encomendándole desde ese momento la administración de la fortuna familiar.

¿Me creerá el lector que en manos de mi bisabuela, y después de mi abuela, ya en México, la fortuna acabó perdiéndose? ¡Claro que me lo creerá! Se perdió por completo. Eran mujeres ingenuas que se preocupaban por el prójimo y que administraron todo aquel dinero sin otro criterio que un concepto de bondad incompatible con cualquier modelo de negocios. El bisabuelo ─que sí habría sabido administrar la fortuna─ no se sintió capaz de hacerlo y de atender a la vez al llamado de amor al prójimo de su religión, y privilegiando ésta, puso la administración en manos de su esposa. ¿Conclusión? Yo y todos los herederos de aquella hermosa pareja tenemos hoy que ganarnos el pan de cada día con el sudor de nuestra frente.

Claro que habría sido maravilloso que mis bisabuelos hubieran podido conjugar comercio y amor al prójimo, pero dado que tuvieron la valentía de reconocer su incapacidad, gustosamente me adhiero a la decisión de mi bisabuelo. Aclaro que mi opinión no es que aquella hermosa pareja de millonarios no pudo lograr lo que muchos sí logran. Como parte de nuestra cultura, todos entendemos la dificultad que existe en conjugar dinero y bondad. Estoy seguro de que unos pocos lo consiguen. Sin embargo, han pasado ochenta años desde aquella anécdota familiar y yo escucho a hombres de negocios hablar sobre los nuevos modelos de automatización y globalización de los procesos comerciales pero no a alguien dispuesto a renunciar a los beneficios personales que éstos generan, cuando la vida de los demás está de por medio.

Cada quién sabe hasta dónde puede llegar su heroísmo. Sin embargo, me queda claro que debemos ser muy cuidadosos antes de respaldar a quienes se desentienden de forma irresponsable cuando su bienestar daña al prójimo. Hace unos días el periodista Johann Hari, autor del bestseller Tras el grito (convertido en película), ofreció una entrevista donde habla de la peligrosa pérdida de atención que hemos sufrido los seres humanos en las últimas décadas, pérdida con gravísimas consecuencias en todos los órdenes individuales y sociales. Una buena parte de la culpa la tienen las nuevas tecnologías, que absorben nuestra atención y la deterioran. “Pasé mucho tiempo ─cuenta Hari─ en Silicon Valley entrevistando a las personas que diseñaron estas cosas. Su único objetivo, admiten, es que pases más y más tiempo enganchado. Eso es todo. No lo hacen porque sean personas malvadas, sino porque eso les hace ganar dinero. (Sin embargo), todo esto tiene un efecto inesperado sobre la democracia… La gente deja de prestar atención a los asuntos profundos e importantes».  

Si de poner atención en asuntos importantes se trata, no dejemos que las palabras pasen frente a nosotros sin captar su sentido; mucho menos las admitamos sólo porque provienen de un líder de opinión. Advirtamos que con la frase “No porque sean personas malvadas, sino porque eso les hace ganar dinero” nos enfrentamos con un dilema ético de primer orden. Ha recorrido los siglos, por supuesto, pero ─si se acuerdan─ recobró un furor extremo frente al nazismo: en términos universales dice más o menos “¿Existe algún imperativo que justifique que de manera consciente provoquemos a nuestros semejantes un daño que no merecen?” La respuesta de Hari parece ser que sí, que ganar dinero es uno de esos imperativos, y eso debería al menos llamar nuestra atención y obligarnos a detenernos. Quizás lo ha dicho solo de paso, sin pensarlo mucho, queriendo incluso ser benevolente con sus entrevistados; quizás, también, esa es su forma de pensar. Por lo pronto, ya tenemos una guía para seguir leyendo el artículo, y es la siguiente: o Hari ─diga lo que diga─ está dispuesto a abogar por ganar dinero a costa de la salud mental de la humanidad o se permite escribir con una laxitud moral frente a la que será conveniente estar alerta.

Máquinas que superan el talento medio

Por las mismas fechas del texto anterior, llegó a mis manos el artículo Hablamos del posible fin de la historia humana, de Yuval Noah Harari, publicado por The Economist, uno de los diarios con mayor distribución global. El grito de alarma del título (elección quizás del editor), así como el alcance de la publicación y la fama ya casi monumental de Harari (autor del bestseller Sapiens y uno de los más famosos líderes mundiales de opinión), lo obliga a uno a atender de forma cuidadosa lo que dice el artículo. Y lo primero que salta es esta frase con la que cierra el primer párrafo. “La inteligencia artificial ha adquirido notables capacidades para manipular y generar lenguaje…”.

Sugiero al lector que estas dos palabras ─manipular y generar─ aplicadas al lenguaje, nos pongan en alerta.

En un artículo que publiqué en este mismo espacio, expliqué un asunto que debo retomar ahora brevemente. Tiene que ver con la forma en que nuestro lenguaje nos nubla la mente cuando intentamos explicarnos y explicar a otros la realidad. Advirtamos que si yo digo ─como Harari─ que una maquina “manipula” el lenguaje, me acerco peligrosamente a adjudicarle a esa máquina una intención. Muchos de mis lectores son especialistas y quizás sea parte de su jerga profesional decir, por ejemplo, que una computadora “manipula la información”; sin embargo, a mí ─que como escritor tengo la obligación de mantenerme como un no especialista─, escuchar que los objetos inertes “manipulan” me evoca una especie de animismo por el cual esos objetos adquieren voluntad (y esto en las dos acepciones de manipular: la de “operar con las manos” y la de “distorsionar la verdad”).  Claro que he oído la palabra “manipular” en todo tipo de contextos: “el sistema manipula”, “los medios manipulan”, “la máquina manipula”, pero ─desde Freud y Lacan─ sabemos que el uso de una palabra nunca anula del todo su sentido original: se necesita ser un especialista para romper con ese vínculo original entre palabra e intención y adaptar el significado de un término a un ámbito distinto. Cuando cierto uso del lenguaje se presta a una mala interpretación, es conveniente aclarar el asunto. Éste debería ser un caso así, pues decir “manipular”, crea o puede crear la ilusión de que la máquina guarda intenciones ocultas (y que por lo tanto es de alguna extraña forma nuestro semejante), y nos coloca cada vez más cerca de creer que los robots pueden un día ponerse en contra nuestra.

El problema se agrava cuando hablamos de que un robot “genera lenguaje”. Es cierto que también entre especialistas se habla del lenguaje de las máquinas, el lenguaje de las flores… pero todos sabemos que la acepción original es que el lenguaje es el conjunto de palabras que los seres humanos usamos para comunicarnos. Esta definición contiene además la convicción de que alguien usa el lenguaje cuando quiere decir algo a alguien más, donde “alguien” significa un ser humano al que le importa lo que dice y lo que le dicen.

A un robot no le importa en absoluto lo que “dice” ni lo que “le dicen”. Un robot no es nadie. Un robot es tan “alguien” como una máquina de escribir o como una hoja de papel. Si a eso añadimos que todavía no tenemos ni idea de si en realidad somos los seres humanos quienes “generamos” el lenguaje o si éste se origina y estructura en los genes, veremos que afirmar que la IA “genera lenguaje” es un verdadero atentado contra una mínima posibilidad de entendimiento.

Para colmo, Harari remata esta primera reflexión diciendo que ─dado que “el lenguaje es la materia de la que está hecha casi toda la cultura humana”─, al manipular el lenguaje, la IA “ha hackeado el sistema operativo de nuestra civilización”. ¡Ah, caray, ahora resulta que nuestra civilización tiene un “sistema operativo”! Algunos dirán que ando paranoico, pero yo creo que, con el pretexto de que sólo está empleando una metáfora común a todos, Harari ha cerrado con éxito una especie de sortilegio lingüístico gracias al cual nuestra civilización se ha convertido en una especie de inmenso dispositivo electrónico que puede ser “hackeado” por máquinas que “han adquirido la capacidad de manipular y generar lenguaje”. Mágicamente, y sin darnos cuenta, el prestigioso historiador nos ha transportado a un contexto donde ciencia y superstición se hermanan. De ahí a sugerir que Hablamos del posible fin de la historia humana hay menos de un paso.

Harari es fecundo en efectuar este tipo de sortilegios (llamémosles “malos entendidos”, lo cual de ninguna forma les resta peligro). Veamos otro ejemplo. Siempre para justificar la alarmante idea central de su artículo sobre el fin de la historia, unos párrafos más adelante, Harari pregunta: “¿Qué pasará cuando una inteligencia no humana sea mejor que el ser humano medio para contar historias, componer melodías, dibujar imágenes y redactar leyes y escrituras?” 

Conviene revisar con atención la pregunta. Para empezar, destaquemos que al principio de la frase se habla de seres humanos “medios”. Es verdad que a éstos se nos da el echarnos de pronto a contar historias, componer canciones y hacer dibujos sin el menor rasgo de originalidad, con lo cual generamos obras de arte medio; y es posible también afirmar que éstas fácilmente serán superadas por robots que contengan en su base de datos las obras y las técnicas de los más grandes artistas, desde la antigüedad hasta nuestros días. Sin embargo, si continuamos con cuidado sobre el texto, veremos que Harari, en un nuevo acto de prestidigitación lingüística, extiende esa afirmación hasta la redacción de “leyes y escrituras” (se refiere a textos sagrados) y así ensarta en la misma conclusión la idea de que éstas pueden ser redactadas por un ser humano “medio”, sugiriendo que por lo tanto también serán fácilmente imitables por la IA. Sin embargo, por definición las leyes son creadas y escritas por personas que representan a todo un conjunto humano, ¡y esas personas nunca tienen nada de “medio”! Por su parte, las escrituras sagradas implican un acto de creación que llega a confundirse con lo trascendente, de tal forma que sólo en situación extrema (jamás “media”) puede alguien concebirlas. El que la IA pueda fácilmente superar las obras de seres humanos medios, no significa que algún día podrá superar a los verdaderos artistas, legisladores y profetas.

Arte de verdad, leyes y escrituras son obras que implican un salto creativo que lo artificial no da. Ni tiene por qué. Si por casualidad la máquina produce una secuencia de letras interpretable como gran poema, ley o texto profético, esa máquina no será capaz de advertirlo ni de darle un valor. Será necesario que un ser humano descubra la presencia de un texto significativo entre miles de garabatos inservibles y decida que aporta algo. Esta misma idea se expresa en un viejo experimento mental que plantea que si un mono tecleara al azar sobre una máquina de escribir durante un tiempo infinito, acabaría por reescribir La Biblia, El Quijote, el guion de Kung Fu Panda y todos los grandes textos de la historia. ¿A ese mono le podríamos llamar “creativo”? Obviamente, no: habría tecleado esas obras maestras sin darse cuenta. Y si ese mono eterno un día produjera por azar un poema “original”, no sería él quien lo advirtiera sino que tendría que venir un ser humano a decir: “Esto que el mono tecleó sin intención, resulta no sólo legible sino que me produce una profunda emoción …”

Digo esto último dejando de lado el análisis del texto de Harari y dando mi propia perspectiva acerca de la posibilidad de que los robots se vuelvan “creativos”. De ninguna manera lo planteo como un asidero firme sino sólo como un punto de vista entre los muchos cuya confiabilidad hay que seguir vigilando. Le pido al lector, pues, que lo reciba con reservas. ¿La inteligencia artificial puede adquirir conciencia y creatividad? Son cosas sobre las que todos podemos dar nuestra pequeña opinión pero sobre las que lo único que podemos afirmar con contundencia es: Sólo Dios sabe.

Tomado de EDUNEWS del Tec de Monterrey