La Tempestad

Para empezar, algunas cuestiones técnicas inevitables. Los LLM (grandes modelos de lenguaje), como ChatGPT, Claude, etc., siguen funcionando de la misma manera que en el inicio, y sus actualizaciones han consistido tan sólo en una mayor eficiencia de la misma técnica: la predicción probabilística por medio de tokens. En términos sencillos, lo que hacen estos programas es formar frases y textos calculando la probabilidad de cada palabra para acoplarse en cierto contexto. Si la frase comienza con “Entré al restaurante y pedí ____”, la IA elegirá palabras como “un sándwich” o “una milanesa”, antes de elegir “un astrolabio que databa del 220 a.C.”, y esta decisión vendrá de las innumerables veces que encontró, en sus textos de entrenamiento, nombres de platillos ligados a la palabra restaurante y al verbo pedir. La IA no está pensando, es sorda al lenguaje, no es capaz de atender el significado, no es una inteligencia ni un ser, es una técnica, un programa que utiliza estadística y punto. “There is no A.I.”, declaró el experto en tecnología Jaron Lanier.

Los primeros programas de detección funcionaban con base en el “análisis de perplejidad”, es decir, trataban de medir si en el texto había soluciones excéntricas, como el astrolabio, o predecibles, como el sándwich. La idea era que la IA tendría muy pocas o nulas elecciones sorpresivas, y que el lenguaje de los humanos sí contaría con combinaciones más peculiares. Esto, desde luego, acarreaba grandes errores. Textos clásicos, periodísticos y académicos (textos con una normatividad alta) daban falso positivo. Me imagino que las personas que en estos días han llamado a desconfiar de los detectores por las deficiencias que les conocen deben haber usado esos programas anteriores. Es importante decir que Pangram, la herramienta que utilizó El País en su artículo sobre el caso del Premio Internacional de Novela Breve Almadía Ventosa-Arrufat, al parecer es diferente, se trata de un detector superior.¹

En vez de depender del análisis de perplejidad, Pangram funciona como un modelo clasificador de red neuronal. Esto quiere decir que no se fija solamente en palabras individuales sino que analiza el texto completo, en múltiples capas, y es capaz de medir también las secuencias lógicas, la puntuación, la relación entre las frases, el ritmo, etc. Utiliza además “espejos sintéticos”, una especie de fantasma de la IA que el mismo Pangram genera para aprender acerca de la escritura artificial. En otras palabras, es un experto en detectar el estilo de la IA. Si bien esta descripción ya suena más opaca, quizá podemos conceder tan sólo por un momento la pretensión de que el modelo de Pangram hace otra cosa y es un detector más eficaz, y que esto es suficiente para empezar a jugar con él y comprobarlo.

Así como ya todos hemos utilizado durante cierto tiempo distintos programas de IA, también deberíamos familiarizarnos con Pangram y otros detectores. Su sitio web se permite hacer revisiones gratuitas; yo hice algunas y encontré cosas interesantes. La primera prueba que realicé fue con el último artículo que escribí para La Tempestad (debo confesar que sentí el temor usual antes de los resultados médicos). Luego probé con un texto clásico, como los que solían dar falso positivo en los primeros detectores: Frankenstein, de Mary Shelley. Después un texto reciente, escrito ya en la era de la IA, un artículo de Patricio Pron en la Revista de la Universidad. Y, finalmente, copié algunos párrafos de Donde el agua trabaja (el libro ganador del Premio Almadía Ventosa-Arrufat), que pude extraer, para mi sorpresa, de un fragmento de muestra en el sitio web de una tienda departamental mexicana. Los resultados son los que quizá ya se imaginan, pero a quien le interese debería ir a hacer las revisiones por sí mismo.

Escuché a un booktuber afirmar que Pangram habría considerado IA el texto de Donde el agua trabaja porque justamente estaba imitando el habla deshumanizada de una máquina. Bueno, probé entonces con el libro de Belén Gache, la Antología de los poemas del robot AI Halim X9009. O, decía el mismo booktuber, que Pangram desde luego no conocía las voces de los sujetos marginalizados de América Latina, y a continuación probé una entrevista con Teresita Antazú, lideresa del pueblo yanesha. Los resultados siguen siendo los mismos: hay un único topo en el grupo.

No se trata de volvernos policías ni de empezar una cacería. Desde luego que debemos criticar y resistir a las corporaciones de inteligencia artificial, y es cierto que resulta problemático que un medio español utilice una herramienta estadounidense para atacar a un concurso de una editorial y una fundación mexicanas que premió a un autor peruano. La IA destruye el medioambiente y es una nueva y poderosa iteración de la guerra del capital contra el trabajo, pero los programas de detección ocupan un lugar algo distinto en este trazado de posiciones: un tornasol no es equivalente a la sustancia que detecta.² No es parte de la claudicación sino de la contienda.

En términos pragmáticos, parece que poco a poco vamos a acostumbrarnos a estos programas de detección. Pronto cada concurso, cada editorial, revista, etc. va a pasar los textos por el software antes de la publicación. En la plataforma para subir los archivos podría estar incluida la herramienta, justo como lo hace Substack ahora. Desde luego, también debe haber recursos de apelación, los autores falsamente acusados deberían poder pelear la decisión, ¿quizá presentar el historial de versiones, los metadatos de los archivos, las notas de trabajo?

Pero hay una discusión más interesante, la que toca el debate sobre lo estético. Como decíamos al inicio, los modelos de lenguaje siguen funcionando con base en el cálculo probabilístico, es decir, están condenados a generar textos predecibles, neutrales, “suaves”, estadísticamente correctos, impersonales, justo lo que la literatura está llamada a no hacer. La literatura, se suponía, buscaba el extrañamiento, el riesgo, lo nuevo³, la falla de la percepción, la lengua privada, la resistencia ante la lengua tecnocrática.⁴

La IA es una máquina de medianía, de mediocridad, de promedio, no puede no producir la opción más probable, es decir, la más común, la más ramplona, la que todos esperamos. Se puede protestar que en algún momento la IA podría avanzar tanto que sobrepasaría ese límite, pero también cabe recordar que tecnologías como la máquina de vapor o el motor de combustión interna –¿y un sitio web, y un buscador?– nunca superaron su propia lógica, todos sus avances consistieron en mejoras en la eficiencia pero no en cambios de identidad, nunca dejaron de hacer lo que habían hecho en un principio.

¿Por qué los libros escritos con IA están ganando concursos?⁵ Hay que recordar lo que decía Lars von Trier sobre los certámenes artísticos: las obras arriesgadas, fuertes, no suelen ganar porque dividen al jurado; sólo las obras tibias, bien portadas, correctas, generan el consenso para salir airosas. Parece entonces que la IA sería una técnica particularmente adecuada para ese trabajo. La manera en que funciona recuerda mucho lo que decía Damián Tabarovsky sobre la neovanguardia académica, el libro “encantador, inteligente, bien escrito, razonable, argumentado, seductor, lúcido, documentado, elegante, es decir, absolutamente hueco”, el que mezcla “unas gotitas de teoría, un chorrito de citas cultas, un poco de los géneros menores […] como el policial, la ciencia ficción distópica o la autoficción, algunos procedimientos ‘experimentales’, un toque de crítica social”.

Seguimos atravesando una época, además, como en los sesenta, en que la cultura (el contexto) ejerce su dominio sobre la literatura (el texto), la lógica interna de las obras importa menos que su toma de posición respecto de ciertos referentes externos. Quizá la escritura generativa no es deslumbrante en sí misma pero el mérito consiste en meterle a la IA los prompts adecuados, la postura correcta. Probablemente todos correríamos el riesgo de dar un premio a un texto escrito con IA, siempre y cuando le hubieran introducido como parámetros autores, temas y opiniones afines a los nuestros.

Una pregunta distinta es si la inteligencia artificial puede producir buen arte. Casi todos podemos darnos cuenta ahora cuando el cartel de un evento o la identidad gráfica de una página están hechos con IA. En la música quizá resulta más difícil, y en la literatura aún más. Recientemente el New York Times hizo un experimento: en un artículo colocaba canciones hechas por humanos (compuestas originalmente para el ejercicio) junto a canciones hechas por IA; el lector debía escucharlas a ciegas y señalar el origen. Pero este experimento, si bien es interesante, no es completo. La IA puede crear una canción disfrutable, en los géneros que nos gustan, con suficientes habilidades técnicas y de composición, lo que no puede hacer (al menos no todavía, se me dirá, pero tengo la sospecha de que nunca podrá hacerlo) es componer un disco realmente importante, radical, novedoso, influyente, que no existía antes. Nunca podrá hacer, pienso, el equivalente de What’s Going On, Clics modernos, Blue, A Love Supreme, The Velvet Underground & Nico, etc. Y esto no necesariamente por una “especificidad misteriosa del corazón humano”, sino porque la IA, de suyo, no puede producir algo que no se haya hecho antes⁶: es justamente por ello que es un patente y cínico robo del trabajo humano.

A todos nos habrá gustado alguna canción hecha con IA; es diferente haber pensado que eso que escuchábamos era una obra esencial. Hay que preguntarnos si no resulta siempre mediocre el arte de la máquina, cuando lo percibimos con atención, y si por ello no puede reemplazar sino a los artistas de esa misma categoría. Los concursos, todos lo sabemos, no son un método infalible para descubrir las siguientes obras fundamentales, y a quienes tenemos un atraso con nuestras pilas por leer de libros escritos por humanos no nos queda sino confiar en el booktuber que jura que Donde el agua trabaja “es un libro hermoso”. Podemos cerrar con lo que decía Ricardo Piglia, que lo realmente urgente no son los artistas de vanguardia sino los públicos de vanguardia.

1. Aquí un artículo académico al respecto.[↩]
2. Lo que se debe hacer con la IA (como también con otros servicios de Google, Facebook, Amazon, Starlink), además de aprender a usarla como asistente de investigación y no como un sustituto cognitivo, es expropiarla, pasarla al control público, democrático y nacional.[↩]
3. Guido Herzovich me decía que habría que separar el acontecimiento literario, la historia de las grandes obras, de la normalidad de la literatura; también los seres humanos son productores de medianía. Me proponía, además, que la escritura con IA representa una oportunidad de abandonar de una vez por todas nuestra noción de autoría. Siempre hay alguien que te recuerda lo conservador que permaneces.[↩]
4. Las escrituras literarias que se acercan a lo maquínico no suelen ser una capitulación sino una escaramuza en campo enemigo, un acercamiento al lugar preciso del combate.[↩]
5. Ocurrió también con el candidato al Premio Goncourt, Thélyson Orélien.[↩]
6. Un amigo matemático se opone a mis argumentos: “Llenar los huecos en la esponja del conocimiento humano es, técnicamente, hacer algo que no se ha hecho antes. Claude robándose los premios de matemáticas es criticable en todos los sentidos, pero de que lo hicieron primero, lo hicieron primero. Los motores estadísticos son muy buenos interpolando, aunque sean terribles extrapolando, y cabe la pregunta de si el progreso artístico tiene (necesariamente) que ser extrapolación, si aterrizar un libro en un hueco de la condición humana que nadie había llenado no tiene, también, su gracia… si puede haber ‘vanguardias interiores’”.[↩]