La inteligencia artificial, una caja negra: crítica y rebelión en el Jeu de Paume

20 de abril de 2025, por Lunettes Rouges

(artículo original en francés, aquí)

Justine Emard, Hyperphantasia, orígenes de la imagen, 2022, captura de pantalla video

Como lo decía entonces en post script, mi conocimiento de la inteligencia artificial se debe sobre todo a una muy lejana familiaridad con el reconocimiento de formas (IA analítica), más que a un conocimiento serio de los desarrollos actuales en IA generativa (y aún recuerdo la fascinación que ya ejercían esas dos palabras sobre los inexpertos). Creo que actualmente ello me permite observar con distancia crítica y no tan maravillada lo que a tanta gente le hace el efecto de estar como conejos encandilados con las luces de los carros; o cuando tantos libros y exposiciones muestran, a menudo ingenuamente, los resultados maravillosos que se pueden obtener con la IA, al tiempo que se expresan casi por todas partes tantas inquietudes más o menos racionales sobre los peligros de la IA. La primera calidad de la exposición Le monde selon la IA -El mundo según la IA- en el Jeu de Paume, hasta el 21 de septiembre, es contextualizar la IA para ponerla en la historia y en la sociedad, con sus parámetros económicos, ecológicos, políticos y sociales. Lo que tiene muchas ventajas y algunos inconvenientes. 

Busto frenológico, hacia 1825, vaciado, MNHM Paris

El principio de la exposición trata de la dimensión material de la IA, es decir, su uso de los recursos naturales, metales raros y energía: un tema muy virtuoso pero que no se presta muy bien para una representación artística y de ahí algunas obras demasiado simplistas. Además, las denuncias sobre la situación se quedan casi siempre en palabras huecas, sin solución verdadera (la excelente Kate Crawford, en el capítulo que le consagra en su libro, no puede sino repetir sin fin: «deberíamos», «habría que»). Más lograda es la sección sobre la explotación de los condenados a trabajos forzados de la IA, con una fuerte instalación en Hito Steyerl (Mechanical Kurds), quizás porque es, al contrario, un ámbito en el cual una acción más enérgica es posible. De manera más amplia, los reproches contra las GAFA y otras multinacionales que explotan la IA se limitan la mayor parte del tiempo a un discurso militante sobre los vicios del gran capital que alegran el corazón sin que conduzcan a la acción. 

(Todos los carteles de la exposición se pueden leer aquí y las hojas de sala aquí).  

Trevor Paglen, Faces of ImageNet, 2022, instalación interactiva

Una vez vistos los interrogantes sobre el ecosistema económico-social de la IA, pasamos a lo que hace y no hace la IA y es mucho más interesante. De ahí surgen varios cuestionamientos, del más básico al más complejo. Interrogarse sobre la manera como la IA revoluciona nuestro enfoque sobre el conocimiento es la primera de las prioridades, la más amplia y la que más compartida está. Lo más frecuente es la exploración, el juego en el interior del sistema, sin «salirse de la caja». La instalación de Christian Marclay a partir de Snapchat (The Organ) es el ejemplo perfecto: distrae, es interactivo, potente, pero se queda en el interior de la caja negra, sin cuestionamiento. Las piezas de Trevor Plagen y de Agnieska Kurant son más pertinentes pues cuestionan no el sistema en sí, sino sus parámetros políticos. Por ejemplo, el sistema de reconocimiento facial Faces of ImageNet, de Trevor Paglen, le asigna al transeúnte una categoría predefinida y que con frecuencia es derogatoria (yo tuve suerte -o el sistema sabe realmente mucho sobre mí- soy un teórico de los números). 

Egor Kraft, CAS-V08 Deep Portrait : 12 channel version, 2019, série Content Aware Studies, 125x110x20cm

La etapa siguiente trata de poner en duda la realidad, o, más exactamente la inadecuación entre la representación y lo real, resúmenes de todas las teorías de la imagen. Es por ejemplo lo que hace Joan Fontcuberta cuando revisita su serie Herbarium, pasa, 40 años más tarde, de la ficción fotográfica a la ficción IA. Es también lo que hacen unos «inventores de imágenes», como Justine Emard que reproduce pinturas rupestres (Hyperphantasia, de los orígenes de la imagen; arriba), Egor Kraft que «repara» estatuas antiguas (Content Aware Studies), o la artista germano-irakí Nora al Badri que reconstituye objetos arqueológicos mesopotámicos (Babylonian Vision). 

Nouf Aljowaysir, Salaf, 2021/25, instalación.

Para ir más lejos algunos artistas terminan cuestionando los sesgos del sistema. Especialmente interesante puesto que invisible, es el sesgo europeo céntrico de la IA, alimentada con bases de datos esencialmente occidentales. Por ende la artista saudí Nouf Aljowaysir, al no encontrar las características de su cultura y de su pueblo en una IA orientalista y colonial (con por ejemplo, las fotografías de Gertrude Bell), deconstruye los mitos y reproduce un universo más pertinente, más fantasmagórico (Salaf). Igualmente la senegalesa Linda Dounia Rebeiz en una sección excelente sobre las escrituras generativas (en donde encontré a Eliza, con quien yo dialogaba sin fin hace 50 años), explora de manera crítica la relación de la IA con el alfabeto devanagari, el amhárico, el mendé y el árabe (Tongues).

Julien Prévieux, Poem Poem Poem Poem Poem, 2024/25, detalle

Bueno, aunque vemos en varios lugares algunas «alucinaciones» de la IA, nos hubiera gustado ver a más rebeldes, a artistas tratando a propósito de hacer alucinar el sistema, que desestimaran no los parámetros sino sus algoritmos mismos, aunque las fallas duren poco, ya que los errores son corregidos rápidamente. Esa gente que no juega con la IA sino contra ella, contra el sistema, contra el aparato (algo así como en esta definición de los fotógrafos experimentales). Es lo que hace el colectivo Estampa con Repetition Penalty o Julien Prévieux (entrevistado en el catálogo por la co-comisaria Pia Viewing) que repite cinco veces la palabra «poem» en su prompt y así descarrila el sistema (ya corrigieron). Otros artistas, por ejemplo Max de Esteban o Lionel Bayol-Thémines hubieran estado bien aquí, para introducir un poco de anarquía en esos engranajes demasiado bien engrasados. 

Kate Crawford & Vladan Joler, Calculating Empires: A Genealogy of Technology and Power since 1500, 2023, detalle

Otro aspecto excelente de la exposición es el arraigo de la IA actual en la historia, primero con una cartografía temporal inmensa de Kate Crawford y Vladan Joler (Calculating Empires: A Genealogy of Technology and Power since 1500) que nos gustaría ver editada (se puede ver aquí), y después con capsulas temporales en la exposición (que en el catálogo están en páginas amarillas) en los autómatas, las calculadoras, la frenología (arriba), el Cine-ojo (Dziga Vertov) o los Cien mil millones de poemas (Queneau). Un detalle: aquí me hubiera gustado tener más referencias al Oulipo y a Guy Debord. 

Habría mucho más que decir de esta exposición excelente, hay que comprar el catálogo. En el prefacio, ChatGPT toma el control sobre Quentin Bajac (¿se necesitan todavía prologuistas?), después Antonio Somaini (principal comisario de la exposición) logra bosquejar sin ninguna pedantería, un cuadro claro y pedagógico de los diferentes parámetros de la IA, tanto en su ensayo sobre lo espacios latentes como en su entrevista con Kate Carwford sobre las cartografías. El ensayo de Noam Elcott y Tom Trombley hace el enlace con la fotografía (algunas veces de forma demasiado técnica para un inexperto); el de la co-comisaria Ada Ackerman explora los vínculos entre IA y arqueología (una salvedad: en esta «arqueología artificial», ella minimiza los esfuerzos de los revisionistas que modifican los datos arqueológicos para inventar un discurso seudo-histórico, como por ejemplo, Napoleón III y los Galos, o los sionistas en Palestina). Nick Montfort (en la exposición presenta una instalación diseñada con Patsy Baudoin en torno a las Nouvelles en trois lignes de Félix Fénéon) firma un breve pero muy instructivo ensayo sobre el lenguaje, y el co-comisario Alexandre Geffen concluye sobre la IA y el arte, e insiste sobre los artistas-hackers, aquellos que precisamente «se mantienen al margen». Es una lástima que en un catálogo tan bueno no haya ni índice ni bibliografía. 

Fotografías 2, 3, 4 & 7 del autor.