🜎 Superfluor 54. La última travesía del Valle Inquietante
Inteligencia artificial y rinocerontes en la era del realismo.
¿Cómo estás? Por si es tu primera vez aquí, me presento: soy Iván Leal y te doy la bienvenida a Superfluor, una gaceta donde interconectar ideas y recursos de los que extraer inspiración. Siempre es buen momento para compartir de nuevo el propósito con el que nació esta gaceta. En el correo de bienvenida que recibes al suscribirte hay más pistas. Si ya eres habitual de Superfluor, gracias por estar aquí de nuevo. Ya hemos superado la barrera de las 5100 personas y da un vértigo del bueno.
Inteligencia artificial y rinocerontes en la era del realismo.
De esta xilografía realizada por Alberto Durero se dice que es la imagen animal que más influencia ha ejercido en la historia del arte.
El Rhinoceros representa al ejemplar de rinoceronte indio llegado a Portugal a principios de 1515. El animal —tan extraño en Europa que era una criatura legendaria incluida en los bestiarios— causó enorme sensación porque era el primer ejemplar que se veía en el continente desde el Imperio romano. Por desgracia, el pobre animal no duró mucho: el barco en que Manuel I, rey de Portugal, lo envió como presente al papa Leon X naufragó frente a las costas italianas en 1516.
La xilografía de Durero se hizo muy popular. Tanto, que durante nada menos que 300 años se consideró la representación fiel de un rinoceronte. Hasta finales del siglo XVIII fue copiada y reinterpretada innumerables veces. Incluso Alejandro de Médici adoptó el rinoceronte de Durero como emblema personal.
La cuestión es que el pintor alemán nunca vio realmente al animal. Lo pintó «de oídas».
Sí, se basó en una descripción escrita y un boceto esquemático de un autor desconocido. A partir de aquí, su imaginación y talento hicieron el resto, con añadidos fantásticos, una historiada armadura de placas, patas con escamas e incluso un cuerno extra en el cuello.
Todos asumieron, o nadie cuestionó, su fidelidad pictórica respecto del animal real. Si lo había dibujado el talentoso alemán, ¿cómo ponerlo en duda? No se trataba de saber si cada nuevo dibujo se parecería al animal real sino de si era fiel al grabado de Durero. Ni siquiera el hecho de que un nuevo ejemplar de rinoceronte indio viviera ocho años en Madrid, de 1579 a 1587, hizo tambalear el trabajo de Durero. La fuerza de la difusión y la creencia popular se habían impuesto sobre el rigor.
Hoy día, podemos ver la foto de un rinoceronte real y confiar en ella en tanto pensamos que una fotografía es una representación precisa de la realidad física del animal. Esto implica dos cosas:
Asumir que existe un ser vivo llamado rinoceronte.
Que la fotografía de un rinoceronte no es el ser vivo en sí, sino una representación referencial fiable del ser vivo llamado rinoceronte.
Lo cierto es que somos ignorantes de lo que denominamos realidad. La mayoría de las cosas que conforman nuestro conocimiento de lo que nos rodea jamás las hemos visto ni las veremos con nuestros propios ojos. Tampoco extraeremos ese conocimiento mediante una experiencia ni un análisis directo. Nuestra idea de la realidad se basa en gran medida en descripciones, datos, representaciones e interpretaciones que nos vienen dados, que aceptamos como reales y fiables, y con esta imprecisión vamos tirando.
El conocimiento es una esperanza de veracidad con grados variables de certeza, y en este sentido, la inteligencia artificial no es muy distinta del Rhinoceros de Durero.
La IA genera información e imágenes basándose en ingentes cantidades de representaciones llamadas datos, sin «ver» directamente aquello a lo que se refiere. Al igual que el grabado de Durero se convirtió en la representación aceptada de un rinoceronte durante siglos, las creaciones mediante IA moldearán nuestra percepción de la realidad. Ya lo están haciendo, de hecho.
La tecnología nos ha llevado a la frontera de una nueva era. ¿Tendremos en un futuro próximo como principal (o única) fuente de referencia imágenes progresivamente distorsionadas de ese ser vivo que parece ser ese ser vivo?
Un valle inquietante
El experto en robótica Masahiro Mori planteó en 1970 el concepto de Uncanny Valley, o Valle Inquietante, como la sensación de inquietud y rechazo que experimentamos cuando algo se asemeja mucho a la apariencia y comportamiento humanos pero no resulta del todo convincente. Ese Valle forma parte de un marco que se mueve entre el grado de familiaridad y la similitud con un ser humano, a lo que se suma la capacidad de movimiento: robots, muñecos, cadáveres, prótesis... Es una especie de reacción emocional que sigue inscrita en nuestro ADN, un mecanismo evolutivo de detección extremadamente preciso que nos permite identificar sutiles patrones para distinguirnos a nosotros de «otras cosas que se parecen a nosotros».
Creo que ese mecanismo también se activa en un plano comunicacional, y lo hace muy bien. Detecta sutiles anomalías en una conversación, escrita u oral, y nos lanza señales si nuestro interlocutor es un «cacharro» y no una persona. Apreciamos las muestras de empatía humanas en la tecnología, nos resultan hasta entrañables, siempre y cuando no nos lleven a confusión y tengamos bien acotado con quién o qué estamos interactuando.
Hasta ahora nos ha ido más o menos bien parando goles «replicantes», y en parte ha sido así porque hemos crecido y convivido en un mundo digital eminentemente humano. Ya no. Estamos en una transición, la evolución tecnológica pone al límite nuestra capacidad de discernimiento y pensar que cualquier cosa es posible nos arrastra a una incertidumbre constante: imágenes, conversaciones, vídeos, mensajes… fabricados artificialmente con un nivel de realismo asombroso.
Y tal vez se añade que nos pica en la zona del ego por dejar de ser el lápiz más afilado del estuche y perder nuestra posición antropocéntrica, con muchas de nuestras habilidades igualadas y ampliamente superadas por entes no sintientes.
Lo cual lleva a pensar…
¿Qué pasará con las generaciones futuras cuya fuente de interacción digital sea eminentemente artificial? ¿Un escenario en que lo que lean, vean, escuchen, conozcan, esté fabricado sin o casi sin intervención humana? ¿Qué pasará cuando lo artificial sea lo común?
¿Lo realista se impondrá a la realidad y esta será un espejismo?
El músculo crítico
Nuestras habilidades de caza están completamente atrofiadas porque no son necesarias para ir al super y coger una bandeja de carne. De manera análoga, cabría pensar que con la obtención de respuestas directas y procesadas por la IA, parte de las habilidades intelectuales que mantienen en forma nuestro músculo crítico se harán progresivamente innecesarias.
Nuestro cerebro está preparado para analizar, comparar, filtrar, interpretar, sintetizar, descartar... y con este ejercicio constante mantenemos en forma el pensamiento. En nuestros procesos de aprendizaje, no es la obtención de un resultado lo que nos enriquece sino el camino para llegar a él, por eso creo que el riesgo de la atrofia intelectual no reside como tal en que obtengamos respuestas directas gracias a la inteligencia artificial, reside en que dejemos de recorrer el fatigoso camino del aprendizaje.
Perder el sentido crítico, el análisis de fuentes, la capacidad mínima para sospechar que algo puede no ser correcto o preciso… Incluso aunque conservemos la capacidad de la duda puede que, a falta de entrenamiento, no sepamos cómo reemprender el camino de la búsqueda de conocimiento.
Y ahí va una visión apocalíptica: un mundo representacional en el que el hilo de conexión con la «realidad real» se ha roto y solo nos quedan copias degradadas que ya no somos capaces de discernir. Una especie de «retroconocimiento» en el que toda la fidelidad obtenida fatigosamente durante décadas gracias al rigor y la investigación sistemática es barrida de un plumazo. Una vuelta al Rhinoceros de Durero, del que solo se podrá salir cuando alguien tenga la oportunidad de observar, en algún momento, un «rinoceronte» real.
¿Será así? ¿Llegará un momento en que la suma de distorsiones acumuladas y amplificadas en torno a la información nos pase desapercibida, nos resulte indetectable? ¿O contaremos con un mecanismo cognitivo que nos avise, que nos active, que nos ayude a saber si estamos atravesando el Valle Inquietante del Conocimiento?
Aunque pueda no parecerlo, no pretendo ser catastrofista ni otorgar más probabilidad a unos escenarios sobre otros, los considero puntos interesantes sobre los que reflexionar. El cambio es inevitable y el ser humano se adaptará inexorablemente, como ha hecho durante siglos.
¿Cómo haremos brillar lo mejor del ser humano en la era de esplendor de la máquina? Quién sabe. Tengo curiosidad.
Solo quiero pensar que seremos capaces de preservar un bastión importante vinculado a nuestra humanidad. Que desarrollaremos mecanismos para proteger nuestro sentido crítico y orientar nuestro conocimiento, para poder guiarnos por los desfiladeros de un valle artificial que, como mínimo, hoy nos resulta desconocido.
Conexiones cruzadas
Espero que hayas disfrutado con este número. Puedes compartir tus ideas, difundir, dar al 🖤, invitar a un Ko-Fi… lo que te apetezca, vaya. Para decirme algo, puedes responder al correo, o por superfluor@substack.com.
Si se te ha hecho corto y quieres más, puedes leer historias curiosas, los números más leídos, o directamente el archivo, que está completito.
Gracias por estar ahí y nos vemos pronto en la siguiente Superfluor (espero).
Mil gracias, Judy, Javier, Máximo, por creer en esta gaceta y apoyarla tanto, con gestos y con palabras.
IMAGEN ORIGINAL DE PORTADA: Concept art de Ralph Mcquarrie.
Este es el primer artículo tuyo que leo, y estoy más que satisfecha con el tiempo invertido. Una acertada reflexión para estos tiempos, donde la IA va tomando fuerza en el desarrollo continuo del mundo que habitamos.
El rinoceronte de Durero fue un excelente símil para hilar la narrativa hacia la inquietud que nos produce el futuro de la sociedad acompañada de la inteligencia artificial, y como antes de ella, pudimos presenciar una "distorsión" de la realidad con la pintura del rinoceronte.
10/10. Felicidades, Iván.
Que historia tan bien hilada Iván. Felicidades! 🤗
Creo que la diversidad de visiones y perspectivas acompañan al ser humano.
Solo hay que ver cómo distintos historiadores hacen hipótesis diferentes sobre un mismo acontecimiento.
O leer la prensa o ver las noticias para ver cómo un misma realidad se la puede tratar de maneras opuestas. Y ambas realidades tienen su audiencia.
Confieso que he desarrollado un mecanismo de duda automática últimamente antes las imágenes que veo por la web.
Y luego están los incrédulos que ya no creen en nada. Han perdido la confianza. Prefieren buscar sus fuentes de información en lugar de que les encuentren. Encuentran sus rinocerontes a su manera.
Deberíamos ser conscientes de esto y tener nuestros propios mecanismos de filtro. Incluso de nuestras propias impresiones o diagnósticos. A menudo tenemos que remodularlos.
Estamos expuestos a perder la señal y tenemos que resintonizar. Tenemos que ser flexibles y abiertos a cambiar de opinión y perspectiva.
Como cuando reformulamos los mensajes o la esencia de marca al detectar que el escenario ha cambiado y necesitamos reconectar con la misión o el propósito.
Creo que la IA puede ser al mismo tiempo conector o desconector. Tiene múltiples aplicaciones a nivel individual.
Puede ayudarnos a encontrar respuestas o a confundirnos aún más.
Por el momento, somos nosotros quienes la utilizamos y no al contrario.
Está en su momento. Veremos que direcciones toma.
Es una herramienta, no un fin.