Reflexiones tras las II Jornadas de Muestra t en IA sobre cómo incorporar herramientas generativas a nuestros procesos sin renunciar al criterio, la autoría ni la ética
Salí de las jornadas Imagen y verdad en tiempos de IA con más preguntas que respuestas. No lo considero un fracaso. Al contrario: cuando una conversación sobre tecnología, arte y responsabilidad termina con demasiadas certezas, probablemente no ha profundizado lo suficiente.
Sí salí con una convicción reforzada: la inteligencia artificial puede convertirse en una gran aliada para artistas, gestores culturales y profesionales creativos. Puede ayudarnos a investigar, ensayar posibilidades, visualizar ideas, reducir tareas repetitivas y desarrollar proyectos que antes exigían recursos difíciles de alcanzar. Pero esa capacidad no garantiza por sí sola un buen uso.
Una herramienta potente no sustituye una idea. Tampoco elimina la responsabilidad de quien decide utilizarla.
Esta distinción me parece especialmente necesaria porque, al mismo tiempo que descubro procesos artísticos rigurosos e interesantes, observo una utilización cada vez más impulsiva de la IA: generación de imágenes sin una intención clara, reproducción de estereotipos, apropiación de obras y estilos, utilización de fotografías ajenas sin permiso, exposición de rostros de menores y una producción masiva de variaciones que rara vez conduce a una verdadera investigación visual.
El problema no es experimentar. La experimentación es parte esencial de la creación. El problema aparece cuando confundimos experimentar con actuar sin criterio, sin conocer la herramienta y sin preguntarnos qué estamos entregando, reproduciendo o poniendo en circulación.
Por eso quiero continuar esta línea de investigación. Quiero conocer cómo están trabajando otros artistas con inteligencia artificial, qué decisiones toman, qué dudas encuentran y qué prácticas están desarrollando para integrar estas herramientas sin diluir su autoría. Mi intención, a largo plazo, es que este recorrido pueda convertirse en un manual de buenas prácticas para artistas y profesionales culturales.
Este artículo es un primer paso.
Una conversación que comenzó con las imágenes que faltan
Estas reflexiones parten de las II Jornadas de Muestra t en IA: Imagen y verdad en tiempos de IA, organizadas por Muestra t, el festival cultural de Madrid Orgullo, con Microsoft como aliado y patrocinador principal.
El proyecto contó con la gestión cultural de Franquearte Vive el Arte, bajo mi curaduría, y con la colaboración de Safe Creative, la Fundación StudioRGF y el Archivo Arkhé en la mesa de conversación.
El punto de partida fue Un archivo inexistente, del artista chileno Felipe Rivas San Martín. Mediante inteligencia artificial generativa, el proyecto imagina fotografías antiguas de afectos queer y disidentes sexuales en contextos latinoamericanos de la primera mitad del siglo XX.
No son documentos históricos. Tampoco pretenden hacerse pasar por ellos.
Las imágenes plantean una pregunta sobre aquello que no llegó a ser fotografiado: parejas que no podían mostrarse, afectos que debían permanecer ocultos, cuerpos que la sociedad y los Estados se negaban a reconocer, y vidas que apenas dejaron rastros en los archivos oficiales.
Felipe mantiene visibles muchas de las anomalías producidas por la IA: cuerpos que no terminan de encajar, manos imposibles, zonas que se difuminan y proporciones extrañas. El error no se entiende aquí como un defecto que deba ser eliminado, sino como una advertencia. Nos recuerda que aquello que observamos no ocurrió y evita que la obra reclame el lugar de un documento real.
Esta decisión es importante porque demuestra que la ficción y la ética no tienen por qué ser fuerzas opuestas. Podemos imaginar lo que falta sin afirmar que existió. Podemos utilizar la verosimilitud para provocar una reflexión sin emplearla para engañar.
El sentido de la obra no depende únicamente de las imágenes que produce. Depende del marco conceptual desde el que fueron creadas, de la transparencia con la que se presentan y de la distancia que mantienen respecto al archivo histórico.
La herramienta llega después de la pregunta
Durante la conversación, una idea reapareció desde distintas perspectivas: la IA funciona mejor cuando entra en un proceso que ya tiene una dirección.
En el caso de Felipe, la tecnología no originó la investigación sobre los archivos ausentes. Fue la herramienta elegida para desarrollar visualmente una pregunta que ya existía.
La diferencia es fundamental. Cuando comenzamos por abrir una plataforma y pedirle que nos sorprenda, dejamos gran parte de la dirección en manos de las tendencias visuales y asociaciones estadísticas del sistema. Cuando partimos de una investigación, una necesidad o una pregunta concreta, podemos utilizar la herramienta con mayor intención.
Roberto González Fernández aportó otro ejemplo desde una trayectoria artística consolidada. Explicó que comenzó a experimentar con IA para obtener referencias visuales destinadas a un proyecto pictórico. El proceso generó imágenes y fragmentos audiovisuales que abrieron nuevas posibilidades, pero no sustituyeron su trabajo.
Algunos resultados se convirtieron en referencias. Otros fueron descartados, seleccionados, transformados o trasladados posteriormente al dibujo y a la pintura. Roberto destacó además el tiempo que estas herramientas podían permitirle ahorrar durante las fases preparatorias de un proyecto.
Me interesa mucho esta perspectiva porque evita dos extremos frecuentes.
El primero consiste en negar cualquier valor artístico a la IA por el simple hecho de ser una tecnología generativa. El segundo consiste en asumir que cualquier resultado visualmente llamativo constituye una obra terminada.
Entre ambos extremos existe un territorio mucho más fértil: la IA como parte de un proceso. Puede funcionar como referencia, boceto, banco de pruebas, estímulo narrativo, herramienta de edición, sistema de organización o medio de producción. Pero su presencia no convierte automáticamente el resultado en una obra, del mismo modo que una cámara, un pincel o un programa de edición tampoco lo hacen.
Lo decisivo continúa siendo la intervención humana: la pregunta inicial, las decisiones, la selección, el descarte, la combinación de materiales, la edición y la relación del resultado con una práctica artística más amplia.
Una imagen generada puede decir la verdad
El título de las jornadas nos llevó inevitablemente a una pregunta: ¿qué relación existe hoy entre imagen y verdad?
La aparición de imágenes generativas no inventó la manipulación. La fotografía nunca fue una ventana completamente neutral hacia la realidad. Toda imagen implica encuadre, elección, exclusión, intención y contexto. Mucho antes de la IA ya existían el retoque, el fotomontaje, la propaganda y la escenificación.
Lo que sí ha cambiado es la escala y la accesibilidad. Ahora es posible producir en pocos minutos una imagen verosímil sin que exista una cámara, un acontecimiento previo o una persona real frente al objetivo.
Esto puede llevarnos a una conclusión apresurada: pensar que toda imagen generada es falsa y toda fotografía capturada es verdadera.
No lo creo.
Una imagen creada con IA puede comunicar una verdad histórica, social o emocional. Un archivo inexistente no documenta escenas que sucedieron, pero hace visible una verdad sobre su ausencia. Del mismo modo, una fotografía tomada con una cámara puede desinformar si se presenta fuera de contexto, se atribuye a otro acontecimiento o se utiliza para sostener una interpretación engañosa.
La autenticidad no depende exclusivamente de que una imagen tenga un origen fotográfico o sintético. Depende también de que podamos comprender qué es, quién la creó, con qué intención, mediante qué proceso y dentro de qué contexto debe ser leída.
Aquí encuentro una de las principales conclusiones de la conversación. Tal vez, en los próximos años, la pregunta más útil no sea únicamente: «¿Esta imagen es real?».
Tendremos que aprender a preguntar:
¿De dónde procede?
¿Quién responde por ella?
¿Con qué herramientas fue creada?
¿Qué intervención humana existe?
¿Ha sido presentada como documento, como ficción o como obra artística?
¿Podemos reconstruir su recorrido?
Mario Pena, director de operaciones de Safe Creative, insistió precisamente en la importancia de documentar el proceso creativo: poder identificar la contribución humana, la producción sintética y la manera en que ambas se combinan.
Asier Crespo, director legal de Microsoft España y Portugal, subrayó a su vez la importancia del contexto. Una misma capacidad tecnológica puede producir efectos muy diferentes según cómo, dónde y para qué se utilice.
Estas perspectivas desplazan la discusión desde una oposición simplista entre humanidad y tecnología hacia un problema más concreto: cómo hacemos visible y reconocible la responsabilidad humana dentro de los procesos tecnológicos.
Dos casos que obligan a definir mejor las categorías
Durante la preparación de las jornadas estudiamos algunos casos que finalmente no pudimos desarrollar en la conversación, pero que siguen pareciéndome especialmente útiles.
Uno es Zarya of the Dawn, de Kristina Kashtanova. En 2023, la Oficina de Copyright de Estados Unidos revisó el registro de esta obra y distinguió entre sus diferentes componentes. Reconoció la protección del texto escrito por la autora y de la selección y organización del conjunto, pero excluyó las imágenes producidas mediante Midjourney como obras protegidas individualmente, al considerar que no existía suficiente control humano sobre su expresión concreta.[1]
Más allá de las particularidades de la legislación estadounidense, el caso plantea una pregunta que los artistas no podemos ignorar: ¿dónde se encuentra exactamente nuestra contribución?
Puede estar en la investigación, el texto, la composición, la selección, la secuencia, la edición, las modificaciones posteriores o la integración de los materiales en una obra más compleja. Pero cuanto más claramente podamos explicar y documentar esa intervención, más sólida será nuestra posición artística y autoral.
El segundo caso es el de Boris Eldagsen, cuya imagen Pseudomnesia: The Electrician, creada con IA, fue reconocida en la categoría creativa de los Sony World Photography Awards de 2023. Eldagsen rechazó posteriormente el premio y explicó que su participación pretendía provocar un debate sobre si las imágenes generadas debían competir dentro de los concursos de fotografía.[2]
El caso no demuestra que la creación con IA sea menos válida. Demuestra que las categorías y los contextos importan.
Una imagen generada puede ser interesante, compleja y artísticamente relevante, pero eso no significa necesariamente que deba presentarse como fotografía. La transparencia no limita la libertad creativa. Permite que cada obra sea valorada según lo que realmente es y según el proceso que la sostiene.
La ética comienza antes de generar
La responsabilidad no empieza cuando publicamos una imagen. Comienza mucho antes, en el momento en el que elegimos la herramienta y decidimos qué materiales introducir en ella.
Una de mis mayores preocupaciones es la naturalidad con la que muchas personas suben fotografías propias y ajenas a plataformas generativas sin conocer sus condiciones de uso, sus políticas de almacenamiento o el tratamiento que pueden recibir esos archivos.
No todas las herramientas funcionan igual ni aplican las mismas políticas. Precisamente por eso, no deberíamos asumir que subir una imagen es una acción neutral.
Me preocupa especialmente el uso de fotografías de menores. Un niño o una niña no puede comprender ni aceptar de manera informada las posibles consecuencias futuras de incorporar su rostro a un sistema digital. El hecho de que una imagen nos pertenezca como archivo familiar no significa que debamos utilizarla en cualquier plataforma y para cualquier experimento.
También debemos ser rigurosos al utilizar imágenes de otras personas. Que una fotografía esté publicada en internet no la convierte en material libre para entrenar una práctica, alterar un rostro o producir nuevas representaciones. El consentimiento no debería entenderse como un trámite molesto, sino como una forma básica de respeto.
Lo mismo ocurre con las obras de otros artistas. Utilizar una referencia no es necesariamente problemático; la historia del arte está construida sobre diálogos, influencias y apropiaciones. Pero pedir a una herramienta que copie de manera reconocible el estilo de una persona viva, ocultarlo y presentar el resultado como propio plantea un problema diferente.
La pregunta no es solo si técnicamente podemos hacerlo. Es si necesitamos hacerlo, qué estamos tomando y qué tipo de relación queremos establecer con el trabajo ajeno.
La generación tampoco es inmaterial
Existe otra dimensión ética que no solemos incorporar a las conversaciones creativas: el consumo de recursos.
La infraestructura que permite entrenar y utilizar estos sistemas funciona mediante centros de datos que necesitan electricidad, equipos y sistemas de refrigeración. La Agencia Internacional de la Energía identifica la expansión de la IA como uno de los factores que están impulsando el aumento de la demanda eléctrica de los centros de datos.[3]
Esto no significa que debamos dejar de utilizar las herramientas. Sí significa que conviene abandonar la fantasía de que generar imágenes es una acción completamente inmaterial y sin coste.
La experimentación requiere prueba y error. Pero existe una diferencia entre explorar con criterio y solicitar cientos de variaciones por inercia, sin detenernos a observar, seleccionar o aprender de lo que aparece.
También aquí la intención importa. Trabajar de manera responsable implica utilizar los recursos tecnológicos al servicio de un proceso, no convertir la generación ilimitada en un sustituto de la reflexión.
Primeras notas para unas buenas prácticas
Todavía no pretendo presentar un manual definitivo. Las herramientas cambian, las regulaciones evolucionan y muchos debates siguen abiertos. Pero sí creo que podemos comenzar a establecer algunos principios de trabajo.
1. Empezar por la pregunta, no por la plataforma
Antes de generar, conviene saber qué queremos investigar, comunicar o resolver. Una herramienta no debería decidir por nosotros cuál es el sentido de una obra.
2. Conocer qué herramienta estamos utilizando
Debemos revisar, dentro de lo posible, sus condiciones de uso, sus políticas de privacidad, las opciones de almacenamiento y los derechos asociados a los resultados. La comodidad de una interfaz no elimina nuestra responsabilidad.
3. Evitar introducir materiales sensibles sin necesidad
No utilizar rostros ajenos, fotografías privadas, imágenes de menores o documentos personales solo porque la tecnología lo permite. Cuando intervienen otras personas, el consentimiento debe formar parte del proceso.
4. Distinguir las diferentes funciones de la IA
No es lo mismo emplearla como referencia, generar un boceto, automatizar una tarea, construir parte de una imagen o presentar un resultado generado como obra final. Explicar el lugar que ocupa ayuda a comprender nuestra contribución.
5. Documentar el proceso
Guardar indicaciones, versiones, bocetos, selecciones, modificaciones, materiales propios y decisiones relevantes. No es necesario conservar absolutamente todo, pero sí aquello que permita reconstruir la intervención humana.
6. Declarar su uso con claridad
La transparencia no debería sentirse como una confesión ni como una desvalorización. Explicar cómo se ha utilizado la IA puede fortalecer la lectura, la confianza y la comprensión de la obra.
7. Diferenciar ficción y documento
Una imagen artística puede imaginar, alterar, especular y construir otros mundos. Pero cuando adopta la apariencia de un documento, debe ofrecer un marco que evite una lectura engañosa, especialmente si aborda acontecimientos, comunidades o memorias sensibles.
8. No confundir rapidez con resolución
Que una herramienta permita producir algo en minutos no significa que el proceso creativo haya terminado. La velocidad puede liberar tiempo, pero ese tiempo debería volver a la investigación, la selección, la edición y el pensamiento.
9. No delegar el criterio
Una respuesta convincente no es necesariamente una respuesta correcta. Un resultado atractivo tampoco es automáticamente pertinente. La revisión humana sigue siendo indispensable.
10. Preguntarnos por las consecuencias
Antes de publicar, deberíamos pensar qué interpretación puede producir la imagen, a quién representa, qué estereotipos reproduce, qué materiales incorpora y qué ocurriría si pierde el contexto con el que fue creada.
Una investigación que quiero continuar
Estas jornadas confirmaron algo que ya intuía desde mi trabajo como gestora cultural, creadora y acompañante de artistas: necesitamos espacios en los que hablar de IA sin reducir la conversación al entusiasmo o al rechazo.
La tecnofobia no nos prepara para los cambios que ya están ocurriendo. Pero la fascinación acrítica tampoco.
Los artistas necesitamos información práctica, herramientas de lectura, criterios de transparencia y marcos éticos que puedan adaptarse a procesos muy diferentes. Necesitamos aprender de quienes ya están experimentando, pero también reconocer sus errores, dudas y contradicciones.
Quiero continuar observando estos procesos. Me interesa conocer artistas que estén incorporando IA a la pintura, la fotografía, el vídeo, la escritura, la instalación, la investigación y la gestión de sus proyectos. No solo quiero ver los resultados: quiero comprender qué lugar ocupa la herramienta, qué decisiones humanas permanecen y qué prácticas se están desarrollando para proteger la autoría, el consentimiento y el contexto.
Ese futuro manual de buenas prácticas no debería escribirse desde una posición de superioridad ni aspirar a congelar un campo que cambia constantemente. Tendría que surgir del diálogo entre artistas, profesionales de la tecnología, especialistas en derechos, instituciones, archivos y públicos.
Mientras avanzamos hacia ello, me quedo con una idea sencilla:
La IA puede ayudarnos a producir imágenes, pero no puede asumir la responsabilidad por ellas.
Esa responsabilidad continúa siendo nuestra.
Ver el encuentro completo
Esta reflexión parte de una conversación colectiva y no pretende sustituirla.
Entrevista a Felipe Rivas San Martín
Una presentación detallada de Un archivo inexistente, su proceso creativo y su relación con la memoria, la ficción y la inteligencia artificial.
Conversación: Imagen y verdad en tiempos de IA
Con Asier Crespo, Mario Pena, Roberto González Fernández y Pedro Felipe Hinestrosa Díaz del Castillo. Moderada por mi Corina De Sousa.
También puede consultarse toda la información sobre la exposición y las jornadas en la web de Franquearte Vive el Arte:
Este artículo inaugura una línea de investigación que espero continuar desarrollando. Me interesa especialmente conocer experiencias de artistas que estén trabajando con herramientas generativas desde procesos conscientes, transparentes y críticos: no para demostrar que la IA puede hacerlo todo, sino para comprender mejor qué queremos hacer nosotros con ella.
Referencias para los casos y datos mencionados
[1] Zarya of the Dawn. La decisión de la Oficina de Copyright de Estados Unidos mantuvo el registro para el texto y la selección y organización de los elementos, pero excluyó las imágenes generadas mediante Midjourney como expresión protegida individualmente.
[2] Boris Eldagsen. El artista rechazó el reconocimiento obtenido por su imagen generada con IA en los Sony World Photography Awards de 2023 y utilizó el caso para abrir un debate sobre las categorías y el futuro de la fotografía.
[3] Energía e inteligencia artificial. La Agencia Internacional de la Energía señala que la expansión de la IA está impulsando infraestructuras de mayor intensidad energética y proyecta un fuerte crecimiento de la demanda eléctrica de los centros de datos.