NuvolaProject a Palazzo Merulana per IMAGES: arte, intelligenza artificiale e responsabilità del processo creativo

IMAGES (Inclusive Machine learning system using Art and culture for tackling Gender and Ethnicity Stereotypes), promosso da Sapienza Università di Roma e dall’Istituto di Scienze e Tecnologie della Cognizione del CNR, nasce con un obiettivo preciso: indagare in che modo i sistemi di machine learning e intelligenza artificiale incorporino, amplifichino e diffondano bias di genere ed etnici, e come pratiche artistiche e culturali possano rendere queste dinamiche visibili, interpretabili e discutibili.

Nel corso di due anni di lavoro, il progetto – coordinato scientificamente da Paola Panarese – ha adottato un impianto multidisciplinare che integra studi di genere, sociologia dei media e della cultura, storia dell’arte e computer science. La ricerca ha attraversato tre aree chiave dei sistemi algoritmici: dati e metadati usati per l’addestramento; logiche di progettazione e contesti dei team che costruiscono gli algoritmi; utenti e immaginari, includendo artiste e artisti che lavorano con l’IA come “utilizzatori esperti”. Sul piano metodologico, IMAGES ha combinato strumenti qualitativi e quantitativi: analisi di letteratura accademica, interviste a sviluppatrici e sviluppatori, artiste e artisti, focus group con studenti universitari, sviluppo di strumenti di AI planning ed explainability, analisi di dataset artistici. Una componente centrale è stata inoltre la realizzazione di un software integrato e interattivo per l’analisi di immagini artistiche secondo criteri di inclusività, utilizzabile sia per l’addestramento di modelli di IA generativa sia per finalità educative.

L’evento “Oltre l’algoritmo. Arte, Intelligenza Artificiale e dilemmi etici della creatività contemporanea” ha reso pubblici i risultati della ricerca e li ha messi in dialogo con la scena artistica e con il pubblico, assumendo l’arte come un osservatorio privilegiato delle trasformazioni socio-tecniche innescate dai modelli generativi. Il programma era articolato in due parti.

La prima sessione (16.00–17.00) ha presentato il progetto e alcuni esiti principali: lo studio esplorativo su IA e arte in Italia; il lavoro su riconoscimento e mitigazione dei bias nei dataset artistici, con presentazione del software sviluppato nel progetto; una riflessione sull’arte come “contro-campo” capace di decostruire modelli culturali e stereotipi. Sono intervenuti, tra gli altri, Paola Panarese, Vittoria Azzarita, Angelo Oddi, Paolo De Gasperis, Antonella Sbrilli e Donatella Capaldi.

La seconda parte (17.00–19.00) è stata la tavola rotonda “Arte, IA e dilemmi etici”, pensata per tenere insieme divulgazione, formazione e complessità, senza ridurre il tema alla superficie dell’output. Il panel ha insistito su un punto molto netto: i modelli di IA funzionano come vere e proprie infrastrutture culturali. Scelte tecniche e industriali orientano ciò che diventa visibile, plausibile, “tipico”, e il concetto stesso di bias entra in gioco anche come forma di governance: chi stabilisce cosa è distorsione e cosa è norma.

Le domande-guida della discussione hanno attraversato cinque assi concreti:
– Identità, corpo e avatar: quali stereotipizzazioni diventano “automatiche” quando mediazioni e rappresentazioni passano da sistemi addestrati, e quali strategie permettono di renderle leggibili o sabotarle.
– Immagini e IA: nei sistemi di generazione visiva, quali criteri determinano ciò che viene considerato “simile” o “tipico”, e che effetti produce questo sulla costruzione dell’immaginario.
– Delega e intervento: dove si colloca il confine tra co-autorialità, delega e responsabilità umana nella curatela e nella costruzione delle interazioni.
– Dati e cittadinanza: come il dato grezzo diventa materia prima di strumenti con impatto sociale, e quale ruolo può avere l’artista nel rendere leggibili questi passaggi.
– Evoluzione recente: come è cambiata la sensibilità della ricerca artistica con l’accelerazione dei sistemi generativi dal 2022 a oggi, e quali temi ricorrono quando emerge una consapevolezza del mezzo.

Sono emerse anche alcune piste di approfondimento che ci sembrano particolarmente fertili: il valore dell’errore (produttivo in arte, penalizzato nei benchmark), la “compressione e perdita” che appiattisce ambiguità e polisemia, il ruolo degli embeddings nel proiettare strutture culturali, fino all’idea che un LLM non si limiti a “riflettere” la cultura ma la riorganizzi in forma operativa, definendo una grammatica di ciò che risulta dicibile e desiderabile.

In questo quadro si è collocato anche il nostro intervento come NuvolaProject, insieme a quello di altre voci invitate (Mara Oscar Cassiani, Fabrizio Intonti, Oriana Persico, Daniela Cotimbo).

Nel nostro intervento abbiamo raccontato un approccio che per noi parte da una parola precisa: relazione.

Prima ancora di diventare uno strumento operativo, l’intelligenza artificiale entra nel nostro lavoro come presenza con cui misurarci, come elemento che può spostare il nostro sguardo, rimettere in discussione il processo, generare deviazioni inattese. Non ci interessa usarla per ottenere una risposta rapida o un risultato standardizzato. Ci interessa quando diventa occasione di ascolto, attrito, riflessione, slittamento.

Durante il panel abbiamo condiviso una definizione che accompagna da tempo la nostra ricerca: quella dell’IA come “compagno di riflesso”. Un’entità con cui confrontarsi, che restituisce immagini distorte, inattese, a volte persino scomode, ma proprio per questo capaci di aiutarci a interrogare meglio noi stessi, il nostro immaginario e le forme del nostro fare artistico.

Abbiamo parlato anche di alcuni lavori che hanno segnato questo percorso. Tra questi Noesis, l’intelligenza artificiale che abbiamo costruito come complice di attraversamento per la mostra nel rifugio antiaereo di Monopoli: una presenza nutrita dei nostri materiali, delle nostre conversazioni, delle nostre domande, pensata non per chiudere il senso, ma per aprire ulteriori possibilità di lettura e di esperienza. E poi Imaginaria, il progetto sviluppato con Palazzo Merulana, nato dal confronto diretto con il museo, con le sue opere, con il suo patrimonio umano e professionale, e con il desiderio di creare forme di relazione più profonde e accessibili con l’esperienza artistica.

Nel nostro intervento abbiamo insistito su un punto che per noi resta decisivo: l’intelligenza artificiale non coincide mai con il fine dell’opera. Anche quando entra nel lavoro in modo evidente, resta una parte del processo, una possibilità, una soglia. Il cuore del lavoro rimane nella costruzione di senso, nella presenza dei corpi, nella voce, nella scelta, nella responsabilità di chi crea.

Per questo continuiamo a lavorare su forme di delega molto limitate, in cui l’algoritmo non sostituisce il gesto artistico ma lo mette alla prova. Quando animiamo un’opera, quando costruiamo una voce, quando progettiamo un’interazione, cerchiamo sempre di partire da un’esperienza incarnata: il corpo, l’interpretazione, la relazione, il tempo condiviso. È lì che, per noi, il lavoro prende forma.

Partecipare a questa tavola rotonda è stato importante perché ci ha permesso di ascoltare pratiche diverse, entrare in dialogo con artiste e artisti che affrontano da prospettive differenti le trasformazioni introdotte dall’IA e riportare al centro una domanda che sentiamo sempre più urgente: in che modo queste tecnologie stanno modificando non solo ciò che produciamo, ma anche il modo in cui percepiamo, immaginiamo e abitiamo il mondo?

Ringraziamo il team del progetto IMAGES, Palazzo Merulana, Paolo De Gasperis e tutte le persone coinvolte per aver aperto uno spazio di confronto serio, vivo e necessario.

Per noi è stata un’occasione preziosa per continuare una conversazione che attraversa da anni il nostro lavoro: quella tra arte, intelligenza artificiale e responsabilità umana.