Bias semantico e limiti dei modelli generativi

In una delle prime animazioni realizzate all’interno di questo progetto, partendo dal dipinto de Madonna con Bambino di Rutilio Manetti, è emerso in modo chiaro un fenomeno di bias semantico nei modelli generativi. Durante i primi tentativi, usando termini apparentemente neutrali come mamma, giovane, bambino, il sistema tendeva a generare ripetutamente figure non corrispondenti al soggetto storico: spesso appariva una donna di colore in ruoli non coerenti con la scena o con l’intenzione iconografica del dipinto.

Questo accade perché i modelli generativi non comprendono i contenuti nel senso umano, ma operano attraverso associazioni statistiche basate sui dati su cui sono stati addestrati. Parole come mother o young woman sono frequentemente associate nei dataset moderni a immagini diverse da quelle storiche o sacre: la AI reagisce quindi rispondendo alle associazioni più frequenti, non alla comprensione della scena.

Quando si è cercato di usare direttamente termini iconografici come Madonna o Gesù, molti sistemi di generazione si sono bloccati a causa dei filtri di contenuto automatico. Questi filtri — impostati per rispettare policy di sicurezza, sensibilità religiosa o per evitare contenuti ritenuti sensibili — finiscono per censurare parole che invece in un contesto artistico sono perfettamente legittime. Per aggirare il problema è stato necessario sperimentare con diverse combinazioni di linguaggio e provare più piattaforme, fino a trovare formulazioni che il sistema potesse accettare senza blocchi ma che allo stesso tempo preservassero la lettura figurativa dell’opera.

Questa esperienza evidenzia un limite importante delle tecnologie generative di immagini e video: non esiste una comprensione culturale, storica o simbolica intrinseca alle reti neurali. Esse non comprendono chi sia la Madonna o cosa significhi Gesù Bambino nei termini di tradizione iconografica; leggono piuttosto segnali statistici associati alle parole nel loro addestramento. L’uso di termini religiosi o storici può attivare moduli di filtraggio automatico piuttosto che arricchire l’interpretazione visiva, portando così a risultati indesiderati o al blocco completo della generazione.

Il lavoro con diverse piattaforme ha mostrato che:

• i modelli rispondono in modo diverso a parole con carico semantico, religioso o culturale;

• i filtri di moderazione possono interferire in modo imprevedibile con parole chiave non offensive nel contesto artistico;

• versioni successive o nuove release di modelli possono cambiare il comportamento di questi filtri;

• la selezione e la formulazione dei prompt diventano parte essenziale del processo creativo.

Questa esperienza con Madonna con Bambino non è dunque un fallimento tecnico isolato, ma un esempio significativo del modo in cui bias di dataset, filtri semantici e politiche di sicurezza influiscono sulle possibilità espressive dei sistemi generativi.