AI

What data was used to train SORA? by Filippo Venturi

"What data was used to train SORA?"
La domanda e la seguente risposta balbettante sono al minuto 4:20.

Incredibile che la Chief Technology Officer di Open AI, Mira Murati, non si aspettasse questa domanda. Come se non fosse cruciale conoscere il materiale che componeva il dataset su cui è stata allenata SORA. E come non avessero minimamente tenuto in considerazione i diritti altrui.

Oppure se la aspettava ma è difficile sostenere di aver usato "solo materiale di cui abbiamo comprato i diritti" perché poi non avrebbe potuto fornire le prove.

Il terrore di Hofstadter by Filippo Venturi

L'uditorio pareva sconcertato, imbarazzato persino.
Per i ricercatori IA di Google nulla di tutto questo era minimamente terrificante.

Quando Deep Blue batté Kasparov, quando EMI iniziò a comporre mazurke nello stile di Chopin [...] molti di questi ingegneri frequentavano le superiori, probabilmente avevano letto e amato il libro "GEB" [che avrebbe spinto molti di loro a studiare l'IA].

Le ragioni per cui stavano lavorando per Google erano proprio perché volevano che l'IA diventasse realtà - e non fra un centinaio d'anni, ma adesso, il prima possibile. Non si capacitavano di cosa allarmasse così tanto Hofstadter [il leggendario filosofo e scienziato, proprio colui che aveva scritto "GEB"].

Chi lavora nel campo dell'IA s'imbatte ogni giorno nelle paure dei profani, influenzati verosimilmente dai molti film di fantascienza che raccontano di macchine superintelligenti che diventano malvagie. I ricercatori nel campo dell'IA hanno anche familiarità con la paura che un'IA via via più elaborata sostituisca gli esseri umani in alcune professioni, che l'IA applicata a enormi database possa minare la privacy e permettere subdole discriminazioni, che sistemi di IA mal congegnati, cui sia permesso prendere decisioni autonome, possano provocare disastri.

Il terrore di Hofstadter era la reazione a qualcosa di completamente diverso.

Era terrorizzato, invece, dal fatto che l'intelligenza, la creatività e le emozioni, e forse persino la coscienza, fossero troppo facili da produrre - che la cosa per lui più preziosa del genere umano finisse per diventare un nulla più di un "trucchetto", che un superficiale insieme di brutali algoritmi privi di ragione potesse spiegare lo spirito umano.

Come lui stesso mi spiegò alla fine del meeting, riferendosi a Chopin, a Bach e altri modelli supremi del genere umano, «Se tali menti così raffinate e complesse, così profonde emotivamente potessero essere banalizzate da un piccolo chip, crollerebbe la mia idea dell'essenza umana».

- Melanie Mitchell

Articolo sull'Intelligenza Artificiale (parte 2) su FOTOIT by Filippo Venturi

Nel numero di febbraio 2024 di FOTOIT, nella sezione Saggistica, è uscito il mio secondo articolo sull’intelligenza artificiale, dove racconto i lavori che ho realizzato con l’aiuto di questa tecnologia! In particolare approfondisco l’idea alla base e il conseguente sviluppo dei miei progetti “Broken mirror”, sulla dittatura nordcoreana, e “He looks like you”, sulla mia famiglia.

Speaker alla Convention ANFM 2024 by Filippo Venturi

A Marzo, a Matera, avrò l’onore di condurre una Masterclass su Fotografia e Intelligenza Artificiale, alla Convention ANFM 2024. Per la precisione l’evento si terrà giovedì 14 marzo 2024 dalle ore 16.45 alle ore 18.30, nella Sala Capelvenere, a Palazzo Malvinni Malvezzi.

Fra gli altri speaker Tomas van Houtryve, Huy Nguyen, Alessandro Cinque, Piero Piercoco e tanti altri!

ANFM sta per Associazione Nazionale Fotografi Matrimonialisti che da anni organizza incontri, workshop e masterclass che toccano tutto l’universo della fotografia.

Sito ufficiale: anfmconvention.it

IMAGINE. FRA FOTOGRAFIA E INTELLIGENZA ARTIFICIALE
Workshop di Fotografia e Intelligenza Artificiale
Il workshop è focalizzato sull’incontro fra fotografia e intelligenza artificiale (I.A.) ed esplorerà l’evoluzione del ruolo dell’immagine nella comunicazione e nella vita quotidiana.
Il docente presenterà alcuni dei suoi progetti di fotografia documentaria, esponendo nel dettaglio la filosofia alla base di essa e le metodologie pratiche adottate nel compiere un progetto; spiegherà poi le notevoli differenze teoriche e pratiche che invece caratterizzano l'utilizzo dell'intelligenza artificiale nel realizzare un lavoro. Scopriremo come l’I.A. può ampliare le prospettive creative dei fotografi e le idee che sottendono alla creazione di progetti.
Ci concentreremo su come le immagini generate con l’I.A. stiano influenzando il mondo fotografico e la nostra percezione della realtà. Esamineremo diverse casistiche che negli ultimi mesi hanno avuto un impatto significativo nel panorama  della fotografia, e non solo. Affronteremo sia i timori legati all’adozione di questa nuova tecnologia, sia le potenzialità che essa porta con sé, aprendo un dibattito sul futuro dell’arte fotografica e della nostra interazione con le immagini digitali.
Vedremo alcuni esempi di utilizzo di software TTI (text-to-image) come Midjourney che, partendo da una descrizione testuale (prompt), generano una immagine sfruttando l'I.A.
Il workshop è rivolto a chiunque abbia un interesse per la fotografia e le immagini, sia amatoriale che professionale. Il workshop è teorico, dunque non sarà necessaria alcuna attrezzatura.

IL DOCENTE
Filippo Venturi è un fotografo documentarista e un artista visivo, con base in Italia.
Realizza progetti su storie e problematiche riguardanti l'identità e la condizione umana. Ha documentato diverse dittature totalitarie asiatiche, evidenziando col suo lavoro l’artificiosità con cui questi paesi si mostrano e narrano al mondo, e ha testimoniato le correnti neofasciste in Europa e i movimenti che, in risposta, si battono per proteggere i diritti delle minoranze e la democrazia.
I suoi lavori sono stati pubblicati su magazine e quotidiani come National Geographic, The Washington Post, The Guardian, Financial Times, Vanity Fair, Marie Claire, Newsweek, Geo, Der Spiegel, Die Zeit, Stern, Internazionale, La Repubblica, Il Corriere della Sera e La Stampa.
Negli ultimi anni si è dedicato a un progetto sulla penisola coreana, che è stato premiato con il Sony World Photography Awards, il Premio Il Reportage, il Premio Voglino e il Portfolio Italia - Gran Premio Hasselblad. I suoi lavori sono stati esposti in musei e festival in Italia e all'estero.
Ha iniziato a lavorare con i software di intelligenza artificiale di ultima generazione, realizzando lavori risultati finalisti al PhMuseum Photography Grant e al Cortona On The Move Award e premiati al Kolga Tbilisi Photo Awards e al Fotografia Calabria Festival. È stato uno degli artisti selezionati dal Photo Vogue Festival 2023, evento in cui è anche relatore con un intervento intitolato Broken Mirror. A dystopian guide to crossing the border.

Intervista su Arte.Go by Filippo Venturi

Sul sito Arte.Go è uscita una mia intervista a cura di Francesca Piperis, in cui si parlo dei miei progetti, compresi quelli realizzati con l’intelligenza artificiale, come “Broken mirror”, “He looks like you” e “AI and prejudice”, nei quali tocco tematiche a me care o che seguo da anni, come il vivere sotto una dittatura, la mia famiglia e i pregiudizi che limitano le libertà e i diritti di gruppi di persone.

Qui l’articolo originale: L’Intelligenza Artificiale come metafora fotografica. Intervista a Filippo Venturi


Critica sociale, creatività ed impegno politico, tre differenti dimensioni che trovano un punto d’incontro nelle opere di Filippo Venturi, fotografo documentarista italiano particolarmente interessato alla denuncia di oppressioni dittatoriali e alla difesa delle minoranze a livello globale, anche servendosi di strumenti inusuali per il suo ambito d’azione, come l’AI.

Attraverso i software di intelligenza artificiale Venturi plasma elementi che acquisiscono valore durante il processo di inserimento all’interno dei suoi progetti fotografici. L’introduzione nelle fotografie di componenti artificiali quali gli insetti di Broken Mirror – a simboleggiare le forme di oppressione sul popolo nordcoreano – equivale ad un valore aggiunto che difficilmente potrà essere scambiato per “scorciatoia”.
L’artista, infatti, descrive le fasi ed il tempo di concepimento delle sue produzioni in maniera dettagliata, dimostrando il grande impegno necessario per l’esercizio di queste nuove tecnologie. Numerose sono le pubblicazioni, gli incontri e i workshop riguardanti l’evoluzione dell’AI nell’ambiente artistico e fotografico che lo vedono protagonista, a dimostrazione del fatto che Venturi è in prima linea nella difesa di questi mezzi rivoluzionari, che certo nascondono alcune problematiche.

L’intervista

[Francesca Piperis]: Lei nasce come fotografo documentarista, legato quindi alla rappresentazione fattuale di eventi ed ambienti appartenenti alla realtà contemporanea. In che modo è giunto all’utilizzo di strumenti AI, che invece alterano la veridicità delle immagini?

[Filippo Venturi]: Oltre a essere un fotografo documentarista da ormai 13 anni, in una vita precedente mi sono laureato in Scienze dell’Informazione e quindi, per un certo periodo, ho lavorato come informatico. Di quegli anni mi è rimasta la curiosità e l’attenzione verso le novità tecnologiche, soprattutto quelle legate alle immagini. Quando nel corso degli ultimi anni i software generativi di immagini, che utilizzano l’intelligenza artificiale, hanno iniziato a poter imitare la fotografia, ho trovato la cosa molto affascinante, ma anche inquietante. Le immagini generate possono, appunto, imitare la fotografia e, nel caso di quelle fotogiornalistiche o documentaristiche, sfruttarne la credibilità. Da un lato questo è positivo perché, sebbene possa sembrare assurdo detto da uno che fa il mio mestiere, la fotografia ha goduto spesso di troppa credibilità e quindi iniziare a dubitare, a verificare, a confrontare le fonti, anche quando si parla di fotografia, è importante. Dall’altro lato però c’è il rischio che questa credibilità si perda completamente e questo sarebbe un eccesso nella direzione opposta. Quando ho iniziato a utilizzare questi strumenti, che sfruttano l’intelligenza artificiale, l’ho fatto per comprenderli, per poterci ragionare sopra e anche per generare riflessioni sul ruolo della fotografia, su come potranno convivere fotografie e immagini generate, sui rischi che ne conseguono, ma anche sulle potenzialità che questa nuova tecnologia offre.

Questa sua esigenza di raccontare la realtà in maniera fotografica scaturisce da eventi o fatti specifici della sua vita personale?

Confesso che dietro il mio approccio alla fotografia e alla necessità di raccontare storie vere, non c’è qualche ricordo o aneddoto romantico, magari legato a qualche familiare che mi abbia trasmesso questa passione. Nel mio caso è stato un processo spontaneo. Probabilmente, a un certo punto della mia vita, avevo la necessità di trovare un mezzo, un linguaggio, con cui esprimere i miei sentimenti e anche la mia parte più creativa e autoriale, e la fortuna ha voluto che incontrassi la fotografia!

Le va di descrivere le fasi di “concepimento” e successiva realizzazione della sua opera Broken Mirror? Quale riscontro ha avuto sul pubblico? Ritiene che l’AI le abbia permesso di raccontare in maniera efficace la sua idea iniziale?

La generazione di immagini ha un enorme potenziale: avrei potuto sbizzarrirmi e tentare qualunque strada. Anche improvvisarmi un fumettista, ad esempio. Quando però ho ragionato su quale progetto avrei potuto sviluppare, sono tornato alle tematiche a me care e che conosco meglio. Non volevo usare l’intelligenza artificiale soltanto come una scorciatoia, ma volevo che fosse concettualmente rilevante all’interno del progetto visivo che stavo sviluppando. In uno di questi lavori ho provato a raccontare in un modo diverso la dittatura totalitaria che caratterizza la Corea del Nord, un paese che avevo già visitato e raccontato come fotografo documentarista. Questo lavoro si intitola Broken Mirror e utilizza un linguaggio simile al mio.
L’idea alla base consiste nell’inserire nella vita quotidiana dei nordcoreani un elemento alieno e destabilizzante. Ho scelto di inserire degli insetti, dei ragni e altro ancora, che gradualmente aumentano in quantità e dimensione, fino a prendere il controllo completo sulla popolazione. Ad un certo punto i nordcoreani stessi iniziano a trasformarsi in questi insetti giganti, diventando le creature che temevano, e questo simboleggia il completamento della sottomissione. Generare le immagini, così come le avevo pensate e descritte col prompt, ha richiesto migliaia di tentativi e molta frustrazione. Il processo creativo era in gran parte affidato all’intelligenza artificiale. La selezione delle immagini era però un compromesso fra ciò che volevo ottenere e ciò che mi veniva proposto. Spesso non ho ottenuto quello che volevo. Altre volte l’intelligenza artificiale ha inserito elementi inaspettati che però ho scelto di tenere. Durante questo processo, ho realizzato che la metafora che avevo utilizzato non rappresentava soltanto la dittatura totalitaria nordcoreana, ma rappresentava la tecnologia stessa. In particolare la sua natura invasiva e controllante. Col mio lavoro ho quindi sfruttato le nuove potenzialità che l’intelligenza artificiale offre, per esprimere un timore che ho nei suoi confronti. Questo progetto è stato accolto con molto interesse, anche nel mio settore, quello fotogiornalistico, dove tendenzialmente c’è diffidenza e timore verso questa nuova tecnologia. La mia onestà verso l’osservatore – fondamentale anche quando utilizzo soltanto la fotografia – è stata sicuramente utile nel trovare ascolto, ma anche il tempismo ha giocato a mio favore visto che, a inizio anno, non c’erano molti progetti sviluppati con questa nuova tecnologia.

A differenza della precedente, l’opera fotografica He looks like you è profondamente personale, racconta infatti uno spaccato della sua vita molto commovente e si potrebbe dire distante dal quel filone “documentaristico”. Come nasce l’idea di raccontare di sé in modo così intimo all’interno della sua produzione?

A febbraio di quest’anno sono trascorsi esattamente dieci anni dalla scomparsa di mio padre Giorgio. Mio figlio Ulisse ne ha soltanto 5 e quindi non ha mai potuto conoscerlo. Questo rappresenta per me un grande rammarico. In quelle settimane ho tentato di creare delle immagini, fornendo al software generativo delle autentiche fotografie, così da tentare di ottenere una estensione dei miei album fotografici di famiglia. Desideravo vedere mio padre e mio figlio conoscersi, giocare insieme e vivere quei momenti che non hanno mai potuto condividere. Avrei potuto realizzare questo progetto ricorrendo a soluzioni già note, come ai fotomontaggi oppure alle illustrazioni, ma non sarebbe stata la stessa cosa perché avrei avuto il pieno controllo su ogni aspetto. Quando il software generativo crea l’immagine, si basa sugli input che gli si forniscono, ma in gran parte improvvisa tutti quei dettagli e quelle informazioni che invece non gli vengono date. Per spiegarmi meglio, io davo al software delle fotografie di mio padre e mio figlio e gli chiedevo di generare immagini dove quell’uomo e quel bambino giocassero assieme, ma non avevo la possibilità (per motivi diversi, compreso il fatto che questi software sono ancora acerbi) di definire ogni dettaglio e quindi, quando l’immagine veniva generata, io stesso venivo sorpreso dal risultato. Le posture, i contatti fra i corpi, la direzione in cui guardavano i volti e tanto altro erano imprevedibili. Assistevo quindi a una sorta di magia e l’imprevedibilità che caratterizzava queste immagini potevo confonderla con l’autenticità; questo mi faceva “sentire” quelle immagini ad un livello molto profondo. Chiaramente sapevo che stavo osservando momenti mai avvenuti, in luoghi mai esistiti, ma potevo abbandonarmi alla fede verso quelle immagini per qualche istante e trarne una forma di beneficio.

Uno dei progetti che maggiormente riflette le problematiche sociopolitiche attuali è sicuramente AI and prejudice. La disparità di genere, infatti, è da anni alimentata dagli algoritmi di software AI programmati al fine di censurare qualunque allusione (sessuale e non) alla nudità femminile. Ritiene che la lotta per la gender equality possa essere supportata in futuro dagli strumenti intelligenti o questi ultimi continueranno ad ostacolare questo tipo di emancipazione?

Potenzialmente questi strumenti possono essere utilizzati a fin di bene, ma è necessario che questa volontà venga sostenuta e promossa. Oggi credo sia difficile prevedere se saranno più gli effettivi benefici oppure se i problemi già presenti saranno amplificati da questi strumenti. È innegabile che le intelligenze artificiali soffrano di bias – soprattutto verso minoranze e gruppi che già sono bersaglio di pregiudizi e che lottano per veder riconosciuti i propri diritti – ma sono combattuto sul da farsi. Mantenere questi pregiudizi ci ricorda che questi problemi esistono. Rimuoverli dalle intelligenze artificiali renderebbe più giusto il mondo digitale e virtuale, ma potrebbe anche falsare la nostra percezione e convincerci che siano stati risolti anche nel mondo reale e farci quindi abbassare la guardia. Si tratta di una battaglia che deve essere affrontata anche da chi non è vittima di queste tendenze (o magari ne è persino privilegiato), ma se queste persone non vivono le problematiche sulla propria pelle e non le percepiscono più come attuali, c’è il rischio di indebolire la presa di coscienza e il movimento intero.

In alcune delle sue opere ha utilizzato il software AI Midjourney, ritiene che dal punto di vista della prestazione generativa possa sostituire o affiancare strumenti di renderizzazione di immagini digitali? Crede che vi siano delle parti o funzionalità della piattaforma che necessitano di miglioramenti o cambiamenti radicali?

In futuro non escludo che Midjourney e altri software analoghi possano sostituirsi a molti strumenti, compresi quelli di renderizzazione. In certi momenti sembra che si tratti soltanto di pochi mesi o anni per evoluzioni strabilianti, ma a volte ho la sensazione che i tempi saranno più lunghi. Tornando a Midjourney, proprio in queste ore è uscita la versione 6 e, pare, che certe cose date per assodate non siano più così solide, come ad esempio la composizione del dataset dato in pasto all’intelligenza artificiale per l’apprendimento e il fatto che questo tenga traccia delle immagini, anche coperte dal diritto d’autore. Molte sono le polemiche riguardo il suo utilizzo, attualmente. Citando Il Nome della Rosa di Umberto Eco, concludo dicendo che “per non apparire sciocco dopo, rinuncio ad apparire astuto ora. Lasciami pensare sino a domani, almeno”.

Sono numerosi, ad oggi, i pregiudizi riguardanti l’utilizzo autoriale dell’intelligenza artificiale. Questi nuovi strumenti faticano a normalizzarsi nell’ambito artistico, ha mai avuto problemi per il riconoscimento effettivo della paternità delle fotografie “artificiali”, per così dire?

Anche questa materia è ancora in fase di definizione e credo che occorrerà ancora tempo prima di avere norme a livello europeo, e non solo, che regolino questi aspetti, come il diritto d’autore. Quelle volte in cui mi è capitato di pubblicare le immagini generate con l’intelligenza artificiale sui giornali, come ad esempio sul settimanale Internazionale, non ho avuto alcun problema nel farmi riconoscere la paternità delle stesse e nel farmi retribuire per il mio apporto. Come spiegavo quando parlavo del progetto Broken Mirror, ottenere ogni immagine che lo compone ha richiesto migliaia di tentativi e nel complesso ho stimato circa 70 ore di lavoro al computer, nelle quali mi sono impegnato a immaginare e descrivere quali situazioni visive generare, a individuare dei riferimenti visivi, metaforici e simbolici che fossero utili al tema del progetto e, infine, quali risultati selezionare e quali scartare. Spesso il lavoro consisteva nel modificare, correggere e ritentare. A parer mio, se si ha un’idea o un messaggio da trasmettere e si usa lo strumento adatto per veicolarlo o per stimolare riflessioni, allora il tempo dedicatogli ha un valore, anche autoriale. Qualcuno vede nella rapidità del generare un’immagine con un’intelligenza artificiale l’assenza di questo valore. Scattare una fotografia è ancora più semplice e veloce, ma oggi quasi tutti riconoscono ad un progetto fotografico riuscito una complessità, una ricerca e una chiarezza di intenti che sono completamente slegati dalla rapidità del premere il tasto della fotocamera. In futuro mi aspetto che anche i progetti realizzati con questa nuova tecnologia, quelli riusciti intendo, vedranno riconosciuto l’aspetto autoriale.

In merito ai numerosi workshop, quali sono gli argomenti (legati certo allo sviluppo dell’intelligenza artificiale) che maggiormente tratta all’interno dei suoi incontri? Su quali problematiche o funzionalità intelligenti si sofferma maggiormente?

In generale svolgo corsi e workshop sul fotogiornalismo e sulla fotografia documentaria. Da quando abbiamo a che fare con i software generativi che sfruttano l’intelligenza artificiale, ho creato nuovi corsi che descrivono la differenza abissale di approccio e sviluppo di un progetto di fotografia documentaria da quello realizzato con l’intelligenza artificiale. Da qui approfondisco poi le possibili problematiche provocate dall’inevitabile convivenza di fotografie e immagini generare. Ragiono con gli studenti e insieme confrontiamo le nostre riflessioni su come la narrazione visiva possa essere compromessa oppure arricchita da questa nuova tecnologia. Porto e analizzo alcuni casi di studio molto interessanti avvenuti negli ultimi anni e in questi mesi. Non è raro che io stesso impari qualcosa dai miei studenti, in questi corsi dove ci interroghiamo sul futuro della realtà, su come questa potrà essere testimoniata, raccontata e, in certi casi, alterata.

Concludendo le chiedo se consiglierebbe ad un giovane artista/fotografo interessato alla sperimentazione fotografica, di tentare un approccio sperimentale all’AI, in modo da padroneggiare gli strumenti che a tutti gli effetti rappresentano forse il futuro della produzione artistica.

Ad un giovane che crea e lavora a livello visivo, consiglierei di sperimentare tutto, anche l’intelligenza artificiale. Se fosse alle prime armi, però, gli consiglierei di partire da un mezzo e un linguaggio ben definito, come la fotografia (ma non solo). Partire con l’intelligenza artificiale potrebbe risultare dispersivo: ha un potenziale così elevato da poter anche confondere e demoralizzare. Avere invece dei confini ben precisi, aiuta nel seguire il proprio percorso di crescita e, ad un certo punto, a varcare quei confini.

Best 9 Instagram 2023 by Filippo Venturi

Anche quest’anno il mio best 9 di Instagram (cioè i miei post che hanno suscitato più interesse) sono una buona traccia per ricordare gli avvenimenti, che mi hanno toccato direttamente, più importanti dell’anno che volge al termine!

Ci sono 4 fotografie con cui ho documentato l’alluvione che ha colpito la mia regione, in particolare di Cesena e Forlì. Ci sono 4 immagini generate con l’intelligenza artificiale. C’è una fotografia molto tenera scattata a Seoul sul finire del 2022, ma pubblicata nel 2023.

Entrando nel dettaglio:

- La fotografia scattata a Seoul risale all’ennesimo mio viaggio nella penisola coreana, in cui ho portato a termine il terzo capitolo del mio progetto intitolato “Awakenings”, dove racconto e raccolgo le testimonianze dei nordcoreani che sono fuggiti dal regime totalitario e che oggi vivono in Corea del Sud. Info: https://t.ly/qqTMp

- Delle 4 fotografie con cui ho documentato l’alluvione: una mostra i ragazzi della comunità senegalese che sono intervenuti per aiutare i propri amici che vivono in uno dei quartieri più colpiti, ma anche gli abitanti più anziani. Sono felice di essere arrivato proprio al momento giusto, per fotografare e smentire certi luoghi comuni che si stavano diffondendo persino durante un momento così drammatico. Una seconda fotografia mostra tracce di mani infangate all’interno di una abitazione cesenate. Un’altra mostra un campetto da basket allagato e infine c’è una catasta di libri da cui ne spuntava uno il cui titolo richiama l’ultimo verso dell’Inferno della Divina Commedia di Dante Alighieri: “e quindi uscimmo a riveder le stelle”. Io non ho modificato la situazione, chi ha ammassato quei libri probabilmente aveva per la testa cose più importanti che disporre quel libro in quella posizione, quindi si è trattato di una coincidenza curiosa e, in qualche modo, incoraggiante. Qui trovate altre mie fotografie dell’alluvione: https://t.ly/Q6d3b.

- Delle 4 immagini generate con l’intelligenza artificiale: una mostra la mia prima pubblicazione di questo tipo, sul settimanale Internazionale, con immagini tratte dal mio lavoro Broken Mirror; qui maggiori info: https://t.ly/360q_. Un’altra mostra mio padre Giorgio e mio figlio Ulisse passare del tempo insieme, nonostante non abbiano mai avuto l’occasione di conoscersi. Il lavoro completo si intitola He looks like you; qui maggiori info: https://t.ly/VX2ms. La terza è sempre tratta da Broken Mirror; qui maggiori info: https://t.ly/360q_. Infine, la quarta, è tratta da una provocazione che ho voluto fare, generando le ipotetiche immagini che avrebbero potuto vincere tutte le edizioni del World Press Photo, il principale premio rivolto ai fotogiornalisti; maggiori info qui: https://t.ly/oCGXs.

Un articolo di Haaretz sul Photo Vogue Festival e l'IA by Filippo Venturi

Anteprima dell’inizio dell’articolo

Sul quotidiano Haaretz è uscito un articolo sul recente Photo Vogue Festival (dove ho esposto e presentato il mio progetto Broken Mirror) e sugli interrogativi e i timori che sono emersi circa l’uso dell’intelligenza artificiale nel mondo dell’arte.

Link all’articolo originale: סוף סוף, השימוש בבינה מלאכותית באמנות זוכה לדיון רציני מהממסד

Broken Mirror. A dystopian guide to crossing the border by Filippo Venturi

(in italiano sotto)

From 16 to 19 November, the PhotoVogue Festival 2023 was held in Milan, whose theme was 'What Makes Us Human? Image in the Age of A.I.".
I had the pleasure of being one of the speakers, with a lecture entitled 'Broken Mirror. A dystopian guide to crossing the border', and to exhibit my project Broken Mirror, together with authors such as Charlie Engman, Jonas Bendiksen, Michael Christopher Brown and others. The group exhibition was curated by Chiara Bardelli Nonino.
More info here: PhotoVogue Festival 2023.

Below you will find the transcript of my lecture in English and Italian.

A WITNESS TO REALITY
My name is Filippo Venturi and I am a documentary photographer. My job requires being a reliable witness of reality. Through my photographic projects, I tell true stories and strive to do so honestly for those who will observe my photographs. I also have a degree in Computer Science, so over the years I have carefully observed technological innovations, especially those related to imagery. In recent months, TTI (text to image) software has made remarkable progress. Today it can generate images that effectively mimic photographs. This has prompted me to reflect on the future of coexistence between photographs and images generated with artificial intelligence.

COEXISTENCE OF PHOTOGRAPHS AND SYNTHOGRAPHS
In some areas, such as advertising photography, the advertised product was already idealised and thus distanced from reality, with physical or digital interventions. Therefore, I believe that photographs and synthographs will be indistinguishable and alternating in this field, at least for those who consume them, aware of the distance from reality. There are already advertising campaigns created without the use of photographers. Maybe only a widely echoed campaign is needed to make this phenomenon evident to everyone.

COEXISTENCE OF PHOTOJOURNALISM AND SYNTHOGRAPHY
Concerning documentary photography and photojournalism, I hope they continue to travel on a parallel track to generated images. However, I acknowledge that this might not be the case in future.
A few months ago, Amnesty International used synthographs in place of photographs to protect Colombian protesters attending a 2019 protest, to promote a cause that, for this reason, finished in the background. Those synthographs attracted a lot of controversy, despite Amnesty International explicitly stated that they had used them. Surely they chose the wrong time to do this experiment.

COULD IT BE A FAIR IDENTIKIT OF REALITY?
However, I wonder whether, in the future, the generated images could be used to make what I call 'identikit of reality'. Already today, in the absence of a photograph, a sketch of a crime suspect is made based on eyewitness descriptions. When an event happens in the future without photographers ready to document it, will we reconstruct that event in that location, with images generated with the help of possible eyewitnesses? Already with photography we cannot show the complexity of reality. What to photograph, how to frame it, which photographs to discard, etc. represent so many layers where we forfeit a slice of reality. But representing it without any contact risks distancing us even further.

BROKEN MIRROR
In recent months, I started working with artificial intelligence and generating images. With these softwares I could have created any kind of image. I could have improvised as a comic book artist for example. But in the end I came back to themes I like and know better. I didn't want to use artificial intelligence simply as a shortcut, but I wanted it to be conceptually relevant within the visual project I was developing. In one of these works, I tried to portray in a different way the totalitarian dictatorship that characterises North Korea, a country I had already visited and reported on as a documentary photographic report. This work is called Broken Mirror and uses a language that mimics a documentary style in photography. The basic idea is to insert an alien and destabilising element into the daily life of North Koreans. I chose to introduce insects and spiders, which gradually increase in quantity and size, until they take complete control over the North Koreans. At some point though, the North Koreans themselves begin to transform into these giant insects and they finally become the creatures they used to fear: this actually symbolises their complete submission.

THE INVASIVE AND CONTROLLING NATURE OF TECHNOLOGY
Generating the images the way I had conceived and described them with the prompt, required thousands of attempts and a lot of frustration. The creative process was largely in the hands of artificial intelligence.
However, the selection of images was a compromise between what I wanted to achieve and what I was offered. I did not always get what I wanted. Other times the artificial intelligence inserted unexpected elements that I chose to keep. During this process, I realised that the metaphor I had used, did not just represent the North Korean totalitarian dictatorship, but it did also represent technology itself. In particular, its invasive and controlling nature. With my work, I therefore exploited the new potential that artificial intelligence offers, to express a fear I have towards it.

BREATHING REALITY
After several months fully immersed in this technology, I felt a strong need to return to photographing people's stories. This new technology will be part of the tools l use in the future, but the quiet, solitary nights spent at the computer generating images, reminded me why, at one point in my life, I set aside my passion for computing to embrace photography. I needed to step outside, breathe in reality and eventually capture its traces with my camera.

“Broken Mirror. A dystopian guide to crossing the border“ lecture at Photo Vogue Festival, Milan, Italy, November 18, 2023.


Dal 16 al 19 novembre si è tenuto il PhotoVogue Festival 2023 a Milano, il cui tema è “What Makes Us Human? Image in the Age of A.I.“.
Ho avuto il piacere di essere uno degli speaker, con una conferenza intitolata “Broken Mirror. A dystopian guide to crossing the border”, e di esporre il mio progetto Broken Mirror, assieme ad autori come Charlie Engman, Jonas Bendiksen, Michael Christopher Brown e altri ancora. La mostra collettiva era a cura di Chiara Bardelli Nonino.
Maggiori informazioni qui: PhotoVogue Festival 2023.

Di seguito troverete la trascrizione della mia conferenza in inglese e in italiano:

UN TESTIMONE DELLA REALTÀ
Mi chiamo Filippo Venturi e sono un fotografo documentarista. Il mio lavoro consiste nell’essere un testimone attendibile della realtà. Con i miei lavori fotografici racconto storie vere e cerco di farlo con onestà verso chi osserverà le mie fotografie. Ho anche una laurea in Scienze dell’Informazione e quindi negli anni ho osservato con attenzione le novità tecnologiche, soprattutto quelle legate all’immagine.
Negli ultimi mesi i software TTI (text to image) hanno fatto progressi notevoli. Oggi possono generare immagini che imitano con efficacia le fotografie. Questo mi ha spinto a riflettere sul futuro della convivenza fra fotografie e immagini generate con l’intelligenza artificiale. 

CONVIVENZA FRA FOTOGRAFIE E SINTOGRAFIE
In alcuni settori, come la fotografia pubblicitaria, il prodotto pubblicizzato veniva già idealizzato e quindi allontanato dalla realtà, con interventi fisici o digitali. Credo quindi che fotografie e sintografie (cioè le immagini generate) saranno indistinguibili e alternabili in questo campo, almeno per chi ne fruirà, consapevole della distanza dalla realtà. Ci sono già campagna pubblicitarie realizzate senza l’uso di fotografi. Forse manca soltanto una campagna pubblicitaria che abbia una grande eco e che raggiunga le masse, per rendere evidente a tutti questo fenomeno.

CONVIVENZA FRA FOTOGIORNALISMO E SINTOGRAFIE
Per quanto riguarda la fotografia documentaria e il fotogiornalismo, mi auguro che continuino a viaggiare su un binario parallelo da quello delle immagini generate. Ma so che probabilmente non sarà così.
Pochi mesi fa Amnesty International ha utilizzato delle sintografie in sostituzione delle fotografie, per tutelare i manifestanti colombiani presenti a una protesta del 2019, per promuovere una causa che per questo motivo è finita in secondo piano. Quelle sintografie hanno attirato molte polemiche, nonostante Amnesty International avesse dichiarato esplicitamente di averne fatto uso. Sicuramente hanno scelto il momento sbagliato per fare questo esperimento.

IDENTIKIT DELLA REALTÀ
Mi domando però se, in futuro, le immagini generate potranno essere usate per realizzare quelli che io chiamo “identikit della realtà”. Già oggi, in mancanza di una fotografia, viene realizzato un identikit di un sospettato di un crimine basandosi sulle descrizioni di testimoni oculari. Quando in futuro accadrà un evento senza fotografi pronti a documentarlo, ricostruiremo quell’evento in quel luogo, con immagini generate con l’aiuto di eventuali testimoni oculari? Già con la fotografia rinunciamo alla complessità della realtà. Cosa fotografare, come inquadrarlo, quali fotografie scartare, ecc. rappresentano tanti strati in cui rinunciamo ad una fetta di realtà. Ma rappresentarla senza alcun contatto con essa, rischia di allontanarci ancora di più da essa. 

BROKEN MIRROR
Nei mesi scorsi ho iniziato a lavorare con l’intelligenza artificiale e a generare immagini. Con questi software avrei potuto realizzare qualsiasi tipo di immagine. Avrei potuto improvvisarmi fumettista, ad esempio. Ma alla fine sono tornato ai temi a me più cari e che conosco meglio. Non volevo usare l’intelligenza artificiale soltanto come una scorciatoia, ma volevo che fosse concettualmente rilevante all’interno del progetto visivo che stavo sviluppando. In uno di questi lavori ho provato a raccontare in un modo diverso la dittatura totalitaria che caratterizza la Corea del Nord, un paese che avevo già visitato e raccontato come fotografo documentarista. Questo lavoro si intitola Broken Mirror e utilizza un linguaggio che imita quello documentarista. L’idea alla base consiste nell’inserire nella vita quotidiana dei nordcoreani un elemento alieno e destabilizzante. Ho scelto di inserire degli insetti, dei ragni e altro ancora, che gradualmente aumentato di quantità e dimensione, fino a prendere il controllo completo sui nordcoreani. Ad un certo punto i nordcoreani stessi iniziano a trasformarsi in questi insetti giganti, diventando le creature che temevano, simboleggiando il completamento della sottomissione. 

LA NATURA INVASIVA E CONTROLLANTE DELLA TECNOLOGIA
Generare le immagini così come le avevo pensate e descritte col prompt ha richiesto migliaia di tentativi e molta frustrazione. Il processo creativo era in gran parte affidato all’intelligenza artificiale. La selezione delle immagini era però un compromesso fra ciò che volevo ottenere e ciò che mi veniva proposto. Spesso non ho ottenuto quello che volevo. Altre volte l’intelligenza artificiale ha inserito elementi inaspettati che però ho scelto di tenere. Durante questo processo, ho realizzato che la metafora che avevo utilizzato non rappresentava soltanto la dittatura totalitaria nordcoreana, ma rappresentava la tecnologia stessa. In particolare la sua natura invasiva e controllante. Col mio lavoro ho quindi sfruttato le nuove potenzialità che l’intelligenza artificiale offre, per esprimere un timore che ho nei suoi confronti.

EMERSIONE
Dopo alcuni mesi di full immersion in questa tecnologia, ho sentito un forte bisogno di tornare a fotografare le storie delle persone, come se ne fossi stato in astinenza. Questa nuova tecnologia farà parte degli strumenti che adopererò anche in futuro, ma le ore notturne, silenziose e solitarie passate al computer a generare immagini mi hanno ricordato perché, a un certo punto della mia vita, avevo accantonato la mia passione per l’informatica per abbracciare quella per la fotografia. Avevo bisogno di uscire e di respirare la realtà e, infine, di raccoglierne le tracce con la mia macchina fotografica.

AI and Prejudice by Filippo Venturi

(in italiano sotto)

AI and Prejudice
(Images generated with artificial intelligence, 2023)

An article published on 8 February 2023 by The Guardian, highlighted how the algorithms used by artificial intelligence tend to be gender biased and end up censoring photographs depicting women's bodies, especially when nipples are visible, or pregnant women or women exercising. Large technology companies, including Google, Microsoft and Amazon, which are at the forefront of the development of software using artificial intelligence, have implemented filters to protect their users from seeing unwanted, violent or pornographic images. For example, it has been known for several years that some social networks censor female nipples but not male ones.

Journalists from the British newspaper tested this software using artificial intelligence in analysing hundreds of photographs of men and women in their underwear, while exercising, or using medical tests with partial nudity, and found that artificial intelligence labels photographs of women in everyday situations as sexually allusive. This software tends to rate pictures of women as more racy or sexually allusive than similar pictures of men. Among other consequences, social networks that make use of these algorithms censor or suppress (in the sense of making less visible to users) countless images depicting women's bodies, in some cases even harming women-led companies and businesses, further amplifying social inequalities.

Even photographs for medical use are affected by this problem. Testing these artificial intelligence algorithms on images released by the US National Cancer Institute, in particular one showing how to perform a clinical breast examination, it emerged that Google's artificial intelligence had assigned a high score in terms of indecency, Microsoft's artificial intelligence was 82% sure that the image was 'explicitly sexual', while Amazon's artificial intelligence classified it as representing 'explicit nudity'. Even photographs of pregnant women, where the belly is visible, are problematic in this regard. Google's artificial intelligence classified such a photo as 'very likely to contain racy content', while Microsoft's was 90% sure that the image was 'sexually allusive'.

Behind this problem, there is a phenomenon known to those in the field, namely that of the so-called 'biases' (prejudices/distortions), which are present in today's society and which end up inside the databases (archives) that are provided to artificial intelligence software to train itself. These archives are often a mirror of reality, where gender inequality, for example, leads artificial intelligence to imagine a man when it comes to power roles or a woman when it comes to domestic work.

Artificial intelligence bias can therefore influence the representation of women and their identities, enclosing them within predefined roles and, in a way, repeating and reiterating those limitations that have influenced women's lives for centuries and which, with difficulty, are being dismantled.


AI e Pregiudizio
(Immagini generate con intelligenza artificiale, 2023)

Una indagine pubblicata l'8 febbraio 2023 da The Guardian, ha evidenziato come gli algoritmi utilizzati dalle intelligenze artificiali tendano ad avere pregiudizi di genere, finendo col censurare le fotografie che raffigurano corpi di donne, soprattutto quando in queste sono visibili i capezzoli, oppure donne incinta o che praticano esercizio fisico. Le grandi aziende tecnologiche, fra cui Google, Microsoft e Amazon, che sono all'avanguardia nello sviluppo di software che sfruttano l'intelligenza artificiale, hanno implementato dei filtri allo scopo di proteggere i propri utenti dal vedere immagini indesiderate, violente o pornografiche. Già da diversi anni è noto, ad esempio, come alcuni social network censurino i capezzoli femminili ma non quelli maschili.

I giornalisti del giornale inglese hanno testato questi software che utilizzano l’intelligenza artificiale nell’analizzare centinaia di fotografie di uomini e donne in biancheria intima, mentre facevano esercizio fisico, oppure utilizzando test medici con nudità parziale e hanno scoperto che l’intelligenza artificiale etichetta le fotografie delle donne in situazioni quotidiane come sessualmente allusive. Questi software tendono a valutare le immagini delle donne come più audaci o sessualmente allusive rispetto a immagini simili raffiguranti gli uomini. Fra le varie conseguenze, c’è quella che vede i social network che fanno uso di questi algoritmi censurare o sopprimere (nel senso di rendere meno visibili agli utenti) innumerevoli immagini raffiguranti corpi di donne, in alcuni casi anche danneggiando le aziende e le attività guidate da donne, amplificando ulteriormente le disparità sociali.

Anche le fotografie per uso medico sono toccate da questo problema. Testando questi algoritmi di intelligenza artificiale sulle immagini rilasciate dal National Cancer Institute degli Stati Uniti, in particolare una in cui viene mostrato come eseguire un esame clinico del seno, è emerso come l'intelligenza artificiale di Google avesse assegnato un punteggio elevato in termini di indecenza, quella di Microsoft era sicura all'82% che l’immagine fosse "esplicitamente di natura sessuale", mentre quella di Amazon l’ha classificata come rappresentante "nudità esplicita". Persino le fotografie di donne incinta, dove è visibile la pancia, sono problematiche da questo punto di vista. L’intelligenza artificiale di Google ha classificato una foto di questo tipo come “molto probabile che contenga contenuti audaci”, mentre quella di Microsoft era sicura al 90% che l'immagine fosse "di natura sessualmente allusiva".

Dietro questo problema, c’è un fenomeno noto agli addetti al settore, cioè quello dei cosiddetti “bias” (pregiudizi/distorsioni), che sono presenti nella società attuale e che finiscono dentro i database (archivi) che vengono forniti ai software di intelligenza artificiale per allenarsi. Questi archivi spesso sono uno specchio della realtà, dove la disparità di genere ad esempio spinge l’intelligenza artificiale ad immaginare un uomo quando si parla di ruoli di potere oppure una donna quando si parla di lavori domestici.

I bias dell'intelligenza artificiale possono quindi influenzare la rappresentazione delle donne e delle loro identità, chiudendole all’interno di ruoli predefiniti e, in qualche modo, ripetendo e ribadendo quelle limitazioni che da secoli influenzano la vita delle donne e che, a fatica, si sta cercando di smantellare.

World Press Photo winning photographs (when generated with artificial intelligence) by Filippo Venturi

View all the winners of the annual World Press Photo Contest from 1955 to the present (when generated with artificial intelligence).


Quite rightly, the World Press Photo completely excluded images generated with artificial intelligence, even from the category (open format) in which it had initially thought it could include them. So I wondered which images could have been generated by A.I. to compete for the main award, the photograph of the year, from 1955 to the present.

The purpose of this experiment is to reflect on how artificial intelligence interprets and generates photographs that, from its perspective and at my request, could have won the various editions of the prestigious competition for photojournalists called World Press Photo. Photographs and generated images remain two very different things in many ways. The only point of contact is when the generated image imitates the photograph and exploits its credibility. The consequences of this imitation (and substitution) risk altering and perhaps undermining the credibility of photography (which in any case we must be wary of and should not take for absolute and sole truth) and the role of photojournalism in witnessing reality.


Giustamente, il World Press Photo ha escluso completamente le immagini generate con l'intelligenza artificiale, anche dalla categoria (open format) dove inizialmente aveva ritenuto potessero rientrare. Allora mi sono chiesto quali immagini avrebbe potuto generare l'I.A. per competere per il premio principale: la fotografia dell'anno, dal 1955 a oggi.

Lo scopo di questo esperimento è riflettere su come l'intelligenza artificiale interpreta e genera le fotografie che, dal suo punto di vista e su mia richiesta, avrebbero potuto vincere le varie edizioni del prestigioso concorso per fotogiornalisti chiamato World Press Photo. Fotografie e immagini generate restano due cose molto diverse sotto molti punti di vista. L'unico punto di contatto è quando l'immagine generata imita la fotografia e ne sfrutta la credibilità. Le conseguenze di questa imitazione (e sostituzione) rischiano di alterare e forse compromettere la credibilità della fotografia (di cui comunque bisogna diffidare e che in ogni caso non va presa per verità assoluta e unica) e il ruolo del fotogiornalismo nel testimoniare la realtà.