Le immagini dell'intelligenza artificiale sono ora in grado di svelare la nostra comprensione della verità visiva in un modo che nessun'altra innovazione ha mai fatto prima.
- Non le illustrazioni con penna e inchiostro
- Non la fotografia
- Non i film
- Neanche gli effetti speciali e la CGI
- Nemmeno Adobe Photoshop
Tutte queste innovazioni precedenti impallidiscono di fronte a strumenti come MidJourney, DALL-E e Adobe Firefly.
Questi sistemi generativi di immagini AI sono tessitori di sogni che fanno nascere il letterale dall'immaginario.
Quando Midjourney costruisce un'immagine, non ci sono fonti, mezzi o artisti facilmente identificabili. Ogni pixel può sembrare immaginario o reale quanto si vuole e quando lasciano la fabbrica digitale, queste immagini (e i video) viaggiano a per il mondo, lasciando la verità in attesa da qualche parte nascosta.
Non si può più credere a ciò che vediamo. Senza volerlo, le immagini dell'IA generativa hanno smantellato il concetto di "Vedere per credere". Questa frase, spesso attribuita all'ecclesiastico del XVII secolo Thomas Fuller, è sopravvissuta per 400 anni, ma non ha alcuna possibilità nella nostra era moderna.
Non è mai successo ed è improbabile che succeda, ma Midjourney ha creato queste quattro versioni dell'immagine (qui sopra) in meno di un minuto.
La generazione di immagini di IA a questo livello è indubbiamente divertente, simpatica e pericolosa. È uno strumento di produttività come un altro e tende a riflettere chi lo usa. Le persone con buone intenzioni useranno le immagini di IA generativa a fin di bene. Chi ha cattive intenzioni lo userà per diffondere disinformazione e bugie.
E noi gli crederemo.
L'uomo è fallibile
Gli esseri umani non sono fatti per riconoscere la verità. Reagiamo a ciò che vediamo, ascoltiamo, tocchiamo e sentiamo. Gran parte delle informazioni ci arrivano attraverso la vista. Ciò che vediamo è ciò che crediamo.
Le immagini dell'intelligenza artificiale generativa sfruttano la nostra vulnerabilità senza autorizzazione. Presenta immagini che, per quanto poco plausibili, sembrano perfettamente reali e quindi diventano plausibili per noi.
Soluzioni pericolose
La maggior parte degli strumenti per la generazione di immagini presenta pochissime protezioni. È vero che impediscono di creare contenuti decisamente per adulti o di mettere personaggi pubblici in situazioni violente o compromettenti, ma è abbastanza facile creare un prompt che possa aggirare queste protezioni (un utente ha fatto notare che mentre non si possono raffigurare alcuni politici coperti di sangue, si può chiedere a Midjourney di ricoprirli di sciroppo rosso).
La preoccupazione non riguarda solo le immagini statiche. Midjourney sta addestrando la sua IA per la creazione di video. Il processo di creazione di video generativi credibili da parte dell'IA è di ordini di grandezza più difficile rispetto alle immagini statiche, ma entro 6 mesi è probabile che clip di 10 secondi siano indistinguibili dalla realtà.
In definitiva, vedere non significa più credere. Ciò che si vede su uno schermo può rappresentare o meno la verità. Come regola generale, se vedete qualcosa che conferma ciò che già supponevate fosse vero, date un'altra occhiata più approfondita. Esaminate l'immagine alla ricerca di anomalie o addirittura di un'eccessiva perfezione. Cercate i pori sulla pelle (o la loro mancanza). Contate le dita. Esaminate lo sfondo, che ho notato essere il punto in cui l'intelligenza artificiale generativa può fare il suo lavoro più approssimativo.
Nell'era dell'IA generativa, non possiamo accettare nulla al valore nominale. Per proteggere noi stessi e gli altri, dobbiamo diventare cacciatori di verità e mettere tutto in discussione.
Potrebbe interessarti anche...
