A giorni Meta inizierà a segnalare le immagini generate dall'intelligenza artificiale su Facebook, Instagram e Threads nel tentativo di sostenere la trasparenza online.
Il gigante tecnologico etichetta già i contenuti realizzati dal suo motore Imagine AI con una filigrana visibile. In futuro, farà qualcosa di simile per le immagini provenienti da fonti di terze parti come OpenAI, Google e Midjourney, solo per citarne alcune.
Non si sa esattamente quale sarà l'aspetto di queste etichette, anche se, guardando le immagini riportate nel post pubblicato da Meta, potrebbe consistere semplicemente in una dicitura "AI Info" posta accanto al contenuto generato. Meta afferma che questo design non è definitivo, lasciando intendere che potrebbe cambiare una volta lanciato ufficialmente l'aggiornamento.
Oltre alle etichette visibili, l'azienda dichiara di essere al lavoro anche a strumenti per "identificare i marcatori invisibili" nelle immagini provenienti da generatori di terze parti. Imagine AI fa anche questo incorporando filigrane nei metadati dei suoi contenuti. Lo scopo è quello di includere un tag unico che non può essere manipolato dagli strumenti di editing. Meta afferma che altre piattaforme hanno in programma di fare lo stesso e intendono implementare un sistema per rilevare i metadati contenenti dei tag.
Etichettatura audio e video
Finora tutto si è incentrato sul branding delle immagini, ma che dire di audio e video generati dall'AI? Lumiere di Google è in grado di creare clip incredibilmente realistiche e OpenAI sta lavorando per implementare la creazione di video in ChatGPT. Esiste qualcosa per rilevare forme più complesse di contenuti AI? Beh, più o meno.
Meta ammette che al momento non c'è modo di rilevare audio e video generati dall'AI allo stesso livello delle immagini. La tecnologia non è ancora disponibile. Tuttavia, l'industria sta lavorando "per raggiungere questo scopo". Fino ad allora, l'azienda si affiderà al buon senso delle persone.
Gli utenti dovranno dichiarare se il video o il file audio che vogliono caricare è stato prodotto o modificato dall'intelligenza artificiale. In caso venga dichiarato il falso, verrà applicata una "sanzione". Inoltre, se un file multimediale è così realistico da rischiare di ingannare il pubblico, Meta apporrà "un'etichetta più evidente" per renderlo facilmente riconoscibile.
Aggiornamenti futuri
Meta sta lavorando per migliorare anche gli strumenti di prima parte.
Il laboratorio di ricerca sull'intelligenza artificiale FAIR dell'azienda sta sviluppando un nuovo tipo di tecnologia di watermarking chiamata Stable Signature. A quanto pare, è possibile rimuovere i marcatori invisibili dai metadati dei contenuti generati dall'intelligenza artificiale.
Stable Signature dovrebbe impedire questa pratica, rendendo i watermark parte integrante del "processo di generazione delle immagini". Oltre a tutto questo, Meta ha iniziato ad addestrare diversi LLM (Large Language Models) sugli standard della comunità, in modo che le IA possano determinare se determinati contenuti violano la politica.
Le etichette per i social media saranno disponibili nei prossimi mesi. La tempistica del rilascio non deve sorprendere: il 2024 è un anno di elezioni importanti per molti Paesi, in particolare per gli Stati Uniti. Meta sta cercando di mitigare il più possibile la diffusione della disinformazione sulle sue piattaforme.
