L’intelligenza artificiale generativa potrebbe fare grossi danni in vista delle prossime elezioni presidenziali americane. Ecco perché Midjourney, uno degli strumenti più utilizzati per creare immagini da zero grazie al supporto dell’AI, sta valutando la possibilità di vietare ai suoi utenti di utilizzare la piattaforma per generare immagini a sfondo politico. Più nel dettaglio, secondo quanto riportato da Bloomberg, l’amministratore delegato di Midjourney David Holz ha dichiarato che la società è “vicina al martellamento” – un termine utilizzato per indicare un divieto – di immagini come quelle di Biden e Trump “per i prossimi 12 mesi”.
“So che è divertente realizzare foto di Trump: io stesso creo foto di Trump. Trump è esteticamente molto interessante. Tuttavia, probabilmente ora è meglio evitare: meglio tirarsi indietro un po’ durante queste elezioni. Vedremo”, ha dichiarato Holz su Discord, facendo luce sulla difficile questione della disinformazione generata dall’AI in un periodo delicato come quello delle elezioni presidenziali. Lo scorso marzo, per esempio, Midjourney ha dovuto vedersela con la diffusione inarrestabile di una serie di immagini deepfake dell’arresto di Trump generate utilizzando la sua piattaforma. In quell’occasione l’azienda ha scelto di sospendere le prove gratuite per la sua AI generativa, così da evitare di incrementare la disinformazione in rete.
Ora, a distanza di un anno circa, Midjourney vuole evitare di ritrovarsi in una situazione scomoda a ridosso delle elezioni presidenziali e cerca di correre ai ripari prima gli utenti possano utilizzare la sua Al per diffondere immagini simili a quell’arresto dell’ex presidente. Eppure, la piattaforma dispone già di divieti automatizzati che mirano a impedire agli utenti di creare “rappresentazioni irrispettose, dannose, fuorvianti di personaggi/eventi pubblici o potenzialmente fuorvianti”. Nonostante questo, le restrizioni non sembrerebbero poi così difficili da aggirare. Anzi, pare che alcune versioni del software di Al generativa permettano di creare immagini di personaggi politici senza alcun problema, mentre altre rifiutano le richieste che hanno come protagonisti Trump e colleghi.
Per evitare qualunque problema, però, Midjourney ha preso la sua decisione: vietarne la creazione. Anche se non tutti sono convinti che questo risolverà la questione. “Non fingiamo che vietare le immagini di Biden e Trump su Midjourney risolverà il problema molto, molto più grande che abbiamo della disinformazione politica”, ha commentato Hany Farid, esperto di informatica forense e professore all’Università della California.
Fonte : Wired
