In questi giorni non si è parlato d’altro che della nuova funzione di AI generativa del modello 4o di OpenAI e della sua capacità di creare immagini nello stile del regista giapponese Hayao Miyazaki e del suo Studio Ghibli. Quello che è passato inosservato ai più, invece, è la sua capacità di generare il testo all’interno delle immagini, di gran lunga superiore a quella dei suoi competitor. Un dettaglio che i truffatori hanno saputo cogliere immediatamente. In questi giorni, infatti, la rete si è popolata immagini di scontrini falsi creati ad hoc con l’AI generativa di ChatGpt-4.
X content
This content can also be viewed on the site it originates from.
Facendo un veloce giro su X è stato facile trovare decine di esempi, alcuni dei quali sono chiaramente riconoscibili come generati dall’AI, mentre altri sembrano somigliare maggiormente alla realtà, grazie all’aggiunta di dettagli come piccole pieghe o macchie di olio – soprattutto nel caso di scontrini di ristoranti e wine bar -. Insomma, nel complesso ChatGpt Immagini risulta essere impeccabile nella creazione di scontrini e ricevute false, il che rappresenta un problema non da poco per gli esperti di sicurezza. Alcuni criminali, infatti, potrebbe generare documenti falsi per chiedere il rimborso di spese mai fatte, così da assicurarsi l’entrata di denaro in maniera del tutto illecita.
“È nell’interesse degli operatori dell’analisi delle fatture raddoppiare gli sforzi per rendere sicure queste transazioni e verifiche, ad esempio aggiungendo un crittogramma QR Code a tutte le fatture e i biglietti, o aggiungendo la verifica tramite Blockchain…altrimenti i CFO e le Risorse Umane potrebbero ritrovarsi con montagne di fatture false”, chiosa Raphael Chenol, esperto di trasformazione digitale, su LinkedIn, condividendo alcune immagini degli scontrini generati dall’AI di ChatGpt sulla base di alcuni dei suoi scontrini reali. In risposta a questa crescente preoccupazione degli esperti del settore, però, il portavoce di OpenAI Taya Christianson ha precisato che tutte le immagini generate dalla nuova funzione del modello 4o sono corredate di metadati che indicano che sono state realizzate da un’intelligenza artificiale.
In ogni caso, Christianson ci ha tenuto a sottolineare che la compagnia “prende provvedimenti” quando gli utenti violano le sue politiche di utilizzo, ma anche che sta migliorando l’attuazione delle sue regole sulla base dei feedback che sta raccogliendo in questi giorni sull’uso della nuova funzione. D’altronde, come riferisce il portavoce, “l’obiettivo di OpenAI è quello di dare agli utenti quanta più libertà creativa possibile”, e gli scontrini falsi potrebbero essere visti come uno strumento utile per l’educazione finanziaria, e non solo come escamotage per mettere in atto truffe ai danni di società o locali.
Fonte : Wired
