In riunione con le copie dei colleghi: i deepfake e la truffa da 25 milioni di euro a Hong Kong

Una dipendente di una compagnia di Hong Kong è stata ingannata e spinta a trasferire quasi 25 milioni di euro dell’azienda durante un meeting virtuale in cui uno o più cybercriminali si sono finti colleghi e dirigenti della compagnia stessa usando la tecnica del deepfake.

Secondo quanto riferito da RTHK (che è un po’ la Rai di Hong Kong), la denuncia sarebbe stata presentata lo scorso 29 gennaio, dopo che la donna era stata invitata a partecipare a una videoconferenza cui avrebbero dovuto prendere parte “numerose altre persone”. Che però non erano effettivamente persone.

“Sono in call”, ma era l’intelligenza artificiale

Secondo un portavoce della società, di cui non sono stati svelati i dettagli, l’ipotesi è che il truffatore abbia utilizzato l’intelligenza artificiale per ingannare la donna: “L’ha invitata a una videoconferenza cui avrebbero partecipato molti altri colleghi” e “visto che le persone presenti nella call sembravano persone reali, l’impiegata ha seguito le istruzioni ed effettuato 15 trasferimenti di denaro su 5 conti correnti che le sono stati indicati per un totale di 200 milioni di dollari di Hong Kong”. Cioè poco meno di 25 milioni di euro.

Secondo una prima ricostruzione, il truffatore avrebbe scaricato in anticipo video che ritraevano le persone che sarebbero state presenti all’incontro, poi avrebbe usato l’IA per riprodurne i volti e le voci da utilizzare durante la videoconferenza.

Sempre secondo quanto raccontato da RTHK, la donna avrebbe ricevuto un messaggio dal CFO (il direttore finanziario) della società che la invitava a mantenere il massimo riserbo sulle transazioni: solo dopo avere trasferito il denaro e parlato con la sede centrale dell’azienda, la donna si è resa conto che si trattava di una truffa. Questo conferma che “i truffatori sono ormai in grado di utilizzare le IA nelle riunioni online, quindi le persone devono essere attente anche in quelle con molti partecipanti”.

Che cosa sono i deepfake

Come su Italian Tech abbiamo già spiegato spesso, i deepfake sono falsi (fake, appunto) video, immagini e audio creati applicando i princìpi del deep learning tipici dell’intelligenza artificiale, che partendo da un volto è in grado di simularne un altro, anche ricreando la mimica facciale e le espressioni. Per esempio, è sui deepfake che si basano app di grande successo che permetto di alterare il proprio volto, vederlo invecchiato, ambientato negli anni 30’, negli anni ‘70 e così via.

Semplificando, quello che fa il software è accedere a uno sconfinato database di volti del soggetto per trovare i pezzi utili per comporre quello che si vuole ricreare, fra occhi, nasi, labbra, zigomi e così via, combinandoli insieme per arrivare a un risultato più realistico e credibile possibile.

I deepfake sono un pericolo non solo perché lo dice quanto successo a Hong Kong, ma perché è evidente che renderanno sempre più difficile distinguere il vero dal falso, le notizie dalle fake news, il vero Donald Trump da quello finito arrestato a New York e così via. Il rischio è talmente grande che proprio in questi giorni Meta ha annunciato l’intenzione di marchiare con un’etichetta specifica i contenuti creati con una IA e condivisi su Facebook, Instagram e Threads e che l’Unione europea sta aggiornando le sue norme in materia di contrasto alla pedopornografia perché comprendano anche i deepfake e altro materiale generato con l’intelligenza artificiale.

@capoema

Fonte : Repubblica