“Io, Kamala Harris, sono la vostra candidata democratica alla presidenza perché Joe Biden ha finalmente mostrato la sua senilità durante il dibattito” e anche “sono l’apoteosi della diversità, quindi se criticate qualcosa che dico, siete sia maschilisti sia razzisti” e pure “sono una marionetta del Deep State e sono stata addestrata per 4 anni dal campione delle marionette, Joe Biden”: queste parole, apparentemente pronunciate da Kamala Harris, compaiono in un video che nella notte italiana è stato condiviso su Twitter anche da Elon Musk.
Il video è però un falso ed è probabilmente il primo video in cui la voce di quella che è effettivamente la candidata dei Democratici per la Casa Bianca è stata ricreata con l’intelligenza artificiale: Alexios Mantzarlis, direttore della divisione Security, Trust and Safety della Cornell University di New York, ha confermato a NBC News che il contenuto può essere considerato un deepfake, cioè appunto un falso realizzato con l’IA.
Violate (due volte) le regole di Twitter
Non è chiara l’origine del video, in cui immagini reali di Harris scorrono mentre una voce fuori campo dice cose che Harris ha davvero detto e altre che non ha mai detto: il primo a condividerlo (sempre su Twitter) sarebbe l’account dello youtuber Mr Reagan, che lo ha accompagnato con la didascalia “Parodia della campagna promozionale di Kamala Harris”. Al momento in cui scriviamo, il suo tweet ha avuto oltre 3,1 milioni di views e migliaia di commenti.
Il retweet di Musk è arrivato poco dopo l’1 del mattino in Italia, accompagnato dalla didascalia “Questa cosa è incredibile” e a ora ha totalizzato quasi 130 milioni di views, quasi 240mila retweet e quasi 60mila commenti.
Nessuno dei due tweet è accompagnato dalla scritta AI Generated Content, in aperta violazione delle regole di Twitter, secondo cui “non è possibile condividere contenuti multimediali artificiali, manipolati o fuori contesto che potrebbero ingannare o confondere le persone e causare danni” e “potremmo etichettare i post contenenti contenuti fuorvianti per aiutare le persone a comprenderne l’autenticità e per fornire maggiore contesto”. Nessuna di queste cose è però successa né sul tweet di Mr Reagan né sul tweet di Musk.
La mini retromarcia di Musk: “È una parodia”
Se il primo, con la scritta maiuscola Parodia, potrebbe in qualche modo essere più onesto, esplicitando in maniera relativamente chiara la natura non veritiera del contenuto, il secondo (quello che fra l’altro ha avuto di gran lunga maggiore visibilità) è totalmente fuorviante ed è un esempio perfetto delle fake news pericolose contro cui Twitter sembra ormai incapace di (o non intenzionato a) combattere: un falso che dice cose verosimili e che cavalca alcune delle paranoie più diffuse fra i complottisti (come quella sul Deep State) e che molte persone potrebbero scambiare per vero.
Su questo punto, proprio Musk ha avuto una breve discussione online con Gavin Newsom, attuale governatore della California e potenziale candidato vicepresidente: “Manipolare una voce in uno spot (fra virgolette, ndr) come questo dovrebbe essere illegale – ha scritto Newsom su Twitter – Fra qualche settimana firmerò una legge per assicurarmi che lo sia”. Il numero uno del social network ha risposto dicendo che “Ho chiesto al professor Suggon Deeznutz (in italiano è tipo Professor Sticazzi, ndr), rinomata autorità mondiale, e mi ha detto che la parodia è legale in America”.
Fra il primo tweet di Musk (quello su “Questa cosa è incredibile”) e il secondo (quello in cui ammette che si tratti di una parodia) sono però passate oltre 5 ore. In cui chissà quante migliaia e migliaia di persone hanno visto il video che aveva condiviso e l’hanno ritenuto reale.
Fonte : Repubblica
