Premessa uno. Sono un nerd e quindi mi diverto a provare tool e sistemi di intelligenza artificiale (da quelli per la generazione delle immagini a quelli per l’interpretazione dei sogni).
Premessa due. I tool di intelligenza artificiale, compresi quelli che si utilizzano per verificare se un contenuto è stato generato dall’IA, non funzionano sempre benissimo. Lo so bene.
Premessa tre. Sono un avvocato e quindi, come capirete, le premesse erano inevitabili.
È iniziata la settimana del Festival di Sanremo, quella in cui il Paese si ferma e si parla (quasi) solo di quello che accade sul palco dell’Ariston. Anche online, anzi, soprattutto online. La settimana in cui Sanremo è politica, cronaca, costume, cultura, spettacolo. Ne parlano tutti, anche chi non lo guarda.
Sanremo 2024 sui social: numeri record per Annalisa, ma follower più attivi per Amoroso e Mannoia
Visto che mi interesso di intelligenza artificiale anche per lavoro (premessa uno), da alcuni mesi mi sono chiesto se – nella prima edizione del Festival dopo il boom dell’IA generativa – qualcuno degli artisti e degli autori avrebbe utilizzato ChatGPT o altro tool per scrivere parole e musica delle canzoni in gara.
Così ho pensato che, appena sarebbero stati pubblicati i testi dei pezzi sanremesi, li avrei verificati con alcuni degli strumenti che servono a fare “detection”, cioè a riconoscere – sempre su base probabilistica – se un contenuto è stato generato da IA. Questi tool funzionano assegnando al contenuto una percentuale che corrisponde alla probabilità che lo stesso sia stato generato tramite un’IA.
Si tratta di strumenti non sempre affidabili (premessa due) per cui ho deciso prima di far creare a ChatGPT (Gpt-4) una canzone sanremese in modo da comprendere se i tool che avrei utilizzato fossero affidabili.
Per la cronaca, la canzone che ho creato grazie all’IA si intitola “Echi nel silenzio”.
I primi due tool che ho usato non hanno riconosciuto il contenuto come “AI generated” e quindi sono passato oltre. Il terzo, invece, ha rilevato il testo come scritto all’85% da IA. Verificato che questo strumento funzionava, almeno sulla “mia” canzone, l’ho provato su tutti i testi di Sanremo 2024 così come pubblicati da TV Sorrisi e Canzoni.
I risultati sono stati interessanti: la gran parte delle canzoni è risultata essere scritta da esseri umani (con percentuali del 100% o molto vicine al 100%).
Sulle trenta canzoni in gara, per nove il tool ha restituito una percentuale di generazione mediante IA superiore al 5%. Di queste nove, sulla base dei risultati del tool, due paiono scritte quasi sicuramente da IA: una all’84% e l’altra al 90%. Un risultato significativo se penso che la mia “Echi nel silenzio” era stata classificata come proveniente dall’IA al 85%. Non dirò quali sono le canzoni, non è importante. Anche perché i tool potrebbero essere affidabili solo fino a un certo punto (premessa due).
Quello che è importante, invece, è capire che sicuramente ChatGPT e gli altri strumenti di IA generativa sono arrivati a Sanremo (e non poteva essere diversamente); probabilmente qualcosa di analogo sarà successo con la musica. Sono sicuro che qualcuno tenterà anche questa verifica.
Tra l’altro, non credo ci sia niente di male. Per gli antichi erano le Muse a sussurrare all’orecchio degli scrittori (“Cantami o diva l’ira del pelide Achille…”, era il prompt che Omero diede a Calliope per l’Iliade), oggi gli artisti possono contare su nuovi strumenti a supporto della loro creatività. L’importante è che la usino per creare – in questo caso – canzoni capaci di farci emozionare, oltre che per vincere il Festival.
Però, proprio perché non c’è niente di cui vergognarsi, l’uso dell’IA deve essere trasparente. Lo imporrà, tra qualche tempo, la normativa europea in materia di intelligenza artificiale (l’AI Act che sarà pubblicato tra qualche settimana). Lo renderanno possibile, tra l’altro, le tecnologie di watermarking (che ci aiuteranno a difenderci dai deepfake). Lo chiedono le stesse condizioni d’uso delle soluzioni di IA generativa.
Ad esempio, i termini d’uso di ChatGPT impongono l’obbligo per l’utente di indicare che il contenuto è generato dall’IA, in modo che tutti possano saperlo. Questo significa che quando invierò la proposta di “Echi nel silenzio” per il Festival 2025 dovrò scrivere di Belisario E. (generato attraverso GPT 4).
Pertanto, se – e sottolineo se – qualcuno degli autori di Sanremo 2024 avesse usato ChatGPT senza indicarlo, avrebbe violato le regole per l’uso del servizio e rischierebbe la chiusura dell’account e il ban dai servizi di OpenAI.
Ma avrebbe violato anche il regolamento? Nelle pagine del documento (disponibile sul sito della Rai e aggiornato per l’ultima volta il 29 gennaio 2024) non si trovano indicazioni specifiche sull’uso dell’intelligenza artificiale. L’uso di questi strumenti sembrerebbe quindi consentito.
Il regolamento richiede che le canzoni partecipanti:
- siano nuove;
- siano state ideate e realizzate nel rispetto della normativa vigente;
- non violino diritti di terzi e che in relazione ad esse i partecipanti “abbiano adempiuto a tutti gli eventuali compensi, spese e oneri di ogni tipo a qualunque titolo dovuti ai soggetti a qualsiasi titolo coinvolti nella realizzazione del testo letterario e della composizione musicale”.
Le società che erogano i servizi di IA generativa possono essere considerati “soggetti a qualsiasi titolo coinvolti nella realizzazione del testo letterario e della composizione musicale”?
E in ogni caso, chi utilizza una soluzione di IA generativa sa che lo stesso prompt (“scrivi una canzone sanremese sull’amore non corrisposto”) potrebbe portare a un testo simile, se non identico.
Come si comporterà la direzione artistica se dovesse essere contestato l’uso dei sistemi di IA? Verosimile che, non essendo vietato, non ci sarebbero conseguenze. Così come è verosimile che il prossimo anno il regolamento farà espresso riferimento all’IA, ma in che modo?
Si deciderà di vietare completamente l’uso di questi sistemi (ammesso che sia possibile)? Si sceglierà di imporre la trasparenza, pena l’esclusione? Oppure si indicherà una soglia di contributo umano necessario?
In ogni caso, questo potrebbe essere l’ultimo anno in cui quando i conduttori annunceranno le canzoni, citeranno i nomi degli autori senza indicare l’IA e i tool utilizzati dagli esseri umani che partecipano al Festival.
Fonte : Repubblica
