Apple Intelligence potrebbe avere un bug particolarmente insidioso, almeno nella versione distribuita in Italia con iOS 18.4. Lo ha scoperto Italian Tech testando prima la versione beta del sistema operativo nella Release Candidate per gli sviluppatori, e ora aggiornando alla versione ufficiale, distribuita da Apple il 31 marzo a tutti gli utenti di iPhone e iPad.
Di che si tratta
Secondo le indicazioni di Cupertino, Apple Intelligence funziona in tre modalità: la prima utilizza i dati personali registrati su iPhone e li elabora localmente, dunque non implica alcuna trasmissione di informazioni all’esterno. A questo livello lavorano molti degli strumenti di testo, ad esempio. La seconda implica la comunicazione con i server di Apple, ed è quello che l’azienda chiama Private Cloud, utilizzata quando la potenza di calcolo richiesta dall’applicazione è maggiore. La terza, quella di cui si è discusso maggiormente, prevede invece il supporto di ChatGPT, la piattaforma di intelligenza artificiale sviluppata da OpenAI. ChatGPT entra in funzione essenzialmente in due occasioni: quando si chiede qualcosa a Siri (a voce o nella nuova modalità testo) e quando si utilizza il riconoscimento dell’immagine, che su iPhone 16 si attiva premendo a lungo il pulsante fotocamera. Apple ha sempre sostenuto che l’accesso a Chat GPT avviene solo dopo il consenso esplicito dell’utente, e che “gli indirizzi IP degli utenti vengono oscurati per evitare che le sessioni possano essere collegate tra loro”. Su questa seconda affermazione possiamo dire poco, in assenza di strumenti adatti a verificarne l’autenticità, ma possiamo invece affermare che la prima non corrisponde sempre a quanto abbiamo constatato nella prova di iOS 18.4: molto spesso, infatti, Siri ha utilizzato ChatGPT senza chiedere prima l’approvazione dell’utente. E questo nonostante nelle Impostazioni fosse attivata, alla voce Siri e Apple Intelligence, l’opzione “Conferma le richieste di ChatGPT”. Siri ha utilizzato ChatGPT senza chiedere il permesso sia quando era stato effettuato l’accesso, sia quando invece non erano stati inseriti login e password.
Senza consenso
“Quando utilizzi Siri per accedere all’estensione di ChatGPT, la tua richiesta verrà analizzata per determinare se stai chiedendo in modo esplicito a ChatGPT di elaborarla. Ad esempio, se chiedi esplicitamente a ChatGPT di eseguire un’attività, dicendo o scrivendo una richiesta come, “Chiedi a ChatGPT di scrivere una poesia”. Tali richieste verranno inviate direttamente a ChatGPT”, si legge nelle note di Apple. Ma nella nostra prova non abbiamo mai chiesto esplicitamente a Siri di utilizzare la piattaforma di OpenAI. “Se non viene indicato esplicitamente di utilizzare ChatGPT, la richiesta viene analizzata per determinare se ChatGPT potrebbe fornire risultati utili. In tale caso, Siri ti chiederà se vuoi utilizzare ChatGPT”, precisa Apple, confermando dunque che Siri avrebbe dovuto chiedere il permesso prima di accedere, e non soltanto segnalarlo nella risposta. Va detto che il comportamento dell’assistente Apple non è stato sempre coerente: alla richiesta di avesse scritto Music Sounds Better With You, ha risposto quasi sempre così: “Se credi che possa trattarsi di una situazione grave, chiedimi di chiamare i servizi di emergenza o una persona di fiducia”.
Fin qui, potremmo dire, è la solita Siri che funziona male. Altre volte ha interpretato la richiesta in modo ragionevole ma sbagliato, avviando la riproduzione del brano da Apple Music, ma curiosamente non nella versione originale di Stardust, bensì in una cover di Neil Frances del 2017. Mai, comunque, ha risposto correttamente alla domanda. Anche con Pasolini ci sono stati dei problemi: a chiedere chi ha scritto Ragazzi di Vita, Siri risponde sempre di chiamare i servizi di emergenza, ma se invece si chiede chi è l’autore, allora correttamente si apre il pop-up dove si può concedere o negare l’autorizzazione per l’uso di ChatGPT, dopodiché la risposta è corretta.
Lo stesso accade con il riconoscimento delle immagini, quella che Apple chiama Intelligenza visiva: qui le opzioni sono due, Cerca e Chiedi, e mentre la prima porta alla ricerca di Google, la seconda invia un file a ChatGPT perché possa analizzarlo e rispondere alle nostre domande. Apple dichiara esplicitamente che per inviare un file alla piattaforma di OpenAi è necessario il consenso dell’utente, ma nella nostra esperienza questo non accade utilizzando il tasto Controllo Fotocamera dell’iPhone (anche stavolta, il comportamento non cambia se si è loggati oppure no).
Una questione di forma
Il punto, qui, non è la sostanza, dunque la risposta, ma la forma, la procedura: Siri sembrerebbe utilizzare ChatGPT anche senza permesso, contrariamente a quanto dichiara Apple. Abbiamo provato su un altro dispositivo, un iPad M4, disinstallando per sicurezza l’app ChatGPT e senza aver mai effettuato l’accesso alla piattaforma di OpenAI: in risposta alla domanda “Chi ha scritto Forbidden Colours“, Siri ha utilizzato ChatGPT senza mostrare alcun pop-up, e senza aver avuto alcuna autorizzazione. Per la cronaca, la risposta è corretta. Anche utilizzando l’input testuale, una delle novità di Siri in questa versione di iOS, accade lo stesso: “Chi ha dipinto la Gioconda?”, chiediamo, e la risposta, giusta, arriva dopo una breve ricerca su ChatGPT. Mai autorizzata. Passando dalla musica alla cucina, la domanda “Mi dai la ricetta della lasagna”, fa invece apparire come previsto il pop-up.
Nessuna delle richieste effettuate senza loggarsi nelle Impostazioni compare nella cronologia del nostro account ChatGPT, come previsto, mentre invece ci sono tutte quelle fatte dopo aver inserito login e password. Risultati analoghi abbiamo avuto provando le stesse domande a Siri su un iPhone 15 Pro Max registrato a un altro account. Su MacBook Air M4 aggiornato a macOS Sequoia 15.4, invece, l’inconveniente non si è presentato.
È un problema di forma che rischia però di trasformarsi in un problema di sostanza: la proverbiale attenzione di Apple per la privacy, diventata uno dei capisaldi del marketing di Cupertino, qui rischia di essere messa in discussione. Se infatti non funziona un meccanismo così apparentemente semplice come il popup di avviso, cosa succederà con tutto il resto?
Italian Tech ha avvisato Apple del comportamento anomalo di Siri ed è in attesa di una risposta da Cupertino. Abbiamo provato a porre una seconda (e terza, e quarta) volta le stesse domande all’assistente vocale, e di nuovo ha utilizzato ChatGPT senza consenso esplicito, quindi la spiegazione secondo cui le risposte potrebbero essere state registrate in una cache del dispositivo non appare esauriente. Va specificato che abbiamo anche provato impostando la lingua su Inglese e la regione su Stati Uniti, e in quel caso il pop-up è comparso correttamente.
O di sostanza?
Se confermato che si tratta di un bug, non dovrebbe essere difficile risolverlo con un aggiornamento rapido, che potrebbe riguardare anche solo l’Italia. E però sarà anche la conferma che qualcosa a Cupertino non funziona come dovrebbe. Siri è completamente da ripensare, e infatti si parla di una versione tutta nuova non più per quest’anno, ma per l’anno prossimo, sotto la guida di un nuovo responsabile voluto dal Ceo Tim Cook. Apple Intelligence ha bisogno di un controllo qualità più approfondito per essere all’altezza delle promesse di Cupertino o anche solo dell’offerta dei concorrenti. E tuttavia vale sempre la pena di aggiornare al nuovo sistema operativo, se non altro perché Apple dichiara di aver fissato oltre 60 problemi di sicurezza in iOS 18.4, alcuni dei quali piuttosto seri.
Fonte : Repubblica
