Deve, non deve. Potrebbe, non potrebbe. L’Agid ha pubblicato le linee guida per la pubblica amministrazione nell’utilizzo dei sistemi di intelligenza artificiale. Linee guida ora aperte a consultazione pubblica, visto che fino al 20 marzo chiunque potrà inviare all’ente consigli, suggerimenti, modifiche da apportare al documento. Ma intanto la bozza è stata pubblicata. E dentro ci sono le indicazioni per quello che sarà la pubblica amministrazione con l’intelligenza artificiale.
Cose che si devono fare obbligatoriamente, che obbligatoriamente non si devono fare, e poi una serie di sfumature condizionali in relazione ai casi. Tutto ricalca in maniera piuttosto precisa le indicazioni dell’Ai Act, il regolamento europeo sull’intelligenza artificiale, e il Gdpr, la legge sul trattamento dei dati personali. Il risultato è un testo che vede l’Ai come “grande opportunità per migliorare l’efficienza operativa del servizio pubblico”. Ma nei limiti sanciti dai regolamenti europei. E nelle pratiche di sicurezza informatica indicate dall’Agenzia cyber.
Intelligenza artificiale: cosa può fare per la pubblica amministrazione
La pubblica amministrazione, in ogni suo ambito, potrà adottare sistemi di IA per automatizzare processi ripetitivi, migliorando la gestione delle informazioni e ottimizzando l’erogazione dei servizi.
Questo significa, si legge nel testo, che possono impiegare l’IA per: supportare le decisioni con modelli predittivi basati sui dati; migliorare la gestione documentale e rendere più efficiente l’allocazione delle risorse pubbliche. Inoltre, l’intelligenza artificiale può essere utilizzata per personalizzare i servizi offerti ai cittadini, adattandoli alle loro esigenze specifiche e garantendo un accesso più semplice e trasparente alle informazioni e alle procedure amministrative.
Un altro aspetto fondamentale riguarda la sicurezza e la protezione dei dati. Le amministrazioni devono adottare sistemi di IA che rispettino le normative in materia di privacy e cybersecurity, garantendo trasparenza e tracciabilità delle decisioni automatizzate. Il monitoraggio continuo dei sistemi e la valutazione dell’impatto etico dell’IA sono obbligatori, così come l’adozione di standard tecnici per assicurare l’interoperabilità e la protezione delle informazioni sensibili.
Cosa non può fare la Pa con l’Intelligenza artificiale
Questo in linea di principio. Tutte buone pratiche suggerite. Ma ci sono sono limiti stringenti all’uso dell’IA nella pubblica amministrazione. Non è consentito adottare sistemi di scoring sociale (il punteggio sociale, pratica più volte stigmatizzata in questi anni soprattutto in Europa), cioè tutti quei sistemi che valutano i cittadini in base ai loro comportamenti o caratteristiche personali.
Non si possono inoltre impiegare intelligenze artificiali che sfruttino vulnerabilità di individui particolarmente sensibili, come bambini o persone con disabilità. Vietato inoltre utilizzare strumenti di riconoscimento biometrico in tempo reale, salvo eccezioni specifiche legate alla sicurezza nazionale. Tutto ciò che è previsto insomma nell’Ai Act europeo.
Le amministrazioni pubbliche non possono, inoltre, delegare decisioni critiche esclusivamente all’IA senza supervisione umana. Qualsiasi sistema automatizzato utilizzato per prendere decisioni che influiscano sulla vita dei cittadini deve prevedere un controllo umano adeguato. Un altro divieto riguarda la raccolta e il trattamento dei dati personali senza le dovute garanzie di sicurezza e conformità al GDPR.
La conformità dei sistemi. Il rischio di dipendenza da fornitori privari
Infine, le PA non possono adottare o sviluppare sistemi di IA senza seguire precisi standard tecnici e normativi. Tutti i sistemi devono essere affidabili, sicuri e privi di bias discriminatori. L’adozione dell’IA nella pubblica amministrazione deve quindi avvenire con un approccio responsabile, che bilanci innovazione e tutela dei diritti fondamentali dei cittadini.
Per fare tutto questo, la Pa è invitata a dotarsi di adeguato capitale umano. Uno dei punti più delicati di tutto il documento, insieme alla necessità di superare la distanza sul digitale tra le varie amministrazioni pubbliche.
L’adozione di questi criteri passa necessariamente dalle persone chiamate a lavorare su questi sistemi. Mentre un punto interrogativo resta lo sviluppo di questi sistemi. Se è vero che le Pa potranno sviluppare i propri sistemi e diventare ‘fornitori’ (provider nel documento), resta il rischio di dipendenza della Pa dai fornitori privati, quelli che davvero hanno creato le tecnologie oggi necessari ai sistemi di Ai.
Fonte : Repubblica
