L’Intelligenza Artificiale: verso un utilizzo regolamentato

06 agosto 2021

Di Serena Ricci

Il 5 luglio scorso il Garante per la Privacy italiano ha sanzionato la società Foodinho, controllata da Glovo App 23, per l'utilizzo di un sistema di Intelligenza Artificiale potenzialmente discriminatorio, impiegato nel servizio di consegna a domicilio. Il provvedimento del Garante, oltre a sanzionare la società al pagamento di 2,5 milioni di euro, ha disposto che, per mettersi in regola, dovrà modificare il trattamento dei dati dei lavoratori ottemperando alle prescrizioni dell'Autorita'. È stata evidenziata infatti l’assenza di trasparenza nell’utilizzo degli algoritmi sia per la gestione dei rider, sia per l'assegnazione degli ordini, sia per la prenotazione dei turni di lavoro effettuati. Il Garante italiano ha dato attuazione ad una cooperazione con il Garante spagnolo (AEPD) per verificare il funzionamento della piattaforma digitale di proprietà della capogruppo GlovoApp23 al fine di valutare l’esattezza e la pertinenza dei dati utilizzati dal sistema nell’interazione tra rider e consumatori, anche per scongiurare il rischio di riduzione delle consegne assegnate a ciascun rider o di esclusione dalla piattaforma.

L’utilizzo di Intelligenza Artificiale necessita sempre più urgentemente di una regolamentazione dal momento che gli algoritmi utilizzati possono non solo identificare il volto di un soggetto in una folla, ma anche individuare le sue caratteristiche personalissime e sensibili; riescono a valutare le capacità e l'affidabilità dei candidati per una posizione lavorativa, basandosi semplicemente su video-interviste correndo il rischio di un impiego discriminatorio dei sistemi adottati. L'Unione Europea (e parallelamente gli Stati Uniti) mirano ad una regolamentazione delle applicazioni di Intelligenza Artificiale “ad alto rischio”. Lo scorso 21 aprile, come preannunciato dalla Presidente Von der Leyen nei suoi orientamenti politici per la Commissione 2019-2024, "Un'Unione più ambiziosa", la Commissione Europea ha pubblicato una nuova proposta di Regolamento dell'Intelligenza Artificiale, che dovrà essere discussa e approvata dal Consiglio e dal Parlamento Europeo.

La proposta di Regolamento, che sarà oggetto di esame anche da parte della Commissione politiche dell’ Unione europea della Camera dei deputati, alla ripresa dei lavori parlamentari, stabilisce regole armonizzate sull'intelligenza artificiale il cui utilizzo, garantendo un miglioramento delle previsioni, l'ottimizzazione delle operazioni e dell'assegnazione delle risorse e la personalizzazione dell'erogazione di servizi, può portare al conseguimento di risultati vantaggiosi dal punto di vista sociale e ambientale nonché di vantaggi competitivi fondamentali alle imprese e all'economia europea. L'interesse dell'Unione è quello di mantenere la leadership tecnologica consentendo ai cittadini europei di beneficiare di nuove tecnologie sviluppate e operanti in conformità ai valori, ai diritti fondamentali e ai principi dell'Unione. Già nel Libro bianco sull’Intelligenza artificiale, pubblicato il 19 febbraio 2020 dalla Commissione, venivano definite le opzioni strategiche su come conseguire il duplice obiettivo di promuovere l'adozione dell'IA e affrontare i rischi associati a determinati utilizzi di tale tecnologia. La proposta di Regolamento mira a sviluppare un ecosistema di fiducia proponendo un quadro giuridico per un'IA affidabile, fissando regole armonizzate per lo sviluppo, l'immissione sul mercato e l'utilizzo di sistemi di IA nell'Unione. Alcune pratiche di IA particolarmente dannose sono vietate in quanto in contrasto con i valori dell'Unione e viene definita una solida metodologia per la gestione dei rischi impiegata per definire i sistemi di IA "ad alto rischio" per la salute e la sicurezza o per i diritti fondamentali. Sono stabiliti dei requisiti obbligatori comuni applicabili alla progettazione e allo sviluppo di alcuni sistemi di IA prima della loro immissione sul mercato, che saranno resi ulteriormente operativi attraverso norme tecniche armonizzate. Il Comitato Europeo per la Protezione dei Dati ha espresso alcune perplessità in un recente parere sottolineando che la proposta di Regolamento IA non prevede nuovi diritti individuali per consumatori/cittadini e non obbliga gli sviluppatori di intelligenza artificiale a coinvolgere nella progettazione degli algoritmi i soggetti potenzialmente interessati. E’ comunque imprescindibile che vengano sempre garantiti i diritti fondamentali a fronte di un ampio utilizzo dell’Intelligenza artificiale.