Una normativa per l’intelligenza artificiale contro il rischio dell’algocrazia

05 aprile 2022

Di Serena Ricci

Il professore di sociologia dell’Università di Wisconsin-Milwaukee, A. Aneesh, nel suo libro Virtual Migration ha introdotto e teorizzato il concetto di algocrazia, ovvero di un modello di organizzazione senza i controlli burocratici classici, ma guidata solo da codici e algoritmi. Per evitare una società algocratica è fondamentale normare i sistemi di intelligenza artificiale.
Il nostro Governo ha adottato, a dicembre 2021, il Programma strategico per l’intelligenza artificiale 2022-2024, definendo le ventiquattro politiche da implementare nei prossimi tre anni al fine di potenziare il sistema di AI. A tal fine sono state stanziate importanti risorse economiche sia nel Piano Nazionale di Ripresa e Resilienza per la ricerca applicata, sia mediante due fondi nazionali: il Fondo per la crescita sostenibile (73 milioni di euro), destinato a finanziare progetti sulle dinamiche dell’AI e della block-chain e il Fondo per lo sviluppo delle tecnologie e delle applicazioni di AI, block-chain, Internet of Things, (15 milioni di euro). Ulteriore incentivo deriva dal cofinanziamento nazionale degli European Digital Innovation Hub che agiscono nei servizi innovativi ad alta specializzazione.
È doveroso interrogarsi sulle modalità di gestione del rapporto tra AI e le imprese. Può un robot sedere all’interno di un Consiglio di Amministrazione? La Deep Knowledge Ventures di Hong Kong, società d'investimento in capitale di rischio interessata alle biotecnologie, alla medicina rigenerativa e alla ricerca farmaceutica, ha nominato nella squadra come consigliere un programma di intelligenza artificiale, con diritto di voto, che si chiama VITAL (Validating investment tool for advancing life sciences), capace di prevedere quali investimenti avranno maggiore possibilità di successo.


Quali ambiti permea l’AI? Nel campo sanitario alcuni pacemaker funzionano senza l’azione del medico e il 50% delle transazioni finanziarie viene svolto tramite algoritmi utilizzati da coloro che le controllano (Banca d’Italia e Consob). Nel settore della giustizia, tramite le tecnologie di intelligenza artificiale oggi disponibili, il corpus giurisprudenziale e normativo sarà annotato e “trattato” con algoritmi che potranno prevedere gli esiti di un giudizio, estrarre le argomentazioni giuridiche (più convincenti?), semplificare l’opera di redazione delle massime giurisprudenziali. 
È dunque sempre più rilevante valutare se i sistemi di AI possano avere una responsabilità civile: se un funzionario prende una decisione sulla base di un algoritmo chi ne risponde?
La domanda che ci pone il Presidente Violante è se l’AI sia uno strumento o piuttosto un ambiente: è l’azienda a doversi mettere nell’AI o è l’AI a dover essere messa nell’azienda? Secondo il Presidente Violante siamo noi a doverci mettere nel mondo di automazioni creato dall’AI per poterlo governare e, dal momento che la AI ci permea dappertutto, è importante regolamentarla.
La Commissione UE ha proposto un regolamento sull’intelligenza artificiale che classifica i prodotti che utilizzano completamente o parzialmente il software AI in base al rischio di impatto negativo su diritti fondamentali quali la dignità umana, la libertà, l’uguaglianza, la democrazia, il diritto alla non discriminazione, la protezione dei dati e, in particolare, la salute e la sicurezza. Più il prodotto è suscettibile di mettere in pericolo questi diritti, più severe sono le misure adottate per eliminare o mitigare l'impatto negativo sui diritti fondamentali, fino a vietare quei prodotti completamente incompatibili. Il regolamento riesce in tal modo a tutelare tali diritti da possibili abusi derivanti dall’uso dell’AI, anche se a volte il prezzo da pagare è un minimo di protezionismo e qualche limite in più alla ricerca e allo sviluppo.
E in Italia? il diritto d’impresa dovrà assolutamente affrontare il problema del rapporto con l’AI e, come suggerito dal Professore di diritto civile dell’Università La Sapienza di Roma, Guido Alpa, sarà necessario “un pizzico di fantasia” da parte dei giuristi.