Digitalizzazione: obiettivo equilibrio tra diritti fondamentali e algoritmi

Tra le missioni progettuali sulle quali si fonda il Piano di ripresa e resilienza trasmesso al Parlamento nel mese del gennaio 2021, assume particolare rilevanza il processo di digitalizzazione e modernizzazione della pubblica amministrazione. In questa sede, si vuole riportare l'attenzione sulle prime conseguenze derivanti da tale ricorso innovativo che, nel tempo, la dottrina e la giurisprudenza hanno avuto cura di esaminare in assenza di specifiche indicazioni legislative.

Tra le missioni progettuali sulle quali si fonda il Piano di ripresa e resilienza predisposto dal Governo all'esito della procedura di interlocuzione e definizione dello stesso, assume particolare rilevanza il processo di digitalizzazione e modernizzazione della pubblica amministrazione. Con riferimento al primo obiettivo, occorre osservare che nell’ultimo decennio non sono state ignorate le istanze volte a garantire una maggiore efficienza dell’azione amministrativa attraverso il ricorso a strumenti digitali in grado di semplificarne le procedure e velocizzarne i risultati. In particolare, è stato registrato un graduale impiego dell’Intelligenza Artificiale che, se pur a uno stato embrionale di adattamento al contesto pubblico, ha consentito di osservare i primi risultati conseguenti a un cambiamento del paradigma decisionale nell’ottica della progressiva modernizzazione dell’attività amministrativa. In questa sede, si vuole riportare l’attenzione sulle prime conseguenze derivanti da tale ricorso innovativo che, nel tempo, la dottrina e la giurisprudenza hanno avuto cura di esaminare in assenza di specifiche indicazioni legislative. In particolare, partendo dalle opportune osservazioni che si pongono su un piano interno e procedimentale, si ritiene che la prospettiva di riforma debba tenere al pari in considerazione un piano esterno, alla luce degli effetti che l’approccio innovativo può produrre nella sfera delle libertà fondamentali riconosciute alla persona. In altri termini, nelle dinamiche di digitalizzazione le categorie fondamentali dello Stato di diritto devono continuare ad assumere un ruolo centrale.

In quest’ottica, si ritiene che il principio di legalità, al fine di individuare le basi per l’ammissibilità di strumenti digitali conformi al canone di buon andamento, economicità ed efficienza dell’azione amministrativa, rappresenta al contempo sia un parametro di perfezionamento del sistema sia un parametro per il bilanciamento tra l’avanzamento della tecnologia e i diritti fondamentali. Il fine ultimo è individuare un possibile approccio legislativo che, nella prospettiva di una maggiore tutela dei diritti fondamentali dei destinatari dei provvedimenti amministrativi, fornisca le linee guida sostanziali pertinenti alla nuova attività amministrativa che si accinge ad entrare nella dimensione della decisione automatizzata.

Lo stato dell’arte: le criticità al vaglio della giurisprudenza amministrativa

Con riferimento allo stato dell’arte, la registrata normativa poco organica e lacunosa in punto di indicazioni sostanziali comporta che l’amministrazione, agendo tra il modello tradizionale e il modello innovativo, si ritrova centro di imputazione di responsabilità di un’attività suggerita ma non regolata.

Le conseguenze si sono riverberate, in più occasioni, nella lesione delle libertà dei destinatari dei provvedimenti resi sterili dall’intervento umano, con conseguente sostituzione del funzionario “robotico”, esente da qualsiasi tipo di controllo e non imputabile di responsabilità, emergendo come il ricorso a strumenti automatizzati abbia una portata non meramente interna al procedimento amministrativo, potendo infatti comportare un impatto significativo sulle libertà fondamentali della persona, costituzionalmente tutelate.

Le questioni sorte, che la giurisprudenza amministrativa italiana è impegnata a dirimere in assenza di concrete indicazioni normative, derivano da un equivoco di partenza fondato sulla postulazione che individua l’algoritmo come un atto amministrativo. Tale approccio, statico, ha infatti determinato provvedimenti amministrativi riconosciuti illegittimi e lesivi dei diritti dei destinatari di un flusso di conoscenze esterne, sostitutive della volontà procedimentale dell’amministrazione.

Per rapportare la problematica al piano concreto, risultano esemplificative dei profili critici preannunciati le procedure di mobilità degli insegnanti previste dalla legge 13 luglio 2015 n. 107 in occasione delle quali si è realizzata la violazione dei diritti fondamentali dei destinatari sia sul piano procedimentale-sostanziale sia sul piano processuale.

Nell’attuazione della procedura nazionale di mobilità prevista dall’articolo 1, comma 108 della citata legge, il ministero dell’Istruzione, dell’Università e della Ricerca, ha affidato le assegnazioni dei docenti presso le varie sedi nazionali a un software prodotto da una società privata, finendo per devolvere la decisione amministrativa unicamente al meccanismo automatico. I risultati cui si è pervenuti attraverso quest’ultimo, pertanto, hanno avuto diretta incidenza, sulle posizioni giuridiche rilevanti dei destinatari del risultato automatizzato, sostituitosi così alla volontà amministrativa.

In assenza di un fondamento normativo, la giurisprudenza amministrativa e la dottrina hanno prospettato un approccio correttivo agli strumenti digitali in questione, ricorrendo ai principi che presiedono la tradizionale azione amministrativa. Con riferimento al piano procedimentale, la Sesta Sezione del Consiglio di Stato con le note sentenze n. 2270 e n. 8472 del 2019, condividendo nella specie le potenzialità del ricorso all’algoritmo, ne ha anche delimitato l’ambito di applicazione.

In primo luogo, in relazione al tipo di attività amministrativa che viene in rilievo, la giurisprudenza non ritiene esservi una limitazione intrinseca, ammettendo l’accesso agli strumenti digitali sia nell’ipotesi di attività vincolata sia nell’ipotesi di attività discrezionale. È stato infatti osservato come le procedure di raccolta e sistematizzazione dei dati debbano collocarsi nella fase istruttoria del procedimento, con le conseguenti verifiche, tipiche della fase procedimentale in cui si inseriscono, derivanti da un accertamento umano.

Nell’una e nell’altra ipotesi infatti, non vi è dubbio che il principio di legalità nella declinazione di legalità indirizzo, attribuisce alla pubblica amministrazione lo scopo di perseguire l’interesse pubblico, individuando nel soggetto pubblico il titolare del potere pubblico. Ciò non contempla alcun margine di autonomia tale da spostare la suddetta titolarità in capo al maccanismo automatico, indipendentemente dall’attività amministrativa che viene in rilievo.

Chiarito quanto premesso sul piano della legalità indirizzo, nelle citate sentenze la giurisprudenza amministrativa ridimensiona anche il divario rispetto al principio di legalità nella sua declinazione di legalità garanzia. Perché se è vero che i risultati automatizzati non possono tradursi automaticamente nel contenuto delle decisioni del soggetto pubblico, è anche vero che quest’ultimo non deve ignorarne i benefici che derivano da un impiego come moduli istruttori. Così, in relazione all’attività vincolata il vantaggio si individua nella riduzione della tempistica procedimentale con riferimento a operazioni seriali e prive di discrezionalità; in relazione all’attività discrezionale, invece, il vantaggio risiede nella diminuzione degli spazi di interferenza e nella maggiore garanzia di una decisione imparziale.

Alla luce della titolarità del potere pubblico finalizzato al perseguimento e alla realizzazione dell’interesse pubblico in capo alla pubblica amministrazione, si configura un ulteriore elemento di discrasia nella imputabilità dell’attività, caratterizzata da processi decisionali automatizzati, alla pubblica amministrazione.

È stato efficacemente osservato come l’applicazione delle norme tradizionali impone di garantire la riferibilità della decisione finale all’autorità. Ciò pertanto implica non soltanto il su ricordato intervento umano nel procedimento, sia in termini di ricorso agli strumenti istruttori sia in termini di verifica dei risultati, ma un’incidenza in chiave critica nelle acquisite elaborazioni automatizzate. Una “manipolazione umana“ dei risultati ottenuti consentirebbe dunque la stessa imputabilità dell’attività all’organo pubblico, non potendosi immaginare conforme al principio di legalità indirizzo né ai principi che presiedono l’attività amministrativa, un’imputabilità in capo allo strumento digitale.

Come si vedrà oltre, la corretta operatività in tema di imputabilità presuppone anche l’accessibilità e conoscibilità degli strumenti cui si ricorre. Dai rilievi posti dalla giurisprudenza ben si comprende, dunque, come l’intervento del legislatore finalizzato alla digitalizzazione della pubblica amministrazione vedrà, con riferimento agli interventi sul piano procedimentale, come stella polare il principio di legalità nella declinazione di legalità garanzia per incentivare un utilizzo consapevole del mezzo automatizzato.

Con riferimento al piano processuale, alla luce delle osservazioni fatte proprie dalla giurisprudenza, emerge come l’utilizzo degli algoritmi può porsi in un più concreto contrasto con i diritti fondamentali che in questa sede si vogliono porre al centro dell’attenzione. Come anticipato, un importante aspetto rilevato riguarda la piena conoscibilità del modulo utilizzato.

Fin dalla sentenza del Consiglio di Stato dell’8 aprile 2019 n. 2270, è stato chiarito come il meccanismo che presiede la decisione automatizzata debba essere conoscibile e accessibile. In assenza di un’accessibilità, i destinatari della decisione pubblica non soltanto non saranno in grado di comprendere le ragioni che presiedono la scelta, da ciò derivandone la frustrazione dell’affidamento riposto nell’azione amministrativa, ma non potranno neanche articolare processualmente la lesione che assumono aver subito per il tramite del risultato automatizzato. In questo senso, anche il diritto di difesa risente pienamente della procedura automatizzata.

La soluzione prospettata, tuttavia, implica una traducibilità in termini giuridici della regola tecnica sottesa al risultato procedimentale, potendosi affermare, senza alcun dubbio, che la criticità del fenomeno si rileva proprio con riferimento a questo piano. È stato osservato, infatti, come la stessa accessibilità da parte del soggetto pubblico non risulta essere completa. Laddove termina l’apporto umano, dunque nella fase di inserimento dei dati da elaborare, si rinviene il limite della conoscibilità della regola che presiede l’elaborazione delle informazioni recepite dal sistema di Intelligenza Artificiale e determinanti l’algoritmo e di cui lo stesso soggetto pubblico non possiede l’accesso.

Allora la conoscibilità dell’algoritmo dovrebbe essere garantita dapprima in via interna a chi ne fa ricorso, dunque al soggetto pubblico e conseguentemente ai destinatari delle decisioni amministrative. Soltanto valorizzando tale accessibilità, nell’ottica di un rafforzamento del principio di trasparenza amministrativa, si può pensare a un utilizzo controllato dello strumento digitalizzato. Obiettivo, quest’ultimo, che nella prospettiva di una riforma digitale dovrà senz’altro contemperare le esigenze di natura pubblicistica ora rappresentate e la riservatezza vantata dai fornitori dei meccanismi informatici.

Alla luce di quanto premesso, emerge dunque come la possibilità di fornire la spiegazione della logica sottostante la decisione adottata con l’aiuto dell’Intelligenza Artificiale, venga avvertita come esigenza sostanziale e processuale per l’impatto che la decisione automatizzata può avere sulla vita dei destinatari. Ritornando al caso di specie, che ha rappresentato il campo di riferimento per le osservazioni fatte proprie dalla giurisprudenza, l’impatto diretto delle decisioni automatizzate si può rilevare in specifici ambiti.

In relazione alle determinazioni assunte si individua, in primo luogo, la violazione del diritto a una buona amministrazione sancito dall’articolo 42 della Carta europea dei diritti umani laddove l’Amministrazione non soltanto non ha assicurato il buon andamento dell’attività, in ossequio al principio costituzionalmente presidiato, ma ha negato anche il diritto di accesso al codice sorgente dell’algoritmo utilizzato. Le ragioni ben si individuano nella stessa ignoranza, da parte dell’Amministrazione, del codice utilizzato ma che ha avuto ulteriore riflesso nella privazione della parte motivazionale dei provvedimenti.

In tal senso il piano sostanziale interseca anche quello processuale, perché dal negato accesso agli atti è ulteriormente derivata la privazione del diritto fondamentale di agire in giudizio, non potendo i destinatari dei provvedimenti articolare materialmente la lesione dei rispettivi interessi legittimi né il giudice amministrativo svolgere un sindacato sulla correttezza del processo automatizzato.

Un ulteriore ambito si individua nella limitazione imposta all’individuo sia come lavoratore, sia nella sfera della propria libertà familiare. Con riferimento al primo profilo, il destinatario della decisione ministeriale non vede rispettato il diritto sancito all’articolo 35 della Costituzione , laddove a fronte di una espressa preferenza nelle provincia indicata e in presenza di posti disponibili, si vede obbligato a un trasferimento in sedi ben più lontane rispetto a quelle indicate, all’esito del procedimento automatizzato. Appare evidente che l’esito dell’elaborazione non si è posto nel rispetto della tutela del lavoro «in tutte le sue forme e applicazioni».

Con riferimento al secondo profilo, di certo non meno rilevante, risulta frustrato il rispetto della vita famigliare e privata, tutelato dall’articolo 8 della Convenzione europea dei diritti dell’uomo e dalla Costituzione. L’imposizione di un trasferimento non improntato a criteri di proporzionalità e ragionevolezza non soltanto determina sul piano interno un cattivo andamento dell’attività pubblica, nella specie dell’attività di istruzione e formazione, ma sul piano sociale è in grado di incidere in via ancora più profonda e gravosa, alla luce gli oneri economici, nonché della privazione degli affetti familiari e dell’unità familiare imposta ai destinatari del provvedimento.

Alla luce dei profili emersi sia sul piano individuale sia sul piano sociale, è possibile affermare che la risposta da parte dell’Amministrazione alle esigenze di semplificazione tramite il ricorso agli strumenti più evoluti, rende manifesta l’incompatibilità tra questi ultimi e il tradizionale paradigma decisionale dell’attività amministrativa. Dallo stato dell’arte, risulta dunque opportuno riportare l’utilizzo dello strumento algoritmico al principio di legalità, consentendo un dialogo tra tecnologia e principi fondamentali dell’azione amministrativa, che renda i nuovi strumenti governabili, di agevole la diffusione e in linea con i diritti fondamentali della persona.

Prospettive di riforma: ricognizione normativa e l’approccio comparastico

Partendo dallo stato dell’arte sul piano normativo, è possibile delineare un sistema di fonti multilivello da cui trarre i principi che, unitamente considerati, si prestano a fungere da linee guida per una costruzione normativa organica del nuovo paradigma decisionale. A tal fine, in relazione alla normativa nazionale, meritevole di considerazione risulta il Codice dell’Amministrazione Digitale (Cad, Dlgs n. 82/2005), recante le disposizioni che promuovono un processo di valorizzazione del patrimonio informativo, improntando l’azione amministrativa ai principi di efficienza ed efficacia in nome del generale principio di un giusto procedimento.

Ancora, interessante risulta la più recente delega contenuta nella legge 7 agosto 2015 n. 124, il cui articolo 1 prevede la Carta della cittadinanza digitale che garantisce ai cittadini e alle imprese, anche attraverso l’utilizzo delle tecnologie dell’informazione e della comunicazione, il diritto di accedere a tutti i dati, i documenti e i servizi di loro interesse. Considerando il piano del diritto dell’Unione Europea, giova osservare che la Carta di Nizza sancisce il principio di conoscibilità, riconducibile all’articolo 41, che individua la possibilità, in tema di algoritmo, di ricevere le informazioni significative sulla logica utilizzata.

Il Regolamento UE n. 2016/679 (c.d. RGPD) ha invece il merito di individuare altri due principi. Il principio di conoscibilità, riconducibile all’articolo22, prevede che le decisioni riguardanti le persone fisiche non devono essere unicamente basate su un processo automatizzato, dovendo sempre esserci un contributo umano ogniqualvolta esse possano incidere significativamente sulle persone alle quali afferiscono. Il principio di non discriminazione algoritmica è invece individuabile al considerando n. 71 del GDPR, ai sensi del quale il titolare del trattamento dei dati personali deve prevenire la verificazione di errori e inesattezze discriminatorie in sede di procedimento.

Alla luce del sistema di riferimento, è auspicabile un intervento che, riportando al centro del processo di digitalizzazione il principio di legalità, valorizzi un sistema normativo che compendi le libertà e categorie fondamentali nell’ambito del mutato paradigma decisionale che non può più essere sede di improvvisati adattamenti. Nell’intenzione di far sì che i valori fondamentali dell’azione amministrativa, tramite per la concreta tutela dei diritti fondamentali della persona, vengano enucleati attraverso una declinazione in sede di legislazione ordinaria,merita di essere valorizzato anche un approccio comparatistico.

La Francia, in particolare, rappresenta un termine di confronto importante con la sua “Loi pour une Republique numerique” (il Digital Republic Act, legge n. 1321 del 2016) con cui ha disciplinato il modo in cui indirizza alla trasparenza e alla responsabilità del procedimento algoritmico. Inoltre nel 2018 il Conseil Constitutitionnel della Repubblica francese, ha svolto delle considerazioni relative alle decisioni amministrative algoritmiche, al fine di adeguare la legge nazionale alle direttive contenute nel RGDPR. Nell’approccio comparatistico si deve tener conto senz’altro delle indicazioni eurounitarie. A livello europeo infatti sono stati adottati documenti finalizzati a una comune strategia dell’intelligenza artificiale tra i quali il documento de L’intelligenza artificiale per l’Europa, o ancora il Piano coordinato sull’Intelligenza Artificiale. Da ultimo, nel 2019 è stata approvata una risoluzione del Parlamento Europeo concernente Carta robotica, in cui ancora una volta viene supportato lo sviluppo dell’innovazione ma nel rispetto della Carta dei diritti fondamentali dell’Unione europea, la cui violazione, conseguente a un utilizzo doloso dell’intelligenza artificiale, gli Stati membri sono tenuti a prevenire. Ulteriore contributo è rappresentato, inoltre, dal Documento sulla trasparenza e responsabilità degli algoritmi, pubblicato nel 2017 dalla Associazione statunitense della meccanica computazionale e al quale si riconosce il merito di sancire il dovere di consapevolezza e il dovere di spiegazione in capo a chi usufruisce di sistemi algoritmici che possono pregiudicare gli individui e la società.

Si prospetta dunque la possibilità per l’ordinamento italiano di avviare una rivoluzione coordinata con il contesto eurounitario, verso la valorizzazione di normative di settore in luogo di regolamentazioni generiche, salvo per le indicazioni accomunate da carattere tecnico.