La diffusione degli strumenti di intelligenza artificiale nell’attività provvedimentale della pubblica amministrazione spagnola / Riccardo Calvara

Dottorando di ricerca presso l’Università del Salento

1. Il contesto socio-economico spagnolo in tema di digitalizzazione della pubblica amministrazione

È noto il ruolo delle tecnologie dell’informazione nell’efficientamento dei processi e nel miglioramento dei servizi delle organizzazioni pubbliche e private. L’incorporazione degli strumenti informatici sta investendo contemporaneamente tutti i settori della società, e il settore pubblico non è rimasto indifferente.

La tecnologia può essere utilizzata sia all’interno della macchina amministrativa, con l’obiettivo di agevolare l’organizzazione degli uffici, sia verso l’esterno, attraverso l’elaborazione elettronica dei procedimenti e la digitalizzazione dei servizi da erogare a cittadini e imprese.

La trasformazione digitale della pubblica amministrazione, inoltre, appare strategica per accrescere la competitività dell’intero sistema economico[1].

In quest’ottica, diversi Paesi hanno deciso di investire risorse per garantirsi un apparato amministrativo al passo coi tempi. In Europa, il Next Generation EU ha imposto agli Stati membri un cambio di passo verso la digitalizzazione dell’attività amministrativa: circa il 33% delle risorse del piano di investimento europeo al capitolo «Digital trasformation» sarà investito per la voce «E-governament, digital public services and local digital ecosystems»[2].

La Spagna non è estranea alle dinamiche della trasformazione digitale della PA.

Il Plan de Recuperación, Transformación y resiliencia assegna alla componente 11 “Modernizzazione delle pubbliche amministrazioni” circa 4,24 miliardi di euro. Due dei cinque obbiettivi strategici della componente riguardano la “digitalizzazione della pubblica amministrazione” e l’“ammodernamento delle funzioni pubbliche”.

Secondo il Piano spagnolo, le risorse saranno investite per il miglioramento dell’attività amministrativa attraverso l’alleggerimento dei dipendenti pubblici dai compiti a basso valore aggiunto mediante l’automazione dei processi.

Per ottenere i risultati auspicati, il Piano stimola la transizione verso un’amministrazione “basata sui dati” e l’impiego di sistemi di intelligenza artificiale in grado di elaborarli[3].

Allo sviluppo di soluzioni di intelligenza artificiale è dedicata la componente 16 del Plan de Recuperación, Transformación y resiliencia, dotata di 540 milioni di euro. Risorse che hanno lo scopo di “mettere a terra” la Estrategia Nacional de Inteligencia Artificial.

In questo contesto economico di favore, la Spagna ha dato il via alla digitalizzazione dell’amministrazione dello Stato i cui obiettivi sono contenuti all’interno del Plan de Digitalización de las AAPP 2021-2025 e nella Estrategia de Inteligencia Artificial 2024, entrambi radicati nell’agenda España Digital 2026.

La lettura delle due pianificazioni è interessante per comprendere l’evoluzione della pubblica amministrazione spagnola.

I piani rivelano, da un lato, l’intento di utilizzare sistemi di IA per digitalizzare settori come la sanità, la giustizia, la fiscalità, il lavoro e l’accoglienza dei migranti; dall’altro, l’informatizzazione di singoli procedimenti amministrativi annodati su asset strategici per lo sviluppo economico del Paese, quali la contrattazione pubblica e la concessione di benefici e sovvenzioni.

Alla pianificazione statale si aggiungono le strategie messe in atto dalle singole comunidades autonomas e dalle amministrazioni locali, che negli ultimi tempi hanno dedicato alla digitalizzazione e all’implementazione dei sistemi di IA agende di sviluppo sempre più puntuali[4].

Non mancano, quindi, progetti di automazione dell’attività amministrativa anche a livello locale.

Tra i tanti, meritano di essere citati il Permisos Digitales de Construcción adottato recentemente dall’Ayuntamiento de Málaga e il sistema BidGenius sviluppato dal Ayuntamiento de Madrid.

Il primo è un sistema di automazione che permette di verificare la conformità dell’istanza presentata dal cittadino ai parametri urbanistici necessari per il rilascio del permesso di costruire.

Il secondo, è un sistema di IA generativa capace di redigere automaticamente documenti di gara, come bandi e capitolati tecnici, analizzando quelli precedentemente elaborati dai funzionari e adattandoli al contesto della nuova procedura.

2. Implicazioni giuridiche dell’automazione dell’attività provvedimentale della pubblica amministrazione

Dal contesto spagnolo emerge un quadro composito che vede l’intelligenza artificiale come la tecnologia principe delle strategie di digitalizzazione dell’attività amministrativa[5], e che merita di essere scomposto per comprenderne la portata giuridica.

In primo luogo, occorre osservare che le strategie di digitalizzazione non interessano semplicemente l’informatizzazione delle attività di back-end o l’offerta di servizi pubblici smart ma anche l’automazione dei procedimenti amministrativi.

Questa considerazione è rilevante perché davanti alla trasformazione digitale non tutta l’attività amministrativa è interessata dalle stesse questioni giuridiche.

L’introduzione di strumenti informatici nelle attività non provvedimentali – come l’impiego di algoritmi per l’erogazione di servizi pubblici legati alle smart cities o di chatbot per la comunicazione tra amministrazione e cittadini - non è esente da rischi[6].

Si pensi all’impiego di dati per l’allenamento e la messa in esercizio degli algoritmi, ai possibili rischi legati al digital divide, all’effettiva accessibilità dei servizi pubblici, ai fenomeni di discriminazione o di artificial hallucination degli agenti conversazionali.

Problemi che la PA condivide con il settore privato e che non sembrano stravolgere il paradigma dell’azione amministrativa.

La scelta di digitalizzare l’attività provvedimentale[7], viceversa, non può essere considerata “neutra” rispetto al tradizionale esercizio del potere pubblico[8].

In secondo luogo, è bene notare come la transizione della pubblica amministrazione spagnola non riguarda solo la trasposizione di documenti cartacei in formati digitali o la reingegnerizzazione di procedure analogiche su piattaforme online[9], ma si è avviata verso l’automazione dei procedimenti tramite l’impiego di algoritmi più o meno intelligenti[10].

Questo dato impone di riflettere sul contesto normativo esistente e sulla capacità di quest’ultimo di garantire i diritti dei destinatari dei provvedimenti amministrativi anche dinanzi all’impiego di algoritmi di intelligenza artificiale[11]. Alcuni di questi presentano degli elementi inediti: sono intrinsecamente dotati della capacità di “spostare” il centro decisionale – ovvero il “perché” e il “come” della decisione – dall’uomo-funzionario alla macchina; si caratterizzano per una certa “opacità” dell’iter logico seguito.

Tali caratteristiche, non presenti nei sistemi algoritmici di tipo deterministico[12], impongono interrogarsi su alcune questioni: quali tipi di provvedimenti amministrativi possono essere automatizzati? È possibile automatizzare del tutto l’attività provvedimentale della pubblica amministrazione o è necessario sottrarne una parte? Quali sono le implicazioni giuridiche del fenomeno della cd. black box?.

3. Stratificazione ed evoluzione del contesto normativo in tema di decisioni amministrative automatizzate

Il sistema normativo spagnolo in tema di decisioni amministrative automatizzate appare, più di altri Paesi, stratificato e non ancora sedimentato.

Sul tema occorre tenere in considerazione non solo la normativa nazionale, che negli ultimi anni ha subito numerosi interventi non riconducibili ad un unico corpus normativo, ma anche quella delle comunidades autonomas, la cui produzione normativa è in continua evoluzione.

Le pubbliche amministrazioni spagnole, inoltre, come quelle degli altri Paesi membri dell’UE, sono soggette alle disposizioni del recente Regolamento 2024/1689 in tema di intelligenza artificiale, il cd. AI Act[13]. Tale considerazione reca con sé la necessità di misurare le conseguenze derivanti dell’applicazione del regolamento europeo sulle strategie di automazione delle PPAA, ma anche di comprendere come il Legislatore spagnolo intenderà intervenire per adeguare la propria normativa.

3.1. I riferimenti costituzionali in tema di digitalizzazione del procedimento amministrativo

Prima di addentrarsi nella legislazione ordinaria, è necessario ricostruire la cornice costituzionale che accompagna la digitalizzazione della pubblica amministrazione spagnola.

La Costituzione spagnola conosce due articoli che fungono da riferimento: si tratta dell’art. 103, co. 1 e dell’art. 18, co. 4.

Il combinato disposto delle due norme offre un quadro regolatorio piuttosto chiaro.

Nell’ottica di limitare l’uso dell’informatica anche nell’attività amministrativa, l’art. 18.4 afferma che la legge potrà intervenire per vietare o disciplinare gli usi della tecnologia in grado di incidere negativamente sui diritti dei cittadini.

Tale previsione rappresenta un valido appiglio per il Legislatore ordinario per inibire l’uso di strumenti di automazione che possano pregiudicare i cittadini coinvolti nel procedimento amministrativo.

L’art. 103, invece, impone un vero e proprio limite all’introduzione di eventuali tecniche di automazione del procedimento amministrativo: queste non possono in alcun modo pregiudicare il perseguimento “in modo obiettivo” degli interessi generali.

Ciò vuol dire che la digitalizzazione deve garantire l’imparzialità dell’azione amministrativa e i suoi corollari in termini di accuratezza sia nella disamina degli interessi coinvolti nel procedimento, sia nella predeterminazione delle modalità di azione della pubblica amministrazione.

Sempre l’art. 103 specifica che l’azione della pubblica amministrazione deve essere orientata al principio dell’efficienza. Per questo motivo, anche l’introduzione di tecniche di automazione dovrà accrescere e non minare l’efficienza della macchina amministrativa.

Ciò impone alla pubblica amministrazione una valutazione ex ante, in termini di efficienza delle strategie di automazione, e una valutazione ex post, nel senso dell’effettivo miglioramento della procedura amministrativa.

Secondo l’impianto costituzionale, dunque, la pubblica amministrazione spagnola può e deve introdurre strumenti informatici, ma solo quando tale scelta risulti funzionale all’accrescimento dell’efficienza amministrativa e non arrechi pregiudizi alle garanzie, agli interessi e ai diritti dei privati.

3.2. La normativa statale in tema di decisioni amministrative automatizzate

In Spagna l’attività amministrativa è regolata principalmente da due leggi: la Ley 39/2015, de 1 de octubre, del Procedimiento Administrativo Común (LPAC), che si occupa di disciplinare il procedimento amministrativo e le relazioni cd. ad extra tra amministrazione e cittadini o imprese, e la Ley 40/2015, de 1 de octubre, de Régimen Jurídico del Sector Público (LRJSP), che detta disposizioni sul funzionamento interno della pubblica amministrazione e sui rapporti ad intra, ovvero tra pubbliche amministrazioni.

Sebbene contengano disposizioni significative in tema di automazione dell’attività amministrativa, i due testi normativi non appaiono acquietare le esigenze di regolazione delle decisioni algoritmiche basate su sistemi di IA[14].

La norma più interessante è l’art. 41 LRJSP, rubricato “Azione amministrativa automatizzata”.

Al primo comma, l’articolo prevede che: «Per azione amministrativa automatizzata si intende qualsiasi atto o azione svolta interamente per via elettronica da una pubblica amministrazione nell’ambito di un procedimento amministrativo e in cui non sia intervenuto direttamente un funzionario pubblico».

La disposizione si occupa, innanzitutto, di chiarire il concetto di “azione amministrativa automatizzata”[15]: ad essa debbono essere riferiti quegli «atti o azioni» compiuti «per via elettronica» «nell’ambito di un procedimento amministrativo» in cui il funzionario pubblico «non sia intervenuto direttamente».

Occorre osservare come tale definizione restringa l’ambito di applicazione della disposizione alla attività procedimentale della PA[16]. La norma non interviene per regolare quelle attività che, pur impiegando sistemi automatizzati, si trovino aldilà del perimetro del procedimento amministrativo[17]. Si pensi all’uso di sistemi tecnologici per l’espletamento delle attività di organizzazione interna degli uffici o per l’erogazione dei servizi pubblici.

La disposizione, poi, chiarisce che per “azione amministrativa automatizzata” deve intendersi non solo il provvedimento, quindi, “la decisione amministrativa automatizzata” ma anche l’attività e, quindi, tutto ciò che avviene durante il procedimento per supportare, preparare o adottare il provvedimento amministrativo.

Le regole dell’attività amministrativa automatizzata, dunque, si estendono oltre la fase decisoria e investono l’attività di iniziativa, l’istruttoria e la fase successiva all’adozione della decisione amministrativa.

In ultima analisi, l’art. 41 fa emergere la scelta del Legislatore spagnolo di prevedere una base giuridica che autorizzi la pubblica amministrazione ad automatizzare la propria attività. Automatizzazione che deve conoscere, in ogni caso, una forma di intervento pur “indiretto” del funzionario.

In quest’ottica, il secondo comma dell’art. 41 recita: «nel caso di un’azione amministrativa automatizzata devono essere stabiliti in anticipo l’organismo o gli organismi responsabili, a seconda dei casi, della definizione delle specifiche, della programmazione, della manutenzione, della supervisione e del controllo di qualità e, se necessario, della revisione del sistema informativo e del suo codice sorgente. Il documento indica anche l’organismo da ritenere responsabile ai fini della contestazione»

Si tratta, evidentemente, di una disposizione che dà corpo al ruolo affidato al funzionario all’interno dell’attività amministrativa automatizzata, attività che può dirsi legittima se, e solo se, siano stati previamente stabiliti gli organi responsabili delle fasi di programmazione, manutenzione, supervisione e revisione dei sistemi informatici, nonché l’organo responsabile ai fini della contestazione della decisione.

Al secondo comma dell’art. 41 ha fatto seguito l’articolo 13 co. 2 del Real Decreto 203/2021, de 30 de marzo, che approva il Reglamento de actuación y funcionamiento del sector público por medios electrónico.

La norma stabilisce che: «la determinazione di un’azione amministrativa come automatizzata deve essere autorizzata con una risoluzione del capo dell’organo amministrativo competente» e che tale deliberazione debba «indicare i ricorsi che possono essere presentati contro l’atto, l’organo amministrativo o giudiziario, a seconda dei casi, davanti al quale devono essere presentati e il termine per presentarli».

Secondo una parte della dottrina spagnola[18], il combinato disposto delle due disposizioni escluderebbe la possibilità che l’azione amministrativa possa effettivamente essere considerata “autonoma” in quanto, oltre a dover essere sempre formalmente attribuita a un organo amministrativo, dovrà essere sottoposta all’attività del funzionario quanto alle fasi di programmazione, supervisione e audit del sistema[19].

Nonostante la rilevanza dell’art. 41 e la sua eco negli studi comparatistici, la disposizione tradisce le proprie origini temporali in quanto - situata in un momento storico che non aveva visto l’esplosione dell’intelligenza artificiale e delle sue applicazioni nel procedimento amministrativo - non ne disciplina l’impiego.

La norma guarda in generale all’automazione dell’attività amministrativa, che è un “modo” di amministrare e che può avvenire mediante l’introduzione di strumenti anche diversi dall’intelligenza artificiale, a cui, difatti, non fa alcun cenno[20].

Come alcun cenno è fatto alle peculiarità insite ai sistemi che impiegano tecniche di machine learning e ai corollari di tali tecniche sulle garanzie dei soggetti interessati dall’attività decisionale della pubblica amministrazione.

Il tema, invece, è stato affrontato da due recenti interventi normativi: uno di soft law, la XVIII sezione della Carta de Derechos Digitales, approvata il 14 luglio del 2021 e uno di hard law, l’articolo 23 della Ley 15/2022, de 12 de julio, integral para la igualdad de trato y la no discriminación.

La sezione XVIII della Carta, rubricata “Diritti digitali dei cittadini nei confronti della pubblica amministrazione”, individua una serie di principi che la autorità pubbliche dovrebbero rispettare quando impiegano tecnologie digitali nella propria attività.

Sebbene si tratta di disposizioni prive di carattere normativo[21] al documento va dato il merito di suggerire una serie di garanzie per i cittadini dinanzi alla digitalizzazione delle attività amministrative e rispondono a molte delle domande che riguardano l’uso dell’IA nell’attività provvedimentale.

Di particolare interesse è il contenuto dei paragrafi 5, 6 e 7 della XVIII sezione.

Tornando su una delle garanzie previste dall’art. 41 LRJSP, il quinto paragrafo afferma la necessità che l’attività amministrativa automatizzata della pubblica amministrazione sia sempre accompagnata dall’indicazione dell’organo amministrativo responsabile[22].

Il sesto paragrafo, invece, è dedicato all’attività amministrativa automatizzata che impiega tecniche di intelligenza artificiale; in esso si prevedono delle garanzie dell’azione amministrativa e si riconoscono dei diritti ai cittadini destinatari.

In particolare, la Carta dispone che le decisioni e le attività automatizzate della pubblica amministrazione debbano rispettare il principio di buona amministrazione e i principi etici che guidano la progettazione e l’utilizzo dell’intelligenza artificiale.

Il documento, inoltre, afferma che le amministrazioni quando automatizzato le proprie attività sono chiamate a rispettare il principio della trasparenza amministrativa garantendo non solo la conoscibilità ovvero l’utilizzo di strumenti di IA per una data procedura, ma anche la comprensibilità dello strumento algoritmico, ovvero, la possibilità di conoscere il funzionamento del sistema.

Tanto, attraverso la diffusione di informazioni significative, quanto ai dati utilizzati dal sistema, al margine di errore dell’algoritmo, al suo impiego nell’ambito di una fase decisionale o non decisionale del procedimento amministrativo.

In relazione alle cd. decisioni amministrative automatizzate, la Carta dichiara che il soggetto interessato dal provvedimento ha il diritto a ottenere una motivazione che sia comprensibile, espressa in linguaggio naturale e che attenere non solo alle norme giuridiche pertinenti o alla tecnologia utilizzata, ma anche ai criteri che hanno determinato la logica algoritmica seguita nel caso concreto.

All’interessato dal provvedimento deve essere garantita, altresì, un’adeguata motivazione nel caso in cui il funzionario decida di discostarsi dalla soluzione proposta dal sistema automatizzato.

La Carta dichiara poi che i provvedimenti attinenti a un’attività discrezionale della PA debbono essere riservati alle persone fisiche, a meno che una legge non autorizzi l’utilizzo del sistema automatizzato mediante la predisposizione di adeguate garanzie procedimentali.

Nella sezione XXV della Carta, rubricata «Derechos ante la inteligencia artificial» vengono declamati alcuni diritti da garantire al momento dello sviluppo dei sistemi di intelligenza artificiale e poi per tutto il “ciclo di vita”.

In questo senso, il documento chiede che venga garantita fin dall’origine la trasparenza, la verificabilità, la spiegabilità e la comprensibilità dei sistemi, nonché la loro accessibilità. Viene previsto anche il diritto alla supervisione umana e alla contestabilità delle decisioni prese mediante sistemi di intelligenza artificiale.

L’adozione della Carta de Derechos Digitales è stata accolta con favore dalla letteratura spagnola che, tuttavia, ha criticato il carattere non normativo del documento che rischia di vanificare lo sforzo regolatorio e l’efficacia delle garanzie ivi previste[23].

A circa un anno di distanza dalla sua approvazione, il Legislatore spagnolo ha adottato la Ley 15/2022, de 12 de julio, integral para la igualdad de trato y la no discriminación.

La legge, all’art. 23 co. 1, stabilisce che: «(…) le amministrazioni pubbliche incoraggiano l’attuazione di meccanismi affinché gli algoritmi coinvolti nei processi decisionali utilizzati nelle amministrazioni pubbliche tengano conto di criteri di minimizzazione dei pregiudizi, trasparenza e responsabilità, ogniqualvolta sia tecnicamente possibile».

Il primo comma, dunque, pur volendo disciplinare l’attività provvedimentale automatizzata della pubblica amministrazione, si risolve in un mero rimando all’adozione da parte delle singole amministrazioni di misure che garantiscano, ove tecnicamente possibile, la trasparenza, la non discriminazione e l’accountability dei sistemi utilizzati.

Se il primo comma appare privo di carattere prescrittivo in quanto si limita a “incoraggiare” “ogniqualvolta sia tecnicamente possibile”, il secondo comma dell’art. 23, ai sensi del quale «Le amministrazioni pubbliche, nell’ambito delle loro competenze nel campo degli algoritmi coinvolti nei processi decisionali, privilegiano la trasparenza nella progettazione e nell’attuazione e l’interpretabilità delle decisioni da esse prese» appare quasi minimizzare la necessità di implementare principi chiave come la trasparenza by design delle soluzioni algoritmiche impiegate nei processi decisionali.

In quest’ottica, anche il terzo e il quarto comma, che fanno richiami ai principi etici che devono governare i sistemi di IA e alla necessità di promuovere un sistema di controllo della qualità degli algoritmi, si risolvono in semplici dichiarazioni programmatiche.

In questo caso, dunque, è la formulazione della norma a vanificarne il contenuto prescrittivo, che si rivela inidoneo a regolare l’ingresso degli algoritmi intelligenti nell’ambito dell’azione amministrativa automatizzata[24].

3.3. Le disposizioni adottate delle comunidades autonomas

Negli ultimi anni, le comunità autonome hanno prodotto diverse norme in tema di utilizzo dei sistemi di automazione nelle procedure amministrative[25].

Molte di queste si limitano a fare un richiamo ai principi della legislazione statale in tema di “attività amministrativa automatizzata”.

Ne è un esempio l’art. 76 della Ley 4/2019, de 17 de julio, de administración digital de Galicia, rubricato “Provvedimento amministrativo automatizzato”, che si occupa di richiamare una serie di disposizioni volte a garantire quanto previsto dagli art. 41 e 42 della Ley 40/2015 in tema di firma elettronica, tutela della supervisione del sistema e imputazione del risultato finale al funzionario responsabile.

Altre norme risultano di maggiore interesse perché ampliano il contenuto dispositivo previsto dalla legislazione statale.

Questo secondo gruppo di disposizioni può essere a sua volta suddiviso in due sottogruppi: alcune comunidad hanno deciso di introdurre una regolamentazione specifica dell’attività amministrativa automatizzata, con previsioni riferibili anche all’introduzione dei sistemi di IA; altre si sono occupate di disciplinare nel dettaglio l’uso di tali sistemi nell’attività decisionale della pubblica amministrazione, ponendosi significativamente al di là della cornice regolatoria statale.

Al primo sotto-gruppo possono essere riferite almeno tre disposizioni: l’art. 44 della Ley 26/2010, de 3 de agosto, de régimen jurídico y de procedimiento de las administraciones públicas de Cataluña; l’art. 40 del Decreto 622/2019, de 27 de diciembre, de administración electrónica, simplificación de procedimientos y racionalización organizativa de la Junta de Andalucía; l’art. 43 della Ley 5/2021, de 29 de junio, de Organización y Régimen Jurídico del Sector Público Autonómico de Aragón,

All’art. 44, la legge catalana sul procedimento amministrativo prevede, innanzitutto, che le amministrazioni pubbliche locali possano automatizzare le proprie attività solo rispettando i requisiti stabiliti dall’ordinamento giuridico. Nel richiamare le garanzie di cui all’art. 41 della LRJSP, il terzo comma specifica che l’azione amministrativa automatizzata non può pregiudicare né la competenza originariamente attribuita all’organo amministrativo né la competenza in ordine alla decisione dei ricorsi amministrativi.

Il quid pluris rispetto alla normativa statale si rinviene al secondo comma dell’art. 44, in base al quale: «sono suscettibili di provvedimento amministrativo automatizzato solo gli atti che possono essere adottati con una programmazione basata su criteri e parametri oggettivi».

L’intento della disposizione è chiaro: limitare l’impiego dei sistemi di automazione ai procedimenti della che favoriscono una predeterminazione oggettiva dei criteri e dei parametri in base ai quali viene assunta la decisione finale.

Circa nove anni più tardi, la Junta de Andalucía ha approvato un regolamento in tema di amministrazione elettronica, il Decreto 622/2019, de 27 de diciembre, de administración electrónica, simplificación de procedimientos y racionalización organizativa de la Junta de Andalucía.

Anche questo testo contiene una norma particolarmente interessante, l’art. 40. La disposizione è in parte sovrapponibile a quella catalana: oltre a richiamare le garanzie della legislazione statale, il secondo comma prescrive che: «Le attività che implicano giudizi di valore non possono essere svolte tramite azioni amministrative automatizzate».

Con il termine “giudizi di valore”, il legislatore[26] e la dottrina spagnola[27] identificano i criteri di scelta della pubblica amministrazione che non possono essere tradotti in formule matematiche ma richiedono una valutazione soggettiva da parte di un organo amministrativo.

In altre parole, ci si riferisce ai provvedimenti della pubblica amministrazione che si fondano su scelte assunte in base a giudizi che non sono il risultato di una predeterminazione matematica ma che sono frutto di una decisione puramente soggettiva e discrezionale del funzionario[28].

Più recente è la normativa adottada dalla comunidad de Aragón, di cui all’art. 43 della Ley 5/2021, de 29 de junio, de Organización y Régimen Jurídico del Sector Público Autonómico.

Anche questa disposizione contiene dei limiti – ulteriori rispetto a quelli previsti dalla normativa statale – sulla possibilità di automatizzare i procedimenti amministrativi.

Ai sensi del terzo comma, infatti, le PPAA aragonesi non possono automatizzare la propria attività né quando: «sia necessario applicare criteri decisionali soggettivi a decisioni individuali o collettive» né per «l’esecuzione di singole attività all’interno di un unico provvedimento o attività amministrativa».

In altre parole, viene anche qui previsto un freno alla diffusione dell’automazione nelle attività della PA che richiedono una valutazione puramente soggettiva e slegata da criteri predeterminati.

La legislazione andalusa, catalana e aragonese - sottraendo alcune decisioni amministrative all’automatizzazione - dispongono una vera e propria “riserva di umanità”[29].

Questo primo sotto-gruppo di disposizioni regionali, difatti, limita il ricorso ai sistemi di automazione dell’attività amministrativa alla sola attività vincolata della pubblica amministrazione[30], precludendo l’ingresso nell’attività provvedimentale dei sistemi di IA di tipo predittivo, tipicamente utilizzabili nell’ambito dei procedimenti discrezionali.

Le tecniche come il machine learning, infatti, non si basano su criteri preimpostati ma su inferenze statistiche che l’algoritmo apprende dall’osservazione e dall’elaborazione dei dati.

Ne consegue che le pubbliche amministrazioni di queste comunidad possono oggi utilizzare perlopiù sistemi di tipo deterministico che si prestano a una programmazione basata su logiche oggettive.

Un secondo sotto-gruppo di norme regionali, più recenti rispetto a quelle fin qui analizzate, è uscito dall’ambito di disciplina della legislazione nazionale e si è dedicato alla regolazione in senso lato dell’attività amministrativa che impiega nella sua fase decisionale sistemi algoritmici dotati di intelligenza artificiale.

Un esempio è dato dall’art. 16, co. 1 lett. l) della Ley 1/2022, de 13 de abril, de Transparencia y Buen Gobierno de la Comunitat Valenciana. In base alla disposizione, le pubbliche amministrazioni locali devono rendere trasparente l’elenco dei sistemi automatizzati che hanno un impatto significativo sulle procedure amministrative o sulla fornitura di servizi pubblici[31].

Tale elenco deve contenere una serie di informazioni – nel rispetto dei principi di trasparenza e spiegabilità – quali una descrizione in un linguaggio chiaro e semplice della progettazione, del funzionamento, della logica del sistema, del suo scopo e del suo impatto sulla decisione.

La norma, tuttavia, non individua direttamente dei requisiti di legittimità del procedimento amministrativo che impiega sistemi di IA.

A quest’ultima finalità è dedicata una disposizione contenuta nella Ley 14/2022, de 22 de diciembre, del Sistema Vasco de Garantía de Ingresos y para la Inclusión.

All’art. 86, infatti, viene disciplinato l’utilizzo di sistemi di IA nell’attribuzione dei benefici economici. In particolare, vengono stabiliti una serie di limiti e di garanzie relativi all’attività di controllo dei benefici pubblici concessi svolta mediante l’impiego di algoritmi intelligenti.

Il primo comma specifica che tale impiego non può estendersi a procedure che «implichino una decisione discrezionale o basata sull’analisi e sulla valutazione del concorso di circostanze». Tali procedure dovranno essere «riservate alle persone».

Nei commi successivi vengono individuate alcune garanzie di legittimità dell’azione amministrativa automatizzata mediante IA, tra cui il rispetto dei principi di uguaglianza, non discriminazione e buona amministrazione. I sistemi di intelligenza artificiale utilizzati, inoltre, dovranno essere verificabili e approvati dall’organismo competente.

Anche questa orma introduce una “riserva di umanità” delle decisioni discrezionali, ma si limita alla disciplina di un singolo procedimento amministrativo non occupandosi della generalità dei procedimenti amministrativi che impiegano tecniche di IA.

È questo, viceversa, l’obiettivo degli artt. 11 e 12 del Decreto-ley 2/2023, de 8 de marzo, de medidas urgentes de impulso a la inteligencia artificial en Extremadura[32].

Quanto alla diffusione dei sistemi di IA nel processo decisionale, infatti, l’Extremadura ha compiuto un passo in avanti rispetto alla normativa statale, rendendo prescrittive, ai sensi dell’art. 11, le previsioni contenute nella Carta de derechos digitales – soprattutto in tema di comprensibilità della decisione amministrativa algoritmica.

A tal fine, ai sensi dell’art. 12, si specifica che le amministrazioni dovranno rendere trasparenti e accessibili le informazioni relative al processo logico seguito dal sistema e alle convalide effettuate dall’organismo responsabile sul sistema.

Sulla stessa direttrice normativa, già inaugurata con la legge sulla trasparenza amministrativa 1/2022 si pongono gli articoli 41, 42, e 43 della Ley 6/2024, de 5 de diciembre, de simplificación administrativa de la Comunitat Valenciana.

Le disposizioni ivi contenute promuovono la diffusione di sistemi di automazione dell’attività amministrativa (art. 41) e di robotizzazione dei procedimenti amministrativi (art. 42), intesa come attività amministrativa del tutto priva di una forma di intervento umano.

La robotizzazione del procedimento amministrativo, in particolare, non può avvenire senza le dovute forme di trasparenza. Infatti, ai sensi del terzo comma dell’art. 43 si prevede che la creazione di un apposito registro dei sistemi algoritmici e di intelligenza artificiale, che includa informazioni l’ambito di applicazione dello strumento; la classificazione del sistema in base al suo livello di rischio complessivo; la descrizione dell’algoritmo.

Come appare evidente, a differenza della legislazione nazionale la normativa autonomica affronta nello specifico alcune delle questioni più problematiche legate all’uso dei sistemi di IA nei procedimenti amministrativi.

Tra le norme elencate, tuttavia, esistono differenze sostanziali. Alcune individuato dei “limiti all’ingresso” degli algoritmi nel procedimento amministrativo, circoscrivendo l’introduzione di tali sistemi nell’ambito di determinate attività e “riservando” espressamente al funzionario quelle caratterizzate da un certo dato di discrezionalità.

Altre norme, prescindono dalla tipologia di attività si occupano di elencare le garanzie che debbono essere soddisfatte ai fini della legittimità del provvedimento amministrativo finale.

3.4. L’evoluzione normativa in atto

Negli ultimi anni, il Legislatore spagnolo ha mostrato un certo interesse per la regolazione dell’intelligenza artificiale[33].

Un esempio di questa tendenza è la recentissima Ley 2/2025, de 2 de abril, para el desarrollo e impulso de la inteligencia artificial approvata in Galizia.

La legge si pone lo scopo di definire un quadro giuridico chiaro per la progettazione, l’acquisizione, l’implementazione e l’uso dei sistemi algoritmici nell’amministrazione generale della comunità.

Tra gli aspetti più interessanti, la legislazione galiziana regola il profilo della “comprensibilità algoritmica”.

Ai sensi del secondo comma dell’art. 6, infatti, viene specificato che le amministrazioni – quando utilizzano sistemi di IA nell’ambito dell’attività provvedimentale – devono essere in grado di giustificare, in modo comprensibile, le decisioni proposte o adottate al termine del procedimento amministrativo.

In questa direzione si colloca quanto previsto dal terzo comma dell’art. 7, in cui si prescrive che i sistemi di IA impiegati dalle amministrazioni pubbliche devono poter fornire informazioni semplici e facilmente comprensibili sulle «fonti/input dei dati, sui fattori, sui processi e/o sulla logica che ha portato alla decisione». Devono, cioè, essere accompagnati da informazioni che consentono a coloro che sono interessati dal provvedimento automatizzato di metterne in discussione l’esito.

Come evidente, non si tratta solo dell’imposizione del dovere di chiarire il “perché” della decisione amministrativa, ma anche di rendere trasparente “come” il sistema algoritmico abbia deciso.

All’art. 12, la legge detta disposizioni rilevanti per la disciplina di un altro tema: quello della necessità, o meno, di riservare al funzionario la possibilità di provvedere quando l’attività è caratterizzata da discrezionalità.

Sul punto, la legge galiziana stabilisce che non potranno essere assunti, senza un intervento diretto dell’essere umano, atti amministrativi che richiedono «una valutazione soggettiva delle circostanze concomitanti o un’interpretazione giuridica».

Tale regola, tuttavia, non opera qualora le azioni amministrative automatizzate rispettano i seguenti requisiti: a) siano stati dettagliati in modo specifico e inequivocabile i casi in cui si farà ricorso a tecniche di automazione che non prevedono l’intervento umano; b) i sistemi utilizzati siano stati progettati in maniera conforme alla normativa e, in particolare, in maniera tale da non consentire l’alterazione non supervisionata del sistema, e in modo da fornire sempre informazioni semplici e di facile comprensione in merito al funzionamento algoritmico.

Emerge, dunque, un quadro in cui la regola della “riserva di umanità” per le decisioni amministrative discrezionali cede rispetto alle garanzie di conoscibilità e comprensibilità del sistema algoritmico utilizzato dall’amministrazione.

A un intervento normativo già in vigore si aggiunge, poi, un interessante progetto di legge proveniente dall’Andalusia, l’Anteproyecto de la Ley Andalucìa Digital del 15 ottobre 2024 che costituisce un evidente passo in avanti rispetto al già analizzato articolo 40 del Decreto 622/2019.

L’Anteproyecto, infatti, si basa su una regolamentazione che non “limita”, ma prevede requisiti idonei ad assicurare un uso dei sistemi di IA conforme ai principi che guidano l’azione amministrativa.

Di questa scelta legislativa sono un esempio gli artt. 54 e 58. Quest’ultimo, in particolare, prevede una serie di garanzie che devono essere rispettate dai sistemi di IA utilizzati per assumere decisioni amministrative automatizzate, tra cui emergono i principi di «transparencia en el diseño» e la «interpretación de las decisiones».

Interesse è anche l’art. 23 del progetto di legge andaluso, il quale, come avvenuto in Italia con l’art. 30 del d.lgs. 30 marzo 2023, n. 36, individua nella contrattazione pubblica la sede per attuare i principi di buona amministrazione nell’uso dei sistemi di IA[34].

Se la normativa autonomica si è distinta per essersi evoluta nella disciplina degli aspetti riguardanti la diffusione dei sistemi di IA nel procedimento amministrativo, la normativa statale è pressoché ferma all’art. 41 della Ley 40/2015 e alle previsioni poco incisive analizzate in precedenza.

Tuttavia, lo scorso 11 marzo 2025 il Governo spagnolo ha approvato l’Anteproyecto de ley para un uso ético, inclusiva y beneficioso de la Inteligencia Artificial che mira ad adattare la legislazione spagnola alla normativa europea sull’intelligenza artificiale. Il testo riproduce in gran parte le previsioni del Regolamento europeo, con un’interessante eccezione quanto al sistema sanzionatorio degli enti pubblici che utilizzano IA, ma nulla dice di espresso in merito all’introduzione dei sistemi di IA nell’attività decisionale della PA.

4. L’assenza di contenzioso in tema di decisioni amministrative automatizzate e il caso BOSCO

In Italia, il giudice amministrativo si è occupato con una certa frequenza delle conseguenze legate all’introduzione degli algoritmi nell’attività decisionale della pubblica amministrazione[35]. Tanto, in supplenza di un contesto normativo apparentemente privo di riferimenti all’attività amministrativa automatizzata[36].

I filoni giurisprudenziali più noti sono due e scaturiscono da un’unica vicenda, il caso “Buona Scuola”[37]: un nutrito gruppo di pronunce che ha definito un contenzioso scaturito dalla contestazione degli esiti della procedura di mobilità degli insegnanti delle scuole medie e superiori che dal 2015 prevedeva l’utilizzo di un sistema automatizzato.

Le prime sentenze dei giudici italiani[38] hanno riguardato la natura giuridica dell’algoritmo utilizzato nel procedimento e la possibilità da parte degli interessati di esercitare il diritto di accesso al suo codice sorgente[39]. Il secondo filone giurisprudenziale, invece, ha avuto ad oggetto la legittimità del provvedimento amministrativo[40], con particolare riferimento alle garanzie che la pubblica amministrazione deve assicurare anche a fronte di una decisione amministrativa automatizzata[41].

In Spagna, viceversa, nonostante le pubbliche amministrazioni facciano da anni ricorso ai sistemi di automazione delle proprie attività[42], il contenzioso sulla materia è pressoché inesistente.

L’unica vera eccezione è il cd. caso BOSCO.

“BOSCO” è il nome del sistema informatico sviluppato dal Ministerio para la Transición Ecológica y el Reto Demográfico (MiTEco) per l’individuazione dei beneficiari del cosiddetto “bono social”, uno sconto sulle bollette di luce e gas previsto dalla normativa statale in favore di soggetti considerati vulnerabili[43].

La Fondazione CIVIO, un ente privato che si occupa di trasparenza e diritto di accesso alle informazioni pubbliche, a seguito di un confronto tra la casistica relativa agli output forniti dall’applicazione e quelli di un algoritmo progettato per elaborare appositamente, aveva evidenziato delle falle nel sistema – che in alcuni casi negava il beneficio a soggetti che in realtà ne avevano diritto.

Al fine di comprenderne le ragioni, CIVIO inoltrava al MiTEco un’istanza con la quale chiedeva l’accesso alle informazioni relative alla logica di funzionamento del sistema, ai sensi della Ley 19/2013, de 9 de diciembre, de transparencia, acceso a la información pública y buen gobierno. Il Ministero rigettava l’istanza ritenendo insussistenti i presupposti per l’accesso alle informazioni richieste.

La Fondazione, quindi, decideva di ricorrere innanzi al Consejo de Transparencia y Buen Gobierno, un’autorità amministrativa indipendente che in Spagna si occupa di dirimere le questioni legate alla trasparenza e al diritto di accesso ai documenti della PA.

Il Consejo accoglieva parzialmente il ricorso, consentendo l’accesso alle specifiche tecniche e agli audit condotti sul sistema e negando l’ostensione del codice sorgente in ragione della prevalenza - ai sensi dell’art. 14, co. 1, lett. j) della legislazione spagnola sulla trasparenza - dei diritti di proprietà industriale che l’amministrazione poteva vantare sul software.

CIVIO decideva di impugnare la risoluzione del Consejo innanzi al Juzgado Central de lo Contencioso Administrativo, sulla base di due motivi: la violazione del principio di legalità e del divieto di arbitrio nelle decisioni amministrative (art. 9.3 della Costituzione spagnola), in quanto l’assegnazione del bono avveniva in assenza di una garanzia di comprensibilità delle ragioni; l’assenza di una tutela giuridica della proprietà intellettuale dei programmi informatici della pubblica amministrazione, in quanto le informazione del software rientravano tra le ipotesi di esclusione dal diritto di proprietà intellettuale di cui all’articolo 13 del Real Decreto Legislativo 1/1996, de 12 de abril, Ley de Propiedad Intelectual.

Con sentenza del 30 dicembre 2021 n. 143 il ricorso della Fondazione veniva rigettato.

Quanto al primo motivo, relativo al diniego della possibilità di comprendere le motivazioni delle decisioni amministrative in assenza di accesso al codice sorgente dell’algoritmo utilizzato nel procedimento amministrativo, i giudici spagnoli chiarivano che BOSCO è un sistema informatico che «si inserisce in una fase del procedimento amministrativo, il cui scopo è quello di verificare il rispetto dei requisiti preventivamente stabiliti dalla normativa citata».

Il provvedimento amministrativo che ne deriva «non può considerarsi emesso da un’applicazione informatica, ma da un organo amministrativo e, nel caso in cui il destinatario di tale atto sia insoddisfatto, può impugnarlo per via amministrativa e giudiziaria».

Dunque, siccome la legittimità del provvedimento deve essere confrontata con le norme che regolano la materia e non con la regola algoritmica, i giudici affermavano che «si deve ritenere che il diniego di accesso al codice sorgente dell’applicazione informatica non comporti una violazione del principio di legalità, in quanto sarà sempre possibile verificare se il richiedente possiede i requisiti per la concessione del bonus sociale».

Per quanto riguarda il secondo motivo di ricorso, ovvero l’insussistenza del richiamo ai limiti dell’accesso alle informazioni pubbliche in ragione delle proprietà intellettuale dell’amministrazione sul codice sorgente, la sentenza chiarisce che: «il codice sorgente della suddetta applicazione informatica non rientra tra le ipotesi per cui si esclude l’esistenza di un diritto di proprietà intellettuale […], poiché il suddetto codice non è né un regolamento né un atto amministrativo».

Negata la necessità dell’amministrazione di dover garantire il diritto di accesso al codice sorgente, la pronuncia valorizza la tesi sostenuta dall’amministrazione resistente, secondo cui l’accesso al codice sorgente avrebbe avuto un impatto negativo sulla sicurezza nazionale. Per i giudici, infatti, poiché il sistema era stato allenato su banche dati contenenti dati sensibili, la divulgazione del codice sorgente avrebbe messo in pericolo la loro riservatezza.

La pronuncia è stata impugnata innanzi alla Audiencia Nacional, che con sentenza del 30 aprile 2024 della Sala de lo Contencioso-Administrativo. Sección Séptima, ha respinto il nuovo gravame della Fondazione e l’ha condannata al pagamento delle spese.

In quest’ultima sentenza, i giudici spagnoli hanno affermato che la pubblica amministrazione è certamente titolare di diritti di proprietà intellettuale sui propri programmi informatici, tutelati dell’art. 96 della legge sulla proprietà intellettuale, e che ai sensi degli art. 7.2 della Ley 33/2003, de 3 de noviembre, del Patrimonio de las Administraciones Públicas e 157 della Ley 40/2015, questi fanno parte del patrimonio dell’amministrazione generale dello Stato e dei suoi enti pubblici.

Ciò fa sì che la tutela di un diritto di proprietà intellettuale possa essere ritenuto prevalente rispetto al diritto di accesso, ai sensi dell’art. 14, co. 1, lett. j) della legge sulla trasparenza, soprattutto quando tale prevalenza è giustificata dalla necessità di tutelare la sicurezza informatica delle informazioni detenute dalla pubblica amministrazione.

Per quanto riguarda la possibile violazione del divieto di arbitrarietà dell’art. 9.3 della Costitución, la sentenza precisa che la Fondazione ha chiesto unicamente l’accertamento del diritto di accesso al codice sorgente dell’applicazione e ciò esula dal sindacato di legittimità della logica seguita dal sistema.

In ogni caso, siccome «l’applicazione informatica è solo uno strumento integrato all’interno di un procedimento amministrativo, […] la legittimità (o meno) del provvedimento amministrativo non è retta dall’uso dell’applicazione informatica, ma dalla conformità dell’atto prodotto all’ordinamento giuridico».

Le pronunce attinenti al caso Bosco non hanno innovato il panorama delle garanzie che l’amministrazione deve assicurare al soggetto interessato dal procedimento amministrativo automatizzato e, men che meno, al soggetto interessato da un provvedimento amministrativo elaborato secondo sistemi che impiegano tecniche di intelligenza artificiale.

I motivi sono almeno tre: il petitum dell’azione, ovvero il solo accertamento del diritto di accesso al codice sorgente dell’algoritmo; la tipologia di algoritmo utilizzato nella procedura di assegnazione del vaucher elettrico, ovvero un algoritmo di tipo deterministico che non impiega tecniche di IA; le argomentazioni elaborate dalle Corti, che hanno fatto prevalere la tutela del diritto di proprietà intellettuale e, soprattutto, le esigenze di tutela della sicurezza informatica del sistema alle esigenze della trasparenza amministrativa.

La dottrina spagnola ha criticato le sentenze, lamentando una certa “pigrizia” dei giudici rispetto alle pronunce adottate su casi simili dai colleghi europei[44].

Quanto alla questione del diritto di accesso al codice sorgente del sistema impiegato, secondo alcuni commentatori le Corti avrebbero mancato di valorizzare l’elemento pubblicistico della fattispecie ovvero, l’impiego del sistema algoritmico nell’ambito di un procedimento amministrativo che, in quanto tale, non può non essere trasparente[45].

In Italia, proprio la valorizzazione di questo dato aveva condotto Tar e Consiglio di Stato a ritenere recessiva la tutela della riservatezza del codice sorgente rispetto alle esigenze di trasparenza e comprensibilità della decisione algoritmica[46].

Sul punto è interessante notare come in Spagna esista una norma (non richiamata nel caso di specie), l’art. 157 comma 2 della Ley 40/2015, che consente alle amministrazioni di dichiarare i sistemi informatici utilizzanti “fonti aperte” e favorire così maggiore trasparenza nel funzionamento della pubblica amministrazione.

È stato criticato anche quanto affermato dai giudici circa la garanzia di comprensibilità e non arbitrarietà del provvedimento algoritmico, argomenti che sono stati liquidati sul presupposto che non vi sarebbe lesione della possibilità di contestare l’esito della procedura algoritmica in ragione della possibilità di raffrontare il provvedimento con il paradigma normativo[47].

Se ciò può essere ritenuto condivisibile per i sistemi di tipo non predittivo utilizzati nel caso di specie- in grado di eseguire unicamente le istruzioni date senza individuare inferenze – è evidente come tale argomentazione non possa essere ritenuta valida qualora l’attività amministrativa si attui mediante sistemi di IA che, per natura, imparano ovvero evolvono in base ai dati a disposizione, andando oltre il paradigma normativo[48].

5. Le questioni problematiche evidenziate dalla dottrina

Nonostante la Spagna possa essere annoverata tra i Paesi più attivi nella regolazione dell’intelligenza artificiale, il contesto normativo e giurisprudenziale che accompagna la diffusione dei sistemi algoritmici lascia ampi spazi di dibattito agli studiosi.

Allo stato attuale, molti sono i dubbi irrisolti e le questioni giuridiche non dipanate.

I sistemi di IA possono essere utilizzati indistintamente per i provvedimenti vincolati e discrezionali della pubblica amministrazione[49]? È necessaria una “riserva di umanità”? Quali sono le implicazioni della trasparenza algoritmica e i rapporti tra il dovere di motivazione e la garanzia di comprensibilità dei provvedimenti amministrativi?.

Partiamo dalle prime due questioni.

A differenza di alcune previsioni di carattere regionale, nell’ordinamento giuridico spagnolo non vi è alcun riferimento esplicito alla possibilità di automatizzare solo gli atti vincolati o anche le scelte discrezionali demandate ai funzionari pubblici.

Il governo spagnolo ha affrontato la questione solo attraverso la citata Carta de Derechos Digitales, che richiede un’autorizzazione e specifiche garanzie ogniqualvolta si preveda di utilizzare un sistema automatizzato nel processo decisionale discrezionale.

Queste due notazioni sembrerebbero non sembrano precludere la possibilità di automatizzare anche le decisioni discrezionali della PA[50].

Eppure, la letteratura accademica spazia dal divieto di utilizzo nelle attività discrezionali[51], alla richiesta di un’apposita autorizzazione per poter automatizzare solo alcuni tipi di provvedimenti[52], all’assenza di un vincolo normativo all’utilizzo di IA nelle decisioni nelle scelte discrezionali della pubblica amministrazione.

Ponce Solé ritiene che i provvedimenti caratterizzati da un margine di discrezionalità non possano essere automatizzati mediante sistemi di IA[53]. Le ragioni alla base di questa conclusione intrecciano il diritto con l’informatica.

Gli algoritmi di tipo simbolico funzionano secondo logiche e criteri predeterminati e predeterminabili: il loro impiego nell’ambito dell’attività discrezionale comporterebbe una parametrazione della discrezionalità e, quindi, una riduzione del margine di scelta e di “giudizio” che il Legislatore ha inteso affidare all’amministrazione (ovvero, al funzionario).

L’impiego di tecnologie di tipo predittivo di machine o deep learning, invece, reca con sé un altro rischio: affidare a macchine prive di capacità abduttive compiti di discernimento amministrativo che richiedono una dose di “empatia”.

L’assenza di empatia rappresenta la ragione per cui determinate attività della pubblica amministrazione dovrebbero essere confinate nelle facoltà dell’uomo e sottratte all’automazione.

Dal punto di vista giuridico, dunque, affidare le scelte discrezionali ai sistemi di intelligenza artificiale vorrebbe dire violare il principio di buona amministrazione, di cui all’art. 9.3 della Costituzione spagnola.

Per tale motivo, l’Autore giunge alla conclusione per cui è necessario individuare all’interno dell’attività amministrativa una zona franca, quella delle attività discrezionale, da sottrarre all’automatizzazione e “riservare” all’uomo.

Altri autori, invece, non si sono opposti a priori all’adozione di atti discrezionali automatizzati.

Martín Delgado, ad esempio, ritiene che i sistemi di IA possano essere accettati nei procedimenti amministrativi che includono ambiti di discrezionalità tecnica o per i cosiddetti provvedimenti a “a bassa intensità”.

Cerrillo i Martínez ritiene necessario determinare e limitare i casi in cui la decisione discrezionale automatizzata possa essere “di qualità inferiore” rispetto al processo decisionale umano.

Gamero Casado, invece, sostiene che non esista alcuna obiezione dogmatica all’adozione di decisioni automatizzate nell’esercizio di poteri amministrativi discrezionali. La discrezionalità, infatti, è la concessione all’amministrazione di un margine di apprezzamento di un adattamento della norma alle circostanze del caso specifico.

È sostenibile, secondo l’Autore, che questo adattamento possa avvenire attraverso lo sviluppo di un processo decisionale automatizzato se le circostanze concomitanti, e la parametrizzazione del sistema, suggeriscono che l’automazione sia il modo migliore di esercitare la discrezionalità in un determinato ambito.

In ogni caso, Gamero Casado conclude che anche i provvedimenti discrezionali, assunti mediante IA, debbano essere soggetti alle tradizionali garanzie dell’azione amministrativa[54].

La terza questione irrisolta, infine, intreccia le implicazioni della trasparenza algoritmica al dovere di motivazione e alla garanzia di comprensibilità dei provvedimenti amministrativi. Uno dei problemi più rilevanti in tema di IA nella pubblica amministrazione, infatti, è rappresentato dall’opacità degli algoritmi, il cui meccanismo decisionale spesso è cela dietro il fenomeno della black box[55].

Le previsioni regionali poc’anzi analizzate cercano di dare una risposta alla questione, individuando le informazioni che l’amministrazione che utilizza sistema algoritmici è tenuta a garantire.

La normativa statale, invece, non affronta il problema e il caso Bosco non ha contribuito a individuare dei principi di riferimento.

Sul punto, Gamero Casado[56] afferma che la questione dell’opacità algoritmica va ricondotta nell’alveo del dovere di motivazione del provvedimento amministrativo. La motivazione, infatti, ai sensi dell’art. 35 della Ley 39/2015, è un elemento imprescindibile di quasi tutti i provvedimenti amministrativi, compresi quelli assunti mediante sistemi di intelligenza artificiale[57].

Nel caso delle decisioni automatizzate mediante sistemi di tipo predittivo ottemperare a detto dovere, ovvero, indicare al soggetto interessato le ragioni giuridiche e fattuali alla base del provvedimento, sarebbe impossibile, in quanto la ricostruzione dell’iter logico seguito dal sistema risulterebbe pressoché oscura.

Questo rappresenterebbe un limite alla loro introduzione nell’attività della PA: il provvedimento amministrativo che ne scaturirebbe, infatti, sarebbe viziato e potrebbe essere, per questo motivo, contestato dall’interessato[58].

Gamero Casado ha approfondito lo studio del dovere di motivazione dei provvedimenti amministrativi automatizzati[59] e ha aggiunto che nell’ambito dei provvedimenti assunti mediante sistemi di IA non basta la mera motivazione ma questa deve essere integrata con il processo logico che ha portato all’adozione dell’atto.

La motivazione, in questo tipo di atti, dunque, dovrebbe essere costituita anche dalla spiegazione, trasparente e comprensibile, della logica algoritmica ovvero della programmazione del sistema e dei criteri utilizzati dall’algoritmo.

Come ha sostenuto Huergo Lora, è necessario conoscere l’algoritmo per sapere se il sistema ha introdotto qualche contenuto non previsto dalla norma, distorcendone l’applicazione o portando, in definitiva, a una decisione contraria al diritto[60].

Sulla stessa linea di pensiero si pone quanto affermato da Martin Delgado, che ribadisce come nell’ambito delle decisioni automatizzate mediante sistemi di IA, la motivazione della decisione amministrativa non possa essere ritenuta sufficiente senza le informazioni che rivelino se il sistema ha funzionato correttamente[61].

In questo modo, gli Autori spagnoli sembrano preconizzare la garanzia di comprensibilità del provvedimento amministrativo elaborata dal Consiglio di Stato (nelle note sentenze 881/2020 e 7526/2020) e fatta propria dal Legislatore italiano nell’art. 30, co. 3, lett. a) del Codice dei contratti pubblici.

Ed è proprio la comprensibilità algoritmica, ovvero la sottoposizione del sistema a tecniche di tracciabilità del processo decisione e verificabilità dello stesso, che permettere la contestabilità e la sindacabilità del risultato amministrativo automatizzato.

In questo senso, sono interessanti le voci di Cotino Hueso e Ponce Solé.

Il primo, ha sottolineato la necessità di differenziale l’obbligo di motivazione dalle garanzie di comprensibilità delle decisioni amministrative[62]. L’Autore afferma che nel caso di decisioni amministrative assunte mediante sistemi di IA, esiste una differenziazione tra la motivazione formale e le ragioni effettive che portano alla decisione: anche se il sistema, o il funzionario supportato dal sistema, è in grado di motivare formalmente la decisione, è necessario poter verificare il funzionamento del sistema poiché potrebbe non essere corretto in relazione al paradigma di legittimità dell’azione amministrativa e dei principi che la governano.

Il tema della comprensibilità algoritmica è stato affrontato anche da Ponce Solé[63]. L’Autore ritiene che la comprensibilità algoritmica vada ricollegata al principio di motivazione degli atti amministrativi e ai principi di trasparenza delle decisioni amministrative, ma ne distingue la funzionalità aggiungendo che le decisioni amministrative non “comprensibili” sono contrarie non solo all’obbligo di motivazione, ma soprattutto ai requisiti di razionalità, buona amministrazione e non arbitrarietà delle decisioni amministrative, e, dunque, all’art. 9.3 della Costituzione spagnola[64].

Sul punto, è possibile concludere che - con alcune sfumature – la dottrina spagnola è concorde nel ritenere necessaria l’introduzione di una normativa specifica che, oltre a richiamare il requisito generale della motivazione formale dei provvedimenti assunti mediante IA, ridefinisca i requisiti della conoscibilità e della comprensibilità algoritmica quali garanzie di legittimità dell’azione amministrativa.

6. Conclusioni

In Spagna non esiste una disciplina specifica riguardante l’impiego dei sistemi di IA nell’ambito dell’attività provvedimentale della pubblica amministrazione[65].

A fronte di questo vuoto normativo[66], la regolazione del fenomeno mutua i principi e le norme generali del procedimento amministrativo, in particolare, le disposizioni dettate in tema di attività amministrativa automatizzata[67].

Solo partendo da questo dato, al netto delle esperienze normative regionali, si può provare a dare delle risposte ai quesiti ancora aperti e tutt’ora discussi dalla dottrina.

Uno di questi riguarda la possibilità di automatizzare indistintamente tutte le attività provvedimentali mediante i sistemi di intelligenza artificiale o, viceversa, l’esistenza di una “riserva di umanità”.

Più che una “riserva di umanità”, la Legislazione spagnola intende assicurare una garanzia di supervisione del sistema automatizzato, che potremmo definire garanzia dello “human in the loop”[68]: all’interno del procedimento amministrativo deve essere garantita la presenza di un funzionario a cui non deve necessariamente essere attribuito il compito di assumere la decisione finale.

In questa direzione, infatti, l’art. 41 della LRJSP - oltre a richiedere l’indicazione dell’organo responsabile del provvedimento ai fini della sua impugnazione - prescrive che l’amministrazione debba determinare in origine l’organo competente della definizione delle specifiche, della programmazione, manutenzione, supervisione, audit e controllo del sistema informativo e del suo codice sorgente.

Dunque, una garanzia di supervisione del funzionamento del sistema più che una riserva all’uomo del ruolo di “dominus” del provvedimento amministrativo.

Quanto ai rischi legati all’uso dell’intelligenza artificiale nell’attività amministrativa e alle garanzie di “legittimità” dell’azione amministrativa algoritmica, il principale riguarda l’opacità dei meccanismi decisionali e, dunque, i corollari del fenomeno della cd. balck box.

È evidente come una certa “imperscrutabilità” del procedimento e dell’output prodotto dal sistema rappresenti un elemento di frizione con le regole che tradizionalmente ordinano l’attività amministrativa – tra cui il principio di trasparenza, di cui agli articoli 105 della Costituzione spagnola e 3 LRJSP.

In questi termini (e per il momento[69]), il Caso Bosco ha insegnato come nell’ordinamento spagnolo la garanzia della trasparenza amministrativa possa cedere il passo alle esigenze di tutela della proprietà intellettuale o di riservatezza delle informazioni contenute nel codice sorgente del sistema algoritmico impiegato.

Con la sola eccezione delle legislazioni regionali e dell’interessante articolo 157 co. 2 della Ley 40/2015, nell’ordinamento spagnolo non esistono norme che prescrivano il dovere delle amministrazioni di rendere conoscibile l’impiego di sistemi algoritmici o di dettagliarne le logiche di funzionamento.

Questo ha portato i giudici alla contemperazione degli interessi in gioco e a escludere la sussistenza di un generico diritto di accesso al codice sorgente.

Eppure, la questione non riguarda solo la garanzia di trasparenza dell’azione amministrativa ma anche, come evidenziato, la comprensibilità della decisione amministrativa – ovvero la possibilità di spiegare e far comprendere al funzionario, all’interessato e al giudice amministrativo chiamato a sindacare la legittimità del provvedimento amministrativo quale sia stata la regola algoritmica seguita[70].

Anche in questa direzione, l’unico precedente giurisprudenziale rilevante in materia ha negato che l’impiego dei sistemi algoritmici senza garanzie di spiegabilità del funzionamento del sistema possa violare la garanzia di non arbitrarietà della decisione amministrativa di cui all’art. 9.3 della Costituzione spagnola.

Questo assunto, di per sé criticabile, non può essere condiviso oltre l’impiego di sistemi deterministici o esperti, che funzionano effettivamente in base alle istruzioni date dal programmatore e, dunque, della traduzione in codice numerico della norma.

Per i sistemi di intelligenza artificiale, che individuano la norma da applicare al caso concreto, la sindacabilità del risultato è intrinsecamente legata alla garanzia della comprensibilità della logica algoritmica, come prometeicamente affermato in Italia dal Consiglio di Stato.

In termini generali, dunque, si può affermare che in Spagna la legislazione statale non garantisca un’adeguata trasparenza algoritmica nella dimensione della comprensibilità delle decisioni, poiché non prevede meccanismi specifici in grado di garantire all’interessato quelle informazioni relative al funzionamento del sistema e dell’iter algoritmico, necessarie per non incorrere nella violazione del suo diritto alla difesa[71].

Il solo dovere di motivazione di cui all’art. 35 della LPAC non sembra una garanzia idonea a tutelare la posizione giuridica degli interessati dai provvedimenti amministrativi automatizzati. Piuttosto, come affermato dalla dottrina spagnola, occorrerebbe intervenire sul contenuto della motivazione del provvedimento al fine di introdurre il dovere delle pubbliche amministrazioni di decodificare e rendere comprensibili (e quindi sindacabili) le regole di funzionamento del sistema.

A parere di chi scrive, tuttavia, anche un simile intervento rischia di non essere risolutivo.

La garanzia di comprensibilità della decisione automatizzata non dovrebbe spiegare i suoi effetti solo nell’ottica della sindacabilità del provvedimento amministrativo da parte dell’interessato e, infine, del giudice amministrativo.

Garantire la comprensibilità, ovvero la possibilità di conoscere la regola di funzionamento del sistema, vuol dire anche tutelare l’effettività della supervisione della procedura da parte del funzionario.

Garanzia già prevista dalla legislazione spagnola ma che rischia di svuotarsi di pregnanza giuridica se non accompagnata dalla effettiva capacità dell’umano di verificare, accettare o discostarsi criticamente dall’output fornito dal sistema.

Note

^[1] L’importanza della digitalizzazione della PA nell’accrescimento della competitività di un sistema economico emerge dal recente report «The future of European competitiveness», presentato dalla Commissione Europea nel settembre 2024 e noto come «Rapporto Draghi». Cfr., in particolare, The future of European competitiveness Part B. In-depth analysis and recommendations, p. 67 ss.

^[2] Maggiori informazioni al link https://ec.europa.eu/economy_finance/recovery-and-resilience-scoreboard/digital.html.

^[3] In letteratura esistono diverse nozioni di “intelligenza artificiale” e di “sistema di intelligenza artificiale”. Il Regolamento europeo in materia di intelligenza artificiale 2024/1689, ha dato una definizione all’art. 3, co. 1, lett. a). In questo lavoro, restringendo il campo di osservazione, con tale lemma debbono intendersi i sistemi esperti e i sistemi di tipo predittivo, che impiegano tecniche di machine e deep learning.

^[4] Ne sono un esempio la Estrategia Andaluza de Inteligencia Artificial 2030, la Estrategia de Digitalización de la Comunidad de Madrid 2023-2026, Plan Estratégico de Transformación Digital de la Administración de la Generalitat, GEN Digital 2025. Sul punto, cfr. A. Cerrillo i Martínez, Retos y oportunidades de la regulación española de la inteligencia artificial, in A. Cerrillo i Martínez, F. Di Lascio, I. Martín Delgado, C. Velasco Rico (a cura di), Inteligencia artificial y Administraciones públicas: una triple visión en clave comparada, Madrid, Iustel, 2024, pp. 101-102.

^[5] L’Artificial Intelligence Index Report 2025, curato dall’Human-Centred AI Institute dell’Università di Stanford, colloca la Spagna in una posizione di primazia con riguardo alla spesa pubblica in sistemi di intelligenza artificiale: con 99.71 milioni di dollari spesi tra il 2013 e il 2023, è preceduta solo da Stati Uniti e Regno Unito e, in UE da Germania e Francia. La crescita nella spesa pubblica spagnola in sistemi di intelligenza artificiale è confermata anche nel 2023: con 49.59 milioni annui la Spagna, è il terzo player mondiale nella compravendita pubblica di IA dopo Stati Uniti e Regno Unito.

^[6] In Italia, su questi temi, cfr. M. Allena, S. Vernile, Intelligenza artificiale, trattamento di dati personali e Pubblica amministrazione, in A. Pajno, F. Donati, A. Perrucci (a cura di), Intelligenza artificiale e diritto: una rivoluzione? 1, Bologna, Il Mulino, 2022, p. 389 ss; G. Carullo, Gestione, fruizione e diffusione dei dati dell’amministrazione digitale e funzione amministrativa, Torino, Giappichelli, 2017; Id., Dati, banche dati, blockchain e interoperabilità dei sistemi informatici nel settore pubblico, in R. Cavallo Perin, D.U. Galetta (a cura di) Il diritto dell’amministrazione digitale, Torino, Giappichelli, 2020; D.U. Galetta, Open Governament, Open Data e azione amministrativa, in questa Rivista, 3, 2019, p. 671 ss.; M. Falcone, Ripensare il potere conoscitivo pubblico tra algoritmi e big data, Napoli, Editoriale Scientifica, 2023.

^[7] Sul punto, M. Clarich, Manuale di diritto amministrativo, Bologna, Il Mulino, 2017, p. 111; G. Falcon, Lezioni di diritto amministrativo, Milano, Wolters Kluwer, 2016, p. 64 e ss.

^[8] Sul tema, L. Torchia, Lo Stato digitale: una introduzione, Bologna, Il Mulino, 2023.

^[9] Fino a qui, le tecnologie fungono da supporto all’attività amministrativa, rendendo i processi più efficienti e accessibili e i funzionari le governavano secondo regole, principi e prassi note. A questo punto di avanzamento dell’informatica nella PA possono essere ascritti i word processor o database e gli atti amministrativi in forma elettronica, ovvero quegli atti scritti ed elaborati su supporti digitali. Sulla distinzione tra questi e gli “atti amministrativi a elaborazione elettronica”, cfr. A. Masucci, Atto amministrativo informatico, in Enciclopedia del diritto, Milano, 1997, 221; non dissimili le definizioni utilizzate da F. Saitta, Le patologie dell’atto amministrativo elettronico e il sindacato del giudice amministrativo, in Rivista di diritto amministrativo elettronico, www.cesda.it, 2 (2003); G. Duni, L’amministrazione digitale. Il diritto amministrativo nella evoluzione telematica, Milano, Giuffrè, 2008. La diffusione dei sistemi di intelligenza artificiale nei processi della pubblica amministrazione, viceversa, è espressione della cd “digitalizzazione sostanziale” dell’attività amministrativa. La definizione è di B. Marchetti, Voce Amministrazione digitale, in B.G. Mattarella, M. Ramajoli (a cura di) Enciclopedia del diritto: funzioni amministrative, Milano, Giuffrè, 2022.

^[10] Secondo l’Ascendant Report di Minsait, dal titolo Inteligencia artificial: radiografía de una revolución en marcha, il 34% delle pubbliche amministrazioni spagnole coinvolte nello studio utilizza sistemi di intelligenza artificiale per elaborare provvedimenti amministrativi.

^[11] La dottrina, italiana e spagnola, si pone da alcuni anni il quesito. Cfr., S. Civitarese Matteucci, Umano troppo umano, Decisioni amministrative automatizzate e principio di legalità, in Diritto pubblico, 1, 2019, 5 e ss.; L. Torchia, Lo Stato digitale: una introduzione, cit.; A. Di Martino, Tecnica e potere nell’amministrazione per algoritmi, Napoli, Editoriale Scientifica, 2023. Tra gli autori spagnoli, I. Martín Delgado, Automazione, intelligenza artificiale e pubblica amministrazione: vecchie categorie concettuali per nuovi problemi?, in questa Rivista, 3, 2019; E. Chiti, B. Marchetti, N. Rangone, L’impiego di sistemi di Intelligenza artificiale nelle pubbliche amministrazioni italiane: prove generali, in A. Pajno, F. Donati, A. Perrucci (a cura di), Intelligenza artificiale e diritto: una rivoluzione?, cit.

^[12] Per una distinzione tra gli algoritmi deterministici o esperti e gli algoritmi predittivi si vedano, K. Warwick, Intelligenza artificiale. Le basi, Palermo, Dario Flaccovio Editore, 2015, p. 67 ss.; S. Russel, P. Norvig, Artificial Intelligence: A Modern Approach, Londra, Pearson, 2020, p. 651 ss. La dottrina amministrativistica è concorde sulla necessità di operare la suddetta distinzione. Cfr., B. Marchetti, C. Casonato, Prime osservazioni sulla proposta di regolamento dell’Unione Europea in materia di intelligenza artificiale, in BioLaw Journal, 3, 2021, p. 7 e ss.; L. Parona, Poteri tecnico-discrezionli e Machine learning: verso nuovi paradigmi dell’azione amministrativa, in A. Pajno, F. Donati, A. Perrucci (a cura di), Intelligenza artificiale e diritto: una rivoluzione?, cit., p. 1,.; G. Avanzini, Intelligenza artificiale, machine learning e istruttoria procedimentale: vantaggi, limiti ed esigenza di una specifica data governance, in Intelligenza artificiale e diritto: una rivoluzione?, cit., p. 2; L. Torchia, Lo Stato digitale: una introduzione, cit. In Spagna, tra gli altri, F. González Cabanes, N. Díaz Díaz, ¿Qué es la Inteligencia Artificial?, in E. Gamero Casado, F.L. Pérez Guerrero (a cura di), Inteligencia artificial y sector público. Retos, límites y medios, Valencia, Tirant lo Blanch, 2023, p. 38 ss.

^[13] Sul punto, tra gli altri, cfr. M. Carlón Ruiz, El impacto directo del Reglamento europeo de Inteligencia Artificial en los márgenes de utilización de sistemas de IA por Administraciones Pública, in M. Carlón Ruiz (a cura di), Las administraciones públicas ante la inteligencia artificial, Valencia, Editorial Tirant Lo Blanch, 2025, pp. 63 e ss. O. Mir Puigpelat, L’impatto della legge sull’intelligenza artificiale sulle autorità pubbliche e sulle procedure amministrative, CERIDAP, 4, 2023 pp. 238 e ss; Id., The AI Act from the Perspective of Administrative Law: Much Ado About Nothing?, European Journal of Risk Regulation, 16, 2025, p. 63 ss.

^[14] Sul tema, cfr. R. Martinez Gutiérrez, El desarrollo reglamentario (y la interpretación jurisprudencial) de la administración digital Análisis del reglamento de actuación y funcionamiento del sector público por medios electrónicos y de la jurisprudencia. Problemas prácticos y soluciones, Aranzadi, 2024; J. Valero Torrijos, El marco normativo básico de la Administración electrónica, in J. Valero Torrijos (a cura di), El régimen jurídico de la E-Administración: el uso de medios informáticos y telemáticos en el procedimiento administrativo común, Comares, Granada, 2007.

^[15] Sul tema, cfr., tra gli altri, I. Martín Dalgado, Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada, in Revista de Administración Pública, 180, 2009, pp. 353-386, A. Cerrillo i Martínez, Robots, asistentes virtuales y automatización de las Administraciones pública, in Revista Galega de Administración Pública, 61, 2021, pp. 271-309; A. Soriano, Decisiones au tomatizadas: problemas y soluciones jurídicas. Más allá de la protección de datos, in Revista de Derecho público: Teoría y método, 2, 2021; X. Uríos Aparisi, I. Alamillo Domingo, La actuación administrativa automatizada en el ámbito de las Administraciones públicas. Análisis jurídico y metodológico para la construcción y explotación de trámites automáticos, Escola d’Administració Pública de Catalunya, Barcelona, 2011. Da ultimo, M. Vaquer Caballería, J. Pedraza Córdoba (a cura di), La actuación administrativa automatizada: sus claves jurídicas, Valencia, Tirant lo blanch, 2025.

^[16] Sul tema, T. de la Quadra-Salcedo Fernández del Castillo, Automatización administrativa y derechos de las personas: ¿interpretación evolutiva o nuevos derechos? in M. Vaquer Caballería, J. Pedraza Córdoba (a cura di), La actuación administrativa automatizada: sus claves jurídicas, cit., p. 120 ss.

^[17] Sul punto, cfr. E. Gamero Casado, Sistemas automatizados de toma de decisiones en el derecho administrativo español, Revista General de Derecho Administrativo, 63, 2023, pp. 5-6.

^[18] Sul punto, cfr. E. Gamero Casado, Compliance (o Cumplimiento Normativo) de desarrollos de Inteligencia Artificial para la toma de decisiones administrativas, Diario La Ley, Nº 50, 19 de Abril de 2021, Wolters Kluwer, p. 313; R. Gómez Padilla, Comentario al art.41 LRJSP (LA LEY 15011/2015), in M.Á. Recuerda Girela (a cura di), Régimen jurídico del sector público y procedimiento administrativo común, Aranzadi-Thomson-Reuteres, Cizur Menor, 2016, p. 1219.

^[19] Cfr., A. Fortes Martín, La distribución de competencias e imputación de responsabilidades en la actuación administrativa automatizada, in M. Vaquer Caballería, J. Pedraza Córdoba (a cura di), La actuación administrativa automatizada: sus claves jurídicas, cit., p. 395 ss.

^[20] Cfr. M. Vaquer Caballería, El humanismo del derecho administrativo de nuestro tiempo, in Revista de Administración Pública, 222, 2023, p. 42; A. Cerrillo i Martínez, Retos y oportunidades de la regulación española de la inteligencia artificial, in A. Cerrillo i Martínez, F. Di Lascio, I. Martín Delgado, C. Velasco Rico (a cura di), Inteligencia artificial y Administraciones públicas: una triple visión en clave comparada, cit., p. 103.

^[21] Sul punto, cfr. S. De la Serra Morón, Una introducción a la Carta de derechos digitales, in L. Cotino Hueso (a cura di), La Carta de Derechos Digitales, Valencia, Tirant lo Blanch, 2022, pp. 27-52; M. Barrio Andrés, La Carta de Derechos digitales de España: su sentido, Diario La Ley, 9904, 2021.

^[22] Cfr., L. Cotino Hueso, Qué concreta transparencia e información de algoritmos e inteligencia artificial es la debida, in Revista Española de la Transparencia, 16, 2023, p. 27.

^[23] Sul punto, cfr. E. Gamero Casado, Sistemas automatizados de toma de decisiones en el derecho administrativo español, cit., p. 15.

^[24] Sul punto, cfr. M. Vaquer Caballería, El humanismo del derecho administrativo de nuestro tiempo, cit., p. 44; E. Gamero Casado, Sistemas automatizados de toma de decisiones en el derecho administrativo español, cit., p. 12; A. Cerrillo i Martínez, Retos y oportunidades de la regulación española de la inteligencia artificial, in A. Cerrillo i Martínez, F. Di Lascio, I. Martín Delgado, C. Velasco Rico (a cura di), Inteligencia artificial y Administraciones públicas: una triple visión en clave comparada, cit., p. 106; C. Velasco Rico, Marco regulatorio de los sistemas algorítmicos y de Inteligencia Artificial: El papel de la Administración, El derecho administrativo en la era de la inteligencia artificial. in Actas XVIII Congreso de la Asociación Española de Profesores y Profesoras de Derecho Administrativo, cit., p. 74 ss.

^[25] Sul tema, A. Cerrillo i Martínez, Retos y oportunidades de la regulación española de la inteligencia artificial, in A. Cerrillo i Martínez, F. Di Lascio, I. Martín Delgado, C. Velasco Rico (a cura di), Inteligencia artificial y Administraciones públicas: una triple visión en clave comparada, Madrid, Iustel, 2024, p. 103; I. Hernández San Juan, Efectos de la automatización sobre la organización administrativa: las organizaciones especializadas, in M. Vaquer Caballería, J. Pedraza Córdoba (a cura di), La actuación administrativa automatizada: sus claves jurídicas, cit., p. 382 ss.

^[26] I riferimenti più significativi al cd. juicio de valor si rinvengono nella legislazione sulla contrattazione pubblica. In particolare, agli artt. 63.3. e), 63.5, 146.2, 150.11; 157.52, 157.2, 159.1.b), 145.5 b) e c) della Ley 9/2017, de 8 de noviembre, de Contratos del Sector Público

^[27] Sul punto, cfr., A. Segura Martínez, Los criterios sujetos a juicio de valor. El caballo de Troya de la contratación pública, in Revista de Estudios de la Administración Local y Autonómica, 22, 2024, pp.118-136.

^[28] A questi provvedimenti aventi carattere spiccatamente discrezionale è possibile assimilare, con qualche differenza, la nozione di criteri “quantitativi” e “qualitativi” nella valutazione dell’offerta dell’operatore economico e l’attività discrezionale esercitata dal seggio di gara elaborata in Italia da giudice amministrativo. Sul punto, cfr. Cons. Stato, sez. V, 15 aprile 2021 n. 3117.

^[29] J. Ponce Solè, Inteligencia artificial, Derecho administrativo y reserva de humanidad algoritmos y procedimiento administrativo debido tecnologico, in Revista General de Derecho Administrativo, 50, 2019. Id., Seres humanos e inteligencia artificial: discrecionalidad artificial, reserva de humanidad y supervisión humana, in E. Gamero Casado, F.L. Pérez Guerrero (a cura di), Inteligencia artificial y sector público: retos, límites y medios, cit., pp. 195-225. Sempre in Spagna, sul tema, J. Pedraza Córdoba, Reserva de humanidad y otras fórmulas de gobierno de sistemas decisorios híbridos empleados por la Administración pública, in M. Vaquer Caballería, J. Pedraza Córdoba (a cura di), La actuación administrativa automatizada: sus claves jurídicas, cit., p. 899 e ss. In Italia, sulla riserva di umanità già G. Gallone, Riserva di umanità e funzioni amministrative. Indagine sui limiti dell’automazione decisionale tra procedimento e processo, Milano, CEDAM, 2023; Id., Digitalizzazione, amministrazione e persona: per una “riserva di umanità” tra spunti codicistici di teoria giuridica dell’automazione, in PA Persona e amministrazione, 1, 2023

^[30] Cfr. A. Cerrillo i Martínez, Retos y oportunidades de la regulación española de la inteligencia artificial, in A. Cerrillo i Martínez, F. Di Lascio, I. Martín Delgado, C. Velasco Rico (a cura di), Inteligencia artificial y Administraciones públicas: una triple visión en clave comparada, cit., p. 104.

^[31] Sulla questione, cfr. L. Cotino Hueso, Qué concreta transparencia e información de algoritmos e inteligencia artificial es la debida, cit., 2023, p. 27.

^[32] Sul punto, cfr. A. Cerrillo i Martínez, Retos y oportunidades de la regulación española de la inteligencia artificial, in A. Cerrillo i Martínez, F. Di Lascio, I. Martín Delgado, C. Velasco Rico (a cura di), Inteligencia artificial y Administraciones públicas: una triple visión en clave comparada, cit., p. 107.

^[33] Lo dimostrano i dati dell’Artificial Intelligence Index Report 2025 che colloca la Spagna si colloca in una posizione di assoluta leadership quanto a menzioni dell’intelligenza artificiale nelle procedure legislative.

^[34] In questo ambito, Cfr., I. Martín Delgado, M. Valle Camacho, La transparencia de los sistemas algorítmicos. Propuestas desde la contratación pública, in P. Valcárcel Fernández, F.L. Hernández González (a cura di), El derecho administrativo en la era de la inteligencia artificial. Actas XVIII Congreso de la Asociación Española de Profesores y Profesoras de Derecho Administrativo, cit., 295; I. Martín Delgado, A.M. Moreno Molina. Administración Electrónica, Transparencia y Contratación Pública, Iustel,Madrid, 2020. Su questo tema anche, L. Gamo Sanz, La contratación de las aplicaciones de automatización, in M. Vaquer Caballería, J. Pedraza Córdoba (a cura di), La actuación administrativa automatizada: sus claves jurídicas, cit., p. 827 ss.

^[35] Cfr., E. Carloni, Le decisioni automatizzate di fronte al giudice amministrativo, in Diritto Amministrativo, 2, 2020, pp. 271 ss.

^[36] Sul punto, sia consentito un richiamo a R. Calvara, L’impiego di sistemi di Intelligenza artificiale nei contratti pubblici: l’alba di un nuovo potere amministrativo, in A. Cerrillo i Martínez, F. Di Lascio, I. Martín Delgado, C. Velasco Rico (a cura di), Inteligencia artificial y Administraciones públicas: una triple visión en clave comparada, Madrid, Iustel, 2024; G. D’Amore, R. Calvara, La diffusione dei sistemi di intelligenza artificiale nella pubblica amministrazione, in S. Pisano (a cura di), Intelligenza artificiale. Azienda, lavoro, diritti, Bari, Cacucci, 2024.

^[37] Il filone giurisprudenziale di cui si tratta prende il nome dalla legge 13 luglio 2015, n. 107, Riforma del sistema nazionale di istruzione e formazione e delega per il riordino delle disposizioni legislative vigenti, nota come “Buona Scuola”.

^[38] Il riferimento è alle sentenze, TAR Lazio, Roma, sez. III bis, 21 marzo 2017 n. 3742; 22 marzo 2017 n. 3769, secondo le quali il software è qualificabile quale atto amministrativo cd. informatico ai fini della sua piena accessibilità in sede di accesso agli atti ai sensi dell’art. 22 della legge n. 241 del 1990. Sempre nell’ambito della scuola, sul diritto di accesso al codice sorgente del software utilizzato per lo svolgimento della prova scritta del corso-concorso nazionale per il reclutamento di dirigenti scolasti, TAR Lazio, Roma, sez. III bis, sent. 6 giugno 2019 n. 733; Cons. Stato, sez. VI, 2 gennaio 2020 n. 30; TAR Lazio, Roma, sez. III bis, 22 giugno 2020 n. 7526. Sull’immissione in ruolo dei docenti di sostegno e sulle procedure di mobilità dei docenti, anche Con. Stato, 4 febbraio 2020, n. 881. Il Collegio ha affermato che «(...) non può assumere rilievo l’invocata riservatezza delle imprese produttrici dei meccanismi informatici utilizzati le quali, ponendo al servizio del potere autoritativo tali strumenti, all’evidenza ne accettano le relative conseguenze in termini di necessaria trasparenza».

^[39] In dottrina, non sempre condividendo l’argomentazione seguita dalle corti, si vedano, tra gli altri, F. Bravo, Trasparenza del codice sorgente e decisioni automatizzate, in Diritto dell’Informazione e dell’Informatica (Il), 4, 2020, pp. 693 e ss; Id., Access to Source Code of Proprietary Software Used by PublicAdministrations for Automated Decision-making. What Proportional Balancing of Interests?, in EuropeanReview of Digital Administration & Law, 1-2, 2020, p. 1-2; A. Corrado, La trasparenza necessaria per infondere fiducia in una amministrazione algoritmica e antropocentrica, in federalismi.it, 5, 2023 199 e ss.; I. Forgione, Il caso dell’accesso al software MIUR per l’assegnazione dei docenti, in Giornale di diritto amministrativo, 2018, pp. 647 ss.; E. Prosperetti, Accesso al software e al relativo algoritmo nei procedimenti amministrativi e giudiziari. Un’analisi a partire da due pronunce del TAR Lazio, in Il diritto dell’informazione e dell’informatica, 4-5, 2019, p. 979 ss. Sulla sufficienza dell’accesso al sorgente ai fini della trasparenza e della comprensibilità della decisione algoritmica, in Italia, C. Ramotti, A transparent decision-making in the digital age, in Italian Journal of Public Law, 1,2, 2025, pp. 227 e ss. In Spagna, A. Cerrillo i Martínez, La transparencia de los algoritmos que utilizan las administraciones públicas, in Anuario de Transparencia Local, 3, 2020, pp. 41-78; Id., ¿Son fiables las decisiones de las Administraciones públicas adoptadas por algoritmos?, in European Review of Digital Administration & Law, 1, 2020; M.E.Gutiérrez David, Administraciones inteligentes y acceso al código fuente y los algoritmos públicos. Conjurando riesgos de cajas negras decisionales, in Derecom, 31, 2021, pp 19-115; Id., Acceso al código fuente y a los algoritmos de las Administraciones inteligentes. Lecciones a partir de experiencias comparadas, in l. Cotino Hueso, J. Castellanos (a cura di), Transparencia y explicabilidad de la inteligencia artificial, Valencia, Tirant lo Blanch.

^[40] Il riferimento è alle pronunce, TAR Lazio, Roma, sez. III-bis, 10 settembre 2018, nn. 9224-9230; Cons. Stato, sez. VI, 8 aprile 2019, n. 2270; TAR Lazio, Roma, sez. III-bis, 27 maggio 2019, n. 6606; Cons. St., sez. VI, 13 dicembre 2019, nn. 8472-8474; Cons. Stato, sez. VI, 4 febbraio 2020, n. 881; TAR Lazio, Roma, sez. III-bis, 24 giugno 2021, n. 7589.

^[41] Su questo filone giurisprudenziale, cfr. E. Carloni, Le intelligenze artificiali nella pubblica amministrazione e la sfida della trasparenza, in A. Lalli (a cura di), L’amministrazione pubblica nell’era digitale, Giappichelli, Torino, 2022, 45-60. S. Del Gatto, Potere algoritmico, digital welfare state e garanzie per gli amministrati. I nodi ancora da sciogliere, in Rivista Italiana di Diritto Pubblico Comunitario, 6, pag. 829 e ss; D.U. Galetta, J.G. Corvalàn, Intelligenza artificiale per una Pubblica Amministrazione 4.0? Potenzialità, rischi e sfide della rivoluzione tecnologica in atto, in federalismi.it, 3, 2019; G. Lo Sapio, La trasparenza sul banco di prova dei modelli algoritmici, federalismi.it, 11/2021; G. Lo Sapio, La black box: l’esplicabilità delle scelte algoritmiche quale garanzia di buona amministrazione, federalismi.it, 16, 2021, p. 114 e ss.

^[42] Un report elaborato da Ernst & Young LLP per Microsoft recensiva già nel 2020 ben 213 usi di sistemi di intelligenza artificiale applicati alle attività amministrative.

^[43] Il Parlamento spagnolo con la Ley 24/2013, de 26 de diciembre, del Sector Eléctrico, ha disciplinato all’art. 45, la concessione di un voucher sociale in favore di “consumatori vulnerabili”, in conformità alla Direttiva 2009/72/CE del Parlamento europeo e del Consiglio, del 13 luglio 2009.

^[44] L. Cotino Hueso, Una regulación legal y de calidad para los análisis automatizados de datos o con inteligencia artificial. Los altos estándares que exigen el Tribunal Constitucional alemán y otros tribunales, que no se cumplen ni de lejos en España, Revista General de Derecho Administrativo, 63, 2023; J. Ponce Solé, La transparencia algorítmica y los entes locales: lecciones de las sentencias recaídas en el caso BOSCO, con especial atención a la de la Audiencia Nacional de 30 de abril de 2024, El Consultor de los Ayuntamientos, nº III, Octubre de 2024, Editorial LA LEY; J. Ponce Solé, Por qué se equivocan las sentencias sobre el algoritmo del bono social eléctrico, Almacén de Derecho, May 13, 2024; M.E.Gutiérrez David, Acceso al código fuente y a los algoritmos de las Administraciones inteligentes. Lecciones a partir de experiencias comparadas, cit.

^[45] Sul punto, cfr. L. Cotino Hueso, Caso Bosco, a la tercera tampoco va la vencida. Mal camino en el acceso los algoritmos públicos, in Diario LA LEY, Nº 84, Sección Ciberderecho, 17 de Mayo de 2024. Sulla necessità di accedere al codice sorgente per garantire trasparenza, comprensibilità e sindacabilità della decisione amministrativa, in Spagna, J. Ercilla García, (2023). Transparencia en la Inteligencia Artificial: explorando la necesidad de acceso al código fuente por parte de los Comités de Empresa, Revista Aranzadi Doctrinal, 8, 2023; A. Peralta Gutiérrez, P. de la Torre Rodríguez, Pericial de la IA: ¿Es necesario el acceso al algoritmo?, Diario LA LEY, Nº 90, Sección Ciberderecho, 16 de Diciembre de 2024.

^[46] Sul punto, TAR Lazio, Roma, sez. III, 1 luglio 2020, n.7526 e Cons. Stato, sez. VI, 1 aprile 2020, n. 881.

^[47] L. Cotino Hueso, Discriminación, sesgos e igualdad de la inteligencia artificial en el sector público, in E. Gamero Casado, E. y Pérez Guerrero, (a cura di) Inteligencia artificial y sector público. Retos, límites y medios, cit., 2023.

^[48] J. Ponce Solé, Por qué se equivocan las sentencias sobre el algoritmo del bono social eléctrico, cit.

^[49] In Spagna sul tema, tra gli altri, L. Parejo Alfonso, La administración electrónica como innovación y su implantación, in M. Vaquer Caballería, J. Pedraza Córdoba (a cura di), La actuación administrativa automatizada: sus claves jurídicas, cit., 106. S. de la Sierra, El ejercicio de potestades mediante inteligencia artificial, in El derecho administrativo en la era de la inteligencia artificial. Actas XVIII Congreso de la Asociación Española de Profesores y Profesoras de Derecho Administrativo, cit., p. 251. In Italia, fra gli studi più interessanti in tema di discrezionalità e impiego di algoritmi nell’attività amministrativa, A. Cassatella, La discrezionalità amministrativa nell’era digitale, in A.a.V.v., Diritto amministrativo: scritti per Franco Gaetano Scoca, 1, Napoli, Edizioni Scientifiche Italiane, 2021, p. 675 ss.

^[50] J.C. Covilla Martinez, Artificial Intelligence and Administrative Discretion: Exploring Adaptations and Boundaries, European Journal of Risk Regulation, 16, 2025 p. 36 ss.

^[51] Cfr. Juli Ponce Solé, Seres humanos e inteligencia artificial: discrecionalidad artificial, reserva de humanidad y supervisión humana, in E. Gamero Casado (a cura di), Inteligencia artificial y sector público: Retos, límites y medios, cit., p. 197 ss; J. Valero Torrijos, El marco normativo básico de la Administración electrónica, in J. Valero Torrijos (a cura di) El régimen jurídico de la E-Administración: el uso de medios informáticos y telemáticos en el procedimiento administrativo común, Comares, Granada, 2007, p. 74 ss.

^[52] I. Martín Delgado, Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada, Revista de Administración Pública, 180, 2009, p. 353 e ss.; A. Cerrillo i Martínez, Robots, asistentes virtuales y automatización de las administraciones públicas, Revista Galega de Administración Pública, 61, 2021, p. 271 ss.

^[53] J. Ponce Solé, Il regolamento dell’unione europea sull’intelligenza artificiale, la discrezionalità amministrativa e la riserva di umanità, in Rivista trimestrale di diritto pubblico, 3, 2024; J.Ponce Solé, Límites jurídicos de la toma de decisiones discrecionales automatizadas mediante inteligencia artificial: racionalidad, sabiduría y necesaria reserva jurídica de humanidad en el ámbito digital, in Revista General de Derecho Administrativo, 66, 2024, p. 2 e ss.

^[54] E. Gamero Casado, Las garantías de régimen jurídico del sector público y del procedimiento administrativo común frente a la actividad automatizada y la inteligencia artificial, in E. Gamero Casado, F.L. Pérez Guerrero, Inteligencia artificial y sector público: retos, límites y medios, cit., p. 451.

^[55] Sul tema, F. Pasquale, Black box society. The secret algorithms that control money and information, Harvard University Press, 2015; C. Coglianese, D. Lehr, Regulating by Robot: Administrative Decision Making in the Machine-Learning Era, in Georgetown Law Journal, 105, 2017, p. 1147; M. Brkan, G. Bonnet, Legal and Technical Feasibility of the GDPR’s Quest for Explanation of Algorithmic Decisions: of Black Boxes, White Boxes and Fata Morganas, in European Journal of Risk Regulation, 2020, p. 34-35; Lo Sapio, La black box: l’esplicabilità delle scelte algoritmiche quale garanzia di buona amministrazione, cit.; A. Masucci, L’automatizzazione delle decisioni amministrative algoritmiche fra “big data” e “machine learning”. Verso l’“algocratic governance”?, Diritto e processo amministrativo, 2, 2022, p. 265 ss.; E. Troisi, Automated Decision Making and right to explanation. The right of access as ex post information, in European Journal of Privacy Law & Technologies, 1, 2022, 181 ss; S. Foà, Intelligenza artificiale e cultura della trasparenza amministrativa. Dalle “scatole nere” alla “casa di vetro”?, Diritto amministrativo, 3, 2023, p. 515.

^[56] E. Gamero Casado, Sistemas automatizados de toma de decisiones en el derecho administrativo español, cit. Affermazioni riprese e approfondite in E. Gamero Casado, Las garantías de régimen jurídico del sector público y del procedimiento administrativo común frente a la actividad automatizada y la inteligencia artificial, cit.

^[57] Quest’ultima posizione è stata espressa anche da altri autori. Cfr. I. Martín Delgado, Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada, in Revista de Administración Pública, 180, 2009, p. 377 ss; X. Urios Aparisi, I. Alamillo-Domingo, La actuación administrativa automatizada en el ámbito de las Administraciones públicas. Análisis jurídico y metodológico para la construcción y explotación de trámites automáticos, Escola d’Administració Pública de Catalunya, Barcellona, 2011, pp. 21-31, 88-133; A. Cerrillo i Martínez,¿Son fiables las decisiones de las Administraciones públicas adoptadas por algoritmos?, in European Review of Digital Administration & Law, 1, 2020, p. 31 ss.

^[58] Cfr., E. Gamero Casado, F.L. Pérez Guerrero, Inteligencia artificial y sector público: retos, límites y medios, cit.

^[59] E. Gamero Casado, Compliance (o Cumplimiento Normativo) de desarrollos de Inteligencia Artificial para la toma de decisiones administrativas, cit.

^[60] A. Huergo Lora, Una aproximación a los algoritmos desde el Derecho administrativo”, in G.M. Díaz González, A. Huergo Lora (a cura di), La regulación de los algoritmos, Aranzadi, Cizur Menor (Navarra), 2020, p. 74.

^[61] Cfr., I. Martin Delgado, La aplicación del principio de transparencia a la actividad administrativa algorítmica, in E. Gamero Casado, F.L. Pérez Guerrero, Inteligencia artificial y sector público: retos, límites y medios, cit.

^[62] L. Cotino Hueso, Qué concreta transparencia e información de algoritmos e inteligencia artificial es la debida, in Revista Española de la Transparencia, 16, 2023.

^[63] J. Ponce Solé, Il regolamento dell’unione europea sull’intelligenza artificiale, la discrezionalità amministrativa e la riserva di umanità, in Rivista trimestrale di diritto pubblico, 3, 2024, pp. 825 ss.; Id., Límites jurídicos de la toma de decisiones discrecionales automatizadas mediante inteligencia artificial: racionalidad, sabiduría y necesaria reserva jurídica de humanidad en el ámbito digital, in Revista General de Derecho Administrativo 66, 2024; J. Ponce Solé, La transparencia algorítmica y los entes locales: lecciones de las sentencias recaídas en el caso BOSCO, con especial atención a la de la Audiencia Nacional de 30 de abril de 2024, El Consultor de los Ayuntamientos, Nº III, Octubre de 2024, Editorial LA LEY.

^[64] J. Ponce Solé, La transparencia algorítmica y los entes locales: lecciones de las sentencias recaídas en el caso BOSCO, con especial atención a la de la Audiencia Nacional de 30 de abril de 2024, cit.

^[65] Sul punto, cfr. A. Cerrillo i Martínez, Retos y oportunidades de la regulación española de la inteligencia artificial, in A. Cerrillo i Martínez, F. Di Lascio, I. Martín Delgado, C. Velasco Rico (a cura di), Inteligencia artificial y Administraciones públicas: una triple visión en clave comparada, cit., p. 102; E. Gamero Casado, Las garantías de régimen jurídico del sector público y del procedimiento administrativo común frente a la actividad automatizada y la inteligencia artificial, in E. Gamero Casado, F.L. Pérez Guerrero (a cura di), Inteligencia artificial y sector público. Retos, límites y medios, cit., p. 397 ss; Id., Automatización e inteligencia artificial, in I. Martín Delgado (a cura di), El procedimiento administrativo y el régimen jurídico de la Administración pública desde la perspectiva de la innovación tecnológica, Madrid, Iustel, 2020; Id., Actividad administrativa automatizada y utilización de algoritmos, in F.A. Castillo Blanco, S. Fernández Ramos, J.M. Pérez Monguió (a cura di), Las políticas de buen gobierno en andalucía: digitalización y transparencia, Sevilla, Instituto andaluz de Administración pública, 2022; M. Vaquer Caballería, El procedimiento de automatización y los efectos de la automatización sobre los procedimientos administrativos, in M. Vaquer Caballería, J. Pedraza Córdoba (a cura di), La actuación administrativa automatizada: sus claves jurídicas, cit., p. 490 ss.

^[66] A. Cerrllo i Martínez, M. Alguacil Sanz, S. González, M.A. Moro Cordero, A las puertas de la Administración digital (a cura di)), Madrid, Instituto Nacional de Administración Pública, 2023.

^[67] Cfr., Á.M. Moreno Molina, Los riesgos de la actuación administrativa automatizada y las carencias de su marco legal (con propuestas para uno nuevo) in M. Vaquer Caballería, J. Pedraza Córdoba (a cura di), La actuación administrativa automatizada: sus claves jurídicas, cit., p. 196 ss.

^[68] Cfr. J. Ponce Solé, Il regolamento dell’unione europea sull’intelligenza artificiale, la discrezionalità amministrativa e la riserva di umanità, cit.; In Italia, già B. Marchetti, La garanzia dello human in the loop alla prova della decisione amministrativa algoritmica, in BioLaw Journal, 2, 2021.

^[69] La Fondazione CIVIO, infatti, ha già promosso ricorso avverso la sentenza dell’Audencia Nacional innanzi al Tribunal Supremo.

^[70] Sul tema, A. Berlanga, J.M. MolinA, Principios computacionales y algorítmos para la transformación y automatización digital, M. Vaquer Caballería, J. Pedraza Córdoba (a cura di), La actuación administrativa automatizada: sus claves jurídicas, cit., p. 320 ss.

^[71] Cfr. L. Cotino Hueso, J. Castellanos Claramunt, (a cura di), Transparencia y explicabilidad de la inteligencia artificial, cit; A. Descalzo González, La gestión automatizada de la información a caballo del secreto y la transparencia, M. Vaquer Caballería, J. Pedraza Córdoba (a cura di), La actuación administrativa automatizada: sus claves jurídicas, cit., p. 963 ss.