Quando l'errore dell'AI finisce al TAR: la "riserva di umanità" e la lezione di una sentenza recente

‍

Se l’uso dell’AI è rapidamente entrato a far parte della vita quotidiana, il suo uso nei contratti pubblici non fa differenza. La tentazione di farsi aiutare dalle nuove tecnologie per scrivere atti, relazioni e provvedimenti è forte ed è anche legittima, se si pensa a quanto tempo si potrebbe risparmiare. Ma cosa succede se uno strumento di Intelligenza Artificiale generalista commette un errore, ad esempio inventando o sbagliando il numero di una sentenza citata in una relazione? E soprattutto, un errore del genere può bastare a far annullare un'esclusione di un concorrente?

A queste domande ha risposto il TAR Marche (Ancona, Sez. I) con la sentenza del 1° giugno 2026, n. 758, aggiungendo un tassello fondamentale al dibattito sull'uso dell'algoritmo nella Pubblica Amministrazione.

Il caso: "La relazione del RUP sembra scritta da un'AI"

La vicenda nasce dal ricorso di un operatore economico escluso da una procedura negoziata per mancanza di affidabilità, a causa di precedenti risoluzioni contrattuali. Tra i vari motivi di ricorso, l'operatore ha sollevato una questione decisamente moderna: ha accusato il RUP di aver utilizzato un'Intelligenza Artificiale non dichiarata e non controllata per redigere la propria relazione istruttoria.

La prova, secondo il ricorrente, stava nel fatto che le sentenze richiamate nell'atto erano inesistenti o del tutto inconferenti, e che le valutazioni sembravano stereotipate. Questo avrebbe violato il principio della "riserva di umanità", sancito dall'articolo 30 del Codice dei contratti pubblici (D.Lgs. 36/2023).

Che cos'è la "riserva di umanità" e quando viene violata?

Il Codice stabilisce regole chiare: le decisioni automatizzate devono essere conoscibili, non discriminatorie e, soprattutto, non esclusive. Deve cioè sempre esistere un contributo umano capace di controllare, validare o smentire l'output dell'algoritmo.

Il Consiglio di Stato lo ha ribadito più volte, l'uso dell'AI è legittimo solo se l'amministrazione non delega integralmente il proprio potere valutativo e discrezionale a una macchina, ma conserva l'effettivo controllo del procedimento.

Nel caso esaminato, però, il TAR Marche ha respinto il motivo di ricorso. I giudici hanno spiegato che una decisione è "completamente automatizzata" solo quando l'intervento umano manca del tutto (dall'input dei dati fino al provvedimento finale). L'eventuale uso dell'IA, come invece nel caso in questione, ha riguardato solo una parte della motivazione, la ricerca dei principi generali della giurisprudenza, mentre la concreta applicazione di quei principi e la decisione finale sono rimaste saldamente nelle mani del funzionario.

L'uso dell'IA è lecito ma il rischio resta sempre in capo al RUP

‍

Come evidenziato dai giudici, usare l'IA per cercare precedenti giurisprudenziali è come chiedere a un assistente di studio o a un software di ricerca giuridica di trovare tutte le sentenze su un tema. È una modalità nuova rispetto alla vecchia ricerca cartacea ma non toglie la paternità dell'atto. Inoltre il TAR ha ricordato, con un pizzico di ironia, che i richiami giurisprudenziali errati o "selettivi" capitavano spesso anche prima dell'avvento dei computer.

Tuttavia, questa sentenza ci lascia tre lezioni cruciali su cui riflettere:

1. Il vizio della "patente di legittimità": Molti funzionari tendono a "condire" gli atti con stralci di sentenze pensando di diminuire la propria responsabilità. Il TAR ricorda che in Italia non vige lo stare decisis (il precedente vincolante dei sistemi anglosassoni). Citare una massima non rende l'atto automaticamente legittimo se manca una vera motivazione calata sul caso specifico.
2. Il rischio delle allucinazioni: Se l'AI generalista utilizzata "allucina" e inventa i numeri delle sentenze, il RUP rischia di perdere credibilità e di prestare il fianco a ricorsi strumentali, anche se l'atto resta formalmente valido perché il principio giuridico espresso esiste davvero.
3. l limite strutturale degli strumenti generalisti. Non è un rischio occasionale, ma un difetto di progettazione: un'IA generalista è costruita per essere fluida e plausibile nel linguaggio, non per garantire l'esattezza di una fonte normativa o giurisprudenziale. Non distingue una sentenza vigente da una superata, non verifica se un principio è stato realmente affermato in quei termini, e quando non trova la risposta corretta non si ferma — la genera comunque, con la stessa sicurezza con cui riporterebbe un dato vero. La responsabilità, però, resta sempre e solo del RUP che quell'atto lo firma. 

La filosofia dietro AssistenteRUP: il cruciale supporto ai RUP

È esattamente per evitare situazioni come quella finita davanti al TAR Marche che abbiamo concepito AssistenteRUP.

Gli strumenti generalisti (come ChatGPT o simili) nascono per essere plausibili e fluidi nel linguaggio ma non hanno la precisione scientifica richiesta nel diritto amministrativo. Non sanno distinguere se una fonte è aggiornata o se una sentenza è stata superata.

L'AI di dominio, come quella su cui si basa il nostro assistente specialistico, è progettata con una logica opposta:

• Fonti certe e tracciabili: Non inventa i dati. Ogni volta che analizza un rischio o supporta la redazione di un atto, rimanda a fonti normative e giurisprudenziali reali, verificate e contestualizzate.
• Rispetto della decisione umana: Non si sostituisce al RUP e non genera provvedimenti "a scatola chiusa". Aiuta a validare la documentazione, a mappare i rischi dell'affidamento e a consultare la normativa complessa, ma lascia al professionista l'onere e l'onore della valutazione finale.

La "riserva di umanità" diventa quindi la garanzia che la tecnologia rimanga ciò che deve essere, ovvero un amplificatore dell'intelligenza e della responsabilità umana, al servizio del buon andamento della PA.

‍