July 6, 2026
Quando l'errore dell'AI finisce al TAR: la "riserva di umanità" e la lezione di una sentenza recente
Blog
Abbiamo letto con attenzione il nuovo libro di Paolo Benanti, La nuova logica del dominio. Potere computazionale, democrazia e condizione umana, perché tocca in modo profondo alcune delle domande che ci poniamo ogni giorno nello sviluppo di AssistenteRUP. Non vogliamo qui recensirlo né riassumerne il contenuto: vogliamo riprendere una delle riflessioni che lo attraversano per affrontare una domanda che ci accompagna costantemente nel nostro lavoro.
Negli ultimi due anni abbiamo assistito a una corsa senza precedenti all'intelligenza artificiale: ogni settimana nasce un nuovo modello, ogni mese vengono annunciati progressi che fino a poco tempo fa sembravano impensabili. Il dibattito, però, si concentra quasi sempre sulle prestazioni: quale modello sia più potente, più veloce o più accurato.
Paolo Benanti ci invita a spostare lo sguardo verso il potere computazionale: la capacità degli algoritmi di orientare decisioni, influenzare comportamenti e incidere sul funzionamento delle organizzazioni e, più in generale, della società. Le prestazioni contano, certo, ma sono solo una parte della questione.
Per un RUP, però, si tratta di una questione tutt'altro che astratta. Ogni giorno l'intelligenza artificiale entra nelle attività di ricerca normativa, redazione degli atti, analisi della documentazione e valutazione dei rischi. Capire come questi sistemi vengono progettati diventa quindi una questione pratica, non soltanto culturale.
Quando si parla di algoritmi, si tende a immaginarli come strumenti oggettivi. In realtà ogni sistema di intelligenza artificiale è il risultato di una lunga serie di decisioni prese durante la progettazione: quali dati utilizzare, quali fonti considerare affidabili, come gestire l'incertezza, quando privilegiare la prudenza, quali obiettivi ottimizzare. Nessuna di queste scelte è neutrale.
È proprio qui che il concetto di potere computazionale descritto da Benanti diventa concreto. Gli algoritmi non si limitano a elaborare informazioni: incorporano criteri, priorità e valori che finiscono inevitabilmente per influenzare le decisioni di chi li utilizza.
Per questo, accanto alla domanda "quanto è intelligente questa AI?", dovremmo iniziare a porcene un'altra: quale interesse è chiamata a tutelare? La risposta dipende, più che dal modello linguistico utilizzato, dalle scelte di chi lo progetta. È lì che prende forma il potere computazionale di cui parla Benanti: nella decisione di quali valori privilegiare, quali rischi evitare e quali obiettivi perseguire.
Immaginiamo una domanda sul Codice dei contratti pubblici. Un assistente generalista può fornire una risposta corretta dal punto di vista linguistico e coerente con le informazioni di cui dispone. Per un RUP, però, questo potrebbe non essere sufficiente: occorre sapere su quali fonti si basa quella risposta, se esistono interpretazioni differenti, quali sono i margini di incertezza e quali conseguenze potrebbe avere una determinata scelta.
In un settore nel quale le decisioni sono soggette a responsabilità amministrative, contabili e, in alcuni casi, anche penali, cambia completamente il modo in cui valutiamo la qualità di una risposta: la plausibilità non basta più, serve che sia affidabile, contestualizzata e verificabile.
Negli ultimi mesi si parla molto di modelli sempre più grandi e generalisti: è un'evoluzione straordinaria, che sta cambiando il modo in cui lavoriamo. Parallelamente, però, sta emergendo un'altra tendenza, quella dei sistemi progettati per domini specifici, nei quali la conoscenza del contesto conta quanto la capacità di generare testo.
Nel settore pubblico questo significa conoscere la normativa, la giurisprudenza, i pareri delle autorità, la prassi amministrativa e, soprattutto, comprendere il ruolo e le responsabilità di chi dovrà assumere la decisione finale. È una direzione che riteniamo destinata ad acquisire sempre maggiore importanza, ed è la stessa che ha guidato, fin dall'inizio, il modo in cui abbiamo pensato AssistenteRUP.
Leggendo il libro di Paolo Benanti abbiamo ritrovato molte delle domande che ci poniamo quotidianamente nello sviluppo di AssistenteRUP. Quando si progetta un sistema di AI per la Pubblica Amministrazione, chiedersi quali funzionalità offrire è solo il primo passo: bisogna decidere come il sistema dovrà comportarsi davanti a un dubbio interpretativo, a una clausola potenzialmente rischiosa o a norme che ammettono letture differenti.
Sono scelte progettuali, e sono proprio queste a determinare se un sistema diventerà un semplice generatore di risposte oppure uno strumento capace di supportare decisioni responsabili. Per questo abbiamo scelto di costruire AssistenteRUP come un assistente specializzato, pensato per affiancare RUP e stazioni appaltanti durante l'intero ciclo di vita degli affidamenti: aiuta a consultare la normativa, validare la documentazione di gara, analizzare i rischi e valorizzare il patrimonio documentale dell'amministrazione, attraverso assistenti esperti costruiti sulla documentazione dell'ente.
L'obiettivo è rendere le sue decisioni più consapevoli, lasciando a lui la scelta finale.
Uno dei principali meriti del libro di Paolo Benanti è ricordarci che l'intelligenza artificiale non è soltanto una questione tecnologica: ogni algoritmo riflette le scelte di chi lo ha progettato. Per questo la domanda "a quali interessi dovrebbe rispondere l'AI?" è tutt'altro che una provocazione: dovrebbe accompagnare chiunque sviluppi, acquisti o utilizzi sistemi di intelligenza artificiale.
Nel settore pubblico questa domanda assume un significato ancora più concreto. Chi utilizza questi strumenti cerca un supporto che lo aiuti a prendere decisioni corrette, motivate e difendibili.
Per questo crediamo che l'AI destinata alla Pubblica Amministrazione debba essere progettata per aiutare le amministrazioni a operare nel rispetto dei principi di legalità, trasparenza, imparzialità e buon andamento. Dovrebbe rafforzare la capacità decisionale delle persone, senza mai sostituirla; dovrebbe contribuire a ridurre il rischio di errore, aumentare la qualità dell'azione amministrativa e tutelare, prima di tutto, l'interesse pubblico.
È una riflessione che Paolo Benanti propone con grande lucidità e che consigliamo a chiunque si occupi di intelligenza artificiale. Perché, in fondo, il dibattito sul futuro dell'AI riguarda soprattutto l'interesse che sceglieremo di mettere al centro quando la progetteremo, molto più di quanto riguardi ciò che queste tecnologie saranno in grado di fare.
Paolo Benanti, La nuova logica del dominio. Potere computazionale, democrazia e condizione umana, Laterza, 2026.
Assistente RUP è in fase di sviluppo e vogliamo condividere il nostro percorso con i professionisti della Pubblica Amministrazione. Unisciti alla nostra community per:
Iscriversi è un modo per diventare parte attiva della nostra evoluzione e contribuire alla creazione di un nuovo standard di supporto per la Pubblica Amministrazione.
Assistente RUP è in fase di sviluppo e vogliamo condividere il nostro percorso con i professionisti della Pubblica Amministrazione. Unisciti alla nostra community per:
Iscriversi è un modo per diventare parte attiva della nostra evoluzione e contribuire alla creazione di un nuovo standard di supporto per la Pubblica Amministrazione.
