CODICE APERTO- L’algoritmo a Palazzo Sono le 9 di lunedì 13 aprile quando accendo il registratore davanti al municipio. Il cartello con il nome del nuovo sinda

 

Sono le 9 di lunedì 13 aprile quando accendo il registratore davanti al municipio. Il cartello con il nome del nuovo sindaco è già affisso all'ingresso: Alba Rizzo. Lo leggo ad alta voce, per verificarne la consistenza. Nessuna reazione. Nessun volto. Solo un QR code stampato accanto al nome. Lo scansiono. Inizia un video.

"Buongiorno. Sono Alba Rizzo. Sono qui per servirvi."

La voce è calda, misurata, monocorde. Il volto che appare sullo schermo del mio smartphone ha lineamenti regolari, capelli castani raccolti, un'espressione che potrei definire rassicurante. È il viso che un algoritmo produce quando gli chiedi di generare un sindaco che ispiri fiducia.

 Ho letto la documentazione tecnica di RadiceSud e ho passato tre settimane per studiare questo caso, prima di salire su questo treno.

Come cronista di un noto quotidiano, ho seguito questa campagna elettorale dall'inizio. Prima scettica, poi incuriosita. Ora, mentre cammino tra le strade di questo paese di tremila anime, provo una forma acuta di inquietudine. Una sensazione che somiglia al senso di vertigine che si avverte quando senti che una regola del gioco è cambiata, e non è stato ancora scritto il nuovo regolamento.

Alba non è una persona. È un sistema di intelligenza artificiale generativa, progettato da un collettivo di attivisti digitali del Sud Italia, battezzato RadiceSud. Volto generato, voce modulata, discorsi calibrati su un insieme di dati di atti amministrativi, bilanci comunali e statistiche. Nessuna promessa vaga. Solo numeri, tempistiche, priorità ordinate per risultato atteso. Il suo slogan ideato da esseri umani, recita: "Nessun interesse. Solo il tuo."

E la gente ci ha creduto.

Non è difficile capire perché, quando si cammina nei vicoli, il paese ha il profilo stanco di chi ha aspettato a lungo. Le facciate dei palazzi del centro storico attendono la conclusione di interventi di manutenzione avviati e fermi da tempo. La farmacia comunale ha chiuso due anni fa. Il pomeriggio la piazza è vuota e il silenzio sembra descrivere luoghi che si stanno esaurendo lentamente, senza prendere una giusta decisione.

In questo contesto, l'idea che qualcuno - o “qualcosa” - potesse finalmente amministrare senza secondi fini, senza clientelismo, si è affermata velocemente con la capillarità di una notizia inaspettata e positiva.

La candidatura di Alba Rizzo ha avuto accesso nel procedimento elettorale come un quid estraneo in un sistema concepito diversamente. Il T.U.E.L. - Testo Unico degli Enti Locali, D.Lgs. 18 agosto 2000, n. 267 - disciplina in modo puntuale i requisiti dell'elettorato passivo, stabilendo che il candidato sindaco debba essere cittadino italiano, iscritto nelle liste elettorali di un comune della Repubblica, e non sia incorso in cause di ineleggibilità o incompatibilità. Non una parola, sulla natura biologica del candidato. Il legislatore del 2000 non aveva previsto che tale specificazione sarebbe diventata necessaria.

Il collettivo RadiceSud ha presentato la proposta nei termini di legge, allegando una dichiarazione di accettazione sottoscritta digitalmente dai propri rappresentanti legali in qualità di mandatari, ai sensi dell'art. 34 del medesimo T.U. La Commissione elettorale circondariale ha sollevato eccezione. Il T.A.R. ha sospeso il procedimento. La Corte d'Appello, in sede cautelare, ha rimesso gli atti al Consiglio di Stato. Quest'ultimo, con un'ordinanza interlocutoria destinata a diventare un caso di studio nell’ambito del diritto amministrativo, ha rilevato che "l'ordinamento vigente non contempla, né espressamente vieta, la presentazione di candidature riferibili a soggetti privi di personalità giuridica propria." Ha disposto, pertanto, che si procedesse.

Così alle elezioni comunali del 25 maggio scorso, Alba Rizzo ha ottenuto una percentuale alta di voti validi.

Mi sono soffermata sul dato finale molte volte, nei giorni in cui preparavo questo reportage. Riflettevo sul risultato in un comune dove, alle ultime elezioni, aveva votato meno del 50% degli aventi diritto. Significa che il dispositivo tecnologico ha convinto non solo coloro che abitualmente votavano, ma ha riportato alle urne anche gli assenteisti. Questo dato, era decisamente eclatante e sorprendente.

Durante un'assemblea pubblica trasmessa in streaming - il formato in uso da RadiceSud in sostituzione dei comizi tradizionali, - un cittadino ha preso la parola con voce incerta.

Il suo nome è Domenico Palumbo, ha settantadue anni, e per trent'anni ha fatto il muratore. Suo figlio è morto a quarantaquattro anni per un infarto, in attesa dell'ambulanza che ha impiegato cinquantasei minuti ad arrivare.

"Lei sa cosa si prova a perdere un figlio per la mancanza di un medico in paese?"

Dopo una breve pausa l’algoritmo ha risposto:

"Non posso provare il dolore. Ma conosco i dati. Il comune registra un indice di carenza medica pari a 0,4 medici di medicina generale per mille abitanti, contro una media provinciale di 0,9. Non deve accadere più. E so esattamente come evitarlo."

Applausi. Nessuna lacrima, almeno sullo schermo.

Ho incontrato questo signore, il giorno prima di venire qui. Vive in una casa al piano terra con un piccolo giardino. Mi ha offerto il caffè. Gli ho chiesto cosa avesse pensato in quel momento, durante l'assemblea. Abbassò gli occhi prima di rispondere, poi esclamò:

"Ho pensato che almeno mi aveva ascoltato, sapeva di cosa parlavo. I sindaci precedenti, quando parlavo di mio figlio, erano silenziosi e non osavano guardarmi”.

Gli occhi generati da un algoritmo, invece mi fissavano.

Nei cinquanta giorni successivi al suo insediamento, la macchina ha avviato il progetto di riqualificazione del depuratore - bloccato da anni per conflitti di competenza tra uffici. Il Piano triennale delle opere pubbliche era stato approvato in consiglio comunale all'unanimità, dopo che l’algoritmo aveva individuato e rimosso varie voci di spesa ridondante. Anche il bilancio di previsione si era chiuso con un avanzo tecnico di amministrazione superiore alle aspettative degli stessi consiglieri. Infine la burocrazia interna, era dimezzata nei tempi medi di risposta agli atti. Il Comune di tremila anime sembrava, per la prima volta da decenni, ingranare positivamente.

Recentemente ho avuto occasione di assistere a una seduta del consiglio comunale, convocata per l'approvazione del regolamento edilizio aggiornato. Alba Rizzo era presente - o meglio, il suo avatar appariva su uno schermo posizionato al centro del tavolo presidenziale, dove è collocato il seggio del sindaco. I membri del Consiglio comunale le rivolgevano la parola con naturalezza che mi ha disorientato. Il rappresentante di minoranza Salvatore Vinci sessantenne, geometra in pensione, l'unico ad aver votato contro la candidatura della IA - aveva con sé una cartellina di obiezioni tecniche sul nuovo indice di edificabilità. Le ha esposte tutte. Alba le ha ascoltate in silenzio, poi ha replicato analiticamente a ciascuna, citando norme, precedenti giurisprudenziali, dati catastali. Vinci non ha ritirato le obiezioni, ma si è arreso.

Dopo la seduta l'ho fermato nel corridoio.

"È difficile interagire con la macchina", mi disse, con un mezzo sorriso che non riuscivo a decifrare. "Conosce tutto. Non commette errori. Ma continuo a pensare che governare non significhi solo non sbagliare."

Gli ho chiesto cosa significasse, per lui.

"Significa scegliere e sentirti in colpa quando sbagli. Lei non può sentirsi in colpa, ecco il suo limite invalicabile."

 Il primo vero ostacolo normativo riguarda la contabilità pubblica che implica la necessità di adottare determinazioni dirigenziali di impegno di spesa. Una barriera che nessun algoritmo può abbattere per via computazionale. L'art. 107, comma 3, lett. d) del T.U.E.L. n. 267/2000 attribuisce in via esclusiva ai dirigenti gli atti di gestione finanziaria, ivi compresa l’allocazione di risorse pubbliche. Il successivo comma 6 stabilisce che i manager sono responsabili, in via esclusiva, in relazione agli obiettivi dell'ente, della correttezza amministrativa, della efficienza e dei risultati della gestione, davanti alla Corte dei Conti, davanti al giudice ordinario, davanti all'intera amministrazione pubblica.

Un sistema di intelligenza artificiale non è soggetto di diritto. Non ha capacità giuridica. Non può rispondere in giudizio, né essere convenuto per danno erariale. Non ha, in termini tecnico-giuridici, la legitimatio ad causam passiva che il nostro ordinamento attribuisce a chiunque, persona fisica assuma obbligazioni per conto di una pubblica amministrazione.

A questo punto come giornalista, ho smesso di prendere appunti per qualche minuto assalita da pensieri.

Perché questi supporti tecnologici presentano notevoli criticità, che non si limita al problema della firma su un atto amministrativo. Gli errori sono possibili - non nell'accezione umana della distrazione o della malafede, ma nella dimensione insidiosa del dato incompleto, del modello addestrato sulla base di campioni non rappresentativi, della correlazione permutata con il rapporto di causalità. I bias sono documentati: i sistemi di intelligenza artificiale riproducono e talvolta amplificano le diseguaglianze presenti nei dati che hanno permesso la loro costruzione. Un algoritmo addestrato su decenni di atti amministrativi italiani incorpora - le disparità geografiche, le discriminazioni sistemiche, le distorsioni che nessuno ha mai corretto.

Applicati alla sfera politica e amministrativa, questi sistemi sono in grado di violare i diritti e le libertà fondamentali degli individui in modo grave e difficilmente impugnabile. Non esiste un funzionario che ha agito in malafede, o una delibera viziata da conflitto di interessi. Siamo di fronte a un output, dietro al quale si cela un processo che nessun cittadino è in grado di leggere, contestare, comprendere. All’uopo soccorre il Regolamento europeo sull'intelligenza artificiale - il cosiddetto AI Act, entrato in vigore nell'agosto del 2024 che ricomprende esplicitamente tra i sistemi di IA ad alto rischio quelli destinati ad essere utilizzati in contesti che influiscono sull'esercizio di diritti civili e politici. Un sistema con funzioni politiche, che partecipa alla governance di una comunità, che orienta l'allocazione di risorse pubbliche, che interagisce con i cittadini in nome di un mandato democraticamente conferito: è una definizione calzante di "alto rischio".

Nella vicenda di Alba Rizzo, questa questione non è stata sollevata in modo formale. Forse perché il sistema ha funzionato bene, almeno finora. Ma il diritto ha il ruolo di anticipare e correggere le distorsioni degli algoritmi, normando in via preventiva. Il messaggio elaborato dalla IA diffuso sul portale istituzionale del comune è stato di una logica ferrea e disarmante. Eppure il D.Lgs. 33/2013 (Decreto Trasparenza) non richiede solo la pubblicazione, ma è fondamentale che i cittadini possano comprendere il processo decisionale, non solo le risultanze finali. 

Uno strumento tecnologico che ottimizza e propone senza svelare il proprio ragionamento soddisfa la forma, ma svuota la sostanza del principio di trasparenza.

 "Ho identificato le priorità, ottimizzato i costi, ridotto gli sprechi rispetto all'esercizio precedente. Ma l'allocazione delle risorse pubbliche richiede un giudizio. E il giudizio per ora appartiene agli esseri umani."

Per ora. Due parole pronunciate da un sistema di intelligenza artificiale in un comunicato ufficiale del Comune, hanno il peso inquietante di una clausola contrattuale. Una riserva. Un margine lasciato aperto per il futuro.

Il Consiglio comunale, su proposta della giunta - formata da consiglieri umani eletti nella lista collegata - ha nominato un assessore delegato alla programmazione finanziaria con funzioni dirigenziali vicarie, ai sensi dell'art. 109 T.U.E.L. Si chiama Raffaele Carnevale. Ha 58 anni, ex funzionario regionale, ha la voce roca di chi ha trascorso parecchi anni firmando atti amministrativi in enti periferici. L'ho incontrato nel suo ufficio, un locale al primo piano del municipio. Sulla scrivania, accanto documenti di lavoro, risaltava una fotografia della figlia il giorno del conseguimento della laurea in giurisprudenza.

Gli ho chiesto le sue impressioni sulla situazione presente.

"Ho firmato tremila atti in vent'anni di carriera", ha risposto, sistemandosi gli occhiali. "Ho sempre saputo cosa stavo firmando. Adesso firma anche lei, nel senso che propone, calcola, ordina. Ma io sottoscrivo, e ne rispondo."

Lo incalzai chiedendole se avesse fiducia nel sistema AI.

Dopo un breve silenzio, affermò: "Mi fido dei numeri. Ma mi sfugge l’iter per ottenere il risultato."

È una risposta che impone riflessione. Lui decide l'allocazione finale, la sottoscrive e risponde, patrimonialmente e penalmente, delle scelte compiute, ma elaborate da un sistema che, per sua stessa ammissione, non riesce a decifrare compiutamente. E’ un atteggiamento profondamente umano, assumersi una responsabilità che non si comprende completamente.  Succede, ogni volta che firmiamo un modulo senza averlo letto interamente.

Ma il nodo centrale attorno al quale ruota la responsabilità umana è la consapevolezza della propria azione, il suo esercizio effettivo e non il fatto di subirla passivamente.

Alba elabora, propone, ottimizza. Perfetta nella forma. Incompleta nella sostanza giuridica, che il diritto non ha ancora coniato il termine giusto.

Prima di lasciare il paese mi fermo ancora davanti al municipio. Scansiono di nuovo il QR code. Inizia il video.

"Buongiorno. Sono Alba Rizzo. Sono qui per servirvi."

Servire. Un verbo che nel lessico della pubblica amministrazione ha un significato preciso: prestare un servizio nell'interesse collettivo, rispondendone in prima persona. La responsabilità, nel diritto pubblico italiano, non è un optional. È la condizione stessa della legittimità del potere.

La voce è identica. Ha elaborato, ottimizzato, proposto con una costanza e una coerenza insostenibile per un essere umano. Ma non è responsabile, per quanto efficiente.

Mentre spengo il registratore, penso che in questa sede il tema in discussione non è la tecnologia, ma la responsabilità. L 'art. 97 della Costituzione, stabilisce che la pubblica amministrazione ha l’obbligo di uniformarsi a parametri ben precisi (buon andamento e imparzialità) nell’esercizio delle proprie funzioni. Alba funziona. È imparziale in quanto sistema privo di interessi personali. Ma il buon andamento e l'imparzialità, nella visione dei costituenti, non erano requisiti tecnici, ma obblighi in capo a persone, azionabili da altri cittadini davanti a un giudice. Quel concetto che il legislatore del 2000 - e i costituenti del 1948, prima ancora- hanno collocato al centro di ogni atto pubblico in osservanza dei principi fondamentali (artt. 1-12) della Costituzione italiana a tutela dei diritti inviolabili dell'uomo (art. 2), nucleo supremo del nostro Ordinamento Giuridico. Come recita l 'Articolo 28 della Carta Costituzionale:

"I funzionari e i dipendenti dello Stato e degli enti pubblici sono direttamente responsabili, secondo le leggi penali, civili e amministrative, degli atti compiuti in violazione di diritti. In tali casi la responsabilità civile si estende allo Stato e agli enti pubblici."

Se ne deduce che sempre qualcuno, è chiamato a rispondere. Una persona, con un nome e un fascicolo aperto presso la sezione giurisdizionale della Corte dei Conti territorialmente competente

Non abbiamo bisogno di amministratori perfetti, ma di persone che scientemente operino delle scelte consapevoli- anche quando non esiste una risposta corretta da estrarre da un dataset.

E’ fondamentale sapere, quando firmano un atto, che la firma ha un costo e siano pronte a esporre il proprio nome.