La macchina decide per te: algoritmi opachi e welfare automatizzato nella Lombardia digitale

C'è un funzionario che non si vede mai alle riunioni, non firma verbali, non risponde alle interrogazioni consiliari. Eppure, ogni giorno, contribuisce a stabilire chi ha diritto a un assegno di cura, quale famiglia viene inserita in una lista d'attesa prioritaria, quale comune riceve più risorse per i servizi sociali. Si chiama algoritmo. E in Lombardia, la sua influenza sul welfare regionale è cresciuta in modo silenzioso, rapido e — soprattutto — sottratta a qualsiasi forma di scrutinio pubblico.

Decisioni automatizzate, diritti concreti

Per comprendere la portata del fenomeno, occorre partire da un dato di fatto: la Regione Lombardia ha investito, negli ultimi cinque anni, centinaia di milioni di euro in sistemi informatici per la gestione dei servizi sanitari e sociali. Una parte consistente di questi fondi è confluita in contratti con aziende tecnologiche private per lo sviluppo di piattaforme di analisi predittiva e di supporto decisionale automatizzato.

Questi sistemi non si limitano a elaborare dati statistici. Secondo quanto emerso da documenti ottenuti attraverso richieste di accesso agli atti — alcune delle quali hanno richiesto mesi di attesa e ricorsi — alcuni di essi vengono impiegati per generare profili di rischio degli utenti, valutare l'eligibilità a specifici benefici e persino suggerire la distribuzione territoriale delle risorse destinate ai servizi domiciliari per anziani e disabili.

In altri termini: una macchina, addestrata su dati storici e parametri definiti da soggetti privati, contribuisce a decidere se tua madre ottiene l'assistenza domiciliare o finisce in lista d'attesa.

I contratti che nessuno vuole mostrare

Il problema non è soltanto tecnico. È politico, nel senso più profondo del termine. Chi ha definito i criteri su cui gli algoritmi vengono addestrati? Quali variabili vengono ponderate, e con quale peso specifico? Quali aziende hanno accesso ai dati sensibili dei cittadini lombardi?

Le risposte a queste domande sono tutt'altro che scontate. Alcune delle convenzioni stipulate dalla Regione con fornitori di intelligenza artificiale contengono clausole di riservatezza che limitano fortemente la possibilità di verificare i parametri operativi dei sistemi. In un caso documentato, relativo a una piattaforma per la valutazione del bisogno assistenziale degli anziani, il contratto prevedeva esplicitamente che il "modello di scoring" fosse considerato proprietà intellettuale dell'azienda fornitrice, sottraendolo così a qualsiasi forma di audit pubblico.

Questo significa che i criteri con cui una persona anziana viene classificata come "a basso rischio" o "ad alto rischio" — con conseguenze dirette sull'accesso ai servizi — sono, di fatto, segreti commerciali.

L'amplificatore delle disuguaglianze

Uno degli aspetti più preoccupanti riguarda l'impatto differenziale di questi sistemi sui territori. Gli algoritmi di machine learning sono noti per riprodurre — e talvolta amplificare — i bias presenti nei dati storici su cui vengono addestrati. In una regione profondamente disomogenea come la Lombardia, dove le infrastrutture sociali, la densità dei servizi e i livelli di reddito variano enormemente tra l'area metropolitana milanese e le province periferiche, questo rischio assume contorni particolarmente acuti.

Le aree già svantaggiate — Mantova, Sondrio, le zone della Bassa bergamasca, alcune fasce della Lomellina — rischiano di essere sistematicamente penalizzate da modelli predittivi addestrati prevalentemente su dati provenienti da contesti urbani più strutturati. Un comune piccolo, con meno storico di richieste di servizi, meno personale amministrativo capace di interfacciarsi con le piattaforme digitali regionali, meno connettività infrastrutturale, ottiene un profilo algoritmico meno "competitivo" rispetto ai grandi centri.

Il risultato paradossale è che chi ha più bisogno riceve meno, non per una scelta politica esplicita — che potrebbe essere contestata, discussa, rovesciata — ma per un effetto collaterale di un sistema automatizzato che nessuno ha mai dibattuto pubblicamente.

Trasparenza algoritmica: un diritto negato

In Europa, il Regolamento generale sulla protezione dei dati (GDPR) e, più recentemente, l'AI Act dell'Unione Europea hanno introdotto principi chiari in materia di trasparenza e responsabilità nei sistemi automatizzati che producono effetti giuridici sulle persone. Il diritto a non essere soggetti a decisioni esclusivamente automatizzate, il principio di spiegabilità, l'obbligo di valutazione d'impatto: sono strumenti normativi esistenti, non mere aspirazioni.

Eppure, in Lombardia, l'applicazione di questi principi al welfare algoritmico appare largamente deficitaria. Nessuna delibera di Giunta ha mai affrontato sistematicamente il tema della governance degli algoritmi nella pubblica amministrazione regionale. Nessuna commissione consiliare ha convocato i responsabili tecnici per illustrare il funzionamento dei sistemi in uso. Nessun registro pubblico degli strumenti di intelligenza artificiale adottati dalla Regione risulta accessibile ai cittadini.

La trasparenza algoritmica non è un lusso tecnologico. È una condizione minima di democrazia.

Cosa chiedere, cosa pretendere

Di fronte a questo scenario, le richieste che una politica progressista e genuinamente attenta ai diritti dovrebbe avanzare non sono astratte né velleitarie. Si tratta di misure concrete, già adottate in altri contesti europei.

In primo luogo, un registro pubblico degli algoritmi utilizzati dalla Regione Lombardia in ambito sanitario e sociale, con indicazione del fornitore, della finalità, dei dati trattati e dei criteri di valutazione. In secondo luogo, l'istituzione di un comitato di audit indipendente — composto da esperti di diritto, etica digitale e rappresentanti della società civile — con accesso effettivo ai modelli in uso. In terzo luogo, la previsione esplicita, nei capitolati d'appalto, che i sistemi di intelligenza artificiale finanziati con denaro pubblico non possano contenere clausole di segretezza sui criteri decisionali.

Infine, e forse più importante, la garanzia che ogni cittadino lombardo che riceva una decisione sfavorevole in ambito di welfare abbia il diritto di sapere se e come un sistema automatizzato ha influito su quella decisione, e di contestarla davanti a un interlocutore umano e responsabile.

Governare la tecnologia, non subirla

La questione degli algoritmi nel welfare non è una questione tecnica riservata agli informatici. È una questione di potere: chi lo detiene, chi ne risponde, chi ne subisce le conseguenze. In Lombardia, come altrove, esiste il rischio concreto che l'automazione diventi uno schermo dietro cui nascondere scelte politiche che nessuno vuole rivendicare apertamente.

La vera innovazione non sta nel delegare le decisioni alle macchine. Sta nel costruire istituzioni capaci di governarle, con trasparenza, partecipazione e responsabilità democratica. Finché questo non avviene, ogni euro speso in intelligenza artificiale pubblica è un euro sottratto al controllo dei cittadini che lo hanno versato.