Roberto Caso, 10 novembre 2023
Pubblicato su L’Adige del 14 novembre 2023 con il titolo “Intelligenza artificiale. Dubbi e domande su Marvel e Protector“
V. aggiornamenti qui e qui: Videosorveglianza e intelligenza artificiale. Il Garante privacy sanziona il Comune di Trento
Da un comunicato del 4 novembre del Comune di Trento, ripreso da vari organi di stampa, si apprende quanto segue:
“Il Garante per la protezione dei dati personali si è espresso (con nota datata 31.10.2023) sui progetti MARVEL e PROTECTOR di cui il Comune di Trento è partner assieme alla Fondazione Bruno Kessler. Si tratta di progetti di intelligenza artificiale per la sicurezza urbana finanziati dall’Unione Europea, che coinvolgono numerose realtà pubbliche e private di diversi paesi europei. […] Nella sua comunicazione il Garante indica […] delle violazioni: in particolare viene contestata la possibilità per il Comune di essere impegnato in attività di ricerca sulla materia e viene giudicata insufficiente la tecnica utilizzata per rendere anonime le persone”.
I progetti avevano già suscitato preoccupazioni e rilievi critici. Nella nota citata del Comune di Trento si riportano le parole di commento del sindaco Franco Ianeselli che suonano come una giustificazione:
“Ci atteniamo alle prescrizioni del Garante […] quando il Comune ha aderito a questo progetto lo ha fatto non certo con la volontà di sorvegliare le vite dei propri cittadini ma con lo scopo di usare le potenzialità della tecnologia per favorire la sicurezza in città. A questo serve la ricerca, a questo servono le sperimentazioni. Ci viene chiesto ogni giorno perché gli impianti di videosorveglianza servano solo ex post, quando un reato o un
incidente sono già avvenuti. Il tentativo è di sfruttarli per fornire alle forze
dell’ordine degli avvisi in tempo reale. Sicurezza e privacy in questo campo
devono necessariamente andare assieme e penso che avere un partner tecnologico come Fbk sia garanzia di riuscire a farlo”.
Sul sito del Garante privacy non risultano documenti pubblici sulla vicenda. In una fase ancora istruttoria si è aperta un’interlocuzione tra l’autorità di controllo della protezione dei dati personali e i soggetti coinvolti nei progetti (lo stesso Comune e la Fondazione Bruno Kessler o FBK).
Non esistendo ancora un provvedimento del Garante privacy, le uniche fonti di riferimento sono rappresentate dai siti web dei progetti europei, del Comune di Trento e di FBK.
In estrema sintesi, la disciplina europea per la protezione dei dati personali prescrive tra i requisiti per la liceità del trattamento dei dati personali un fondamento legittimo previsto dalla legge (il consenso della persona interessata o un’altra base giuridica). Inoltre, la persona deve essere informata dal titolare del trattamento dei suoi dati personali su una serie di aspetti del trattamento, a cominciare dalla sua finalità. Le informazioni da fornire alla persona sono contenute in un documento denominato nel gergo della materia “informativa”.
Dalla stringatissima informativa – neanche due pagine – disponibile sul sito web del comune si viene a sapere quanto segue.
Il fondamento legittimo per il trattamento non è il consenso delle persone interessate, ma l’esecuzione di un compito di interesse pubblico ai sensi dell’art. 6 del Regolamento europeo per la protezione dei dati personali 2016/679 (meglio noto nella prassi con l’acronimo inglese di GDPR) . La finalità è rappresentata esclusivamente dallo sviluppo dei progetti MARVEL e PROTECTOR.
Niente si dice sulla logica e sul funzionamento di algoritmi e software alla base dell’intelligenza artificiale applicata alla moltitudine dei dati audio e video delle persone interessate dalla sorveglianza di massa. La modalità del trattamento è riassunta in una frasetta di un paio di righe che lascia il cittadino completamente all’oscuro dei dettagli di questo trattamento massivo di dati personali.
Non è questa la sede per entrare nei dettagli giuridici di questa vicenda. Ci sarà tempo per farlo. Si possono però formulare alcune domande che meritano approfondimenti nelle prossime settimane.
a) A livello dell’Unione Europea ci si è posti il problema dell’impatto che tali progetti di sorveglianza di massa hanno sulla privacy e la libertà dei cittadini?
b) I progetti partiti nel 2021 sono destinati a terminare a breve. Un eventuale provvedimento del Garante privacy che arrivi a cose fatte può dirsi efficace? Nel caso in cui si riscontrassero violazioni della legge, un’eventuale sanzione pecuniaria avrebbe la deterrenza sufficiente ad evitare il rischio che analoghe violazioni si ripetano in futuro?
c) Può l’obbligo di informare la massa di persone interessate dalla sorveglianza urbana basarsi su un documentino disponibile sulla pagina web di un Comune?
d) Sul piano politico (e non giuridico) la scelta di avviare questo tipo di progetto di sorveglianza di massa può essere giustificata dal fatto di ricevere quotidiane sollecitazioni ad usare la tecnologia in chiave preventiva?
Quest’ultimo quesito richiama alla mente il visionario racconto distopico intitolato “Minority report” che Philip Kindred Dick scrisse negli anni ’50. Nel mondo cupo e inquietante immaginato da Dick ha preso piede la teoria del “precrimine”, un sistema predittivo che si basa sul rapporto di tre esseri mutanti “i precog” in grado di prevedere in anticipo il crimine che sarà commesso. Ogni pregog produce un rapporto. I tre rapporti sono analizzati da un computer che determina se c’è un rapporto di maggioranza, cioè se almeno due predizioni del crimine futuro sono sovrapponibili e sostanzialmente coincidenti. Tale capacità predittiva ha consentito l’abolizione del sistema post-crimine basato su sanzioni e prigioni. Ma si fonda su predizioni imperfette: quando esiste un rapporto di maggioranza ne esiste ineluttabilmente uno di minoranza.
Nelle prime pagine del racconto uno dei protagonisti pronuncia la seguente frase: “Lei ha probabilmente afferrato qual è il fondamentale difetto della metodologia precrimine dal punto di vista legale. Noi arrestiamo individui che non hanno infranto nessuna legge” [P.K. Dick, Rapporto di minoranza, trad. it. di P. Prezzavento, Fanucci editore, 2002, p. 29].
Chissà se l’intelligenza artificiale dei progetti MARVEL e PROTECTOR produce rapporti di minoranza. Sarebbe interessante saperlo, anche se a cose fatte.