“E nel nome del progresso
Il dibattito sia aperto
Parleranno tutti quanti
Dotti medici e sapienti.”
Mercoledì 13 marzo u.s., il Parlamento Europeo con 523 voti favorevoli, 46 contrari e 49 astensioni, ha approvato a Strasburgo la legge sull’Intelligenza Artificiale (l’AI Act).
L’Unione europea e i suoi stati membri sono così diventati i primi al mondo a dotarsi di un regolamento in materia di AI. Ah, a proposito, il virgolettato è l’incipit di “Dotti, medici e sapienti”, brano di Edoardo Bennato, contenuto nel favoloso Album “Burattino senza fili” del 1977. Quei versi sembrano appropriati, suonano quasi, calandoli nel contesto di cui qui si parla, come una premonizione sulla necessità di regolarne gli ambiti del progresso tecnologico (“E nel nome del progresso” si apre per l’appunto “il dibattito”), sull’impatto, peraltro abbastanza agevole da intuire, che l’AI in questo caso avrà, a vario titolo e nei più svariati settori, sulle nostre esperienze di vita.
Quell’Album (“Burattino senza fili”) favoloso lo era non solo (il resto lo riserviamo alle righe finali) perché adottava come metafora una fiaba, quella di Pinocchio, per “canzonare” e pungere una società che respingeva chi fosse fuori dagli schemi (un burattino senza fili per l’appunto).
L’obiettivo dell’AI Act è quello di tutelare e garantire i diritti fondamentali e la dignità delle persone, di proteggere la democrazia, lo Stato di diritto e la sostenibilità ambientale, dai sistemi di AI ad alto rischio, promuovendo nel contempo l’innovazione e assicurando all’Europa un ruolo guida nel settore. Il regolamento riguarda i fornitori dei sistemi, gli utilizzatori e gli acquirenti; questi ultimi, gli acquirenti, dovranno assicurarsi che il prodotto comprato abbia superato la procedura di valutazione ed ottenuto la conformità prevista, sia provvisto di un marchio di conformità europeo e sia accompagnato dalla documentazione e dalle istruzioni richieste.
L’AI Act non si applica ai sistemi destinati esclusivamente a scopi militari, di difesa o sicurezza nazionale e ai modelli gratuiti e open-source che non presentino rischi sistemici. Le nuove norme stabiliscono altresì obblighi sulla base dei possibili pericoli e del relativo effetto, catalogati sulla base di quattro categorie di rischio: minimo, limitato, alto e inaccettabile. Maggiore è il rischio, maggiori sono le responsabilità e i limiti per chi sviluppa o usa questi sistemi, fino ad arrivare ai modelli troppo pericolosi per essere autorizzati. Il regolamento mette fuori legge alcune applicazioni di AI che minacciano i diritti dei cittadini. Tra gli impieghi vietati vi sono: le tecnologie subliminali per manipolare i comportamenti delle persone, l’estrapolazione indiscriminata di immagini facciali da internet o dalle registrazioni dei sistemi di telecamere a circuito chiuso per creare banche dati di riconoscimento facciale, il riconoscimento delle emozioni sul posto di lavoro o a scuola, i sistemi di punteggio sociale (“social scoring”) e le pratiche di polizia predittiva (se basate esclusivamente sulla profilazione o sulla valutazione delle caratteristiche di una persona), i sistemi che manipolano il comportamento umano o sfruttano le vulnerabilità delle persone, i sistemi di categorizzazione biometrica basati su caratteristiche sensibili.
Riguardo l’identificazione biometrica, in linea di principio le forze dell’ordine non potranno fare ricorso a tali sistemi di identificazione biometrica, tranne che in alcune situazioni specifiche espressamente previste e nel rispetto di rigorose garanzie. E’ ad esempio possibile utilizzare l’identificazione “in tempo reale” solo se l’uso è limitato nel tempo e nello spazio e previa autorizzazione giudiziaria o amministrativa.
Gli usi ammessi includono, ad esempio, la ricerca di una persona scomparsa o la prevenzione di un attacco terroristico. I sistemi di AI per finalità generali e i modelli su cui si basano dovranno soddisfare determinati requisiti di trasparenza e rispettare le norme UE sul diritto d’autore durante le fasi di addestramento dei vari modelli. Le immagini e i contenuti audio o video artificiali o manipolati (i cosiddetti “deepfake“) dovranno essere chiaramente etichettati come tali.
L’AI Act deve ancora essere formalmente approvato dal Consiglio e deve ancora passare la verifica finale dei giuristi-linguisti. Dovrebbe perciò essere adottato definitivamente prima della fine di questa legislatura. Entrerà in vigore venti giorni dopo la pubblicazione nella Gazzetta ufficiale dell’UE e si applicherà a scaglioni. Entro i prossimi sei mesi partiranno i divieti e i soggetti pubblici e privati dovranno compiere valutazioni sull’entità dei rischi posti dai sistemi AI che stanno usando. Fra un anno sarà il turno delle norme sui sistemi di AI generativa, che dovranno rispettare gli standard di trasparenza, sicurezza informatica e condivisione della documentazione tecnica.
Queste regole si applicheranno prima di collocare i prodotti sul mercato per le AI ad alto impatto, mentre per i modelli più semplici le regole scatteranno al momento della commercializzazione. Infine, fra due anni, l’AI Act entrerà in vigore per intero, facendo scattare anche le sanzioni per chi non lo rispetta. Le sanzioni saranno commisurate ad una quota percentuale del fatturato globale di chi contravviene le disposizioni previste in ragione della loro gravità.
L’esperienza suggerisce che quando si regolamentano ambiti nuovi tecnologicamente avanzati le norme, le leggi, sovente annaspano non riuscendo nell’impresa, per lo meno non riuscendovi da sole. E’ come se vi fosse un doppio binario: su uno le leggi, i regolamenti, sull’altro il mercato, lo sviluppo, il progresso che rispetto alle leggi ha tempi e velocità decisamente più accelerati.
Normare l’AI non è solo importante è fondamentale, bene ha fatto perciò il Parlamento Europeo ad adottare l’AI Act. Tutto lascia però supporre che a regolare l’AI non saranno solo leggi, possibilmente fatte bene, potremmo dire mutuando i versi riportati all’inizio che “nel nome del progresso il dibattito” si è appena aperto e alcuni fatti recenti sono sintomatici. Elon Musk ha da poco reso pubblico il codice sorgente di Grok, il suo software (“chatbot”) presentato all’inizio di novembre dello scorso anno come alternativa a ChatGPT, il sistema di AI più famoso di tutti, sviluppato e gestito da OpenAI. Ebbene Elon Musk ha fatto causa a OpenAI e al suo amministratore delegato Sam Altman per aver compromesso la missione originale ChatGPT, che sarebbe stata concordata con lo stesso Musk al momento della fondazione di OpenAI. Musk avrebbe dato il suo contributo al progetto ChatGPT di OpenAI a condizione che diventasse una realtà no profit con l’obiettivo di creare sistemi di intelligenza artificiale a beneficio dell’umanità e del suo benessere. E invece, secondo Musk, è stata data priorità ai profitti.
Sulla questione si pronuncerà un giudice che farà sentenza, poi ci saranno altre sentenze che i player del mercato inevitabilmente provocheranno per tutelare i propri interessi, le sentenze modificheranno leggi e talvolta vi si sovrapporranno. Non è da escludere che interverrà un’apposita Authority di settore che emetterà regolamenti e linee guida. Nel frattempo il mercato avrà sperimentato e lanciato nuove “diavolerie”, con il legislatore costretto a correre affannosamente dietro gli eventi anziché prevenirli. E’ stato così in passato, basti pensare alla liberalizzazione di settori sensibili (Tel.Co, Energy) ed al vuoto normativo, per lo meno sistemico, in ambiti tipo Cyber security; tutto lascia supporre che sarà cosi anche per l’AI.
“Burattino senza fili”, l’Album di Edoardo Bennato a cui si accennava all’inizio, era favoloso soprattutto per la sua morale, dirompente per l’epoca in cui uscì. La fiaba di Pinocchio aveva una sua logica quella secondo la quale se uno si comporta bene diventa poi un adulto in regola, omologato. “Burattino senza fili” ne ha invece una esattamente opposta per la quale se uno segue magari fedelmente le regole, corre il rischio concreto di trovarsi impigliato in tanti fili e di finire imbrigliato nelle mani di chi quelle regole le ha fatte, quei fili li muove.
Oramai siamo già tutti senza fili, da tempo possiamo usufruire di computer, iPad, auricolari, in modalità wireless. Non è che per caso diventeremo pure “burattini”? Basteranno eventualmente leggi, disposizioni e regolamenti ad evitarlo?
