Paolo Benanti: «Ecco cos’è l’algoretica e perché ce n’è bisogno»
Saper sfruttare la tecnologia in maniera oculata, garantendo aspetti come privacy, sicurezza, equità e impatto ambientale, conciliarla con i grandi temi etici, è, a suo parere, una delle sfide più impegnative che attende l’uomo nei prossimi decenni…
Chi si occupa del tema sa che quando è stata introdotta l’automobile, un governo come quello inglese aveva dato regole ferree. Il veicolo non poteva andare a più di venti chilometri orari, doveva essere preceduto a 200 metri da un pedone con una bandiera rossa che veniva sventolata. Poi è arrivato il codice della strada. Abbiamo iniziato a formarci e abbiamo acquisito nuove competenze per convivere in strada anche con le automobili. Questa, a grandi linee, è la sfida di cui stiamo parlando. Se da un lato questi nuovi strumenti spaventano, tra tanti motivi, perché assorbono competenze, dall’altro ne creano. Abbiamo pur sempre bisogno di qualcuno che sappia controllare la macchina, che sia in grado di giudicare se ciò fa l’AI sia giusto o meno.
Lei ha parlato, a proposito del passaggio che stiamo vivendo, di un “cambio d’epoca”. Ritiene che il concetto di “frontiera” possa aiutarci a mettere a fuoco ciò che sta avvenendo?
Oggi che le macchine sono in grado di prendere decisioni mediche, potrebbero fungere da giudice? Ci chiediamo: “Che differenza c’è tra una scelta compiuta da un medico umano e quella compiuta da un algoritmo? Che differenza c’è tra un giudice e un algoritmo?”. Non è una questione di mera efficacia. Da sempre, in ogni cultura, il giudice, il medico e il prete sono figure scelte all’interno di una comunità in funzione del loro impegnarsi fino in fondo nella professione, e che per questo ricevevano il mandato, se vogliamo usare un’espressione forte, a “mettere le mani sulle persone”. Tutto questo oggi conosce una nuova stagione di interrogativi e un cambio d’epoca, perché siamo chiamati a ritrovare il fondamento del nostro vivere sociale, esattamente come accaduto quando abbiamo scoperto che noi europei non eravamo l’unico “modello” di uomo sulla Terra. Questo richiede una nuova civilizzazione tra culture diverse. Ciò è evidente se guardiamo a quello che sta succedendo sulle piattaforme digitali e a quello che stanno producendo TikTok, YouTube, i podcast e via dicendo. Una cultura del digitale, che è differente dalla cultura analogica.
L’intelligenza artificiale è un ambito oggi in forte espansione, ma in che senso si può parlare in questo caso di “intelligenza”? Ed esiste una dimensione del pensiero umano non assimilabile alla computazione algoritmica?
Oggi vengono vendute tante soluzioni che ci aiutano, come gli assistenti digitali negli smartphone o in casa, ma questa diffusione pratica dell’intelligenza artificiale ancora non risponde a questa domanda. Inoltre attualmente è molto facile attribuire alla macchina una capacità cognitiva alta, quella che un ragazzo acquisisce intorno ai 14-15 anni. Per saper calcolare la radice cubica di nove, a scuola, abbiamo dovuto aspettare un po’ di anni, una calcolatrice la fa in maniera immediata. Al contrario un bambino a un anno e mezzo o due è in grado di aprire la porta di casa con la maniglia e scappare, mentre una mano robotica ancora non è capace – allo stato attuale della tecnologia – di utilizzare una maniglia. Questa situazione paradossale ci dice che forse abbiamo avuto un problema nell’identificare il sistema nervoso centrale inteso come cervello con la sede dell’intelligenza, perché quello che vediamo nell’essere umano è che l’intelligenza è distribuita anche all’interno di tutto il processo motorio. Ed ecco perché non è possibile tradurre immediatamente quella grande capacità intellettiva che consente di incorporare in un chip funzioni matematiche molto complesse, nella capacità di movimento di una mano robotica.
Abbiamo concettualizzato l’intelligenza come se fosse qualcosa di astratto e residente in un’unità di elaborazione centrale, mentre invece è qualcosa di corporeo: è incarnata, appartiene al nostro corpo.
Come si può definire il rapporto tra una macchina di intelligenza artificiale e l’ambito dei fini, dell’etica?
Se vogliamo dare alla macchina un certo grado indipendenza rispetto a un controllore umano, si apre la questione di come conciliare valori numerici con valori etici. Questo è il motivo per cui ho proposto di scrivere questo nuovo grande capitolo dell’etica, che si chiama “algoretica”. Ma cosa deve essere l’algoretica? Non certo una consapevolezza etica della macchina, perché la macchina non è un qualcuno, altrimenti saremmo allo stesso problema di cui sopra. Possiamo intenderla come una sorta di guardrail etico, che tiene la macchina all’interno di una strada e, per quanto possibile, evita alcuni eventi infausti. C’è poi tutta un’altra questione, ed è una questione che riguarda come gestire questa soglia di attenzione etica per la macchina. È chiaro che qui si tratta di uscire da un modello di etica delle professioni, per cui basta l’ingegnere che è etico, e tutto il resto segue a cascata. Quindi non si tratta solo di dotare la macchina di una capacità di giudizio, cosa che è impossibile, e nemmeno solo di surrogarla con questi guardrail etici.
Si tratta anche di creare uno spazio di critica sociale in cui sia possibile chiederci cosa facciano gli algoritmi, che funzione abbiano.
Perché i ponti di calcestruzzo, oggi, altro non sono che gli algoritmi che ci danno o ci negano l’accesso ad alcune aree della nostra vita.
In chiusura, a suo avviso è possibile effettivamente avere dei meccanismi, delle modalità, dei luoghi in cui queste dinamiche possano essere discusse, e in un qualche modo le scelte possano essere gli effetti di questa discussione, consapevole anche delle possibili conseguenze?
Direi semplicemente rivivendo quella che è la nostra natura di Occidente costruito attorno alla Polis, cioè tornando ad una piazza dove le diverse competenze si confrontano su quello che accade. Ecco, secondo me la questione è la stessa: si tratta di creare nuove piazze, nuove agorà in cui le diverse competenze possano confrontarsi, come stiamo facendo noi in questo momento, sulla pluralità e le problematicità connesse a questa evoluzione tecnica e tecnologica. In termini più moderni, si tratta di passare da un governo top-down a processi efficaci di governance, in cui diverse competenze contribuiscano fattivamente alla realizzazione e all’informazione del dispositivo legale che realizza tutto questo.