“Da quando abbiamo iniziato a realizzare macchine che possono acquisire fini da noi e poi scelgono i mezzi per realizzarli, queste ci hanno messo di fronte al fatto che il fine non sempre giustifica i mezzi“, dichiara Padre Paolo Benanti, consigliere di Papa Francesco per l’Intelligenza Artificiale e l’Etica della tecnologia.
Utilizzando la metafora dell’automobile autonoma, Benanti illustra un dilemma fondamentale: se un’auto autonoma deve portarci velocemente all’aeroporto, “mettere sotto un pedone non giustifica il fine della mia urgenza“. Un esempio, quello di Benanti, che evidenzia la necessità di direttive etiche che garantiscano che le decisioni delle macchine siano compatibili con i valori umani. Benanti definisce queste barriere morali come “algoretica“, un nuovo termine che descrive uno spazio etico intorno agli algoritmi e ai comportamenti delle macchine.
Algoretica: un tema antico e complesso
Un dibattito interessante, che in realtà non nasce con le parole di Benanti e che, anzi, va avanti da decenni, sin dalle primissime formulazioni del concetto di Intelligenza Artificiale di Alan Turing ed Herbert Simon negli anni 50. L’esempio citato da Benanti sull’etica delle automobili con sistemi di IA integrati è in effetti una semplificazione di una serie di dilemmi etici ampiamente esplorati da filosofi ed esperti di intelligenze artificiali, che implicano anche una sostanziale possibilità di scelta delle macchine stesse in situazioni di pericolo.
Guglielmo Tamburrini, docente di filosofia della scienza presso l’Università Federico II di Napoli, con il suo saggio Etica delle Macchine, esplora uno scenario in cui le automobili capaci di guida autonoma sono ampiamente utilizzate, e si pone un quesito sostanziale che va ben oltre il dilemma sollevato da Benanti: in caso di collisione con un pedone, cosa dovrebbe fare l’auto intelligente? Salvaguardare la vita dell’automobilista investendo il pedone o salvare il pedone andando a sbattere contro un muro e mettendo a rischio la vita dell’automobilista?
Attualmente non esistono direttive chiare e vincolanti a livello europeo su questioni tanto delicate e specifiche, anche perché sistemi di guida autonomi non sono ancora molto diffusi tra le auto in circolazione. Eppure, risulta evidente che il progresso tecnologico avanzi ad una velocità esponenziale, e quelle che, ad oggi, possono risultare delle preoccupazioni premature, a breve potrebbero trasformarsi in qualcosa di ben più urgente e necessario. Da questo punto di vista Benanti ha colto nel segno: il fine – la semplificazione della vita degli utenti – non può automaticamente giustificare i mezzi, o quantomeno il chiudere un occhio sulla pericolosità potenziale di strumenti tecnologici altrimenti considerati utili.
Padre Benanti: chi è il frate esperto di intelligenza artificiale?
Padre Benanti, frate francescano romano del 1973, è un esperto di etica, bioetica ed etica delle tecnologie. I suoi studi si concentrano sulla gestione dell’innovazione, l’impatto dell’era digitale, le biotecnologie, le neuroscienze e le neurotecnologie. Laureato e dottorato in teologia morale presso la Pontificia Università Gregoriana, ha scritto una tesi di dottorato intitolata “The Cyborg. Corpo e corporeità nell’epoca del postumano“, vincitrice del Premio Belarmino – Vedovato.
Docente presso diverse istituzioni, tra cui la Pontificia Università Gregoriana e l’Istituto Teologico di Assisi, Benanti insegna morale sessuale, bioetica, neuroetica ed etica delle tecnologie. È stato membro della Task Force Intelligenza Artificiale per l’Agenzia per l’Italia digitale e della Pontificia Accademia per la Vita, con un mandato specifico per le intelligenze artificiali.
Nel 2018, è stato scelto dal Ministero dello Sviluppo Economico come membro del gruppo di trenta esperti per elaborare la strategia nazionale sull’intelligenza artificiale e tecnologie basate su blockchain. In un mondo sempre più automatizzato, l’algoretica proposta da Benanti mira a garantire che l’evoluzione tecnologica avvenga nel rispetto dei valori e dei principi umani, evitando che le macchine prendano autonomamente decisioni contrarie all’etica alla base della nostra società.
