IA, il fine non giustifica i mezzi e le macchine non sono persone
A pochi giorni dal Giubileo della comunicazione, con l’aula Nervi gremiti di giornalisti e operatori dei media, arriva dal Vaticano un importante documento sul rapporto fra l’intelligenza umana e l’intelligenza artificiale (IA), protagonista indiscussa non solo del dibattito scientifico ma anche delle cronache quotidiane.
“Antiqua et nova”, così si intitola il testo elaborato insieme da due organismi della Santa Sede: il Dicastero per la dottrina della fede e il Dicastero per la cultura e l’educazione.
Due aggettivi latini per indicare la sapienza, antica e nuova, con cui occorre considerare le odierne sfide e opportunità poste dal recente sviluppo dell’intelligenza artificiale.
La chiave del discorso è ben esplicitata dopo l’ampia parte dedicata alla spiegazione dei termini: «A essere eticamente significativi non sono soltanto i fini, ma anche i mezzi impiegati per raggiungerli; inoltre, sono importanti anche la visione generale e la comprensione della persona incorporate in tali sistemi».
In due parole: il fine non giustifica i mezzi. L’intelligenza artificiale può essere messa a servizio di grandi e importanti obiettivi, ma «a livello sociale, alcuni sviluppi tecnologici potrebbero anche rafforzare relazioni e dinamiche di potere che non sono in linea con una corretta visione della persona e della società».
La prospettiva è esaltante: l’IA può davvero costituire un aiuto alla libertà umana e alle decisioni che dobbiamo prendere.
C’è però un problema, dato dal fatto che i nuovi modelli diventano sempre più capaci di apprendimento indipendente, e questo riduce di molto la possibilità di esercitare un controllo su di essi al fine di garantire che tali applicazioni siano a servizio del bene delle persone e non contro di esse.
La Nota vaticana chiede inoltre di «evitare il volto umano», rappresentando l’interfaccia dell’IA come se fosse una persona.
È una modalità alquanto diffusa, che però contiene un rischio soprattutto per i bambini, «i quali possono sentirsi incoraggiati a sviluppare schemi di interazione che intendono le relazioni umane in modo utilitaristico, così come avviene con i chatbot».
Come ha osservato molti anni fa lo scrittore cattolico francese Georges Bernanos, citato nelle pagine finali del documento, «il pericolo non si trova nella moltiplicazione delle macchine, ma nel numero sempre crescente di uomini abituati, fin dall’infanzia, a non desiderare altro che ciò che le macchine possono dare».
