Parti dell’enciclica sull’Intelligenza Artificiale sono state scritte dall’IA?
Un ricercatore indipendente ha affermato che alcune parti della recente enciclica di papa Leone XIV sull’intelligenza artificiale (IA) sarebbero state scritte, in linea con il tema del documento, proprio da un’IA.
Linch Zhang, in un articolo pubblicato su Substack, ha affermato che il rilevatore di intelligenza artificiale Pangram ha segnalato alcune parti dell’enciclica di papa Leone XIV “Magnifica humanitas”, dedicata alla “salvaguardia della persona umana nell’era dell’intelligenza artificiale”, come generate appunto da un’IA.
Il ricercatore avverte: “Potrei benissimo sbagliarmi, e non dovreste fidarvi ciecamente delle mie intuizioni o dei miei giudizi. Dobbiamo approfondire l’argomento in modo più sistematico”. Tuttavia argomenta le sue conclusioni: “Pangram è di gran lunga il miglior rilevatore di IA disponibile in commercio. È molto superiore agli altri rilevatori di IA, al punto che questi ultimi risultano quasi inutili al confronto. In particolare, Pangram si impegna al massimo per ottenere un tasso di falsi positivi prossimo allo zero, tollerando al contempo un numero maggiore di falsi negativi”.
Secondo Zhang, Pangram ha dunque scoperto che “alcuni paragrafi” di “Magnifica humanitas” sono stati generati dall’intelligenza artificiale in una percentuale di probabilità compresa tra il 40% e il 100%, mentre la maggior parte dei paragrafi è stata scritta da esseri umani.
Ad esempio, i paragrafi sette e otto sono stati segnalati da Pangram come “interamente generati dall’IA”, mentre i paragrafi 122 e 123 sono stati registrati come generati dall’IA al 60%.
“Questo mi fa pensare – spiega Zhang – che alcuni alti funzionari vaticani che hanno contribuito all’enciclica abbiano fatto ampio uso dell’intelligenza artificiale, mentre la maggior parte (probabilmente incluso lo stesso papa Leone) non l’abbia fatto”.
Secondo Zhan, è assai probabile che papa Leone non sia a conoscenza del fatto che qualcuno ha usato l’IA in modo significativo per la sua enciclica.
A titolo di confronto, Zhang ha utilizzato Pangram per valutare le ultime quattro encicliche papali, tutte scritte da papa Francesco, e ha scoperto che “i primi venti paragrafi di ciascuna di esse risultano essere al 100% opera umana, con un alto grado di certezza”. Anche le encicliche di papa Benedetto XVI e Papa Giovanni Paolo II sono risultate interamente composte da esseri umani.
Zhang ha analizzato con Pangram anche il recente discorso di papa Leone in cui ha annunciato l’enciclica sull’IA e ha scoperto che è stato valutato come scritto “al 100%” da esseri umani. “Questa è la prova che papa Leone stesso e/o il suo principale autore di testi non si avvalgono dell’IA per redigere i discorsi”.
Zhang ha affermato di leggere regolarmente testi generati dall’IA nell’ambito del suo lavoro e che la sua familiarità con la scrittura dell’IA, in particolare con il modello Claude, lo ha reso sensibile ai suoi segni distintivi. Ha notato che questi includono, per esempio, la frequenza dei trattini lunghi, l’uso frequente della parola “genuinely” nonché l’uso denso di “tricloni”, ovvero “una serie di tre parole, frasi o proposizioni parallele utilizzate per effetto retorico”.
Il ricercatore ha sottolineato che questi indicatori possono essere parte di peculiarità stilistiche, evidenziando l’importanza di un’analisi olistica, in particolare quella fornita da un rilevatore di qualità basato sull’intelligenza artificiale come Pangram.
Dopo aver individuato la “voce” del modello di intelligenza artificiale Claude nella recente enciclica sulla “salvaguardia della persona umana nell’era dell’intelligenza artificiale”, Zhanh ha detto di aver trovato tutto questo davvero ironico.
