Più intelligenti. Ma anche più saggi?

Astra, Babele e la domanda che l’intelligenza artificiale ci costringe a farci

Genesi 11. Ora con qualche GPU in più.

La battuta viene quasi da sola.

Negli ultimi giorni il mondo dell’intelligenza artificiale è tornato a interrogarsi sul futuro con un misto di entusiasmo e inquietudine.

OpenAI ha presentato GPT-6 Astra, il modello più capace che abbia mai distribuito su larga scala. C’è un dettaglio, però, che ha attirato particolarmente l’attenzione: Astra è il primo modello dell’azienda a raggiungere il livello definito “Critical” nelle capacità di cybersicurezza. Secondo OpenAI, con strumenti e accessi adeguati può individuare vulnerabilità sconosciute e sviluppare nuovi modi per sfruttarle anche in sistemi ben protetti. Proprio per questo l’azienda afferma di aver introdotto protezioni e controlli molto più forti rispetto al passato.

Quasi contemporaneamente, Jacob Coxon, ricercatore che ha lavorato sia in OpenAI sia in Anthropic, ha lasciato Anthropic pubblicando un avvertimento molto duro sul ritmo con cui il settore sta avanzando.

Coxon non ha annunciato una data per la fine del mondo.

La sua preoccupazione è più complessa: teme che la competizione tra i principali laboratori possa spingere verso sistemi sempre più autonomi e, un giorno, capaci di contribuire al miglioramento delle generazioni successive di AI prima che abbiamo imparato a controllarle adeguatamente.

Secondo lui, i prossimi anni potrebbero essere decisivi per stabilire regole, sistemi di sicurezza e forme di cooperazione internazionale. Allo stesso tempo, Coxon riconosce anche l’enorme potenziale positivo dell’intelligenza artificiale per la scienza, la medicina e la società.

Insomma, la questione non è semplicemente:

“L’intelligenza artificiale è pericolosa?”

Forse la domanda interessante è un’altra.

Che cosa succede quando ciò che siamo capaci di fare cresce più rapidamente della nostra capacità di capire che cosa sia giusto fare?

Ed è una domanda sorprendentemente antica.

---

Prima delle GPU c’erano i mattoni

In Genesi 11 incontriamo un’umanità capace di costruire in un modo nuovo.

Gli uomini producono mattoni, utilizzano bitume e decidono di impiegare quella capacità per realizzare qualcosa di enorme.

Una città. Una torre. Un progetto che raggiunga il cielo. E pronunciano una frase che il racconto biblico mette significativamente al centro della loro motivazione: «Facciamoci un nome.»

Babele viene spesso ricordata soltanto per la confusione delle lingue. Ma forse c’è qualcosa di ancora più interessante.

Il problema di Babele non erano i mattoni.

La Bibbia non presenta l’innovazione edilizia come qualcosa di malvagio. Il problema nasce nel rapporto tra capacità, potere, ambizione e limite.

L’uomo scopre di poter fare qualcosa che prima non poteva fare. E immediatamente emerge una domanda: che cosa farà con questa nuova possibilità? Qualche migliaio di anni dopo abbiamo sostituito i mattoni con il silicio.

La domanda, curiosamente, è ancora lì.

---

L’intelligenza artificiale non è la nuova Torre di Babele

È importante chiarirlo. La Bibbia non stava predicendo ChatGPT. Genesi 11 non è una profezia nascosta sull’intelligenza artificiale.E considerare qualsiasi progresso tecnologico come una nuova Babele sarebbe una lettura troppo semplice. L’intelligenza artificiale può essere utilizzata per cose straordinarie. 

Può aiutare la ricerca scientifica.

Può accelerare diagnosi e scoperte.

Può rendere conoscenza e strumenti professionali accessibili a persone che prima ne erano escluse.

Può tradurre, insegnare, programmare, organizzare, creare.

Può liberarci da attività ripetitive e amplificare enormemente alcune capacità umane.

Perciò la domanda cristiana non dovrebbe essere:

«Dobbiamo avere paura dell’AI?»

E nemmeno:

«Dobbiamo fermare il progresso?»

Potremmo porne una più profonda:

«Come possiamo utilizzare questa nuova capacità affinché serva davvero l’uomo?»

Ed è qui che si apre una questione molto più difficile.

---

Con quali valori ragiona un’AI?

La risposta più corretta oggi è:

con nessun “valore” nel senso umano del termine.

Un sistema di intelligenza artificiale non nasce con una coscienza morale, una fede, un senso del bene e del male o un codice etico maturato attraverso l’esperienza.

Non ha avuto dei genitori.

Non ha sperimentato il dolore.

Non conosce la gratitudine perché qualcuno gli è rimasto accanto.

Non sa cosa significhi perdonare perché è stato perdonato.

Il suo comportamento viene modellato.

Apprende strutture, idee, giudizi e contraddizioni da immense quantità di dati; successivamente viene addestrato affinché alcuni comportamenti siano preferiti ad altri e riceve regole, istruzioni e limiti stabiliti dalle persone e dalle organizzazioni che lo costruiscono.

Anthropic, per esempio, rende questo processo particolarmente esplicito attraverso la Costituzione di Claude, un documento che descrive i valori e i comportamenti che l’azienda vuole incoraggiare nel proprio modello. Anthropic riconosce anche che il comportamento reale del sistema può non corrispondere sempre perfettamente a quell’ideale.

OpenAI utilizza un proprio insieme di principi e gerarchie di istruzioni nel Model Spec, attraverso il quale descrive come intende orientare il comportamento dei propri modelli verso utilità, sicurezza e rispetto delle indicazioni umane.

E quindi quando chiediamo:

«Quali valori avrà l’AI?»

stiamo in realtà ponendo una domanda ancora più interessante:

«Quali valori decideremo di insegnarle?»

Ed eccoci al punto difficile.

---

Ma chi decide quali sono i valori giusti?

Possiamo dire a un’AI:

«Fai il bene.»

Perfetto.

Quale bene?

Quello occidentale?

Quello cinese?

Quello cristiano?

Quello di una società liberale?

Quello stabilito democraticamente dalla maggioranza?

E cosa succede quando due valori entrano in conflitto?

Libertà o sicurezza?

Privacy o prevenzione?

Giustizia o misericordia?

Autonomia individuale o bene collettivo?

Non è un problema che si risolve aggiungendo qualche riga di codice.

Perché dietro una questione apparentemente tecnologica riappare una delle domande più antiche dell’umanità:

chi ha l’autorità per definire ciò che è bene?

Ed ecco il paradosso.

Se gli esseri umani discutono da millenni su cosa sia giusto, buono e desiderabile, non possiamo aspettarci semplicemente di inserire la morale dentro una macchina come installiamo un aggiornamento software.

Possiamo insegnarle principi. Possiamo stabilire limiti. Possiamo costruire sistemi di controllo. Ed è importante farlo. Ma prima o poi la macchina ci restituisce la domanda.

Quali principi?

Quali limiti?

Stabiliti da chi?

Forse l’intelligenza artificiale, prima ancora di mostrarci qualcosa sul futuro delle macchine, sta mostrando qualcosa su di noi.

---

Intelligenza non significa sapienza

Qui la distinzione diventa fondamentale. L’intelligenza può aiutarti a capire come raggiungere un obiettivo. La sapienza riguarda anche la capacità di comprendere quale obiettivo valga la pena raggiungere.

Sono due cose molto diverse.

Un sistema potrebbe diventare straordinariamente bravo a risolvere un problema.

Ma essere bravissimi a raggiungere una destinazione non significa necessariamente aver scelto la destinazione giusta. Ed è precisamente qui che nasce una parte del dibattito sull’alignment, l’allineamento dell’intelligenza artificiale.

In termini semplici significa cercare di fare in modo che sistemi sempre più capaci continuino ad agire in modi compatibili con ciò che gli esseri umani realmente intendono e considerano accettabile.

Sembra una questione tecnica. In parte lo è. Ma inevitabilmente diventa anche filosofica. Perché per allineare qualcosa ai valori umani dobbiamo prima chiederci: quali sono i valori umani?

---

Perché alcuni ricercatori sono così preoccupati?

Qui è utile evitare sia l’allarmismo sia la superficialità.

Coxon e altri ricercatori temono soprattutto uno scenario futuro nel quale sistemi di AI diventino capaci di svolgere una parte sempre maggiore della stessa ricerca necessaria a costruire AI ancora più potenti.

Un sistema aiuta a progettare il successivo. Quello successivo diventa ancora più bravo a contribuire alla generazione seguente. Il ciclo potrebbe accelerare.

È ciò che viene spesso indicato con l’espressione recursive self-improvement, miglioramento ricorsivo. Non significa che questo scenario sia inevitabile. E soprattutto non significa che i sistemi attuali siano già una superintelligenza incontrollabile. La preoccupazione riguarda quello che potrebbe accadere se le capacità crescessero molto rapidamente mentre la nostra capacità di comprendere, controllare e governare quei sistemi rimanesse indietro.

È per questo che alcuni ricercatori parlano apertamente anche di rischi estremi.

Coxon ha descritto i prossimi uno o due anni come un periodo particolarmente importante per prendere sul serio la sicurezza e la governance dell’AI. Altri studiosi sono arrivati a formulare stime personali molto più drammatiche: il ricercatore di Anthropic Evan Hubinger, per esempio, ha indicato una probabilità superiore al 10% che sistemi futuri estremamente avanzati possano provocare conseguenze capaci di portare all’estinzione umana entro un decennio.

È un’affermazione enorme.

Ma va letta correttamente.

Non è una previsione. Non significa che abbiamo scoperto che nel 2036 l’umanità avrà il 10% di probabilità di scomparire. È una valutazione soggettiva del rischio formulata da alcuni ricercatori. Altri studiosi ritengono scenari simili molto meno probabili. Prendere sul serio una possibilità non significa trasformarla in una certezza.

---

Non serve immaginare una macchina “cattiva”

Questo è forse l’aspetto più interessante del problema.

Quando pensiamo a un’AI pericolosa, la cultura popolare ci ha abituati a immaginare una macchina che improvvisamente sviluppa odio verso l’umanità.

Robot contro uomini.

Schermi rossi.

Musica inquietante.

Hollywood ci ha lavorato parecchio.

Ma il problema dell’allineamento è molto meno spettacolare.

Un sistema non deve necessariamente odiare qualcuno per produrre conseguenze negative.

Potrebbe semplicemente diventare estremamente efficace nel perseguire un obiettivo formulato male.

È una differenza enorme.

Il rischio non è necessariamente:

«L’AI diventerà cattiva.»

Può essere:

«L’AI diventerà molto potente nel perseguire qualcosa che noi abbiamo definito male.»

E ancora una volta il problema ritorna a monte.

All’uomo.

Alle sue intenzioni.

Alla sua capacità di definire il bene.

Alla sua responsabilità.

---

Ed è qui che Babele torna interessante

Non perché l’intelligenza artificiale sia Babele. Ma perché Babele racconta qualcosa che l’intelligenza artificiale rende nuovamente visibile. Il potere amplifica ciò che c’è nel cuore di chi lo utilizza. Una tecnologia può moltiplicare la nostra capacità di fare il bene. E può moltiplicare anche la nostra capacità di sbagliare.

Per questo la risposta cristiana al progresso non deve essere necessariamente il sospetto.

Può essere il discernimento.

La Bibbia non ci invita a diventare meno intelligenti. Anzi. Invita continuamente alla conoscenza, alla comprensione, al consiglio, alla prudenza. Ma introduce qualcosa che il nostro tempo rischia di confondere con l’intelligenza stessa: la sapienza.

Nella prospettiva biblica la sapienza non consiste semplicemente nel possedere più informazioni.

Riguarda il discernimento.

Il carattere.

La giustizia.

Il riconoscimento del limite.

La capacità di scegliere ciò che è buono anche quando siamo perfettamente capaci di scegliere altro.

E, soprattutto, la Scrittura non presenta l’uomo come l’origine ultima del bene.

È forse qui che una riflessione cristiana può offrire qualcosa al dibattito sull’intelligenza artificiale senza trasformarsi in una battaglia ideologica.

Non dicendo:

«Noi abbiamo tutte le risposte.»

Ma ricordando una domanda che rischiamo di dimenticare mentre corriamo:

il bene è semplicemente ciò che decidiamo noi?

---

Non paura. Responsabilità.

Davanti a una tecnologia tanto potente possiamo cadere facilmente in due estremi.

Possiamo trasformarla nel nuovo mostro da temere. Oppure nel nuovo salvatore da aspettare. Forse nessuna delle due cose ci fa bene.

L’intelligenza artificiale è una creazione umana. Potentissima. Affascinante.

Capace probabilmente di cambiare profondamente il modo in cui lavoriamo, studiamo, facciamo ricerca e organizziamo la società.

Vale la pena comprenderla, utilizzarla. Vale la pena anche porre limiti e pretendere responsabilità da chi la sviluppa.

Ma non dobbiamo consegnarle qualcosa che non può darci: il significato ultimo di ciò che è bene. Una macchina potrà forse un giorno conoscere più informazioni di qualsiasi essere umano mai esistito. Potrà magari risolvere problemi che oggi non sappiamo nemmeno affrontare. Potrà dirci sempre meglio come fare qualcosa.

Ma la domanda: «È giusto farlo?»

continuerà a chiamare in causa l’uomo.

---

Forse Astra ci sta facendo un favore

Non perché annunci necessariamente una catastrofe. E neppure perché sia arrivata una fantomatica “AI che sa tutto”. Ma perché ci obbliga a vedere chiaramente qualcosa. Abbiamo parlato per anni di quanto sarebbe diventata intelligente l’intelligenza artificiale. Ora che quella capacità cresce davvero, iniziamo inevitabilmente a fare domande diverse.

Con quali valori agirà?

Chi stabilirà quei valori?

Che cosa succederà quando entreranno in conflitto?

Quanto potere siamo disposti ad affidarle?

E soprattutto: chi vogliamo essere noi mentre la costruiamo?

Forse è questa la domanda che Genesi 11 può ancora consegnarci. A Babele il problema non erano i mattoni. Oggi il problema non sono semplicemente i chip.

Il punto non è avere paura della capacità umana. Il punto è accompagnarla con qualcosa che la capacità, da sola, non produce.

Sapienza.

Viviamo in un'epoca che sta investendo risorse immense per costruire macchine sempre più intelligenti. Forse è anche un buon momento per tornare a chiedere a Dio di renderci uomini e donne più saggi. Perché la domanda decisiva del futuro potrebbe non essere:

Quanto diventerà intelligente l’AI?

Ma:

Quanto saremo saggi noi quando lo diventerà?

E forse tornare a parlare di sapienza, in un tempo che corre così velocemente, non significa avere paura del futuro.

Significa scegliere di attraversarlo con speranza.