L’intelligenza artificiale e la civiltà umana

La cosa più sorprendente di ChatGpt-4, secondo il francescano Paolo Benanti, pioniere dell’algoretica cioè lo studio dei problemi etici connessi agli algoritmi, è che «si dimostra drammaticamente simile all’uomo comune».
Ed è una somiglianza che potrebbe portare grandi rischi.
Perché, come scrive lo storico, filosofo e saggista israeliano Yuval Noah Harari (autore di libri di successo planetario) «se sto avendo una conversazione con qualcuno e non sono in grado di dire se sia un umano o un’intelligenza artificiale (AI), è la fine della democrazia».

E il motivo è che «potremmo presto trovarci a condurre lunghe discussioni online sull’aborto, il cambiamento climatico o l’invasione russa dell’Ucraina con entità che pensiamo siano umani, ma in realtà è intelligenza artificiale. Il problema è che è assolutamente inutile passare il tempo a cercare di cambiare le opinioni dichiarate di un bot di intelligenza artificiale, mentre l’intelligenza artificiale potrebbe affinare i suoi messaggi in modo così preciso da avere buone possibilità di influenzarci».

La novità portata da ChatGpt-4 è la capacità di maneggiare il linguaggio in un modo che sembra umano. E ciò, per Harari, è un rischio capitale per l’umanità. «Negli ultimi due anni sono emersi nuovi strumenti di intelligenza artificiale che minacciano la sopravvivenza della civiltà umana sotto un profilo inaspettato.
L’AI ha acquisito alcune notevoli capacità di manipolare e generare il linguaggio, sia con parole, suoni o immagini. Ha quindi hackerato il sistema operativo della nostra civiltà».

Ricordando come teorie complottiste come QAnon abbiano già influito sulla democrazia americana (assalto del 6 gennaio 2021 al Campidoglio), Harari invita ad immaginare cosa potrebbe succedere con campagne di disinformazione molto più raffinate gestite dall’intelligenza artificiale generativa di ChatGpt e affini.

«Ciò di cui stiamo parlando è, potenzialmente, la fine della storia umana. Non la fine della storia, solo la fine della sua parte dominata dall’uomo. Cosa accadrà al corso della storia quando l’AI prenderà il sopravvento sulla cultura e comincerà a produrre storie, melodie, leggi e religioni? Strumenti precedenti, come la stampa e la radio, hanno contribuito a diffondere le idee culturali degli esseri umani, ma non hanno mai creato nuove idee culturali proprie. L’AI è fondamentalmente diversa. Può creare idee completamente nuove, una cultura completamente nuova».

Un rischio sul quale ha insistito anche Geoffrey Hinton, padre delle «reti neurali», appena dimessosi da Google per poter denunciare i rischi dell’AI, è quello di non riuscire più a distinguere la realtà dalla finzione.

Uno dei rimedi urgenti che Harari propone è una obbligatoria indicazione di tutti i testi prodotti dall’AI, anziché da umani.

Anche padre Benanti ha spiegato: «Il diamante sintetico sarebbe indistinguibile da quello naturale se non fosse per due caratteristiche: non ha difetti al suo interno e per legge ha inciso al laser un numero di serie. Tuttavia vale quanto un diamante reale ed è in grado di ingannarci. La domanda è: abbiamo il diritto a essere avvisati che chi interagisce con noi è una macchina e non un essere umano?»

Harari non nega che l’AI possa avere anche una gran quantità di applicazioni positive, che possa aiutarci a sconfiggere il cancro, a frenare il cambiamento climatico e così via. Ma, aggiunge, «il compito degli storici e dei filosofi come me è indicare i pericoli».

Al riguardo fa un paragone fra energia atomica e intelligenza artificiale: «Dal 1945 sappiamo che la tecnologia nucleare potrebbe generare energia a basso costo a beneficio degli esseri umani, ma potrebbe anche distruggere fisicamente la civiltà umana. Abbiamo quindi rimodellato l’intero ordine internazionale per proteggere l’umanità e per
assicurarci che la tecnologia nucleare fosse utilizzata principalmente a fin di bene. Ora dobbiamo fare i conti con una nuova arma di distruzione di massa che può annientare il nostro mondo mentale e sociale».

Può essere, e si spera, che Harari ecceda in pessimismo. Ma è innegabile che quella che stiamo vivendo è una rivoluzione profonda, non una moda passeggera. Se eccede in pessimismo, l’autore israeliano ha, come minimo, dato più di uno stimolo alla riflessione per chi voglia ancora tenere in esercizio la propria intelligenza. Senza l’«aiuto» di ChatGpt.

E voi, che ne pensate? Fatecelo sapere nei commenti

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *