“Perdere il controllo dell’AGI è come cadere da un dirupo, nel qual caso il gioco è finito per l’umanità”, ha avvertito Max Tegmark.
L’influenza di Elon Musk sul presidente eletto degli Stati Uniti Donald Trump potrebbe portare a standard di sicurezza più elevati per l’intelligenza artificiale (AI), ha affermato lo scienziato svedese-americano Max Tegmark, che ha anche avvertito che qualsiasi corsa geopolitica agli armamenti legati all’intelligenza artificiale si tradurrebbe in una “corsa suicida” dell’umanità.
Intervenendo a Euronews Next al Web Summit di Lisbona, Tegmark, presidente del Future of Life Institute, ha affermato che l’adozione di una maggiore regolamentazione sulla sicurezza dell’intelligenza artificiale da parte degli Stati Uniti, tuttavia, dipenderà anche da chi Trump ascolterà.
“Istintivamente, il Partito Repubblicano tende ad essere molto contrario a ogni regolamentazione”, ha detto, a differenza di Musk che “ha messo i suoi soldi dove aveva detto” e ha rotto i ranghi con personaggi del calibro del CEO di OpenAI Sam Altman e Google per sostenere una proposta di legge sull’intelligenza artificiale della California.
Trump ha anche promesso di abrogare un ordine esecutivo dell’amministrazione Biden sulla sicurezza dell’IA, ma Tegmark ha affermato che ciò non farebbe molta differenza nella costruzione di standard di sicurezza dell’IA poiché si tratta di “una regolamentazione piuttosto debole”.
La paura più grande degli scienziati non è l’intelligenza artificiale generativa, come ChatGPT, ma piuttosto l’intelligenza artificiale generale (AGI), un tipo di intelligenza artificiale che eguaglia o supera le capacità cognitive umane e di cui potremmo perdere il controllo.
“Perdere il controllo dell’AGI è come cadere da un dirupo, nel qual caso il gioco è finito per l’umanità”, ha detto Tegmark.
“Penso che farà una grande differenza se Trump ascolterà di più Elon [Musk] su questo o più alle intenzioni anti-regolamentazione”, ha aggiunto.
Cos’è l’Intelligenza Generale Artificiale?
L’AGI, vista come il “Santo Graal” dalle aziende tecnologiche, è stata esaltata da Altman, tra gli altri esponenti della tecnologia che cercano di raccogliere fondi.
Per Altman, l’AGI è definita come un’ipotetica forma di intelligenza artificiale in grado di risolvere qualsiasi compito umano attraverso metodi non vincolati al suo addestramento. Altman ha affermato che può “elevare l’umanità” e non si riferisce al fatto che le macchine prendano il sopravvento.
Il CEO di OpenAI ha affermato che l’AGI potrebbe arrivare già il prossimo anno, mentre molti altri ne hanno previsto l’arrivo nel prossimo decennio.
“Molte persone ora si attaccano al marchio AGI per pubblicizzarlo e cercano di ridefinirlo come la cosa che stanno vendendo adesso, o che stanno costruendo ora in modo da poter raccogliere fondi”, ha detto Tegmark.
Ha detto che la definizione originale di AGI risale agli anni ’50, che la definisce come un’intelligenza artificiale in grado di svolgere tutti i lavori umani, il che significa che l’intelligenza artificiale potrebbe sostituire i lavoratori umani e anche sviluppare e costruire le stesse macchine AGI.
“Non si parla più solo di una nuova tecnologia come i motori a vapore o Internet. Stai parlando di una nuova specie. Ecco perché è un grosso problema”, ha detto Tegmark.
Il fatto che le macchine prendano il controllo è il risultato predefinito, secondo una previsione degli anni ’50 dello scienziato informatico Alan Turing.
Turing disse che all’epoca questo risultato era lontano e creò un set di test per mostrare quando il tempo fosse vicino, originariamente chiamato “gioco di imitazione”, ma ora chiamato Test di Turing.
Il test mira a identificare se una macchina mostra un’intelligenza simile a quella umana rispondendo a una serie di domande di un essere umano. L’essere umano non sa se le risposte vengono fornite da una macchina o da un essere umano.
Secondo alcuni ricercatori, il test è stato superato l’anno scorso.
Tuttavia, l’AGI al momento non esiste e non è chiaro quando lo sarà o se mai lo sarà, nonostante l’hype aziendale.
Una corsa agli armamenti dell’IA
Secondo Tegmark, oltre alla corsa all’IA aziendale c’è anche una corsa agli armamenti dell’IA.
“C’è una corsa agli armamenti negli Stati Uniti tra diverse aziende e l’unico modo per fermarla è, ovviamente, avere standard di sicurezza nazionali statunitensi”, ha detto.
Trump ha suggerito che la leadership degli Stati Uniti nel campo dell’intelligenza artificiale sarà al centro dell’attenzione del suo governo.
“Dobbiamo essere in prima linea… Dobbiamo prendere l’iniziativa sulla Cina”, ha detto nel podcast Impaulsive di giugno.
“C’è la geopolitica [AI] gara. E lì, l’intera inquadratura è sbagliata perché in realtà non è una corsa agli armamenti, costruire prima l’AGI, è solo una corsa suicida”, ha detto Tegmark.
“Non c’è nessuno che controlli queste cose”.
“Se riesci a estinguerti, chi se ne frega se sei cinese, francese o americano”, ha aggiunto.
La chiave è ottenere le giuste normative per ciascun paese, ha affermato, piuttosto che i paesi debbano stringere accordi tra loro.
“La mia visione del successo qui è molto più semplice. È che i cinesi decidono di introdurre standard di sicurezza nazionali in Cina per evitare che le loro aziende cinesi causino danni. Noi americani abbiamo semplicemente introdotto standard di sicurezza nazionali negli Stati Uniti non per compiacere la Cina, ma semplicemente per i propri scopi”, ha affermato Tegmark.
Una volta che ciò teoricamente accadrà, gli Stati Uniti e la Cina avranno l’incentivo a spingere i loro alleati globali ad unirsi a loro.
“In realtà sono abbastanza ottimista che lo otterremo [safety standards] a livello globale. E poi entriamo in una fase davvero meravigliosa della storia umana in cui abbiamo quest’era di incredibile abbondanza e prosperità in cui disponiamo di tutta questa straordinaria tecnologia”, ha affermato.
“Le aziende saranno in grado di innovare per contribuire a curare il cancro, eliminare la povertà e le morti inutili sulla strada e tutte le cose meravigliose di cui sentiamo parlare dalle persone e dagli imprenditori”, ha affermato.
Image:Getty Images
