Le paure per l'umanità e i pericoli dell'intelligenza artificiale secondo Geoffrey Hinton

Le paure per l'umanità e i pericoli dell'intelligenza artificiale secondo Geoffrey Hinton

L’industria delle criptovalute è stata fortemente influenzata dai progressi nella tecnologia dell’intelligenza artificiale. Più specificamente, la crescente polarità dei chatbot basati sull'intelligenza artificiale come ChatGPT e Google Bard ha generato una sottosezione di criptovalute dedicata a questo spazio.

Sul mercato sono presenti numerose monete che hanno registrato una crescita esponenziale grazie al rapido interesse per l’intelligenza artificiale.

Abbiamo utilizzato ChatGPT anche su numerosi argomenti come:

E sebbene sia emozionante chiacchierare con un'intelligenza artificiale su argomenti di cui normalmente discuteresti con i tuoi colleghi, c'è un altro lato della questione e Geoffrey Hinton ne parla forte e chiaro.

Il padrino dell'intelligenza artificiale

Geoffrey Hinton è uno psicologo cognitivo e informatico anglo-canadese nato a Wimbledon, Londra, nel 1947.

È noto soprattutto per il suo lavoro sulle reti neurali artificiali ed è un ex dipendente di Google. Ha lasciato l'azienda nel maggio 2023 con un'importante uscita pubblica, sollevando le preoccupazioni del pubblico sui rischi della tecnologia dell'intelligenza artificiale (AI).

Revisione della tecnologia tramite Linda Nylind / Eyevine tramite Redux

Hinton è il primo vincitore del Premio Rumelhart nel 2001 ed è noto a livello internazionale per il suo lavoro sulle reti neurali artificiali, in particolare per come possono essere progettate per apprendere senza un insegnante umano. Ha anche vinto l'ACM AM Turing Award 2018 per le scoperte concettuali e tecniche nel campo.

Viene anche comunemente indicato come uno dei padrini dell'intelligenza artificiale. E ora ha qualche preoccupazione.

Abbiamo scoperto il segreto dell'immortalità, ma c'è un problema

In un'intervista perIl Guardiano,Hinton ha chiarito di aver lasciato Google in buoni rapporti e di non avere obiezioni su ciò che l'azienda sta facendo o ha fatto.

Nell’articolo mette a confronto l’intelligenza biologica (cervello umano) con l’intelligenza digitale e delinea le inefficienze che gli esseri umani devono affrontare. Dice che il nostro cervello funziona a bassa potenza, ma il nostro approccio è piuttosto inefficiente in termini di trasmissione delle informazioni. L’intelligenza digitale, invece, è diversa.

Pagano un costo energetico enorme, ma quando uno di loro impara qualcosa, tutti lo sanno e si possono facilmente salvare più copie. Quindi la buona notizia è che abbiamo scoperto il segreto dell’immortalità. La brutta notizia è che non fa per noi.

In sostanza, Hinton ha concluso che gli esseri umani stanno costruendo un’intelligenza che ha il potenziale per superare l’umanità.

Pensavo che prima o poi sarebbe successo, ma avevamo molto tempo: dai 30 ai 50 anni. Non ci credo più. E non conosco nessun esempio di cose più intelligenti controllate da cose meno intelligenti”.

Per rendere il paragone più comprensibile, l’informatico ha contrapposto noi (gli esseri umani) alle rane e ha aggiunto:

E (l’intelligenza artificiale) imparerà da Internet, avrà letto ogni singolo libro mai scritto su come manipolare le persone e lo avrà visto anche in pratica”.

Estratto dal film Ex Machina. Ricordi del cinema

Paure per l'umanità

Citando un recente rapporto di Hinton, i rapporti delineano i potenziali pericoli della cosiddetta superintelligenza.

Il “Padrino dell’intelligenza artificiale” descrive scenari in cui un’intelligenza artificiale potrebbe tentare di ottenere il controllo su numerosi aspetti del proprio ambiente per risolvere problemi complessi. Questi aspetti includono anche la manipolazione umana. Lo scienziato ritiene che l’intelligenza artificiale non avrebbe nemmeno bisogno di un obiettivo esplicito di acquisizione di potere o di distruzione per sfruttare la sua capacità di imitare il comportamento umano.

Tuttavia, non è tutto negativo. Crede che esistano modi per mitigare scenari catastrofici, ma ritiene anche che abbiamo superato il punto di non ritorno e che fermare lo sviluppo dell’intelligenza artificiale sia semplicemente impossibile e non dovrebbe essere fermato.

Penso che dovremmo svilupparlo ulteriormente perché potrebbe fare cose meravigliose. Ma dovremmo ugualmente sforzarci di mitigare o prevenire le possibili conseguenze disastrose.

Quanto siamo vicini a queste terribili conseguenze? Più vicino di quanto potresti pensare.

Ho molta incertezza in questo momento. È possibile che i grandi modelli linguistici che hanno consumato tutti i documenti sul web non saranno in grado di fare molti progressi a meno che non abbiano accesso anche a tutti i nostri dati privati. Non voglio escludere qualcosa del genere: penso che le persone che hanno fiducia in questa situazione siano pazze.

Il modo giusto di pensare alla probabilità di una catastrofe è semplicemente lanciare monete invece di quanto vorremmo”.

Considerazioni finali

È probabile che l’intelligenza artificiale svolga un ruolo sempre più importante nelle nostre vite. Secondo lo stesso ChatGPT (ironia della sorte), alcune delle aree che avranno un impatto nei prossimi 7 anni sono:

• Gesundheitspflege
• Automatisierung
• Transport
• Ausbildung
• Intelligente Häuser
• Kundendienst

Da quando ha espresso le sue preoccupazioni, Hinton è stato criticato da molti per non aver dato seguito ad alcuni dei suoi colleghi che si erano precedentemente dimessi. È facile giungere a questa conclusione, ma è anche facile trascurare la complessità del problema, che tocca diversi principi tecnologici, filosofici ed etici.

Immagino che Hinton stia semplicemente dicendo che l'impatto dell'intelligenza artificiale sull'umanità, nel bene o nel male, è probabilmente molto maggiore di quanto la maggior parte di noi sembra realizzare.

Immagine in primo piano per gentile concessione di CBC, fornita da Geoffrey Hinton.

.