Frykt for menneskeheten og farene ved kunstig intelligens ifølge Geoffrey Hinton

Frykt for menneskeheten og farene ved kunstig intelligens ifølge Geoffrey Hinton

Kryptovalutaindustrien har blitt sterkt påvirket av fremskritt innen kunstig intelligens-teknologi. Mer spesifikt har den økende po-polariteten til AI-baserte chatbots som ChatGPT og Google Bard skapt en underseksjon av kryptovalutaer dedikert til dette området.

Det er en rekke mynter i markedet som har sett eksponentiell vekst på grunn av den raske interessen for AI.

Vi har også brukt ChatGPT på en rekke emner som:

Og selv om det er spennende å chatte med en AI om emner du vanligvis vil diskutere med kollegene dine, er det en annen side ved det, og Geoffrey Hinton snakker høyt og tydelig om det.

Gudfaren til kunstig intelligens

Geoffrey Hinton er en britisk-kanadisk kognitiv psykolog og informatiker født i Wimbledon, London, i 1947.

Han er mest kjent for sitt arbeid med kunstige nevrale nettverk og er tidligere ansatt i Google. Han forlot selskapet i mai 2023 i en stor offentlig utgang, noe som vekket offentlig bekymring for risikoen ved kunstig intelligens (AI)-teknologi.

Teknologianmeldelse via Linda Nylind / Eyevine Via Redux

Hinton er den første vinneren av Rumelhart-prisen i 2001 og er internasjonalt kjent for sitt arbeid med kunstige nevrale nettverk, spesielt i hvordan de kan utformes for å lære uten en menneskelig lærer. Han vant også 2018 ACM AM Turing Award for konseptuelle og tekniske gjennombrudd på feltet.

Han blir også ofte referert til som en av gudfedrene til AI. Og nå har han noen bekymringer.

Vi har oppdaget hemmeligheten bak udødelighet, men det er en hake

I et intervju forThe Guardian,Hinton gjorde det klart at han forlot Google på gode vilkår og at han ikke har noen innvendinger mot hva selskapet gjør eller har gjort.

I artikkelen sammenligner han biologisk intelligens (menneskelig hjerne) med digital intelligens og skisserer ineffektiviteten som mennesker står overfor. Han sier at hjernen vår opererer med lav effekt, men vår tilnærming er ganske ineffektiv når det gjelder å overføre informasjon. Digital intelligens er derimot annerledes.

De betaler en enorm energikostnad, men når en av dem lærer noe, vet alle det, og du kan enkelt lagre flere kopier. Så den gode nyheten er at vi har oppdaget hemmeligheten bak udødelighet. Den dårlige nyheten er at det ikke er for oss.

I hovedsak konkluderte Hinton med at mennesker bygger intelligens som har potensial til å overgå menneskeheten.

Jeg trodde det skulle skje til slutt, men vi hadde mye tid: 30 til 50 år. Det tror jeg ikke lenger. Og jeg kjenner ikke til noen eksempler på at mer intelligente ting blir kontrollert av mindre intelligente ting.»

For å gjøre sammenligningen mer forståelig, stilte informatikeren oss (mennesker) mot frosker og la til:

Og den (AI) vil lære av internett, den vil ha lest hver eneste bok som noen gang er skrevet om hvordan man kan manipulere mennesker og sett det i praksis også.»

Utdrag fra filmen Ex Machina. Movie House Memories

Frykt for menneskeheten

Med henvisning til en fersk rapport fra Hinton, skisserer rapportene de potensielle farene ved såkalt superintelligens.

"Godfather of AI" beskriver scenarier der en AI kan forsøke å få kontroll over en rekke aspekter av sitt eget miljø for å løse komplekse problemer. Disse aspektene inkluderer til og med menneskelig manipulasjon. Forskeren mener at AI ikke engang trenger et eksplisitt mål om å få makt eller ødeleggelse for å utnytte dens evne til å etterligne menneskelig atferd.

Det er imidlertid ikke alt undergang og dysterhet. Han mener at det finnes måter å dempe katastrofale scenarier på, men mener også at vi er forbi point of no return og å stoppe AI-utvikling er rett og slett umulig og bør ikke stoppes.

Jeg synes vi bør utvikle den videre fordi den kan gjøre fantastiske ting. Men vi bør like gjerne strebe etter å dempe eller forhindre de mulige alvorlige konsekvensene.

Hvor nærme er vi disse alvorlige konsekvensene? Nærmere enn du kanskje tror.

Jeg har mye usikkerhet for tiden. Det er mulig at store språkmodeller som har konsumert alle dokumentene på nettet, ikke vil kunne gjøre store fremskritt med mindre de også får tilgang til alle våre private data. Jeg vil ikke utelukke noe sånt – jeg tror folk som er trygge i denne situasjonen er gale.

Den riktige måten å tenke på sannsynligheten for en katastrofe er å ganske enkelt snu mynter i stedet for vi ønsker."

Siste tanker

Kunstig intelligens vil sannsynligvis spille en stadig viktigere rolle i livene våre. I følge ChatGPT selv (oh the irony) selv, er noen av områdene det vil påvirke de neste 7 årene:

• Gesundheitspflege
• Automatisierung
• Transport
• Ausbildung
• Intelligente Häuser
• Kundendienst

Siden han ga uttrykk for bekymringene sine, har Hinton blitt kritisert av mange for ikke å følge opp med noen av kollegene hans som tidligere hadde trukket seg. Det er lett å komme til denne konklusjonen, men det er også lett å overse kompleksiteten i problemet, som berører flere teknologiske, filosofiske og etiske prinsipper.

Jeg antar at Hinton bare sier at AIs innvirkning på menneskeheten, god eller dårlig, sannsynligvis er mye større enn de fleste av oss ser ut til å være klar over.

Utvalgt bilde med tillatelse fra CBC, levert av Geoffrey Hinton.

.