Rädsla för mänskligheten och farorna med artificiell intelligens enligt Geoffrey Hinton

Rädsla för mänskligheten och farorna med artificiell intelligens enligt Geoffrey Hinton

Kryptovalutaindustrin har påverkats mycket av framstegen inom artificiell intelligens. Mer specifikt har den ökande po-polariteten hos AI-baserade chatbots som ChatGPT och Google Bard skapat en underavdelning av kryptovalutor dedikerade till detta utrymme.

Det finns en mängd olika mynt på marknaden som har sett exponentiell tillväxt på grund av det snabba intresset för AI.

Vi har också använt ChatGPT på många ämnen som:

Och även om det är spännande att chatta med en AI om ämnen som du normalt skulle diskutera med dina kollegor, så finns det en annan sida av det, och Geoffrey Hinton talar om det högt och tydligt.

Den artificiella intelligensens gudfader

Geoffrey Hinton är en brittisk-kanadensisk kognitiv psykolog och datavetare född i Wimbledon, London, 1947.

Han är mest känd för sitt arbete med artificiella neurala nätverk och är tidigare anställd på Google. Han lämnade företaget i maj 2023 i en stor offentlig exit, vilket väckte allmänhetens oro över riskerna med artificiell intelligens (AI)-teknik.

Teknikrecension via Linda Nylind / Eyevine Via Redux

Hinton är den första vinnaren av Rumelhart-priset 2001 och är internationellt känd för sitt arbete med artificiella neurala nätverk, särskilt i hur de kan utformas för att lära sig utan en mänsklig lärare. Han vann också 2018 års ACM AM Turing Award för konceptuella och tekniska genombrott inom området.

Han kallas också ofta för en av AI:s gudfäder. Och nu har han en del oro.

Vi har upptäckt hemligheten bakom odödlighet, men det finns en hake

I en intervju förThe Guardian,Hinton gjorde det klart att han lämnade Google på goda villkor och att han inte har några invändningar mot vad företaget gör eller har gjort.

I artikeln jämför han biologisk intelligens (mänsklig hjärna) med digital intelligens och beskriver den ineffektivitet som människor står inför. Han säger att våra hjärnor arbetar med låg effekt, men vårt tillvägagångssätt är ganska ineffektivt när det gäller att överföra information. Digital intelligens, å andra sidan, är annorlunda.

De betalar en enorm energikostnad, men när någon av dem lär sig något vet alla det och du kan enkelt spara fler exemplar. Så de goda nyheterna är att vi har upptäckt hemligheten bakom odödlighet. De dåliga nyheterna är att det inte är för oss.

I huvudsak drog Hinton slutsatsen att människor bygger intelligens som har potential att överträffa mänskligheten.

Jag trodde att det skulle hända så småningom, men vi hade mycket tid: 30 till 50 år. Jag tror inte på det längre. Och jag känner inte till några exempel på att intelligentare saker styrs av mindre intelligenta saker."

För att göra jämförelsen mer förståelig ställde datavetaren oss (människor) mot grodor och tillade:

Och den (AI) kommer att lära sig av internet, den kommer att ha läst varenda bok som någonsin skrivits om hur man manipulerar människor och sett det i praktiken också."

Utdrag ur filmen Ex Machina. Movie House Memories

Rädsla för mänskligheten

Med hänvisning till en färsk rapport från Hinton, beskriver rapporter de potentiella farorna med så kallad superintelligens.

"Gudfadern för AI" beskriver scenarier där en AI kan försöka få kontroll över många aspekter av sin egen miljö för att lösa komplexa problem. Dessa aspekter inkluderar till och med mänsklig manipulation. Forskaren tror att AI inte ens skulle behöva ett uttryckligt mål att få makt eller förstörelse för att utnyttja sin förmåga att efterlikna mänskligt beteende.

Det är dock inte bara undergång och dysterhet. Han tror att det finns sätt att mildra katastrofala scenarier, men menar också att vi är förbi point of no return och att stoppa AI-utveckling är helt enkelt omöjligt och bör inte stoppas.

Jag tycker att vi borde utveckla det ytterligare eftersom det kan göra underbara saker. Men vi bör lika gärna sträva efter att mildra eller förhindra de möjliga fruktansvärda konsekvenserna.

Hur nära är vi dessa fruktansvärda konsekvenser? Närmare än man kan tro.

Jag har mycket osäkerhet för tillfället. Det är möjligt att stora språkmodeller som har konsumerat alla dokument på webben inte kommer att kunna göra stora framsteg om de inte också får tillgång till all vår privata data. Jag vill inte utesluta något sådant – jag tror att folk som är trygga i den här situationen är galna.

Det rätta sättet att tänka på sannolikheten för en katastrof är att helt enkelt vända mynt snarare än vi skulle vilja.”

Slutliga tankar

Artificiell intelligens kommer sannolikt att spela en allt viktigare roll i våra liv. Enligt ChatGPT själv (oh the irony) själv, är några av de områden som det kommer att påverka under de kommande 7 åren:

• Gesundheitspflege
• Automatisierung
• Transport
• Ausbildung
• Intelligente Häuser
• Kundendienst

Sedan han uttryckte sin oro har Hinton kritiserats av många för att inte följa med några av sina kollegor som tidigare hade sagt upp sig. Det är lätt att komma till denna slutsats, men det är också lätt att förbise problemets komplexitet, som berör flera tekniska, filosofiska och etiska principer.

Jag antar att Hinton bara säger att AI:s inverkan på mänskligheten, bra eller dålig, förmodligen är mycket större än de flesta av oss verkar inse.

Utvald bild med tillstånd av CBC, tillhandahållen av Geoffrey Hinton.

.