Frygt for menneskeheden og farerne ved kunstig intelligens ifølge Geoffrey Hinton

Frygt for menneskeheden og farerne ved kunstig intelligens ifølge Geoffrey Hinton

Kryptovalutaindustrien er blevet stærkt påvirket af fremskridt inden for kunstig intelligens-teknologi. Mere specifikt har den stigende po-polaritet af AI-baserede chatbots som ChatGPT og Google Bard affødt en undersektion af kryptovalutaer dedikeret til dette rum.

Der er en række forskellige mønter på markedet, der har oplevet eksponentiel vækst på grund af den hurtige interesse for kunstig intelligens.

Vi har også brugt ChatGPT om adskillige emner såsom:

Og selvom det er spændende at chatte med en AI om emner, du normalt ville diskutere med dine kolleger, er der en anden side af det, og Geoffrey Hinton taler højt og tydeligt om det.

Gudfaderen til kunstig intelligens

Geoffrey Hinton er en britisk-canadisk kognitiv psykolog og datalog født i Wimbledon, London, i 1947.

Han er bedst kendt for sit arbejde med kunstige neurale netværk og er tidligere ansat hos Google. Han forlod virksomheden i maj 2023 i en større offentlig exit, hvilket rejste offentlighedens bekymringer om risiciene ved kunstig intelligens (AI) teknologi.

Teknologianmeldelse via Linda Nylind / Eyevine Via Redux

Hinton er den første vinder af Rumelhart-prisen i 2001 og er internationalt kendt for sit arbejde med kunstige neurale netværk, især i hvordan de kan designes til at lære uden en menneskelig lærer. Han vandt også 2018 ACM AM Turing Award for konceptuelle og tekniske gennembrud på området.

Han omtales også almindeligvis som en af ​​AI's godfathers. Og nu har han nogle bekymringer.

Vi har opdaget hemmeligheden bag udødelighed, men der er en fangst

I et interview forThe Guardian,Hinton gjorde det klart, at han forlod Google på gode vilkår, og at han ikke har nogen indvendinger mod, hvad virksomheden gør eller har gjort.

I artiklen sammenligner han biologisk intelligens (menneskelig hjerne) med digital intelligens og skitserer de ineffektiviteter, som mennesker står over for. Han siger, at vores hjerner fungerer ved lav effekt, men vores tilgang er ret ineffektiv med hensyn til at overføre information. Digital intelligens er på den anden side anderledes.

De betaler en enorm energiomkostning, men når en af ​​dem lærer noget, ved alle det, og du kan nemt spare flere kopier. Så den gode nyhed er, at vi har opdaget hemmeligheden bag udødelighed. Den dårlige nyhed er, at det ikke er noget for os.

I det væsentlige konkluderede Hinton, at mennesker bygger intelligens, der har potentialet til at overgå menneskeheden.

Jeg troede, det ville ske til sidst, men vi havde meget tid: 30 til 50 år. Det tror jeg ikke længere på. Og jeg kender ikke nogle eksempler på, at mere intelligente ting er styret af mindre intelligente ting."

For at gøre sammenligningen mere forståelig stillede datalogen os (mennesker) op mod frøer og tilføjede:

Og den (AI) vil lære af internettet, den vil have læst hver eneste bog, der nogensinde er skrevet om, hvordan man manipulerer mennesker og også set det i praksis."

Uddrag fra filmen Ex Machina. Movie House Memories

Frygt for menneskeheden

Med henvisning til en nylig rapport fra Hinton skitserer rapporter de potentielle farer ved såkaldt superintelligens.

"Godfather of AI" beskriver scenarier, hvor en AI kan forsøge at få kontrol over adskillige aspekter af sit eget miljø for at løse komplekse problemer. Disse aspekter inkluderer endda menneskelig manipulation. Forskeren mener, at AI ikke engang ville have brug for et eksplicit mål om at opnå magt eller ødelæggelse for at udnytte dets evne til at efterligne menneskelig adfærd.

Det hele er dog ikke undergang. Han mener, at der er måder at afbøde katastrofale scenarier på, men mener også, at vi er forbi point of no return, og at standse AI-udvikling er simpelthen umuligt og bør ikke stoppes.

Jeg synes, vi skal udvikle det yderligere, fordi det kunne gøre vidunderlige ting. Men vi bør ligeledes stræbe efter at afbøde eller forhindre de mulige alvorlige konsekvenser.

Hvor tæt er vi på disse alvorlige konsekvenser? Tættere på, end du måske tror.

Jeg har meget usikkerhed i øjeblikket. Det er muligt, at store sprogmodeller, der har forbrugt alle dokumenter på nettet, ikke vil være i stand til at gøre store fremskridt, medmindre de også får adgang til alle vores private data. Sådan noget vil jeg ikke udelukke – jeg tror, ​​at folk, der er trygge i den her situation, er skøre.

Den rigtige måde at tænke på sandsynligheden for en katastrofe er simpelthen at vende mønter, i stedet for vi gerne vil."

Afsluttende tanker

Kunstig intelligens vil sandsynligvis spille en stadig vigtigere rolle i vores liv. Ifølge ChatGPT selv (oh ironien) selv, er nogle af de områder, det vil påvirke i de næste 7 år:

• Gesundheitspflege
• Automatisierung
• Transport
• Ausbildung
• Intelligente Häuser
• Kundendienst

Siden han gav udtryk for sine bekymringer, er Hinton blevet kritiseret af mange for ikke at følge op med nogle af sine kolleger, der tidligere havde sagt op. Det er let at nå frem til denne konklusion, men det er også let at overse problemets kompleksitet, som berører flere teknologiske, filosofiske og etiske principper.

Jeg gætter på, at Hinton bare siger, at AI's indvirkning på menneskeheden, god eller dårlig, sandsynligvis er meget større, end de fleste af os tilsyneladende er klar over.

Udvalgt billede udlånt af CBC, leveret af Geoffrey Hinton.

.