Angsten voor de mensheid en de gevaren van kunstmatige intelligentie volgens Geoffrey Hinton

Angsten voor de mensheid en de gevaren van kunstmatige intelligentie volgens Geoffrey Hinton

De cryptocurrency-industrie is sterk beïnvloed door de vooruitgang op het gebied van kunstmatige intelligentie. Meer specifiek heeft de toenemende po-polariteit van op AI gebaseerde chatbots zoals ChatGPT en Google Bard geleid tot een subsectie van cryptocurrencies die aan deze ruimte is gewijd.

Er zijn verschillende munten op de markt die een exponentiële groei hebben doorgemaakt vanwege de snelle belangstelling voor AI.

We hebben ChatGPT ook gebruikt voor tal van onderwerpen, zoals:

En hoewel het spannend is om met een AI te praten over onderwerpen die je normaal gesproken met je collega's zou bespreken, zit er ook een andere kant aan, en Geoffrey Hinton spreekt er luid en duidelijk over.

De peetvader van kunstmatige intelligentie

Geoffrey Hinton is een Brits-Canadese cognitief psycholoog en computerwetenschapper, geboren in Wimbledon, Londen, in 1947.

Hij is vooral bekend van zijn werk aan kunstmatige neurale netwerken en is een voormalig medewerker van Google. Hij verliet het bedrijf in mei 2023 tijdens een grote publieke exit, waardoor de publieke bezorgdheid over de risico's van kunstmatige intelligentie (AI) -technologie werd geuit.

Technologierecensie via Linda Nylind / Eyevine Via Redux

Hinton is de eerste winnaar van de Rumelhart-prijs in 2001 en staat internationaal bekend om zijn werk op het gebied van kunstmatige neurale netwerken, vooral in de manier waarop deze kunnen worden ontworpen om te leren zonder een menselijke leraar. Ook won hij in 2018 de ACM AM Turing Award voor conceptuele en technische doorbraken op dit gebied.

Hij wordt ook vaak een van de peetvaders van AI genoemd. En nu heeft hij wat zorgen.

We hebben het geheim van onsterfelijkheid ontdekt, maar er zit een addertje onder het gras

In een interview voorDe Bewaker,Hinton maakte duidelijk dat hij Google op goede voet heeft verlaten en dat hij geen bezwaar heeft tegen wat het bedrijf doet of heeft gedaan.

In het artikel vergelijkt hij biologische intelligentie (het menselijk brein) met digitale intelligentie en schetst hij de inefficiënties waarmee mensen worden geconfronteerd. Hij zegt dat onze hersenen op laag vermogen werken, maar dat onze aanpak behoorlijk inefficiënt is als het gaat om het doorgeven van informatie. Digitale intelligentie daarentegen is anders.

Ze betalen een enorme energiekost, maar als een van hen iets leert, weet iedereen het en kun je gemakkelijk meer exemplaren besparen. Het goede nieuws is dus dat we het geheim van onsterfelijkheid hebben ontdekt. Het slechte nieuws is dat het niet voor ons is.

In wezen concludeerde Hinton dat mensen intelligentie opbouwen die het potentieel heeft om de mensheid te overtreffen.

Ik dacht dat het uiteindelijk zou gebeuren, maar we hadden veel tijd: 30 tot 50 jaar. Ik geloof dat niet meer. En ik ken geen voorbeelden van intelligentere dingen die worden bestuurd door minder intelligente dingen.”

Om de vergelijking begrijpelijker te maken, zette de computerwetenschapper ons (mensen) tegenover kikkers en voegde eraan toe:

En zij (AI) zal leren van het internet, zij zal elk boek gelezen hebben dat ooit geschreven is over hoe mensen te manipuleren, en het ook in de praktijk gezien hebben.”

Fragment uit de film Ex Machina. Filmhuisherinneringen

Angst voor de mensheid

Onder verwijzing naar een recent rapport van Hinton schetsen rapporten de potentiële gevaren van zogenaamde superintelligentie.

De ‘Godfather of AI’ beschrijft scenario’s waarin een AI zou kunnen proberen controle te krijgen over talloze aspecten van zijn eigen omgeving om complexe problemen op te lossen. Deze aspecten omvatten zelfs menselijke manipulatie. De wetenschapper is van mening dat AI niet eens een expliciet doel nodig heeft om macht of vernietiging te verwerven om het vermogen ervan om menselijk gedrag na te bootsen te exploiteren.

Het is echter niet allemaal kommer en kwel. Hij gelooft dat er manieren zijn om catastrofale scenario's te verzachten, maar is ook van mening dat we het punt van geen terugkeer voorbij zijn en dat het stoppen van de ontwikkeling van AI simpelweg onmogelijk is en niet gestopt mag worden.

Ik denk dat we het verder moeten ontwikkelen, omdat het prachtige dingen kan doen. Maar we moeten er evengoed naar streven om de mogelijke ernstige gevolgen te verzachten of te voorkomen.

Hoe dicht zijn we bij deze verschrikkelijke gevolgen? Dichterbij dan je zou denken.

Ik heb momenteel veel onzekerheid. Het is mogelijk dat grote taalmodellen die alle documenten op internet hebben verbruikt, niet veel vooruitgang kunnen boeken tenzij ze ook toegang krijgen tot al onze privégegevens. Ik wil zoiets niet uitsluiten: ik denk dat mensen die vertrouwen hebben in deze situatie gek zijn.

De juiste manier om na te denken over de waarschijnlijkheid van een catastrofe is door simpelweg munten op te gooien in plaats van dat we dat zouden willen.”

Laatste gedachten

Kunstmatige intelligentie zal waarschijnlijk een steeds belangrijkere rol gaan spelen in ons leven. Volgens ChatGPT zelf (oh de ironie) zelf zijn enkele van de gebieden die het in de komende zeven jaar zal beïnvloeden:

• Gesundheitspflege
• Automatisierung
• Transport
• Ausbildung
• Intelligente Häuser
• Kundendienst

Sinds hij zijn zorgen heeft geuit, is Hinton door velen bekritiseerd omdat hij geen gevolg heeft gegeven aan enkele van zijn collega's die eerder ontslag hadden genomen. Het is gemakkelijk om tot deze conclusie te komen, maar het is ook gemakkelijk om de complexiteit van het probleem, dat raakt aan verschillende technologische, filosofische en ethische principes, over het hoofd te zien.

Ik denk dat Hinton alleen maar zegt dat de impact van AI op de mensheid, goed of slecht, waarschijnlijk veel groter is dan de meesten van ons lijken te beseffen.

Uitgelichte afbeelding met dank aan CBC, geleverd door Geoffrey Hinton.

.