Hirmud inimkonna pärast ja tehisintellekti ohud Geoffrey Hintoni sõnul

Hirmud inimkonna pärast ja tehisintellekti ohud Geoffrey Hintoni sõnul

Krüptovaluutatööstust on suuresti mõjutanud tehisintellekti tehnoloogia areng. Täpsemalt on tehisintellektil põhinevate vestlusrobotite, nagu ChatGPT ja Google Bard, kasvav po-polaarsus tekitanud sellele ruumile pühendatud krüptovaluutade alajaotuse.

Turul on mitmesuguseid münte, mis on tänu kiirele huvile tehisintellekti vastu hüppeliselt kasvanud.

Oleme kasutanud ChatGPT-d ka paljudel teemadel, näiteks:

Ja kuigi tehisintellektiga on põnev vestelda teemadel, mida tavaliselt kolleegidega arutaksite, on sellel ka teine ​​pool ja Geoffrey Hinton räägib sellest valjult ja selgelt.

Tehisintellekti ristiisa

Geoffrey Hinton on Briti-Kanada kognitiivpsühholoog ja arvutiteadlane, kes sündis 1947. aastal Londonis Wimbledonis.

Ta on tuntud oma tehisnärvivõrkude kallal tehtud töö poolest ja on endine Google'i töötaja. Ta lahkus ettevõttest 2023. aasta mais suure avaliku lahkumisega, tekitades avalikkuses muret tehisintellekti (AI) tehnoloogia riskide pärast.

Tehnoloogia ülevaade Linda Nylindi / Eyevine Via Reduxi kaudu

Hinton on esimene Rumelharti auhinna võitja 2001. aastal ja on rahvusvaheliselt tuntud oma tehisnärvivõrkude alase töö poolest, eriti selle poolest, kuidas neid saab kujundada nii, et nad saaksid õppida ilma inimõpetajata. Samuti võitis ta 2018. aasta ACM AM Turingi auhinna kontseptuaalsete ja tehniliste läbimurrete eest selles valdkonnas.

Teda nimetatakse tavaliselt ka üheks tehisintellekti ristiisaks. Ja nüüd on tal mõned mured.

Oleme avastanud surematuse saladuse, kuid sellel on konks

Intervjuus jaoksThe Guardian,Hinton andis mõista, et lahkus Google'ist headel tingimustel ja tal pole ettevõtte tegemiste või tehtu suhtes vastuväiteid.

Artiklis võrdleb ta bioloogilist intelligentsust (inimese aju) digitaalse intelligentsusega ning toob välja ebatõhususe, millega inimesed silmitsi seisavad. Ta ütleb, et meie aju töötab väikese võimsusega, kuid meie lähenemine on teabe edastamisel üsna ebaefektiivne. Digitaalne intelligentsus on seevastu erinev.

Nad maksavad tohutult energiakulu, kuid kui üks neist midagi õpib, teavad seda kõik ja saate hõlpsasti rohkem koopiaid säästa. Hea uudis on see, et oleme avastanud surematuse saladuse. Halb uudis on see, et see pole meie jaoks.

Sisuliselt jõudis Hinton järeldusele, et inimesed loovad intelligentsust, millel on potentsiaal ületada inimkonda.

Arvasin, et see juhtub lõpuks, kuid meil oli palju aega: 30–50 aastat. Ma ei usu seda enam. Ja ma ei tea ühtegi näidet selle kohta, et intelligentsemaid asju kontrolliksid vähem intelligentsed asjad.

Et võrdlust arusaadavam teha, seadis arvutiteadlane meid (inimesi) konnade vastu ja lisas:

Ja see (AI) õpib Internetist, on lugenud kõiki kunagi kirjutatud raamatuid inimestega manipuleerimise kohta ja näinud seda ka praktikas.

Katkend filmist Ex Machina. Filmimaja mälestused

Hirm inimkonna pärast

Tsiteerides Hintoni hiljutist aruannet, kirjeldatakse aruannetes nn superintellekti potentsiaalseid ohte.

Tehisintellekti ristiisa kirjeldab stsenaariume, mille puhul tehisintellekt võib keeruliste probleemide lahendamiseks püüda saavutada kontrolli oma keskkonna paljude aspektide üle. Need aspektid hõlmavad isegi inimese manipuleerimist. Teadlane usub, et tehisintellekt ei vajaks isegi selgesõnalist eesmärki võita või hävitada, et kasutada ära oma võimet jäljendada inimkäitumist.

Kuid see pole kõik hukk ja sünge. Ta usub, et on olemas viise katastroofiliste stsenaariumide leevendamiseks, kuid usub ka, et oleme möödas punktist, kust tagasipöördumist ei toimu ja tehisintellekti arendamise peatamine on lihtsalt võimatu ja seda ei tohiks peatada.

Arvan, et peaksime seda edasi arendama, sest see võib teha imelisi asju. Kuid samavõrra peaksime püüdma leevendada või ära hoida võimalikke kohutavaid tagajärgi.

Kui lähedal me nendele kohutavatele tagajärgedele oleme? Lähemal, kui arvate.

Mul on hetkel palju ebakindlust. Võimalik, et suured keelemudelid, mis on ära kasutanud kõik veebis olevad dokumendid, ei saa palju edusamme teha, kui nad ei pääse juurde ka kõikidele meie privaatandmetele. Ma ei taha midagi sellist välistada – ma arvan, et inimesed, kes on selles olukorras enesekindlad, on hullud.

Õige viis katastroofi tõenäosusele mõelda on pigem lihtsalt müntide viskamine, kui me tahaksime.

Viimased Mõtted

Tõenäoliselt mängib tehisintellekt meie elus üha olulisemat rolli. ChatGPT enda sõnul (oh irooniat) enda sõnul on järgmised valdkonnad, mida see järgmise 7 aasta jooksul mõjutab:

• Gesundheitspflege
• Automatisierung
• Transport
• Ausbildung
• Intelligente Häuser
• Kundendienst

Pärast oma mure avaldamist on Hintonit paljud kritiseerinud selle eest, et ta ei järginud mõnda oma varem ametist lahkunud kolleegi. Sellele järeldusele on lihtne jõuda, kuid lihtne on mööda vaadata ka probleemi keerukusest, mis puudutab mitmeid tehnoloogilisi, filosoofilisi ja eetilisi printsiipe.

Ma arvan, et Hinton lihtsalt ütleb, et AI mõju inimkonnale, olgu see hea või halb, on tõenäoliselt palju suurem, kui enamik meist tundub.

Esiletõstetud pilt CBC loal, pakub Geoffrey Hinton.

.