Pelkoja ihmiskunnan puolesta ja tekoälyn vaaroista Geoffrey Hintonin mukaan

Pelkoja ihmiskunnan puolesta ja tekoälyn vaaroista Geoffrey Hintonin mukaan

Kryptovaluuttateollisuuteen on vaikuttanut suuresti tekoälyteknologian kehitys. Tarkemmin sanottuna tekoälypohjaisten chatbottien, kuten ChatGPT:n ja Google Bardin, lisääntyvä po-polariteetti on synnyttänyt tälle alueelle omistetun kryptovaluuttojen alaosan.

Markkinoilla on useita kolikoita, jotka ovat kasvaneet räjähdysmäisesti tekoälyn nopean kiinnostuksen vuoksi.

Olemme myös käyttäneet ChatGPT:tä useissa aiheissa, kuten:

Ja vaikka on jännittävää keskustella tekoälyn kanssa aiheista, joista tavallisesti keskustelet kollegojesi kanssa, asialla on toinenkin puoli, ja Geoffrey Hinton puhuu siitä äänekkäästi ja selkeästi.

Tekoälyn kummisetä

Geoffrey Hinton on brittiläis-kanadalainen kognitiivinen psykologi ja tietojenkäsittelytieteilijä, joka syntyi Wimbledonissa Lontoossa vuonna 1947.

Hänet tunnetaan parhaiten työstään keinotekoisten hermoverkkojen parissa ja hän on entinen Googlen työntekijä. Hän jätti yrityksen toukokuussa 2023 suurella julkisella irtautumisella, mikä herätti yleisön huolen tekoälyteknologian riskeistä.

Teknologiakatsaus Linda Nylindin / Eyevine Via Reduxin kautta

Hinton on ensimmäinen Rumelhart-palkinnon voittaja vuonna 2001, ja hänet tunnetaan kansainvälisesti keinotekoisia hermoverkkoja koskevista töistään, erityisesti siitä, miten ne voidaan suunnitella oppimaan ilman ihmisopettajaa. Hän voitti myös 2018 ACM AM Turing Award -palkinnon konseptuaalisista ja teknisistä läpimurroista alalla.

Häntä kutsutaan yleisesti myös yhdeksi tekoälyn kummiseistä. Ja nyt hänellä on joitain huolia.

Olemme havainneet kuolemattomuuden salaisuuden, mutta siinä on saalis

Haastattelussa vartenThe Guardian,Hinton teki selväksi, että hän jätti Googlen hyvillä ehdoilla ja ettei hänellä ole mitään vastalauseita yrityksen toimintaan tai tekemiseen.

Artikkelissa hän vertaa biologista älykkyyttä (ihmisen aivoja) digitaaliseen älykkyyteen ja hahmottaa ihmisten kohtaamia tehottomuuksia. Hän sanoo, että aivomme toimivat pienellä teholla, mutta lähestymistapamme on melko tehoton tiedon välittämisen kannalta. Digitaalinen älykkyys sen sijaan on erilaista.

He maksavat valtavat energiakustannukset, mutta kun joku heistä oppii jotain, kaikki tietävät sen ja voit helposti säästää lisää kopioita. Joten hyvä uutinen on, että olemme löytäneet kuolemattomuuden salaisuuden. Huono uutinen on, että se ei ole meitä varten.

Pohjimmiltaan Hinton päätteli, että ihmiset rakentavat älykkyyttä, jolla on potentiaalia ylittää ihmiskunnan.

Luulin sen tapahtuvan lopulta, mutta meillä oli paljon aikaa: 30-50 vuotta. En usko sitä enää. Enkä tiedä yhtään esimerkkiä siitä, että älykkäämpiä asioita hallitsevat vähemmän älykkäät asiat."

Jotta vertailu olisi ymmärrettävämpää, tietojenkäsittelytieteilijä kohtasi meidät (ihmiset) sammakoita vastaan ​​ja lisäsi:

Ja se (AI) oppii Internetistä, se on lukenut jokaisen kirjan, joka on koskaan kirjoitettu ihmisten manipuloinnista ja nähnyt sen myös käytännössä."

Ote elokuvasta Ex Machina. Elokuvan talon muistot

Pelkoja ihmiskunnan puolesta

Hintonin tuoreeseen raporttiin viitaten raporteissa kuvataan niin kutsutun superälyn mahdollisia vaaroja.

Tekoälyn kummisetä kuvaa skenaarioita, joissa tekoäly saattaa yrittää saada hallintaansa oman ympäristönsä lukuisia näkökohtia ratkaistakseen monimutkaisia ​​ongelmia. Näihin näkökohtiin kuuluu jopa ihmisen manipulointi. Tiedemies uskoo, että tekoäly ei edes tarvitsisi nimenomaista tavoitetta saada valtaa tai tuhoa hyödyntääkseen sen kykyä matkia ihmisen käyttäytymistä.

Kaikki ei kuitenkaan ole tuhoa ja synkkyyttä. Hän uskoo, että on olemassa tapoja lieventää katastrofaalisia skenaarioita, mutta hän uskoo myös, että olemme yli pisteen, josta ei ole paluuta, ja tekoälyn kehityksen pysäyttäminen on yksinkertaisesti mahdotonta, eikä sitä pidä pysäyttää.

Mielestäni meidän pitäisi kehittää sitä edelleen, koska se voisi tehdä upeita asioita. Mutta meidän pitäisi myös pyrkiä lieventämään tai ehkäisemään mahdollisia vakavia seurauksia.

Kuinka lähellä olemme näitä vakavia seurauksia? Lähempänä kuin uskotkaan.

Minulla on tällä hetkellä paljon epävarmuutta. On mahdollista, että suuret kielimallit, jotka ovat kuluttaneet kaikki verkossa olevat asiakirjat, eivät voi edistyä paljoa, elleivät ne pääse myös käsiksi kaikkiin yksityisiin tietoihimme. En halua sulkea pois mitään sellaista - mielestäni ihmiset, jotka luottavat tähän tilanteeseen, ovat hulluja.

Oikea tapa ajatella katastrofin todennäköisyyttä on yksinkertaisesti heittää kolikoita mieluummin kuin haluaisimme."

Viimeisiä ajatuksia

Tekoälyllä on todennäköisesti yhä tärkeämpi rooli elämässämme. Itse ChatGPT:n (oi ironiaa) mukaan osa alueista, joihin se vaikuttaa seuraavan 7 vuoden aikana, ovat:

• Gesundheitspflege
• Automatisierung
• Transport
• Ausbildung
• Intelligente Häuser
• Kundendienst

Huolensa ilmaisemisen jälkeen Hintonia on arvosteltu siitä, ettei hän ole toiminut joidenkin aiemmin eronneiden kollegoidensa kanssa. Tähän johtopäätökseen on helppo päätyä, mutta on myös helppo sivuuttaa ongelman monimutkaisuus, joka koskettaa useita teknologisia, filosofisia ja eettisiä periaatteita.

Luulen, että Hinton sanoo vain, että tekoälyn vaikutus ihmiskuntaan, oli se sitten hyvä tai huono, on luultavasti paljon suurempi kuin useimmat meistä näyttävät ymmärtävän.

Suositeltu kuva CBC:n luvalla, tarjoaa Geoffrey Hinton.

.