Strahovi za človeštvo in nevarnosti umetne inteligence po Geoffreyu Hintonu

Strahovi za človeštvo in nevarnosti umetne inteligence po Geoffreyu Hintonu

Na industrijo kriptovalut je močno vplival napredek tehnologije umetne inteligence. Natančneje, naraščajoča popolarnost klepetalnih robotov, ki temeljijo na umetni inteligenci, kot sta ChatGPT in Google Bard, je ustvarila pododdelek kriptovalut, namenjenih temu prostoru.

Na trgu je vrsta kovancev, ki so doživeli eksponentno rast zaradi hitrega zanimanja za AI.

Uporabili smo tudi ChatGPT za številne teme, kot so:

In čeprav je razburljivo klepetati z umetno inteligenco o temah, o katerih običajno razpravljate s svojimi sodelavci, obstaja še druga plat tega, o čemer Geoffrey Hinton govori jasno in glasno.

Boter umetne inteligence

Geoffrey Hinton je britansko-kanadski kognitivni psiholog in računalniški znanstvenik, rojen leta 1947 v Wimbledonu v Londonu.

Najbolj znan je po svojem delu na področju umetnih nevronskih mrež in je nekdanji uslužbenec Googla. Podjetje je zapustil maja 2023 z velikim javnim odhodom, kar je v javnosti sprožilo zaskrbljenost glede tveganj tehnologije umetne inteligence (AI).

Pregled tehnologije prek Linde Nylind / Eyevine prek Reduxa

Hinton je prvi dobitnik Rumelhartove nagrade leta 2001 in je mednarodno znan po svojem delu o umetnih nevronskih mrežah, zlasti glede tega, kako jih je mogoče oblikovati za učenje brez človeškega učitelja. Leta 2018 je prejel tudi nagrado ACM AM Turing za konceptualne in tehnične preboje na tem področju.

Običajno ga imenujejo tudi eden od botrov umetne inteligence. In zdaj ima nekaj pomislekov.

Odkrili smo skrivnost nesmrtnosti, vendar obstaja zanka

V intervjuju zaVaruh,Hinton je jasno povedal, da je Google zapustil v dobrih odnosih in da nima nobenih ugovorov glede tega, kar podjetje počne ali je naredilo.

V članku primerja biološko inteligenco (človeške možgane) z digitalno inteligenco in oriše neučinkovitosti, s katerimi se človek sooča. Pravi, da naši možgani delujejo z nizko močjo, vendar je naš pristop precej neučinkovit v smislu prenosa informacij. Digitalna inteligenca pa je drugačna.

Plačajo ogromne stroške energije, toda ko se eden od njih nekaj nauči, to vedo vsi in enostavno lahko prihranite več kopij. Dobra novica je torej, da smo odkrili skrivnost nesmrtnosti. Slaba novica je, da to ni za nas.

V bistvu je Hinton zaključil, da ljudje gradijo inteligenco, ki ima potencial, da preseže človeštvo.

Mislil sem, da se bo sčasoma zgodilo, vendar smo imeli veliko časa: 30 do 50 let. Tega ne verjamem več. In ne poznam nobenega primera, da bi bolj inteligentne stvari nadzorovale manj inteligentne stvari.«

Da bo primerjava bolj razumljiva, je računalničar nas (človeka) postavil proti žabam in dodal:

In (AI) se bo učila iz interneta, prebrala bo vsako knjigo, ki je bila kdaj napisana o tem, kako manipulirati z ljudmi, in to videla tudi v praksi.«

Odlomek iz filma Ex Machina. Filmska hiša Spomini

Strahovi za človeštvo

Sklicevanje na nedavno Hintonovo poročilo opisuje potencialne nevarnosti tako imenovane superinteligence.

"Boter umetne inteligence" opisuje scenarije, v katerih lahko umetna inteligenca poskuša pridobiti nadzor nad številnimi vidiki lastnega okolja za reševanje zapletenih problemov. Ti vidiki vključujejo celo človeško manipulacijo. Znanstvenik verjame, da umetna inteligenca sploh ne bi potrebovala izrecnega cilja pridobivanja moči ali uničenja, da bi izkoristila svojo sposobnost posnemanja človeškega vedenja.

Vendar pa ni vse pogubno in mračno. Verjame, da obstajajo načini za ublažitev katastrofalnih scenarijev, hkrati pa verjame, da smo mimo točke brez vrnitve in da je ustavitev razvoja umetne inteligence preprosto nemogoča in je ne bi smeli ustaviti.

Mislim, da bi ga morali razvijati naprej, saj bi lahko delal čudovite stvari. Vendar si moramo prav tako prizadevati za ublažitev ali preprečitev morebitnih hudih posledic.

Kako blizu smo tem strašnim posledicam? Bližje, kot si mislite.

Trenutno imam veliko negotovosti. Možno je, da veliki jezikovni modeli, ki so zaužili vse dokumente v spletu, ne bodo mogli veliko napredovati, če ne bodo dobili tudi dostopa do vseh naših zasebnih podatkov. Česa takega nočem izključiti – mislim, da so ljudje, ki so v tej situaciji samozavestni, nori.

Pravi način razmišljanja o verjetnosti katastrofe je preprosto metanje kovancev, namesto da bi si želeli.«

Končne misli

Umetna inteligenca bo verjetno igrala vse pomembnejšo vlogo v naših življenjih. Glede na sam ChatGPT (oh, ironija), so nekatera področja, na katera bo vplival v naslednjih 7 letih:

• Gesundheitspflege
• Automatisierung
• Transport
• Ausbildung
• Intelligente Häuser
• Kundendienst

Odkar je izrazil zaskrbljenost, so Hintona mnogi kritizirali, ker ni sledil nekaterim svojim kolegom, ki so pred tem odstopili. Do tega zaključka je lahko priti, zlahka pa spregledamo kompleksnost problema, ki se dotika več tehnoloških, filozofskih in etičnih načel.

Predvidevam, da Hinton samo pravi, da je vpliv umetne inteligence na človeštvo, dober ali slab, verjetno veliko večji, kot se zdi, da se večina od nas zaveda.

Prikazana slika z dovoljenjem CBC, Geoffrey Hinton.

.