Strahovi za čovječanstvo i opasnosti od umjetne inteligencije prema Geoffreyu Hintonu

Strahovi za čovječanstvo i opasnosti od umjetne inteligencije prema Geoffreyu Hintonu

Industrija kriptovaluta uvelike je pod utjecajem napretka u tehnologiji umjetne inteligencije. Točnije, sve veća popolarnost chatbota temeljenih na umjetnoj inteligenciji kao što su ChatGPT i Google Bard iznjedrila je pododjeljak kriptovaluta posvećen ovom prostoru.

Na tržištu postoji niz kovanica koje su zabilježile eksponencijalni rast zbog brzog interesa za AI.

Također smo koristili ChatGPT za brojne teme kao što su:

I dok je uzbudljivo razgovarati s umjetnom inteligencijom o temama o kojima inače razgovarate sa svojim kolegama, postoji i druga strana toga, a Geoffrey Hinton o tome govori jasno i glasno.

Kum umjetne inteligencije

Geoffrey Hinton je britansko-kanadski kognitivni psiholog i informatičar rođen u Wimbledonu u Londonu 1947. godine.

Najpoznatiji je po svom radu na umjetnim neuronskim mrežama i bivši je zaposlenik Googlea. Napustio je tvrtku u svibnju 2023. u velikom javnom odlasku, što je izazvalo zabrinutost javnosti o rizicima tehnologije umjetne inteligencije (AI).

Pregled tehnologije putem Linde Nylind / Eyevine putem Reduxa

Hinton je prvi dobitnik Rumelhartove nagrade 2001. i međunarodno je poznat po svom radu na umjetnim neuronskim mrežama, posebice po tome kako se one mogu dizajnirati za učenje bez ljudskog učitelja. Također je osvojio nagradu ACM AM Turing 2018. za konceptualni i tehnički prodor u tom području.

Često ga se naziva i jednim od kumova umjetne inteligencije. I sada ima neke brige.

Otkrili smo tajnu besmrtnosti, ali postoji caka

U intervjuu začuvar,Hinton je jasno dao do znanja da je napustio Google u dobrim odnosima i da nema primjedbi na ono što tvrtka radi ili je radila.

U članku uspoređuje biološku inteligenciju (ljudski mozak) s digitalnom inteligencijom i ocrtava neučinkovitosti s kojima se ljudi suočavaju. Kaže da naši mozgovi rade s malom snagom, ali je naš pristup prilično neučinkovit u smislu prijenosa informacija. S druge strane, digitalna inteligencija je drugačija.

Plaćaju ogromne troškove energije, ali kada jedan od njih nešto nauči, svi to znaju i lako možete spremiti više kopija. Dakle, dobra vijest je da smo otkrili tajnu besmrtnosti. Loša vijest je da to nije za nas.

U biti, Hinton je zaključio da ljudi grade inteligenciju koja ima potencijal nadmašiti čovječanstvo.

Mislio sam da će se to jednom dogoditi, ali imali smo dosta vremena: 30 do 50 godina. Ne vjerujem više u to. I ne znam ni za jedan primjer da inteligentnije stvari kontroliraju manje inteligentne stvari.”

Da bi usporedba bila razumljivija, informatičar je nas (ljude) suprotstavio žabama i dodao:

I (AI) će učiti s interneta, pročitat će svaku knjigu ikada napisanu o tome kako manipulirati ljudima i vidjeti to u praksi.”

Isječak iz filma Ex Machina. Sjećanja iz filmske kuće

Strahovi za čovječanstvo

Citirajući nedavno Hintonovo izvješće, izvješća ističu potencijalne opasnosti takozvane superinteligencije.

“Kum umjetne inteligencije” opisuje scenarije u kojima umjetna inteligencija može pokušati preuzeti kontrolu nad brojnim aspektima vlastitog okruženja kako bi riješila složene probleme. Ti aspekti čak uključuju i ljudsku manipulaciju. Znanstvenik vjeruje da umjetnoj inteligenciji čak ne bi trebao eksplicitni cilj stjecanja moći ili uništenja kako bi iskoristio svoju sposobnost oponašanja ljudskog ponašanja.

Međutim, nije sve u propasti. Vjeruje da postoje načini za ublažavanje katastrofalnih scenarija, ali također smatra da smo prošli točku bez povratka i da je zaustavljanje razvoja umjetne inteligencije jednostavno nemoguće i ne treba ga zaustavljati.

Mislim da bismo ga trebali dalje razvijati jer bi mogao činiti prekrasne stvari. Ali jednako tako trebamo nastojati ublažiti ili spriječiti moguće strašne posljedice.

Koliko smo blizu ovim strašnim posljedicama? Bliže nego što mislite.

Trenutačno imam dosta neizvjesnosti. Moguće je da veliki jezični modeli koji su potrošili sve dokumente na webu neće moći puno napredovati ako također ne dobiju pristup svim našim privatnim podacima. Ne želim isključiti tako nešto - mislim da su ljudi koji su samouvjereni u ovoj situaciji ludi.

Pravi način razmišljanja o vjerojatnosti katastrofe je jednostavno bacanje novčića, a ne što bismo željeli.”

Završne misli

Umjetna inteligencija će vjerojatno igrati sve važniju ulogu u našim životima. Prema samom ChatGPT-u (o ironija), neka od područja na koja će utjecati u sljedećih 7 godina su:

• Gesundheitspflege
• Automatisierung
• Transport
• Ausbildung
• Intelligente Häuser
• Kundendienst

Otkako je izrazio svoju zabrinutost, Hintona su mnogi kritizirali jer nije nastavio s nekim svojim kolegama koji su prethodno dali ostavke. Lako je doći do ovog zaključka, ali je također lako previdjeti kompleksnost problema koji zadire u nekoliko tehnoloških, filozofskih i etičkih načela.

Pretpostavljam da Hinton samo govori da je utjecaj umjetne inteligencije na čovječanstvo, dobar ili loš, vjerojatno mnogo veći nego što većina nas shvaća.

Istaknuta slika ljubaznošću CBC-a, koju je ustupio Geoffrey Hinton.

.