Baimės žmonijai ir dirbtinio intelekto keliami pavojai, pasak Geoffrey Hintono

Baimės žmonijai ir dirbtinio intelekto keliami pavojai, pasak Geoffrey Hintono

Kriptovaliutų pramonei didelę įtaką padarė dirbtinio intelekto technologijų pažanga. Tiksliau sakant, didėjantis DI pagrindu veikiančių pokalbių robotų, tokių kaip „ChatGPT“ ir „Google Bard“, poliariškumas sukūrė šiai erdvei skirtą kriptovaliutų poskyrį.

Rinkoje yra įvairių monetų, kurios dėl spartaus susidomėjimo dirbtiniu intelektu sparčiai augo.

Mes taip pat naudojome „ChatGPT“ daugeliu temų, tokių kaip:

Ir nors įdomu kalbėtis su dirbtiniu intelektu temomis, kurias įprastai diskutuotumėte su savo kolegomis, yra ir kita pusė, ir Geoffrey Hintonas apie tai kalba garsiai ir aiškiai.

Dirbtinio intelekto krikštatėvis

Geoffrey Hintonas yra britų ir kanadiečių kognityvinis psichologas ir kompiuterių mokslininkas, gimęs 1947 m. Vimbldone, Londone.

Jis geriausiai žinomas dėl savo darbo su dirbtiniais neuroniniais tinklais ir yra buvęs „Google“ darbuotojas. 2023 m. gegužę jis paliko bendrovę, iškeldamas visuomenės susirūpinimą dėl dirbtinio intelekto (DI) technologijos rizikos.

Technologijų apžvalga per Linda Nylind / Eyevine Via Redux

Hintonas yra pirmasis 2001 m. Rumelharto premijos laureatas ir tarptautiniu mastu žinomas dėl savo darbo dirbtinių neuroninių tinklų srityje, ypač dėl to, kaip jie gali būti sukurti mokytis be žmogaus mokytojo. Jis taip pat laimėjo 2018 m. ACM AM Turing apdovanojimą už konceptualius ir techninius laimėjimus šioje srityje.

Jis taip pat dažnai vadinamas vienu iš AI krikštatėvių. Ir dabar jis turi tam tikrų rūpesčių.

Mes atradome nemirtingumo paslaptį, bet slypi kažkas

Interviu užThe Guardian,Hintonas aiškiai pasakė, kad „Google“ paliko geromis sąlygomis ir neprieštarauja tam, ką įmonė daro ar padarė.

Straipsnyje jis lygina biologinį intelektą (žmogaus smegenis) su skaitmeniniu intelektu ir apibūdina neefektyvumą, su kuriuo susiduria žmonės. Jis sako, kad mūsų smegenys veikia maža galia, tačiau mūsų požiūris yra gana neefektyvus informacijos perdavimo atžvilgiu. Kita vertus, skaitmeninis intelektas yra kitoks.

Jie sumoka didžiules energijos sąnaudas, tačiau kai vienas iš jų ko nors išmoksta, visi tai žino ir galite lengvai sutaupyti daugiau kopijų. Taigi gera žinia ta, kad atradome nemirtingumo paslaptį. Bloga žinia ta, kad tai ne mums.

Iš esmės Hintonas padarė išvadą, kad žmonės kuria intelektą, kuris gali pranokti žmoniją.

Maniau, kad galiausiai tai įvyks, bet turėjome daug laiko: nuo 30 iki 50 metų. Aš tuo nebetikiu. Ir aš nežinau pavyzdžių, kad protingesni dalykai būtų valdomi mažiau protingų dalykų.

Kad palyginimas būtų suprantamesnis, informatikas supriešino mus (žmones) su varlėmis ir pridūrė:

Ir jis (AI) mokysis iš interneto, bus perskaitęs kiekvieną kada nors parašytą knygą apie tai, kaip manipuliuoti žmonėmis, ir matęs tai praktiškai.

Ištrauka iš filmo „Ex Machina“. Kino namų prisiminimai

Baimės dėl žmonijos

Cituojant naujausią Hintono ataskaitą, ataskaitose aprašomi galimi vadinamojo superintelekto pavojai.

„AI krikštatėvis“ aprašo scenarijus, pagal kuriuos AI gali bandyti kontroliuoti daugybę savo aplinkos aspektų, kad išspręstų sudėtingas problemas. Šie aspektai apima net manipuliavimą žmonėmis. Mokslininkas mano, kad dirbtiniam intelektui net nereikėtų aiškaus tikslo įgyti galią ar sunaikinti, kad išnaudotų savo gebėjimą imituoti žmogaus elgesį.

Vis dėlto tai dar ne viskas likimo ir niūrumo. Jis mano, kad yra būdų, kaip sušvelninti katastrofiškus scenarijus, bet taip pat mano, kad esame praėję tašką, iš kurio nebegalima grįžti, o AI plėtros sustabdymas tiesiog neįmanomas ir neturėtų būti sustabdytas.

Manau, kad turėtume tai toliau plėtoti, nes tai gali padaryti nuostabių dalykų. Tačiau lygiai taip pat turėtume stengtis sušvelninti galimas baisias pasekmes arba jų išvengti.

Kiek esame arti šių baisių pasekmių? Arčiau, nei jūs manote.

Šiuo metu turiu daug neaiškumų. Gali būti, kad dideli kalbų modeliai, sunaudoję visus žiniatinklyje esančius dokumentus, negalės pasiekti didelės pažangos, nebent jie taip pat gaus prieigą prie visų mūsų privačių duomenų. Nenoriu atmesti kažko panašaus – manau, kad žmonės, kurie pasitiki šia situacija, yra pamišę.

Teisingas būdas galvoti apie katastrofos tikimybę yra paprasčiausiai mesti monetas, nei mes norėtume.

Paskutinės mintys

Tikėtina, kad dirbtinis intelektas vaidins vis svarbesnį vaidmenį mūsų gyvenime. Pasak paties ChatGPT (o ironija), kai kurios sritys, kurias jis paveiks per ateinančius 7 metus:

• Gesundheitspflege
• Automatisierung
• Transport
• Ausbildung
• Intelligente Häuser
• Kundendienst

Nuo tada, kai išreiškė savo susirūpinimą, Hintonas buvo kritikuojamas dėl to, kad nesilaiko kai kurių savo kolegų, kurie anksčiau atsistatydino. Šią išvadą lengva padaryti, tačiau taip pat lengva nepastebėti problemos sudėtingumo, kuris paliečia kelis technologinius, filosofinius ir etinius principus.

Spėju, kad Hintonas tiesiog sako, kad AI poveikis žmonijai, geras ar blogas, tikriausiai yra daug didesnis, nei atrodo, kad dauguma iš mūsų supranta.

Teminį vaizdą suteikė CBC, pateikė Geoffrey Hintonas.

.