Bailes par cilvēci un mākslīgā intelekta briesmām saskaņā ar Džefriju Hintonu

Bailes par cilvēci un mākslīgā intelekta briesmām saskaņā ar Džefriju Hintonu

Kriptovalūtu nozari lielā mērā ietekmējuši mākslīgā intelekta tehnoloģiju sasniegumi. Konkrētāk, pieaugošā AI balstītu tērzēšanas robotu, piemēram, ChatGPT un Google Bard, po-polaritāte ir radījusi šai telpai veltītu kriptovalūtu apakšsadaļu.

Tirgū ir dažādas monētas, kas ir piedzīvojušas eksponenciālu pieaugumu, pateicoties straujajai interesei par AI.

Mēs esam izmantojuši arī ChatGPT daudzās tēmās, piemēram:

Un, lai gan ir aizraujoši tērzēt ar AI par tēmām, kuras parasti apspriestu ar saviem kolēģiem, tam ir arī cita puse, un Džefrijs Hintons par to runā skaļi un skaidri.

Mākslīgā intelekta krusttēvs

Džefrijs Hintons ir britu un kanādiešu kognitīvais psihologs un datorzinātnieks, dzimis Vimbldonā, Londonā, 1947. gadā.

Viņš ir vislabāk pazīstams ar savu darbu pie mākslīgajiem neironu tīkliem un ir bijušais Google darbinieks. Viņš pameta uzņēmumu 2023. gada maijā, veicot lielu publisku aiziešanu, radot sabiedrības bažas par mākslīgā intelekta (AI) tehnoloģijas radītajiem riskiem.

Tehnoloģiju apskats caur Linda Nylind / Eyevine Via Redux

Hintons ir pirmais Rumelhārta balvas ieguvējs 2001. gadā, un viņš ir starptautiski pazīstams ar savu darbu pie mākslīgajiem neironu tīkliem, jo ​​īpaši saistībā ar to, kā tos var veidot tā, lai tie varētu mācīties bez cilvēka skolotāja. Viņš arī ieguva 2018. gada ACM AM Turing balvu par konceptuāliem un tehniskiem sasniegumiem šajā jomā.

Viņu parasti dēvē arī par vienu no AI krusttēviem. Un tagad viņam ir dažas bažas.

Mēs esam atklājuši nemirstības noslēpumu, taču tajā ir kāds āķis

Intervijā parAizbildnis,Hintons lika noprast, ka pameta Google ar labiem nosacījumiem un viņam nav iebildumu pret to, ko uzņēmums dara vai ir darījis.

Rakstā viņš salīdzina bioloģisko intelektu (cilvēka smadzenes) ar digitālo intelektu un iezīmē neefektivitāti, ar ko saskaras cilvēki. Viņš saka, ka mūsu smadzenes darbojas ar mazu jaudu, bet mūsu pieeja informācijas pārraides ziņā ir diezgan neefektīva. No otras puses, digitālais intelekts ir atšķirīgs.

Viņi maksā milzīgas enerģijas izmaksas, bet, kad kāds no viņiem kaut ko iemācās, visi to zina, un jūs varat viegli ietaupīt vairāk kopijas. Tātad labā ziņa ir tā, ka esam atklājuši nemirstības noslēpumu. Sliktā ziņa ir tā, ka tas nav paredzēts mums.

Būtībā Hintons secināja, ka cilvēki veido intelektu, kam ir potenciāls pārspēt cilvēci.

Es domāju, ka tas galu galā notiks, bet mums bija daudz laika: 30 līdz 50 gadi. Es tam vairs neticu. Un es nezinu nevienu piemēru, ka saprātīgākas lietas kontrolētu mazāk inteliģentas lietas.

Lai salīdzinājums būtu saprotamāks, datorzinātnieks mūs (cilvēkus) pretstatīja vardēm un piebilda:

Un tas (AI) mācīsies no interneta, tas būs izlasījis katru jebkad rakstīto grāmatu par to, kā manipulēt ar cilvēkiem, un redzējis to arī praksē.

Fragments no filmas Ex Machina. Filmu mājas atmiņas

Bailes par cilvēci

Citējot neseno Hintona ziņojumu, ziņojumos ir izklāstītas tā sauktās superinteliģences iespējamās briesmas.

“AI krusttēvs” apraksta scenārijus, kuros AI var mēģināt iegūt kontroli pār daudziem savas vides aspektiem, lai atrisinātu sarežģītas problēmas. Šie aspekti ietver pat cilvēku manipulācijas. Zinātnieks uzskata, ka mākslīgajam intelektam pat nebūtu vajadzīgs skaidrs mērķis iegūt varu vai iznīcināt, lai izmantotu tā spēju atdarināt cilvēka uzvedību.

Tomēr tas nav viss nolemtība un drūmums. Viņš uzskata, ka ir veidi, kā mazināt katastrofālus scenārijus, taču viņš arī uzskata, ka esam pārsnieguši atgriešanās punktu, un mākslīgā intelekta attīstības apturēšana ir vienkārši neiespējama, un to nevajadzētu apturēt.

Es domāju, ka mums tas būtu jāattīsta tālāk, jo tas varētu darīt brīnišķīgas lietas. Taču mums vienlīdz jācenšas mazināt vai novērst iespējamās baisās sekas.

Cik tuvu mēs esam šīm briesmīgajām sekām? Tuvāk, nekā varētu domāt.

Man šobrīd ir daudz neskaidrību. Iespējams, ka lielie valodu modeļi, kas ir patērējuši visus tīmeklī esošos dokumentus, nespēs panākt lielu progresu, ja vien tie arī neiegūs piekļuvi visiem mūsu privātajiem datiem. Es negribu kaut ko tādu izslēgt – manuprāt, cilvēki, kuri ir pārliecināti par šo situāciju, ir traki.

Pareizais veids, kā domāt par katastrofas iespējamību, ir vienkārši pārmest monētas, nekā mēs to vēlētos.

Pēdējās domas

Mākslīgais intelekts, visticamāk, spēlēs arvien nozīmīgāku lomu mūsu dzīvē. Saskaņā ar pašu ChatGPT teikto (ak, ironija), dažas no jomām, kuras tas ietekmēs nākamajos 7 gados, ir:

• Gesundheitspflege
• Automatisierung
• Transport
• Ausbildung
• Intelligente Häuser
• Kundendienst

Kopš savu bažu paušanas Hintonu daudzi kritizēja par to, ka viņš nav ievērojis dažus savus kolēģus, kuri iepriekš bija atkāpušies no amata. Ir viegli nonākt pie šāda secinājuma, taču ir viegli arī nepamanīt problēmas sarežģītību, kas skar vairākus tehnoloģiskus, filozofiskus un ētiskus principus.

Es domāju, ka Hintons tikai saka, ka AI ietekme uz cilvēci, laba vai slikta, iespējams, ir daudz lielāka, nekā šķiet, ka lielākā daļa no mums nojauš.

Piedāvātais attēls, ko nodrošina CBC, nodrošina Džefrijs Hintons.

.