Félelmek az emberiségtől és a mesterséges intelligencia veszélyei Geoffrey Hinton szerint

Félelmek az emberiségtől és a mesterséges intelligencia veszélyei Geoffrey Hinton szerint

A kriptovaluta ipart nagymértékben befolyásolta a mesterséges intelligencia technológia fejlődése. Pontosabban, a mesterséges intelligencia-alapú chatbotok, például a ChatGPT és a Google Bard növekvő po-polaritása a kriptovaluták egy alszekcióját hozta létre erre a területre.

Különféle érmék vannak a piacon, amelyek exponenciális növekedést mutattak az AI iránti gyors érdeklődés miatt.

A ChatGPT-t számos témában is használtuk, például:

És bár izgalmas csevegni egy MI-vel olyan témákról, amelyekről általában kollégáival beszélgetne, van ennek egy másik oldala is, és Geoffrey Hinton hangosan és egyértelműen beszél róla.

A mesterséges intelligencia keresztapja

Geoffrey Hinton brit-kanadai kognitív pszichológus és informatikus, Wimbledonban, Londonban született 1947-ben.

Leginkább mesterséges neurális hálózatokkal kapcsolatos munkáiról ismert, és a Google egykori alkalmazottja. 2023 májusában távozott a cégtől egy jelentős nyilvános kilépéssel, ami a közvélemény aggodalmát keltette fel a mesterséges intelligencia (AI) technológia kockázatai miatt.

Technológiai áttekintés: Linda Nylind / Eyevine Via Redux

Hinton a Rumelhart-díj első nyertese 2001-ben, és nemzetközileg ismert a mesterséges neurális hálózatokkal kapcsolatos munkáiról, különös tekintettel arra, hogy hogyan lehet őket úgy megtervezni, hogy emberi tanár nélkül is tanuljanak. Elnyerte a 2018-as ACM AM Turing-díjat is a területen elért koncepcionális és technikai áttöréseiért.

Általában az AI egyik keresztapjaként is emlegetik. És most vannak aggályai.

Felfedeztük a halhatatlanság titkát, de van egy fogás

Egy interjúbanA Guardian,Hinton egyértelművé tette, hogy jó feltételekkel hagyta el a Google-t, és nincs kifogása az ellen, amit a cég csinál vagy tett.

A cikkben összehasonlítja a biológiai intelligenciát (az emberi agyat) a digitális intelligenciával, és felvázolja azokat a hatástalanságokat, amelyekkel az emberek szembesülnek. Azt mondja, hogy az agyunk alacsony teljesítménnyel működik, de a megközelítésünk meglehetősen nem hatékony az információtovábbítás szempontjából. A digitális intelligencia viszont más.

Hatalmas energiaköltséget fizetnek, de ha valaki megtanul valamit, azt mindenki tudja, és könnyen megspórolhat több példányt. A jó hír tehát az, hogy felfedeztük a halhatatlanság titkát. A rossz hír az, hogy nem nekünk való.

Lényegében Hinton arra a következtetésre jutott, hogy az emberek olyan intelligenciát építenek, amely képes felülmúlni az emberiséget.

Azt hittem, végül megtörténik, de sok időnk volt: 30-50 év. Ezt már nem hiszem el. Arra pedig nem tudok példát, hogy az intelligensebb dolgokat kevésbé intelligens dolgok irányítsák.”

Hogy érthetőbb legyen az összehasonlítás, az informatikus szembeállított minket (embereket) a békákkal, és hozzátette:

És ez (AI) tanulni fog az internetről, elolvasta az összes könyvet, amelyet valaha írtak arról, hogyan manipulálják az embereket, és ezt a gyakorlatban is látta.”

Részlet az Ex Machina című filmből. Filmes Házi emlékek

Félelem az emberiségtől

Hinton legutóbbi jelentésére hivatkozva a jelentések felvázolják az úgynevezett szuperintelligencia lehetséges veszélyeit.

Az „AI keresztapja” olyan forgatókönyveket ír le, amelyekben a mesterséges intelligencia megpróbálhatja megszerezni az irányítást saját környezete számos aspektusa felett, hogy összetett problémákat oldjon meg. Ezek a szempontok még az emberi manipulációt is magukban foglalják. A tudós úgy véli, hogy a mesterséges intelligencia nem is kellene a hatalom megszerzésének vagy a pusztításnak a kifejezett céljára ahhoz, hogy kihasználja az emberi viselkedést utánzó képességét.

Ez azonban nem minden végzet és komor. Úgy véli, hogy vannak módok a katasztrofális forgatókönyvek enyhítésére, de azt is hiszi, hogy túl vagyunk azon a ponton, ahonnan nincs visszatérés, és a mesterséges intelligencia fejlesztésének megállítása egyszerűen lehetetlen, és nem szabad megállítani.

Szerintem tovább kellene fejlesztenünk, mert csodálatos dolgokra képes. De ugyanígy törekednünk kell a lehetséges súlyos következmények enyhítésére vagy megelőzésére.

Mennyire vagyunk közel ezekhez a szörnyű következményekhez? Közelebb, mint gondolnád.

Jelenleg sok a bizonytalanság. Lehetséges, hogy a nagy nyelvi modellek, amelyek a weben található összes dokumentumot felhasználták, nem tudnak sokat fejlődni, hacsak nem férnek hozzá az összes személyes adatunkhoz. Nem akarom kizárni az ilyesmit – szerintem őrültek azok, akik bíznak ebben a helyzetben.

A katasztrófa valószínűségéről való gondolkodásnak az a helyes módja, ha egyszerűen feldobjuk az érméket, mint szeretnénk.”

Végső gondolatok

A mesterséges intelligencia valószínűleg egyre fontosabb szerepet fog játszani életünkben. Maga a ChatGPT szerint (ó, az irónia) a következő 7 évben hatással lesz néhány területre:

• Gesundheitspflege
• Automatisierung
• Transport
• Ausbildung
• Intelligente Häuser
• Kundendienst

Amióta aggodalmának adott hangot, Hintont sokan kritizálták, amiért nem követte néhány korábban lemondott kollégáját. Könnyű erre a következtetésre jutni, de könnyen elnézhetjük a probléma összetettségét is, amely számos technológiai, filozófiai és etikai elvet érint.

Azt hiszem, Hinton csak azt mondja, hogy a mesterséges intelligencia emberiségre gyakorolt ​​hatása, akár jó, akár rossz, valószínűleg sokkal nagyobb, mint azt a legtöbben gondolnánk.

A kiemelt kép a CBC jóvoltából, Geoffrey Hinton.

.