Strach o lidstvo a nebezpečí umělé inteligence podle Geoffreyho Hintona

Strach o lidstvo a nebezpečí umělé inteligence podle Geoffreyho Hintona

Kryptoměnový průmysl byl značně ovlivněn pokrokem v technologii umělé inteligence. Přesněji řečeno, rostoucí po-polarita chatbotů založených na AI, jako je ChatGPT a Google Bard, vytvořila podsekci kryptoměn věnovanou tomuto prostoru.

Na trhu existuje celá řada mincí, které zaznamenaly exponenciální růst díky rychlému zájmu o AI.

ChatGPT jsme také použili na řadu témat, jako jsou:

A i když je vzrušující chatovat s umělou inteligencí o tématech, o kterých byste normálně diskutovali se svými kolegy, má to i druhou stránku a Geoffrey Hinton o tom mluví nahlas a jasně.

Kmotr umělé inteligence

Geoffrey Hinton je britsko-kanadský kognitivní psycholog a počítačový vědec narozený ve Wimbledonu v Londýně v roce 1947.

Je známý především díky své práci na umělých neuronových sítích a je bývalým zaměstnancem společnosti Google. Společnost opustil v květnu 2023 velkým veřejným odchodem, což vyvolalo obavy veřejnosti z rizik technologie umělé inteligence (AI).

Technologie Review prostřednictvím Linda Nylind / Eyevine Via Redux

Hinton je prvním vítězem Rumelhartovy ceny v roce 2001 a je mezinárodně známý pro svou práci na umělých neuronových sítích, zejména v tom, jak mohou být navrženy tak, aby se učily bez lidského učitele. Získal také cenu ACM AM Turing za rok 2018 za koncepční a technické průlomy v oboru.

Je také běžně označován jako jeden z kmotrů AI. A teď má nějaké obavy.

Odhalili jsme tajemství nesmrtelnosti, ale má to háček

V rozhovoru proThe Guardian,Hinton dal jasně najevo, že opustil Google za dobrých podmínek a že nemá žádné námitky proti tomu, co společnost dělá nebo udělala.

V článku srovnává biologickou inteligenci (lidský mozek) s digitální inteligencí a nastiňuje neefektivitu, se kterou se lidé potýkají. Říká, že náš mozek funguje na malý výkon, ale náš přístup je z hlediska přenosu informací značně neefektivní. Digitální inteligence je na druhou stranu jiná.

Platí obrovské náklady na energii, ale když se jeden z nich něco naučí, každý to ví a můžete snadno ušetřit více kopií. Dobrou zprávou tedy je, že jsme objevili tajemství nesmrtelnosti. Špatná zpráva je, že to není pro nás.

Hinton v podstatě dospěl k závěru, že lidé budují inteligenci, která má potenciál překonat lidstvo.

Myslel jsem, že se to nakonec stane, ale měli jsme spoustu času: 30 až 50 let. Tomu už nevěřím. A nevím o žádných příkladech, kdy by inteligentnější věci ovládaly méně inteligentní věci."

Aby bylo srovnání srozumitelnější, počítačový vědec nás (lidi) postavil proti žábám a dodal:

A ona (AI) se bude učit z internetu, bude mít přečtenou každou knihu o tom, jak manipulovat s lidmi, a uvidí to i v praxi.“

Ukázka z filmu Ex Machina. Vzpomínky na filmový dům

Strach o lidstvo

S odvoláním na nedávnou zprávu Hintona zprávy nastiňují potenciální nebezpečí takzvané superinteligence.

„Kmotr AI“ popisuje scénáře, ve kterých by se AI mohla pokusit získat kontrolu nad četnými aspekty svého vlastního prostředí, aby vyřešila složité problémy. Mezi tyto aspekty patří dokonce i lidská manipulace. Vědec se domnívá, že AI by ani nepotřebovala explicitní cíl získat moc nebo zničení, aby využila svou schopnost napodobovat lidské chování.

Není to však všechno zmar a chmurnost. Věří, že existují způsoby, jak zmírnit katastrofické scénáře, ale také věří, že jsme za bodem, ze kterého není návratu a zastavení vývoje AI je prostě nemožné a nemělo by být zastaveno.

Myslím, že bychom to měli dále rozvíjet, protože by to mohlo dělat úžasné věci. Ale stejně tak bychom se měli snažit zmírnit nebo předcházet možným hrozným následkům.

Jak blízko jsme těmto hrozným následkům? Blíže, než si myslíte.

Momentálně mám velkou nejistotu. Je možné, že velké jazykové modely, které spotřebovaly všechny dokumenty na webu, nebudou schopny dosáhnout velkého pokroku, pokud také nezískají přístup ke všem našim soukromým datům. Nechci něco takového vylučovat – myslím, že lidé, kteří jsou si v této situaci jistí, jsou blázni.

Správný způsob, jak přemýšlet o pravděpodobnosti katastrofy, je jednoduše házet mincí, než bychom chtěli.“

Závěrečné myšlenky

Umělá inteligence bude pravděpodobně hrát v našich životech stále důležitější roli. Podle samotného ChatGPT (och ta ironie) samotné, některé z oblastí, které ovlivní v příštích 7 letech, jsou:

• Gesundheitspflege
• Automatisierung
• Transport
• Ausbildung
• Intelligente Häuser
• Kundendienst

Od té doby, co Hinton vyjádřil své obavy, byl mnohými kritizován za to, že nedodržel některé ze svých kolegů, kteří předtím rezignovali. Je snadné dospět k tomuto závěru, ale je také snadné přehlédnout složitost problému, který se dotýká několika technologických, filozofických a etických principů.

Myslím, že Hinton právě říká, že dopad umělé inteligence na lidstvo, dobrý nebo špatný, je pravděpodobně mnohem větší, než si většina z nás uvědomuje.

Doporučený obrázek se svolením CBC poskytl Geoffrey Hinton.

.