Strach o ľudstvo a nebezpečenstvo umelej inteligencie podľa Geoffreyho Hintona

Strach o ľudstvo a nebezpečenstvo umelej inteligencie podľa Geoffreyho Hintona

Odvetvie kryptomien bol výrazne ovplyvnený pokrokom v technológii umelej inteligencie. Presnejšie povedané, rastúca po-polarita chatbotov založených na AI, ako sú ChatGPT a Google Bard, vytvorila podsekciu kryptomien venovanú tomuto priestoru.

Na trhu existuje množstvo mincí, ktoré zaznamenali exponenciálny rast v dôsledku rýchleho záujmu o AI.

ChatGPT sme použili aj na mnohé témy, ako napríklad:

A hoci je vzrušujúce chatovať s AI o témach, o ktorých by ste normálne diskutovali so svojimi kolegami, má to aj druhú stránku a Geoffrey Hinton o tom hovorí nahlas a jasne.

Krstný otec umelej inteligencie

Geoffrey Hinton je britsko-kanadský kognitívny psychológ a počítačový vedec, ktorý sa narodil vo Wimbledone v Londýne v roku 1947.

Známy je najmä vďaka práci na umelých neurónových sieťach a je bývalým zamestnancom spoločnosti Google. Spoločnosť opustil v máji 2023 vo veľkom verejnom odchode, čo vyvolalo obavy verejnosti z rizík technológie umelej inteligencie (AI).

Recenzia technológie prostredníctvom Lindy Nylind / Eyevine Via Redux

Hinton je prvým víťazom Rumelhartovej ceny v roku 2001 a je medzinárodne známy svojou prácou na umelých neurónových sieťach, najmä v tom, ako môžu byť navrhnuté tak, aby sa učili bez ľudského učiteľa. Získal tiež cenu ACM AM Turing za rok 2018 za koncepčné a technické prelomy v tejto oblasti.

Bežne sa o ňom hovorí aj ako o jednom z krstných otcov AI. A teraz má isté obavy.

Odhalili sme tajomstvo nesmrteľnosti, no má to háčik

V rozhovore preThe Guardian,Hinton dal jasne najavo, že odišiel z Google za dobrých podmienok a že nemá žiadne námietky voči tomu, čo spoločnosť robí alebo urobila.

V článku porovnáva biologickú inteligenciu (ľudský mozog) s digitálnou a načrtáva neefektívnosť, s ktorou sa ľudia stretávajú. Hovorí, že naše mozgy fungujú s nízkym výkonom, ale náš prístup je dosť neefektívny, pokiaľ ide o prenos informácií. Digitálna inteligencia je na druhej strane iná.

Zaplatia obrovské náklady na energiu, ale keď sa jeden z nich niečo naučí, každý to vie a môžete ľahko uložiť viac kópií. Dobrou správou teda je, že sme objavili tajomstvo nesmrteľnosti. Zlá správa je, že to nie je pre nás.

Hinton v podstate dospel k záveru, že ľudia budujú inteligenciu, ktorá má potenciál prekonať ľudstvo.

Myslel som si, že sa to nakoniec stane, ale mali sme veľa času: 30 až 50 rokov. Už tomu neverím. A neviem o žiadnom príklade toho, že by inteligentnejšie veci ovládali menej inteligentné veci."

Aby bolo porovnanie zrozumiteľnejšie, počítačový vedec nás (ľudí) postavil proti žabám a dodal:

A ona (AI) sa bude učiť z internetu, bude mať prečítanú každú jednu knihu o manipulácii s ľuďmi a uvidí to aj v praxi.“

Úryvok z filmu Ex Machina. Spomienky na filmový dom

Strach o ľudstvo

S odvolaním sa na nedávnu správu Hintonovej správy načrtávajú potenciálne nebezpečenstvá takzvanej superinteligencie.

„Krstný otec AI“ popisuje scenáre, v ktorých sa AI môže pokúsiť získať kontrolu nad mnohými aspektmi svojho vlastného prostredia, aby vyriešila zložité problémy. Medzi tieto aspekty patrí dokonca aj ľudská manipulácia. Vedec sa domnieva, že AI by ani nepotrebovala explicitný cieľ získať moc alebo zničenie, aby využila svoju schopnosť napodobňovať ľudské správanie.

Nie je to však všetko skaza a pochmúrnosť. Verí, že existujú spôsoby, ako zmierniť katastrofické scenáre, no zároveň verí, že sme za bodom, odkiaľ niet návratu a zastavenie vývoja AI je jednoducho nemožné a nemalo by sa zastaviť.

Myslím, že by sme to mali ďalej rozvíjať, pretože by to mohlo robiť úžasné veci. Ale rovnako by sme sa mali snažiť zmierniť alebo zabrániť možným strašným následkom.

Ako blízko sme k týmto hrozným následkom? Bližšie, ako by ste si mysleli.

Momentálne mám veľkú neistotu. Je možné, že veľké jazykové modely, ktoré spotrebovali všetky dokumenty na webe, nebudú môcť dosiahnuť veľký pokrok, pokiaľ nezískajú prístup aj ku všetkým našim súkromným údajom. Nechcem niečo také vylúčiť – ľudia, ktorí sú si v tejto situácii istí, sú podľa mňa blázni.

Správny spôsob, ako premýšľať o pravdepodobnosti katastrofy, je jednoducho hodiť mincami, než by sme chceli.“

Záverečné myšlienky

Umelá inteligencia bude pravdepodobne hrať v našich životoch čoraz dôležitejšiu úlohu. Podľa samotného ChatGPT (och, irónia), niektoré z oblastí, ktoré ovplyvní v nasledujúcich 7 rokoch, sú:

• Gesundheitspflege
• Automatisierung
• Transport
• Ausbildung
• Intelligente Häuser
• Kundendienst

Odkedy Hinton vyjadril svoje obavy, mnohí ho kritizovali za to, že nedodržal niektorých svojich kolegov, ktorí predtým rezignovali. Je ľahké dospieť k tomuto záveru, ale je tiež ľahké prehliadnuť zložitosť problému, ktorý sa dotýka viacerých technologických, filozofických a etických princípov.

Myslím, že Hinton práve hovorí, že vplyv AI na ľudstvo, dobrý alebo zlý, je pravdepodobne oveľa väčší, ako si väčšina z nás uvedomuje.

Odporúčaný obrázok s láskavým dovolením CBC, ktorý poskytol Geoffrey Hinton.

.