Страховете за човечеството и опасностите от изкуствения интелект според Джефри Хинтън

Страховете за човечеството и опасностите от изкуствения интелект според Джефри Хинтън

Индустрията на криптовалутите е силно повлияна от напредъка в технологиите за изкуствен интелект. По-конкретно, нарастващата по-полярност на базирани на изкуствен интелект чатботове като ChatGPT и Google Bard породи подсекция от криптовалути, посветени на това пространство.

На пазара има разнообразие от монети, които са отбелязали експоненциален растеж поради бързия интерес към AI.

Също така сме използвали ChatGPT по множество теми като:

И макар да е вълнуващо да разговаряте с AI по теми, които обикновено обсъждате с колегите си, това има и друга страна и Джефри Хинтън говори за това високо и ясно.

Кръстникът на изкуствения интелект

Джефри Хинтън е британско-канадски когнитивен психолог и компютърен учен, роден в Уимбълдън, Лондон, през 1947 г.

Той е най-известен с работата си върху изкуствени невронни мрежи и е бивш служител на Google. Той напусна компанията през май 2023 г. в голямо публично излизане, което породи обществени опасения относно рисковете от технологията за изкуствен интелект (AI).

Технологичен преглед чрез Linda Nylind / Eyevine чрез Redux

Хинтън е първият носител на наградата Rumelhart през 2001 г. и е известен в международен план с работата си върху изкуствените невронни мрежи, особено с това как те могат да бъдат проектирани да учат без човешки учител. Той също така спечели наградата ACM AM Turing за 2018 г. за концептуални и технически пробиви в областта.

Той също така често се нарича един от кръстниците на AI. И сега има някои притеснения.

Открихме тайната на безсмъртието, но има една уловка

В интервю заПазителят,Хинтън даде да се разбере, че е напуснал Google при добри отношения и че няма възражения срещу това, което компанията прави или е правила.

В статията той сравнява биологичния интелект (човешкия мозък) с цифровия интелект и очертава неефективността, пред която са изправени хората. Той казва, че нашите мозъци работят на ниска мощност, но нашият подход е доста неефективен по отношение на предаването на информация. Цифровият интелект, от друга страна, е различен.

Те плащат огромни разходи за енергия, но когато един от тях научи нещо, всички го знаят и лесно можете да запазите повече копия. Така че добрата новина е, че открихме тайната на безсмъртието. Лошата новина е, че не е за нас.

По същество Хинтън заключава, че хората изграждат интелект, който има потенциала да надмине човечеството.

Мислех, че това ще се случи в крайна сметка, но имахме много време: 30 до 50 години. Това вече не го вярвам. И не знам за примери за по-интелигентни неща, контролирани от по-малко интелигентни неща.

За да направи сравнението по-разбираемо, компютърният учен изправи нас (хората) срещу жабите и добави:

И той (ИИ) ще се учи от интернет, ще е прочел всяка една книга, написана някога за това как да манипулират хората, и ще го е видял на практика.

Откъс от филма Ex Machina. Спомени от филмовата къща

Страхове за човечеството

Позовавайки се на скорошен доклад на Хинтън, докладите очертават потенциалните опасности от така наречения суперинтелект.

„Кръстникът на изкуствения интелект“ описва сценарии, при които изкуственият интелект може да се опита да получи контрол над множество аспекти на собствената си среда, за да разреши сложни проблеми. Тези аспекти включват дори човешка манипулация. Ученият вярва, че AI дори не би се нуждаел от изрична цел за придобиване на власт или унищожение, за да използва способността си да имитира човешкото поведение.

Не всичко обаче е гибел и мрак. Той вярва, че има начини за смекчаване на катастрофалните сценарии, но също така вярва, че сме преминали точката, от която няма връщане и спирането на развитието на ИИ е просто невъзможно и не трябва да бъде спирано.

Мисля, че трябва да го доразвием, защото може да направи чудесни неща. Но също така трябва да се стремим да смекчим или предотвратим възможните тежки последици.

Колко близо сме до тези тежки последствия? По-близо, отколкото си мислите.

Имам много несигурност в момента. Възможно е големите езикови модели, които са погълнали всички документи в мрежата, да не могат да постигнат голям напредък, освен ако не получат достъп и до всички наши лични данни. Не искам да изключвам нещо подобно - мисля, че хората, които са уверени в тази ситуация, са луди.

Правилният начин да мислим за вероятността от катастрофа е просто да хвърлим монети, а не бихме искали.”

Последни мисли

Изкуственият интелект вероятно ще играе все по-важна роля в живота ни. Според самия ChatGPT (о, иронията), някои от областите, върху които ще повлияе през следващите 7 години, са:

• Gesundheitspflege
• Automatisierung
• Transport
• Ausbildung
• Intelligente Häuser
• Kundendienst

Откакто изрази загрижеността си, Хинтън беше критикуван от мнозина, че не е последвал някои от колегите си, които преди това са подали оставка. Лесно е да се стигне до това заключение, но също така е лесно да се пренебрегне сложността на проблема, който засяга няколко технологични, философски и етични принципа.

Предполагам, че Хинтън просто казва, че въздействието на ИИ върху човечеството, добро или лошо, вероятно е много по-голямо, отколкото повечето от нас изглежда осъзнават.

Представено изображение с любезното съдействие на CBC, предоставено от Джефри Хинтън.

.