Strach o ludzkość i zagrożenia związane ze sztuczną inteligencją według Geoffreya Hintona

Strach o ludzkość i zagrożenia związane ze sztuczną inteligencją według Geoffreya Hintona

Na branżę kryptowalut duży wpływ ma postęp w technologii sztucznej inteligencji. Mówiąc dokładniej, rosnąca polaryzacja chatbotów opartych na sztucznej inteligencji, takich jak ChatGPT i Google Bard, stworzyła podsekcję kryptowalut poświęconą tej przestrzeni.

Na rynku dostępnych jest wiele monet, które odnotowały wykładniczy wzrost ze względu na szybkie zainteresowanie sztuczną inteligencją.

Korzystaliśmy również z ChatGPT przy wielu tematach, takich jak:

I chociaż rozmawianie ze sztuczną inteligencją na tematy, które normalnie omawiasz ze swoimi współpracownikami, jest ekscytujące, ma to też drugą stronę, o której Geoffrey Hinton mówi głośno i wyraźnie.

Ojciec chrzestny sztucznej inteligencji

Geoffrey Hinton to brytyjsko-kanadyjski psycholog poznawczy i informatyk urodzony w 1947 roku w Wimbledonie w Londynie.

Najbardziej znany jest ze swojej pracy nad sztucznymi sieciami neuronowymi i jest byłym pracownikiem Google. Opuścił firmę w maju 2023 r. głównym wyjściem publicznym, budząc obawy opinii publicznej dotyczące zagrożeń związanych z technologią sztucznej inteligencji (AI).

Przegląd technologii za pośrednictwem Lindy Nylind / Eyevine za pośrednictwem Redux

Hinton jest pierwszym zdobywcą nagrody Rumelharta w 2001 r. i jest znany na całym świecie ze swojej pracy nad sztucznymi sieciami neuronowymi, zwłaszcza z tego, jak można je zaprojektować tak, aby uczyły się bez nauczyciela. Zdobył także nagrodę ACM AM Turing Award 2018 za przełomy koncepcyjne i techniczne w tej dziedzinie.

Powszechnie nazywany jest także jednym z ojców chrzestnych sztucznej inteligencji. A teraz ma pewne obawy.

Odkryliśmy sekret nieśmiertelności, ale jest pewien haczyk

W wywiadzie dlaStrażnik,Hinton dał jasno do zrozumienia, że ​​opuścił Google w dobrych stosunkach i nie ma zastrzeżeń do tego, co firma robi lub zrobiła.

W artykule porównuje inteligencję biologiczną (ludzki mózg) z inteligencją cyfrową i zarysowuje niedoskonałości, z jakimi boryka się człowiek. Mówi, że nasze mózgi działają przy małej mocy, ale nasze podejście jest dość nieefektywne, jeśli chodzi o przekazywanie informacji. Inaczej jest z inteligencją cyfrową.

Płacą ogromne koszty energii, ale gdy któryś z nich się czegoś nauczy, wszyscy o tym wiedzą i można łatwo zaoszczędzić więcej kopii. Dobra wiadomość jest taka, że ​​odkryliśmy sekret nieśmiertelności. Zła wiadomość jest taka, że ​​to nie dla nas.

Zasadniczo Hinton doszedł do wniosku, że ludzie tworzą inteligencję, która ma potencjał przewyższenia ludzkości.

Myślałem, że w końcu to nastąpi, ale mieliśmy dużo czasu: 30 do 50 lat. Już w to nie wierzę. Nie znam też przykładów sytuacji, w których bardziej inteligentne istoty są kontrolowane przez mniej inteligentne.”

Aby porównanie było bardziej zrozumiałe, informatyk postawił nas (ludzi) przeciwko żabom i dodał:

I ona (AI) będzie uczyć się z Internetu, przeczyta każdą książkę, jaką kiedykolwiek napisano o tym, jak manipulować ludźmi, i zobaczy to także w praktyce.

Fragment filmu Ex Machina. Wspomnienia z kina

Strach o ludzkość

Powołując się na niedawny raport Hintona, raporty przedstawiają potencjalne zagrożenia związane z tak zwaną superinteligencją.

„Ojciec chrzestny sztucznej inteligencji” opisuje scenariusze, w których sztuczna inteligencja może próbować przejąć kontrolę nad wieloma aspektami własnego środowiska w celu rozwiązania złożonych problemów. Aspekty te obejmują nawet manipulację człowiekiem. Naukowiec uważa, że ​​sztuczna inteligencja nie potrzebowałaby nawet wyraźnego celu, jakim jest zdobycie władzy lub zniszczenie, aby wykorzystać swoją zdolność do naśladowania ludzkich zachowań.

To jednak nie wszystko. Uważa, że ​​istnieją sposoby na złagodzenie katastrofalnych scenariuszy, ale uważa też, że przekroczyliśmy punkt, z którego nie ma odwrotu, a zatrzymanie rozwoju sztucznej inteligencji jest po prostu niemożliwe i nie należy go powstrzymywać.

Myślę, że powinniśmy go dalej rozwijać, ponieważ może zdziałać wspaniałe rzeczy. Ale powinniśmy w równym stopniu dążyć do złagodzenia ewentualnych tragicznych konsekwencji lub zapobiegania im.

Jak blisko jesteśmy tych tragicznych konsekwencji? Bliżej niż myślisz.

W tej chwili mam dużo niepewności. Możliwe, że duże modele językowe, które pochłonęły wszystkie dokumenty w Internecie, nie będą w stanie poczynić znacznych postępów, jeśli nie uzyskają również dostępu do wszystkich naszych prywatnych danych. Nie chcę czegoś takiego wykluczać – uważam, że ludzie pewni siebie w tej sytuacji są szaleni.

Właściwym sposobem myślenia o prawdopodobieństwie katastrofy jest po prostu rzucanie monetami, zamiast byśmy tego chcieli”.

Ostatnie przemyślenia

Sztuczna inteligencja będzie prawdopodobnie odgrywać coraz ważniejszą rolę w naszym życiu. Według samego ChatGPT (o ironio), niektóre obszary, na które będzie miał wpływ w ciągu najbliższych 7 lat, to:

• Gesundheitspflege
• Automatisierung
• Transport
• Ausbildung
• Intelligente Häuser
• Kundendienst

Od czasu wyrażenia swoich obaw Hinton był krytykowany przez wielu za to, że nie dotrzymał kroku niektórym współpracownikom, którzy wcześniej złożyli rezygnację. Łatwo dojść do tego wniosku, ale łatwo też przeoczyć złożoność problemu, który dotyka kilku zasad technologicznych, filozoficznych i etycznych.

Wydaje mi się, że Hinton po prostu mówi, że wpływ sztucznej inteligencji na ludzkość, dobry czy zły, jest prawdopodobnie znacznie większy, niż większość z nas zdaje sobie sprawę.

Wyróżnione zdjęcie dzięki uprzejmości CBC, udostępnione przez Geoffreya Hintona.

.