Medos para a humanidade e os perigos da inteligência artificial segundo Geoffrey Hinton

Medos para a humanidade e os perigos da inteligência artificial segundo Geoffrey Hinton

A indústria de criptomoedas foi muito influenciada pelos avanços na tecnologia de inteligência artificial. Mais especificamente, a crescente popularidade de chatbots baseados em IA, como ChatGPT e Google Bard, gerou uma subseção de criptomoedas dedicadas a este espaço.

Há uma variedade de moedas no mercado que tiveram um crescimento exponencial devido ao rápido interesse na IA.

Também usamos o ChatGPT em vários tópicos, como:

E embora seja emocionante conversar com uma IA sobre tópicos que você normalmente discutiria com seus colegas, há um outro lado disso, e Geoffrey Hinton fala sobre isso em alto e bom som.

O padrinho da inteligência artificial

Geoffrey Hinton é um psicólogo cognitivo e cientista da computação anglo-canadense nascido em Wimbledon, Londres, em 1947.

Ele é mais conhecido por seu trabalho em redes neurais artificiais e é ex-funcionário do Google. Ele deixou a empresa em maio de 2023 em uma grande saída pública, levantando preocupações públicas sobre os riscos da tecnologia de inteligência artificial (IA).

Revisão de tecnologia via Linda Nylind / Eyevine Via Redux

Hinton é o primeiro vencedor do Prêmio Rumelhart em 2001 e é conhecido internacionalmente por seu trabalho em redes neurais artificiais, especialmente na forma como elas podem ser projetadas para aprender sem um professor humano. Ele também ganhou o Prêmio ACM AM Turing 2018 por avanços conceituais e técnicos na área.

Ele também é comumente referido como um dos padrinhos da IA. E agora ele tem algumas preocupações.

Descobrimos o segredo da imortalidade, mas há um problema

Em entrevista paraO Guardião,Hinton deixou claro que deixou o Google em boas condições e que não tem objeções ao que a empresa está fazendo ou fez.

No artigo, ele compara a inteligência biológica (cérebro humano) com a inteligência digital e descreve as ineficiências que os humanos enfrentam. Ele diz que nossos cérebros operam com baixa potência, mas nossa abordagem é bastante ineficiente em termos de transmissão de informações. A inteligência digital, por outro lado, é diferente.

Eles pagam um enorme custo de energia, mas quando um deles aprende algo, todos sabem e você pode facilmente salvar mais cópias. Portanto, a boa notícia é que descobrimos o segredo da imortalidade. A má notícia é que não é para nós.

Essencialmente, Hinton concluiu que os humanos estão construindo uma inteligência que tem potencial para superar a humanidade.

Achei que isso acabaria acontecendo, mas tínhamos muito tempo: 30 a 50 anos. Eu não acredito mais nisso. E não conheço nenhum exemplo de coisas mais inteligentes sendo controladas por coisas menos inteligentes.”

Para tornar a comparação mais compreensível, o cientista da computação colocou nós (humanos) contra sapos e acrescentou:

E ela (IA) aprenderá com a internet, terá lido todos os livros já escritos sobre como manipular as pessoas e também visto isso na prática.”

Trecho do filme Ex Machina. Memórias do cinema

Medos pela humanidade

Citando um relatório recente de Hinton, os relatórios descrevem os perigos potenciais da chamada superinteligência.

O “Padrinho da IA” descreve cenários em que uma IA pode tentar obter controlo sobre numerosos aspectos do seu próprio ambiente para resolver problemas complexos. Esses aspectos incluem até mesmo a manipulação humana. O cientista acredita que a IA nem precisaria de um objetivo explícito de ganhar poder ou destruição para explorar a sua capacidade de imitar o comportamento humano.

No entanto, nem tudo é desgraça e tristeza. Ele acredita que existem formas de mitigar cenários catastróficos, mas também acredita que já ultrapassamos o ponto sem retorno e parar o desenvolvimento da IA ​​é simplesmente impossível e não deve ser interrompido.

Acho que deveríamos desenvolvê-lo ainda mais porque poderia fazer coisas maravilhosas. Mas devemos igualmente esforçar-nos por mitigar ou prevenir as possíveis consequências terríveis.

Quão perto estamos dessas terríveis consequências? Mais perto do que você imagina.

Estou com muita incerteza no momento. É possível que grandes modelos de linguagem que consumiram todos os documentos da web não consigam fazer muito progresso, a menos que também tenham acesso a todos os nossos dados privados. Não quero descartar algo assim – acho que as pessoas que estão confiantes nesta situação são loucas.

A maneira correta de pensar sobre a probabilidade de uma catástrofe é simplesmente jogar moedas em vez de gostaríamos.”

Considerações Finais

É provável que a inteligência artificial desempenhe um papel cada vez mais importante em nossas vidas. Segundo o próprio ChatGPT (ah, que ironia), algumas das áreas que impactará nos próximos 7 anos são:

• Gesundheitspflege
• Automatisierung
• Transport
• Ausbildung
• Intelligente Häuser
• Kundendienst

Desde que expressou as suas preocupações, Hinton tem sido criticado por muitos por não seguir em frente com alguns dos seus colegas que já se tinham demitido. É fácil chegar a esta conclusão, mas também é fácil ignorar a complexidade do problema, que toca em vários princípios tecnológicos, filosóficos e éticos.

Acho que Hinton está apenas dizendo que o impacto da IA ​​na humanidade, bom ou mau, é provavelmente muito maior do que a maioria de nós parece perceber.

Imagem em destaque cortesia da CBC, fornecida por Geoffrey Hinton.

.