Peurs pour l'humanité et dangers de l'intelligence artificielle selon Geoffrey Hinton

Peurs pour l'humanité et dangers de l'intelligence artificielle selon Geoffrey Hinton

Le secteur des cryptomonnaies a été grandement influencé par les progrès de la technologie de l’intelligence artificielle. Plus précisément, la popularité croissante des chatbots basés sur l'IA comme ChatGPT et Google Bard a donné naissance à une sous-section de crypto-monnaies dédiée à cet espace.

Il existe une variété de pièces sur le marché qui ont connu une croissance exponentielle en raison de l’intérêt rapide pour l’IA.

Nous avons également utilisé ChatGPT sur de nombreux sujets tels que :

Et même s'il est passionnant de discuter avec une IA sur des sujets dont vous discuteriez normalement avec vos collègues, il y a un autre aspect à cela, et Geoffrey Hinton en parle haut et fort.

Le parrain de l'intelligence artificielle

Geoffrey Hinton est un psychologue cognitif et informaticien anglo-canadien né à Wimbledon, Londres, en 1947.

Il est surtout connu pour ses travaux sur les réseaux de neurones artificiels et est un ancien employé de Google. Il a quitté l’entreprise en mai 2023 lors d’une sortie publique majeure, suscitant l’inquiétude du public quant aux risques de la technologie de l’intelligence artificielle (IA).

Revue technologique via Linda Nylind / Eyevine via Redux

Hinton est le premier lauréat du prix Rumelhart en 2001 et est connu internationalement pour ses travaux sur les réseaux neuronaux artificiels, notamment sur la manière dont ils peuvent être conçus pour apprendre sans professeur humain. Il a également remporté le prix ACM AM Turing 2018 pour ses avancées conceptuelles et techniques dans le domaine.

Il est aussi communément considéré comme l’un des parrains de l’IA. Et maintenant, il a quelques inquiétudes.

Nous avons découvert le secret de l'immortalité, mais il y a un piège

Dans une interview pourLe Gardien,Hinton a clairement indiqué qu'il avait quitté Google en bons termes et qu'il n'avait aucune objection à ce que l'entreprise faisait ou avait fait.

Dans l’article, il compare l’intelligence biologique (cerveau humain) à l’intelligence numérique et souligne les inefficacités auxquelles les humains sont confrontés. Il dit que notre cerveau fonctionne à faible puissance, mais que notre approche est assez inefficace en termes de transmission d'informations. En revanche, l’intelligence numérique est différente.

Ils paient un coût énergétique énorme, mais lorsque l’un d’entre eux apprend quelque chose, tout le monde le sait et vous pouvez facilement en sauvegarder davantage de copies. La bonne nouvelle est donc que nous avons découvert le secret de l’immortalité. La mauvaise nouvelle, c'est que ce n'est pas pour nous.

Essentiellement, Hinton a conclu que les humains construisent une intelligence qui a le potentiel de surpasser l’humanité.

Je pensais que cela finirait par arriver, mais nous avions beaucoup de temps : 30 à 50 ans. Je n'y crois plus. Et je ne connais aucun exemple de choses plus intelligentes contrôlées par des choses moins intelligentes.

Pour rendre la comparaison plus compréhensible, l’informaticien nous a opposés (les humains) aux grenouilles et a ajouté :

Et elle (l’IA) apprendra d’Internet, elle aura lu tous les livres jamais écrits sur la façon de manipuler les gens et l’aura également vu en pratique.

Extrait du film Ex Machina. Souvenirs de cinéma

Peurs pour l'humanité

Citant un récent rapport de Hinton, des rapports soulignent les dangers potentiels de la soi-disant superintelligence.

Le « Parrain de l’IA » décrit des scénarios dans lesquels une IA pourrait tenter de prendre le contrôle de nombreux aspects de son propre environnement pour résoudre des problèmes complexes. Ces aspects incluent même la manipulation humaine. Le scientifique estime que l’IA n’aurait même pas besoin d’un objectif explicite d’obtention de pouvoir ou de destruction pour exploiter sa capacité à imiter le comportement humain.

Cependant, tout n’est pas sombre. Il estime qu’il existe des moyens d’atténuer les scénarios catastrophiques, mais il estime également que nous avons dépassé le point de non-retour et qu’arrêter le développement de l’IA est tout simplement impossible et ne devrait pas être arrêté.

Je pense que nous devrions le développer davantage car il pourrait faire des choses merveilleuses. Mais nous devons également nous efforcer d’atténuer ou de prévenir les conséquences désastreuses possibles.

À quel point sommes-nous proches de ces conséquences désastreuses ? Plus proche que vous ne le pensez.

J'ai beaucoup d'incertitude en ce moment. Il est possible que les grands modèles linguistiques qui ont consommé tous les documents du Web ne puissent pas faire beaucoup de progrès s'ils n'ont pas également accès à toutes nos données privées. Je ne veux pas exclure quelque chose comme ça – je pense que les gens qui ont confiance dans cette situation sont fous.

La bonne façon d’envisager la probabilité d’une catastrophe est de simplement lancer des pièces plutôt que nous le souhaiterions.

Pensées finales

L’intelligence artificielle est susceptible de jouer un rôle de plus en plus important dans nos vies. Selon ChatGPT lui-même (oh ironie), certains des domaines qu'il aura un impact au cours des 7 prochaines années sont :

• Gesundheitspflege
• Automatisierung
• Transport
• Ausbildung
• Intelligente Häuser
• Kundendienst

Depuis qu'il a exprimé ses inquiétudes, Hinton a été critiqué par beaucoup pour ne pas avoir donné suite à certains de ses collègues qui avaient déjà démissionné. Il est facile d’arriver à cette conclusion, mais il est également facile de négliger la complexité du problème, qui touche à plusieurs principes technologiques, philosophiques et éthiques.

Je suppose que Hinton dit simplement que l’impact de l’IA sur l’humanité, bon ou mauvais, est probablement bien plus important que la plupart d’entre nous ne semblent le réaliser.

Image vedette, gracieuseté de CBC, fournie par Geoffrey Hinton.

.