Temores por la humanidad y los peligros de la inteligencia artificial según Geoffrey Hinton

Temores por la humanidad y los peligros de la inteligencia artificial según Geoffrey Hinton

La industria de las criptomonedas se ha visto muy influenciada por los avances en la tecnología de inteligencia artificial. Más específicamente, la creciente popularidad de los chatbots basados ​​en IA como ChatGPT y Google Bard ha generado una subsección de criptomonedas dedicada a este espacio.

Hay una variedad de monedas en el mercado que han experimentado un crecimiento exponencial debido al rápido interés en la IA.

También hemos utilizado ChatGPT en numerosos temas como:

Y si bien es emocionante conversar con una IA sobre temas que normalmente discutirías con tus colegas, hay otro lado de esto, y Geoffrey Hinton habla de ello alto y claro.

El padrino de la inteligencia artificial

Geoffrey Hinton es un psicólogo cognitivo e informático británico-canadiense nacido en Wimbledon, Londres, en 1947.

Es mejor conocido por su trabajo en redes neuronales artificiales y es un ex empleado de Google. Dejó la empresa en mayo de 2023 en una salida pública importante, lo que generó preocupación pública sobre los riesgos de la tecnología de inteligencia artificial (IA).

Revisión de tecnología a través de Linda Nylind / Eyevine a través de Redux

Hinton es el primer ganador del Premio Rumelhart en 2001 y es conocido internacionalmente por su trabajo sobre redes neuronales artificiales, particularmente en cómo pueden diseñarse para aprender sin un maestro humano. También ganó el premio ACM AM Turing 2018 por avances conceptuales y técnicos en este campo.

También se le conoce comúnmente como uno de los padrinos de la IA. Y ahora tiene algunas preocupaciones.

Hemos descubierto el secreto de la inmortalidad, pero hay un problema.

En una entrevista parael guardián,Hinton dejó claro que dejó Google en buenos términos y que no tiene objeciones a lo que está haciendo o ha hecho la empresa.

En el artículo, compara la inteligencia biológica (cerebro humano) con la inteligencia digital y describe las ineficiencias que enfrentan los humanos. Dice que nuestro cerebro funciona con poca potencia, pero nuestro enfoque es bastante ineficiente en términos de transmisión de información. La inteligencia digital, en cambio, es diferente.

Pagan un coste energético enorme, pero cuando uno de ellos aprende algo, todos lo saben y puedes guardar más copias fácilmente. Entonces la buena noticia es que hemos descubierto el secreto de la inmortalidad. La mala noticia es que no es para nosotros.

Básicamente, Hinton concluyó que los humanos están construyendo una inteligencia que tiene el potencial de superar a la humanidad.

Pensé que eventualmente sucedería, pero teníamos mucho tiempo: 30 a 50 años. Ya no creo eso. Y no conozco ningún ejemplo de cosas más inteligentes controladas por cosas menos inteligentes”.

Para que la comparación sea más comprensible, el informático nos enfrentó (a los humanos) a las ranas y añadió:

Y (la IA) aprenderá de Internet, habrá leído todos los libros jamás escritos sobre cómo manipular a las personas y también lo habrá visto en la práctica”.

Extracto de la película Ex Machina. Recuerdos de la casa de cine

Temores por la humanidad

Citando un informe reciente de Hinton, los informes describen los peligros potenciales de la llamada superinteligencia.

El “Padrino de la IA” describe escenarios en los que una IA podría intentar controlar numerosos aspectos de su propio entorno para resolver problemas complejos. Estos aspectos incluyen incluso la manipulación humana. El científico cree que la IA ni siquiera necesitaría un objetivo explícito de ganar poder o destrucción para explotar su capacidad de imitar el comportamiento humano.

Sin embargo, no todo es pesimismo. Él cree que hay maneras de mitigar escenarios catastróficos, pero también cree que hemos superado el punto sin retorno y detener el desarrollo de la IA es simplemente imposible y no debe detenerse.

Creo que deberíamos desarrollarlo más porque podría hacer cosas maravillosas. Pero igualmente deberíamos esforzarnos por mitigar o prevenir las posibles consecuencias nefastas.

¿Qué tan cerca estamos de estas terribles consecuencias? Más cerca de lo que piensas.

Tengo mucha incertidumbre en este momento. Es posible que los grandes modelos de lenguaje que han consumido todos los documentos en la web no puedan progresar mucho a menos que también obtengan acceso a todos nuestros datos privados. No quiero descartar algo así; creo que la gente que tiene confianza en esta situación está loca.

La forma correcta de pensar en la probabilidad de una catástrofe es simplemente lanzar monedas en lugar de lo que nos gustaría”.

Pensamientos finales

Es probable que la inteligencia artificial desempeñe un papel cada vez más importante en nuestras vidas. Según el propio ChatGPT (oh, qué ironía), algunas de las áreas que impactará en los próximos 7 años son:

• Gesundheitspflege
• Automatisierung
• Transport
• Ausbildung
• Intelligente Häuser
• Kundendienst

Desde que expresó sus preocupaciones, Hinton ha sido criticado por muchos por no cumplir con algunos de sus colegas que habían renunciado anteriormente. Es fácil llegar a esta conclusión, pero también es fácil pasar por alto la complejidad del problema, que afecta a varios principios tecnológicos, filosóficos y éticos.

Supongo que Hinton simplemente está diciendo que el impacto de la IA en la humanidad, bueno o malo, es probablemente mucho mayor de lo que la mayoría de nosotros parecemos darnos cuenta.

Imagen destacada cortesía de CBC, proporcionada por Geoffrey Hinton.

.