Desde que la IA se integró en nuevos sistemas y aplicaciones, ha habido muchas advertencias sobre su impacto potencial. Uno de esos mensajes provino de un premio Nobel de física, que abandonó Google para advertir sobre el peligro que planteaba la tecnología.
Esta semana, el físico estadounidense John Hopfield y el experto en inteligencia artificial Geoffrey Hinton recibieron el premio. Premio Nobel de FísicaEsto es un reconocimiento al trabajo avanzado en la creación de redes neuronales artificiales inspiradas en el cerebro humano, que permiten que las máquinas aprendan.
Geoffrey Hinton, considerado el "padrino" de la inteligencia artificial, dejará su puesto de vicepresidente e ingeniero en Google en 2023, sumándose a la lista de voces que alertan sobre los peligros de la tecnología. En 2012, el especialista sentó las bases de las redes neuronales actuales.
En el New York Times de hoy, Kid Metz señala que dejé Google para poder criticar a Google. De hecho, lo dejé para poder hablar sobre los peligros de la IA sin pensar en cómo afectaría a Google. Google ha actuado de forma muy responsable.
- Geoffrey Hinton (@geoffreyhinton) 1 de mayo de 2023
El año pasado, en una entrevista que concedió New York TimesGeoffrey Hinton dijo que anteriormente creía que Google era el "administrador apropiado" de una tecnología poderosa. Esta opinión persistió hasta que Microsoft se asoció con OpenAI para lanzar GPT-4, que impulsa ChatGPT, a las masas.
John Hopfield y el experto en inteligencia artificial Geoffrey Hinton para el Premio Nobel de Física 2024
"Me gustaría tener una receta bastante simple" para la inteligencia artificial, dijo Hinton.
Como informamos, en la misma entrevista, Hinton reveló que tiene grandes temores de que la inteligencia artificial se convierta en un peligro para la humanidad misma.
En ese momento, admitió que los chatbots más avanzados “no son más inteligentes que nosotros todavía, pero creo que pronto lo serán”. En aquel momento, el informático de 76 años no consideraba que la inteligencia artificial estuviera en su apogeo. Sin embargo, el acuerdo entre Microsoft y OpenAI no fue visto con buenos ojos.
La mayoría de la gente pensó que estaba demasiado lejos. Pensé que estaba demasiado lejos. Pensé que eran de 30 a 50 años o incluso más. Obviamente no lo creo.
Dijo en la entrevista.
Antes de salir de Google e iniciar sesión cartajunto con otras figuras, exigiendo una pausa en el desarrollo de la inteligencia artificial, el mundo de la informática se dirigió a Noticias CBS Advirtió que el mundo había llegado a un "momento crucial" en términos de tecnología.
Creo que es muy razonable que la gente se preocupe por estos temas ahora. Incluso si no sucederá en el próximo año o dos.
Durante una conversación con el comité del Premio Nobel, el profesor emérito de la Universidad de Toronto dijo que cree que la inteligencia artificial podría escapar del control humano en cualquier momento y que este podría ser el fin del mundo.
Estamos lidiando con algo donde no tenemos idea de qué va a pasar ni qué hacer. Ojalá tuviera una receta sencilla que dijera que si hiciéramos esto, todo estaría bien. Pero yo no hago eso.
Respecto al Premio Nobel de Física, que ganó esta semana, Geoffrey Hinton reveló que espera que "lo haga más creíble".
