Por qué el ‘padrino’ de la inteligencia artificial Jeffrey Hinton dejó Google para hablar sobre lo que está en juego

Cuando Jeffrey Hinton tuvo una objeción moral al trabajo de Google con el ejército estadounidense en 2018, no participó en protestas públicas ni puso su nombre en la carta abierta de queja firmada por más de 4000 de sus colegas.

En cambio, solo habló con Sergey Brin, el cofundador de Google. Dijo que también estaba un poco molesto por eso, dijo Hinton en una entrevista en ese momento.

El incidente es emblemático de la tranquila influencia de Hinton en el mundo de la inteligencia artificial. El profesor de 75 años es venerado como uno de los «padrinos» de la inteligencia artificial por su labor formativa en deep learning, un área de la inteligencia artificial que ha impulsado los enormes avances que se están produciendo en el sector.

Pero la historia también refleja la lealtad de Hinton, según quienes mejor lo conocen. En principio, nunca ha ventilado ningún agravio institucional, ético o de otro tipo, públicamente.

Fue esta creencia la que lo llevó a renunciar como vicepresidente y miembro de ingeniería de Google la semana pasada, para poder hablar con más libertad sobre sus crecientes preocupaciones sobre los peligros de la inteligencia artificial para la humanidad.

Su antiguo colaborador y amigo Yoshua Bengio, quien ganó el Premio Turing junto con Hinton y Yan-Locun en 2018, dijo que veía venir la renuncia. «Podría haberse quedado en Google y hablar, pero su sentido de lealtad no lo fue», dijo Bengio.

La renuncia de Hinton sigue a una serie de lanzamientos innovadores de IA en los últimos seis meses, comenzando con ChatGPT de Microsoft en noviembre y el chatbot de Google, Bard, en marzo.

Hinton expresó su preocupación de que la carrera entre Microsoft y Google impulsaría el desarrollo de la inteligencia artificial sin las barreras y reglas adecuadas.

“Creo que Google fue muy responsable al principio”, dijo en un discurso en un evento de EmTech Digital el miércoles, luego de anunciar su renuncia. “Una vez que OpenAI había construido cosas similares con .

Desde la década de 1970, Hinton ha sido pionera en el desarrollo de «redes neuronales», una tecnología que intenta imitar el funcionamiento del cerebro. Ahora es compatible con la mayoría de las herramientas y productos de IA que usamos hoy en día, desde Google Translate y Bard hasta ChatGPT y autos sin conductor.

Pero esta semana, reconoció las preocupaciones sobre su rápido desarrollo, lo que podría llevar a que la información errónea inunde el dominio público y la inteligencia artificial usurpe más trabajos humanos de lo esperado.

«Lo que me preocupa es que esto va a pasar [make] Los ricos son más ricos y los pobres más pobres. como lo haces. . . «La sociedad se está volviendo más violenta», dijo Hinton. “Esta tecnología que debe ser excelente… se está desarrollando en una sociedad que no está diseñada para ser utilizada en beneficio de todos”.

Hinton también hizo sonar la alarma sobre las amenazas a largo plazo que los sistemas de IA representan para los humanos, si se le da demasiada autonomía a la tecnología. Siempre había pensado que este peligro existencial estaba fuera de su alcance, pero recientemente reajustó su pensamiento sobre su urgencia.

«Es bastante plausible», dijo, «que la humanidad sea una etapa pasajera en la evolución de la inteligencia». Agregó que la decisión de Hinton de dejar Google después de una década fue motivada por un colega académico que lo persuadió para hablar al respecto.

Nacido en Londres, Hinton provenía de una famosa línea de eruditos. Es bisnieto de los matemáticos británicos Mary y George Boole, el último de los cuales inventó la lógica booleana, la teoría que subyace a la informática moderna.

Como psicóloga cognitiva, el trabajo de Hinton en inteligencia artificial ha tenido como objetivo aproximarse a la inteligencia humana, no solo para construir tecnología de inteligencia artificial, sino también para arrojar luz sobre la forma en que funcionan nuestros cerebros.

Su experiencia significa que «no es la persona más matemática que encontrará en la comunidad de aprendizaje automático», dijo Stuart Russell, profesor de inteligencia artificial en la Universidad de California, Berkeley y miembro académico de la Escuela Hinton.

Señaló el gran avance de Hinton en 1986, cuando publicó un artículo sobre una técnica llamada «propagación hacia atrás», que mostraba cómo los programas de computadora pueden aprender con el tiempo.

«Claramente es una carta clave», dijo Russell. «Pero él no derivó el… control de la forma en que lo haría un matemático. Usó su intuición para encontrar un método que funcionara».

Hinton no siempre fue franco en público sobre sus puntos de vista morales, pero los dejó claros en privado.

En 1987, cuando era Profesor Asociado en la Universidad Carnegie Mellon de los Estados Unidos, decidió dejar su puesto y emigrar a Canadá.

Una de las razones que dio, según Bengio, fue moral: le preocupaba el uso de la tecnología, especialmente la inteligencia artificial, en la guerra y gran parte de su financiación procedía del ejército estadounidense.

«Quería sentirse bien con los fondos que estaba recibiendo y el trabajo que estaba haciendo», dijo Bengio. «Él y yo compartimos valores sobre la sociedad. Que los seres humanos importan, que la dignidad de todos los seres humanos es fundamental. Y todos deberían beneficiarse de los avances que hace la ciencia».

En 2012, Hinton y sus estudiantes de posgrado en la Universidad de Toronto, incluido Ilya Sutskiver, ahora cofundador de OpenAI, lograron un gran avance en el campo de la visión artificial. Construyeron redes neuronales que pueden reconocer objetos en imágenes en tamaños más precisos que antes. Basándose en este trabajo, fundaron su primera startup, DNNresearch.

Su empresa, que no fabricaba ningún producto, se vendió a Google por 44 millones de dólares en 2013, después de que una subasta competitiva llevó a la firma china Baidu, Microsoft y DeepMind a ofertar por la experiencia del trío.

Desde entonces, Hinton ha pasado la mitad de su tiempo en Google y la otra mitad como profesor en la Universidad de Toronto.

Según Russell, a Hinton se le ocurren constantemente nuevas ideas y se prueban cosas nuevas. «Cada vez que tenía una idea nueva, decía al final de su discurso:» Y este ¡Cómo trabaja el cerebro! «

Cuando se le preguntó en el escenario si lamentaba el trabajo de su vida, dado que puede haber contribuido a la miríada de daños que ha descrito, Hinton dijo que lo ha estado pensando.

«Este escenario [AI] No se esperaba. Hasta hace muy poco, pensaba que esta crisis existencial era exagerada. «Así que realmente no me arrepiento de lo que estoy haciendo».