La verdad

Una de las claves del libro sobre Huang, en boca del autor:  La verdad, que no se comprendió ampliamente hasta más tarde, es que la revolución del aprendizaje profundo fue tanto una revolución del hardware como del software. Era el producto no de una, sino de dos tecnologías impopulares, desechadas, desacreditadas y con escasa financiación, cuya forma ideal solo podía revelarse en síntesis. Redes neuronales funcionando en ordenadores paralelos: estas tecnologías estrechamente acopladas eran las cadenas gemelas de ADN de un nuevo y poderoso organismo, que pretendía abarcar todos los datos del mundo.

Tres europeos en Canadá

El autor  del libro cuenta así la historia de la relación de Hinton y las redes neuronales. Tres extranjeros, europeos, en Canadá, y una Nvidia que todavía en 2009 no dedicaba ni un solo recurso a la IA: 

Krizhevsky estaba decidido y se unió al grupo de Hinton. Hinton lo emparejó con Ilya Sutskever, otro inmigrante judío de habla rusa procedente de la antigua Unión Soviética. A pesar de las similitudes biográficas, Sutskever no se parecía en nada a Krizhevsky por su aspecto y su manera de actuar. Era atlético, con cejas oscuras y pobladas, ojos marrones y una sonrisa pícara. Sutskever era el acólito más ferviente de Hinton y sostenía que las redes neuronales superarían algún día a la inteligencia humana, una afirmación que en ese momento no la hacía ni Hinton. «A Ilya le gusta decir cosas escandalosas, pero puede salirse con la suya porque es muy abierto y honesto», dijo Hinton. «No se rige por las convenciones. Cree en sí mismo. Y tiene razón».

Hinton les encomendó a Sutskever y Krizhevsky una ambiciosa tarea: quería que utilizaran las GPU de Nvidia para enseñar a un ordenador a ver. CUDA había llegado al laboratorio de Hinton. En 2008, había encargado a los estudiantes de posgrado Abdelrahman Mohamed y George Dahl la construcción de un módulo de reconocimiento del habla utilizando un costoso servidor Nvidia. A principios de 2009, la red neuronal de Mohamed y Dahl rivalizaba con los mejores modelos matemáticos existentes. Ese mismo año, Hinton, en su intervención en la conferencia Neural Information Processing Systems (Sistemas neuronales de procesamiento de información), dijo a los asistentes que ejecutar redes neuronales en procesadores de computación paralela era el futuro de la IA y los investigadores debían dejar lo que estaban haciendo para comprar las GPU de Nvidia. A continuación, envió un correo electrónico a Nvidia: «Acabo de decirles a los 1.000 expertos en aprendizaje automático de esta conferencia que deberían comprar tarjetas Nvidia. ¿Me darían una gratis?». Nvidia se negó. Aunque la empresa se dedicaba a una gran cantidad de aplicaciones de supercomputación, en aquel momento no trabajaba en ella ni un solo investigador dedicado a la IA. El aprendizaje automático no estaba entre las aplicaciones potenciales que Kirk había propuesto para la computación paralela en su libro de texto, y a veces Hinton ni siquiera podía conseguir que el grupo CUDA le devolviera los correos electrónicos. El prejuicio contra las redes neuronales estaba muy arraigado; en los cursos de introducción a la IA, todavía se oía a veces a los profesores afirmar que las redes neuronales ni siquiera podían resolver funciones lógicas sencillas, aunque la retropropagación había superado esta limitación décadas antes.

Las máquinas

La manera de pensar de las máquinas lo ha cambiado todo. Hemos pasado del algoritmo lineal a las redes neuronales. Y eso lo cambia todo. Y lo vamos a ver en poco tiempo. Muy interesante la entrevista el otro día en El Semanal a Geoffrey Hinton. No se lo pierdan...

Fascinado con esa cara oculta...

Esas cosas que pocos leen en España. La MIT Technology Review. Un artículo el mes pasado sobre la cara oscura de la inteligencia artificial. Y esos coche que van solos pero no sabemos cómo lo hacen. Dedíquele cinco minutos, desocupado lector. Quedará impresionado...