tech
La gran paradoja de la inteligencia artificial es que nadie sabe con exactitud cómo piensa: un exinvestigador de OpenAI asegura que el enigma está cerca de resolverse
Un exinvestigador de OpenAI afirma que el enigma de cómo piensa la inteligencia artificial está cerca de resolverse.
Key points
- Nick Cammarata sostiene que la IA moderna no es intrínsecamente inescrutable y que sus redes ya son transparentes.
- El investigador propone que la polisemia neuronal se debe a patrones geométricos compartidos y no a una compresión caótica de conceptos.
- Pioneros como Geoffrey Hinton y Yoshua Bengio mantienen que no se comprende con exactitud cómo procesan la información los modelos
Why it matters. La capacidad de desglosar los mecanismos internos del aprendizaje profundo podría permitir rastrear cómo se gestan las abstracciones en los modelos avanzados.
Nick Cammarata, investigador de Goodfire y exmiembro de OpenAI, publicó el 15 de octubre un trabajo donde sostiene que las redes neuronales ya son transparentes. El autor refuta la teoría de la superposición y afirma que la polisemia neuronal responde a patrones compartidos de bajo nivel y generalización recursiva. Esta postura contrasta con las visiones de Yoshua Bengio y Geoffrey Hinton, quienes consideran que el funcionamiento interno de la IA es inescrutable.
Latest updates
La gran paradoja de la inteligencia artificial es que nadie sabe con exactitud cómo piensa: un exinvestigador de OpenAI asegura que el enigma está cerca de resolverse
Figuras clave en la historia de la inteligencia artificial como Geoffrey Hinton, Yoshua Bengio, Stephen Wolfram, Leo Gao y Dario Amodei coinciden en un punto tan fascinante como inquietante: ninguno comprende con exactitud cómo procesan y estructuran la información los modelos más avanzados . Pese a diseñar las bases de esta tecnología, la industria sigue lidiando con sistemas que operan como auté Figuras clave en la historia de la inteligencia artificial como Geoffrey Hinton, Yoshua Bengio, Stephen Wolfram, Leo Gao y Dario Amodei coinciden en un punto tan fascinante como inquietante: ninguno comprende con exactitud cómo procesan y estructuran la información los modelos más avanzados . Pese a diseñar las bases de esta tecnología, la industria sigue lidiando con sistemas que operan como auténticas cajas negras. Las declaraciones de los propios pioneros ilustran con claridad este dilema. "Personalmente, no creo que lleguemos a interpretar nunca lo que sucede dentro de las redes neuronales por razones fundamentales, aunque podemos obtener algunas pistas interesantes. Mi esperanza reside más bien en conseguir que el proceso por el que la IA llega a sus respuestas pueda descomponerse en partes interpretables" , señaló Bengio durante un encuentro con el Instituto para el Futuro de la Vida en octubre de 2024. Años antes, en 2019, Hinton resumió el asunto de forma tajante ante Wired : .