Lunes, 16 de noviembre de 2026
Portada de las 21:50
Todos los periódicos y la radio, en unoEscrito por IA a partir de Hacker News · Cómo se hace
Hacker News
Ciencia · norvig.com

Chomsky y las dos culturas del aprendizaje estadístico (2011)

Peter Norvig responde a las críticas de Noam Chomsky a los modelos estadísticos del lenguaje, formuladas en un simposio del MIT en 2011. Norvig defiende que la ingeniería y la ciencia avanzan juntas y que los modelos probabilísticos también aportan comprensión. El debate sigue vivo con los LLM.

Leer el artículo aquíArtículo original (norvig.com) 39 comentarios en Hacker News

Escucha la noticia3 min

En el simposio «Brains, Minds, and Machines», celebrado en 2011 durante el 150 aniversario del MIT, Chomsky criticó a los investigadores de aprendizaje automático que usan métodos puramente estadísticos para imitar un comportamiento sin intentar entender su significado. Dijo que hubo algunos éxitos y muchos fracasos, y que esa noción de éxito, entendido como aproximar datos sin analizar, es novedosa en la historia de la ciencia. Hablaba en respuesta a una pregunta de Steven Pinker.

Norvig resume cinco ideas de Chomsky: el éxito en ingeniería es irrelevante para la ciencia; modelar bien los hechos lingüísticos es «coleccionar mariposas»; los modelos estadísticos son incomprensibles; simulan el fenómeno de manera equivocada, porque las personas no eligen palabras consultando tablas de probabilidad; y se ha demostrado que no pueden aprender lenguaje, de modo que este sería innato.

Norvig contesta punto por punto. Coincide en que la ingeniería no es el único objetivo de la ciencia, pero sostiene que ambas se desarrollan juntas y que el éxito de ingeniería es indicio, que no prueba, de un buen modelo científico. Recuerda que acumular hechos es el modo dominante en la historia de la ciencia. Admite que un modelo con miles de millones de parámetros no se entiende mirando cada parámetro, pero dice que se puede obtener comprensión estudiando dónde acierta y dónde falla.

También señala que un modelo de Markov no basta para todo el lenguaje, pero tampoco un árbol sintáctico sin probabilidades; hace falta un modelo probabilístico que cubra palabras, sintaxis, semántica y contexto. Sobre el teorema de Gold (1967), dice que no afecta al aprendizaje del lenguaje natural y que en 1969 Horning ya mostró que las gramáticas libres de contexto probabilísticas sí se pueden aprender. Acepta que hay una capacidad innata, pero afirma que no se sabe cómo funciona ni si es específica del lenguaje. El resto del ensayo define qué es un modelo estadístico, con ejemplos como la gravitación de Newton, la ley de los gases ideales y los modelos de Shannon.

En Hacker News

«Chomsky and the Two Cultures of Statistical Learning (2011)» · puesto 29 · 63 puntos · enviado por andsoitis

Lo que dicen los comentarios

Los comentarios discuten sobre todo si Norvig confunde ingeniería con ciencia y si los LLM dicen algo sobre cómo humanos aprenden el lenguaje. Hay quien lo niega por la enorme cantidad de datos y cómputo que necesitan, y quien los considera el modelo más cercano que existe. Otro hilo cuestiona que un modelo probabilístico sea el más «simple». Un comentarista acusa a Norvig de conocer poco la lingüística generativa. Un comentario sobre Epstein y Chomsky desvía la conversación; otros precisan que no hay pruebas de las acusaciones más graves.

  • Norvig y Chomsky hablan de cosas distintas. Norvig confunde ingeniería con ciencia: la aeronáutica dice poco de cómo vuelan los pájaros, y un LLM usa millones de veces más datos que un niño, así que probablemente no modela cómo aprendemos.
    — NaiveEmpiricist, leer el comentario
  • De todos los modelos, es el más cercano: «todos los modelos son erróneos, pero algunos son útiles».
    — dist-epoch, leer el comentario
  • Los métodos de búsqueda clásicos permiten explorar varios caminos sin basarse en probabilidades. Además, los modelos probabilísticos simples funcionan bastante mal en reconocimiento de voz; hay que añadirles mucha estructura para que rindan.
    — tgv, leer el comentario
  • Mi objeción es a «más simple». Un modelo probabilístico es el más complicado: no intenta modelar el problema, mira un enorme número de casos, busca los más parecidos a la entrada y los mezcla evitando resultados absurdos.
    — pessimizer, leer el comentario
  • Está claro que Norvig sabe poco de lingüística; decir que el inglés es «más o menos» pro-drop como el español no es serio. Es como criticar el experimento de Galileo señalando que una pluma cae más despacio que una bola de hierro.
    — suddenlybananas, leer el comentario

Pregunta sobre esta noticia

Respuestas automáticas a partir de las noticias de El Autómata, sus fuentes y la radio. Pueden contener errores: comprueba los enlaces.

Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.