Lunes, 16 de noviembre de 2026
Portada de las 21:50
Todos los periódicos y la radio, en unoEscrito por IA a partir de Hacker News · Cómo se hace
Hacker News
Ciencia · norvig.com

Chomsky y las dos culturas del aprendizaje estadístico (2011)

Peter Norvig responde a las críticas de Noam Chomsky a los modelos estadísticos del lenguaje, que este calificó de éxito como «aproximación de datos sin analizar». El ensayo, de 2011, defiende que ingeniería y ciencia avanzan juntas y que el lenguaje es un fenómeno probabilístico. Vuelve a la portada con los LLM de fondo.

Leer el artículo aquíArtículo original (norvig.com) 104 comentarios en Hacker News

Escucha la noticia3 min

El texto nace del simposio «Brains, Minds, and Machines», celebrado en 2011 en el MIT, donde Chomsky criticó a quienes usan métodos puramente estadísticos para imitar un comportamiento sin intentar entender su significado. Chomsky respondía a una pregunta de Steven Pinker y dijo que ese concepto de éxito, entendido como aproximar datos sin analizar, es novedoso en la historia de la ciencia. Norvig resume cinco ideas de Chomsky: el éxito en ingeniería es irrelevante para la ciencia, modelar hechos lingüísticos es «coleccionar mariposas», los modelos estadísticos son incomprensibles, simulan los fenómenos de manera errónea y se ha demostrado que no pueden aprender lenguaje, de modo que este debe ser innato.

Norvig contesta punto por punto. Admite que el éxito en ingeniería no es el único objetivo de la ciencia, pero sostiene que ambas se desarrollan juntas y que ese éxito es indicio, que no prueba, de un buen modelo. Recuerda que la acumulación laboriosa de datos es el modo dominante en la historia de la ciencia. Reconoce que un modelo con miles de millones de parámetros es difícil de comprender, pero dice que se gana comprensión estudiando dónde acierta y dónde falla. Afirma que Chomsky descarta todos los modelos probabilísticos por las limitaciones de uno concreto, un modelo de Markov de hace cincuenta años, y que la interpretación del lenguaje, como el reconocimiento de voz, es un problema inherentemente probabilístico.

Sobre el argumento del aprendizaje, Norvig señala que el teorema de Gold (1967) no tiene que ver con la tarea de quien aprende un idioma natural y que en 1969 Horning ya mostró que es posible aprender gramáticas libres de contexto probabilísticas. Acepta que los humanos tienen alguna capacidad innata, pero dice que no sabemos cómo funciona ni si es específica del lenguaje.

La segunda parte define qué es un modelo estadístico: un modelo matemático ajustado con datos. Puede ser probabilístico o no. Pone como ejemplos la gravitación newtoniana, cuya constante G se determina por inferencia estadística, y la ley de los gases ideales, que es probabilística e incorrecta en detalle pero ofrece buenas predicciones y comprensión. Recuerda también que Shannon propuso modelos de Markov de palabras una década antes de Chomsky: uno de segundo orden con 100.000 palabras necesitaría un cuatrillón de valores, que solo se pueden estimar a partir de datos.

En Hacker News

«Chomsky and the two cultures of statistical learning (2011)» · puesto 30 · 134 puntos · enviado por andsoitis

Lo que dicen los comentarios

Los comentarios giran en torno a los LLM. Un usuario sostiene que Norvig confunde ingeniería y ciencia, y que los LLM, por la cantidad de datos que necesitan, no son buen modelo de cómo aprenden los niños; otros replican que son el modelo más cercano que hay o que cuesta negar que generan lenguaje. También se discute si un modelo probabilístico es realmente «simple», y se cuestiona la influencia de Chomsky: unos dicen que ha frenado la lingüística y que se le ha dejado de lado; otros defienden su peso en las ciencias cognitivas. Hay además comentarios laterales sobre la regla ortográfica del ensayo y sobre la antigüedad del texto.

  • Norvig confunde ingeniería y ciencia. La aeronáutica dice muy poco de cómo vuelan los pájaros, y un LLM usa millones de veces más datos y cómputo que un niño: gran tecnología, pero probablemente mal modelo del lenguaje humano.
    — NaiveEmpiricist, leer el comentario
  • Los modelos necesitan órdenes de magnitud más datos que los niños para aprender lenguaje, y la tarea de los niños es más difícil, porque tienen que segmentar el habla ellos mismos.
    — suddenlybananas, leer el comentario
  • Mi objeción es a «más simple». Un modelo probabilístico es el más complicado: no intenta modelar el problema, mira un enorme número de intentos, busca los casos más parecidos y los mezcla evitando resultados absurdos.
    — pessimizer, leer el comentario
  • Chomsky es muy dogmático; sus ideas y su personalidad han frenado el campo. Es irónico que su matematización de la lingüística desplazara a los anteriores y que él se niegue a reconocer los frutos del enfoque estadístico.
    — slibhb, leer el comentario
  • Durante décadas Chomsky fue el autor vivo más citado, quizá dos tercios por política. Sin él probablemente no existiría la ciencia cognitiva, y la psicología sigue respondiendo a su demolición del conductismo en los años cincuenta.
    — NaiveEmpiricist, leer el comentario

Pregunta sobre esta noticia

Respuestas automáticas a partir de las noticias de El Autómata, sus fuentes y la radio. Pueden contener errores: comprueba los enlaces.

Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.