Curso en vídeo de Sebastian Raschka para construir desde cero un modelo de razonamiento
Sebastian Raschka publica ocho vídeos, 11 horas en total, que acompañan su libro «Build a Reasoning Model (From Scratch)». Parten de un Qwen3 0.6B preentrenado y programan en Python y PyTorch evaluación, escalado en inferencia, aprendizaje por refuerzo y destilación.
Foto: vía magazine.sebastianraschka.com
1 medio · MadridPublicada 26 oct, 16:55Actualizada 26 oct, 23:30· Ya no está en portadaEscrita por IA · cómo funciona
Raschka explica que casi todos los LLM actuales son modelos de razonamiento u ofrecen un modo de razonamiento. Los define como una mejora de un LLM convencional: más posentrenamiento con aprendizaje por refuerzo con recompensas verificables (RLVR) y, opcionalmente, técnicas de escalado en inferencia. Se desarrollaron sobre todo para matemáticas y código, pero sus capacidades pueden generalizar a otros dominios.
Sobre la relación con los agentes, usa una analogía: el modelo es el motor y el «agent harness» (el software que rodea al LLM, con gestión del contexto y acceso a herramientas) es la maquinaria que permite usarlo para tareas mayores. Un agente puede usar un LLM convencional o uno de razonamiento, aunque lo habitual es lo segundo por ser más capaz.
El curso trabaja con un Qwen3 pequeño ya preentrenado, para centrarse en lo interesante: evaluación, escalado en tiempo de inferencia, aprendizaje por refuerzo y destilación. Se recomienda soltura con Python y PyTorch; haber leído su libro anterior, «Build a Large Language Model (From Scratch)», es aconsejable pero no imprescindible. Los primeros ejemplos de generación y evaluación se pueden hacer en CPU; para el entrenamiento, una GPU resulta mucho más práctica.
El primer vídeo trata de la instalación (dependencias con uv, hardware, CUDA o Apple Silicon, GPU remota con VS Code). El segundo carga los pesos de Qwen3 0.6B e implementa generación en streaming, KV cache y torch.compile. El tercero construye un verificador de respuestas matemáticas para evaluar el modelo en MATH-500, y que luego sirve de señal de recompensa para RLVR. El cuarto aborda la generación de respuestas diversas (temperatura, muestreo multinomial, top-p) y la autoconsistencia por voto mayoritario. Raschka recomienda leer un capítulo, seguir su código con el vídeo y probar los ejercicios. Menciona además un curso conceptual de unos 90 minutos en LinkedIn Learning.
«Sebastian Raschka's from-scratch video course on building reasoning models» · puesto 24 · 803 puntos · enviado por sgiannopoulos
Lo que dicen los comentarios
Buena parte de la conversación gira en torno a para qué sirve aprender construyendo un LLM desde cero. Un usuario confiesa que el aprendizaje automático le parece inabordable: teoría que exige nivel de matemáticas o práctica que pide cómputo y datos fuera de su alcance. Le responden que conviene aprender de arriba abajo, con el libro de Raschka. Otro comentario sostiene que el objetivo no es entrenar un modelo útil, sino entender mejor las capas superiores, como ocurre con «Crafting Interpreters». Hay quien compara estas guías con un tutorial de «construye tu CPU», sin utilidad práctica, y le replican que se puede seguir entrenando cualquier modelo open source. Sobre el coste, se aclara que basta con poder ejecutar Qwen3 0.6B: sirve un portátil reciente o un PC con una buena GPU, y también una CPU, aunque más lenta. Muchos lectores del libro elogian su claridad.
Hazte con el libro de Sebastian y construye un LLM desde cero. El problema de la mayoría de los manuales, en cualquier materia, es que intentan construir primero los fundamentos teóricos. Muchas cosas se enseñan mejor de arriba abajo.
Con un tutorial así no saldrás sabiendo entrenar un LLM útil desde cero, pero no es ese el punto: construir algo más abajo en la pila de lo que usarás nunca te obliga a entender detalles que condicionan las capas superiores.
Se puede seguir en local sin problema: basta con poder ejecutar Qwen3 0.6B, un LLM minúsculo. Sirve un MacBook reciente o un PC con buena GPU; en CPU también funciona, pero mucho más despacio.
Todas estas guías de «construye tu propio modelo» son como una guía de «construye tu propia CPU» hace diez años: interesantes, pero sin ninguna utilidad práctica.
Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.