Lunes, 16 de noviembre de 2026
Portada de las 22:25
Todos los periódicos y la radio, en unoEscrito por IA a partir de Hacker News · Cómo se hace
Hacker News
Show HN

Show HN: Registra cada llamada a un LLM con tokens, coste, latencia y tiempo hasta el primer token

llmtee es un proxy ligero y autoalojado para las APIs de OpenAI y Anthropic y para proveedores compatibles con OpenAI. Se distribuye como un único binario en Go y guarda el uso en SQLite. Su autor lo creó para registrar las llamadas de sus agentes sin montar una infraestructura pesada.

Foto: vía github.com

Leer el artículo aquíArtículo original (github.com) 0 comentarios en Hacker News

Escucha la noticia3 min

Según el autor, las alternativas existentes obligan a ejecutar Postgres, ClickHouse y Redis, o a usar un SDK. llmtee es un solo binario: se apunta la base URL del proveedor hacia él, reenvía el tráfico chunk a chunk, sin alterarlo, y registra el uso en una base SQLite (o, opcionalmente, Postgres). Como el comando tee de Unix, pasa la respuesta al cliente y conserva una copia. La imagen de contenedor ocupa unos 25 MB, la memoria ronda los 40 MB y la latencia añadida es de unos 0,2 ms.

Funciona con OpenAI, Anthropic y APIs compatibles como OpenRouter, Ollama, vLLM y Groq, y con cualquier cliente que permita fijar la base URL, como los SDKs de OpenAI y Anthropic, Claude Code o Codex. Registra chat completions, responses, embeddings y mensajes de Anthropic, con o sin streaming. Los precios salen de la tabla de LiteLLM, incrustada en la compilación y actualizada cada semana; el coste se guarda con cada petición. Si una respuesta no trae datos de uso, la marca como «usage unknown» y nunca estima tokens.

Cada clave puede tener presupuesto diario y mensual. Al alcanzar el límite, llmtee responde con un HTTP 429 y no reenvía la petición. Como el coste solo se conoce al llegar la respuesta, la petición que cruza el límite se completa y la clave puede pasarse por esa única petición. Se pueden usar claves del proveedor o claves propias de llmtee, que sustituyen a la real para que compañeros y agentes no la vean.

Los datos se consultan en una interfaz web (renderizada en servidor con Go templates y htmx), con exportación a CSV, métricas Prometheus o un servidor MCP. Los cuerpos de petición y respuesta se guardan por defecto durante 30 días, algo que se puede desactivar globalmente, por upstream o por petición. No envía telemetría.

El proyecto se declara para particulares y equipos pequeños. No es un gateway: no ofrece routing, fallbacks, multi-tenancy, evals ni gestión de prompts. Está en versión 0.x, así que la configuración puede cambiar. Como el proxy está en la ruta de las peticiones, si cae fallan las llamadas al LLM, y el propio README recomienda vigilar /healthz y tener a mano la URL directa del proveedor. Gemini nativo, Azure OpenAI y AWS Bedrock aún no están soportados.

En Hacker News

«Show HN: Log every LLM call with tokens, cost, latency, and time to first token» · puesto 21 · 3 puntos · enviado por garritfra

Lo que dicen los comentarios

El post no tiene comentarios por ahora, así que todavía no hay debate.

Pregunta sobre esta noticia

Respuestas automáticas a partir de las noticias de El Autómata, sus fuentes y la radio. Pueden contener errores: comprueba los enlaces.

Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.