nramosdev · Blog
¿Qué pasa dentro de un LLM cuando genera una palabra? Esta herramienta lo muestra en tiempo real...
TL;DR
¿Qué pasa dentro de un LLM cuando genera una palabra? Esta herramienta lo muestra en tiempo real…
¿Alguna vez te has preguntado qué pasa dentro de la cabeza de un modelo de inteligencia artificial cuando responde a una pregunta? Isham Faizal ha creado el LLM Attention Visualizer: una app web que instrumenta Qwen3-0.6B con 28 tensors post-RoPE para mostrarte en tiempo real cómo cada token contribuye a cada palabra generada. Todo corre 100% en tu navegador via WebAssembly — sin servidores, sin APIs, sin coste. Modelo de 618MB, 600M parámetros, 28 capas de atención, licencia Apache 2.0.
Capítulos del vídeo
- 00:00 — Qué pasa dentro de un LLM
- 00:16 — El Attention Visualizer
- 00:32 — El modelo Qwen3-0.6B
- 00:53 — La instrumentación ONNX
- 01:11 — Métrica de atención
- 01:36 — Interfaz interactiva
- 01:50 — Privacidad total
- 02:02 — Visualizaciones experimentales
- 02:18 — Benchmarks
- 02:41 — Código abierto
- 02:53 — Casos de uso
- 03:09 — Comparación con otras herramientas
El contexto
DATOS CLAVE
Análisis
• Qwen3-0.6B: 600M params, 28 capas, 16 query/8 KV heads (GQA)
• Contexto: 32K tokens, entrenado con 36T tokens
• Archivo ONNX instrumentado: 618MB (28 tensors post-RoPE)
Puntos clave
- Ver datos y cifras en el vídeo: https://www.youtube.com/watch?v=0eQWBVepPYY
- Investigación previa documentada en el pipeline de vídeo (research.md del proyecto)
- Fuentes primarias listadas a continuación
Fuentes
- Blog del autor
- Repositorio GitHub
- Modelo ONNX instrumentado
- Modelo base Qwen3-0.6B
- Specs y benchmarks
- Arquitectura detallada
- Benchmarks completos
- Requisitos GPU
Conclusión
• Métrica: unprojected attention contribution magnitude
Artículo generado automáticamente desde el vídeo publicado en nramosdev. Cada número citado proviene de la investigación verificada del pipeline.