Tu personaje acaba de llamarte por el nombre equivocado. El dragón que mataste hace tres escenas vuelve a estar vivo, y la taberna que quemaste ahora sirve cerveza. No se ha roto nada, y el modelo no es perezoso. Simplemente se quedó sin espacio. Cada modelo de lenguaje lee y escribe dentro de una ventana de memoria fija, y cuando tu chat supera esa ventana, el material más antiguo deja de verse sin que nadie lo note.
Este artículo explica la longitud de contexto en LLM con palabras sencillas: qué mide, cuánto mide en los modelos gratuitos más populares, qué ajustes cambian la cantidad que recuerda el modelo y cómo mantener coherente un roleplay largo sin pagar por una ventana enorme que quizá no necesitas.
💡 Respuesta rápida: la longitud de contexto es el número total de tokens que un modelo puede revisar en una sola solicitud. Ese total incluye tus instrucciones, el historial del chat y la respuesta que el modelo está a punto de escribir. Cuando el total supera el límite, algo se corta.
Qué significa realmente la longitud de contexto
Piensa en la ventana de contexto como el escritorio sobre el que trabaja un modelo. Todo lo que puede ver tiene que caber en ese escritorio al mismo tiempo. Lo que no cabe desaparece, en lo que respecta al modelo. No tiene un archivador escondido y no conserva recuerdos de una solicitud a la siguiente. Cada respuesta se genera desde cero, a partir del texto que envías junto con ella.

Tokens, no palabras
Los modelos no cuentan palabras. Cuentan tokens, que son fragmentos de texto. En inglés, un token equivale más o menos a cuatro caracteres, o a unas tres cuartas partes de una palabra. Las palabras comunes y cortas suelen ser un solo token. Los nombres poco frecuentes, la jerga y las palabras en otros idiomas pueden ocupar entre tres y cuatro tokens cada una.
| Tamaño de contexto | Aprox. palabras en inglés | Equivale más o menos a |
|---|
| 4K (4,096 tokens) | 3,000 | Una entrada de blog larga |
| 8K | 6,000 | Un cuento corto |
| 32K | 24,000 | Un conjunto de capítulos de una novela corta |
| 128K | 96,000 | Una novela completa |
| 1M | 750,000 | Una estantería de libros |
Son estimaciones. El código, los emoji y el texto en otros idiomas consumen tokens más rápido, así que un chat en japonés o en árabe llena la misma ventana antes que un chat en inglés.
Qué llena la ventana
Quienes empiezan suponen que la ventana solo contiene el chat. En realidad contiene mucho más:
- El prompt de sistema, que fija las reglas y el tono.
- La ficha del personaje o la persona, que a menudo ocupa por sí sola entre 500 y 1,500 tokens.
- Lorebook o notas del mundo, si tu app los inserta.
- Cada mensaje anterior, tuyo y del modelo.
- El espacio reservado para la siguiente respuesta, definido por el ajuste de salida máxima.
Ese último punto sorprende a mucha gente. Si tu ventana es de 8K y reservas 1,000 tokens para la respuesta, en realidad te quedan 7K para todo lo demás.
Tamaños de contexto en los modelos gratuitos
"Gratis" puede significar cosas distintas. Puede tratarse de pesos abiertos que ejecutas en tu propio equipo, de un nivel gratuito con límites diarios o de un modelo que cuesta muy poco por solicitud. En todos los casos, el número que aparece en la página del modelo es el máximo, no una promesa sobre la calidad.

Ventanas pequeñas: de 4K a 8K
Los modelos abiertos más antiguos son el ejemplo clásico. Llama 2 7B Chat y los demás tamaños de Llama 2, como Llama 2 13B Chat y Llama 2 70B Chat, trabajan con unos 4K tokens. Eso basta para una pregunta rápida y resulta incómodo para un cuento. Meta Llama 3 8B Instruct duplica esa cifra hasta unos 8K, y Mistral 7B v0.1 se mueve en el mismo rango.
Las ventanas pequeñas siguen teniendo su lugar. Responden rápido, son baratas de ejecutar y te obligan a mantener los prompts ajustados, lo cual es buena costumbre de todos modos.
Ventanas medianas y largas
Las familias nuevas, gratuitas o de bajo costo, son mucho más generosas. Granite 4.0 H Small está diseñado específicamente para entradas largas, y Granite 4.1 8B es una opción gratuita para chat y código. Si tu trabajo es de código, Granite 8B Code Instruct 128K indica el tamaño de su ventana en el propio nombre, y su hermano Granite 20B Code Instruct 8K muestra lo que ofrecía la generación anterior.
Otras familias que vale la pena probar para chats largos son DeepSeek V3, Kimi K2.6 y Qwen3.7 Plus. Consulta la página del modelo para conocer la ventana exacta de cada uno, ya que los proveedores cambian estas cifras entre versiones.
Ventanas gigantes y sus pegas
Llama 4 Scout Instruct se anuncia con una ventana de hasta 10 millones de tokens, y Llama 4 Maverick Instruct se anuncia en torno a 1 millón. Gemini 3.5 Flash y Gemini 3.1 Pro, de Google, también están en el grupo de ventanas largas.

Aquí está la pega. A finales de 2026, las ventanas de 1 millón de tokens son habituales, y la mediana de los modelos analizados ronda los 256K. Pero la ventana anunciada y la ventana efectiva no son lo mismo. Las pruebas independientes siguen encontrando que la precisión cae mucho antes del máximo, sobre todo cuando el único dato que necesitas está enterrado en medio de una montaña enorme de texto. Una ventana gigante es una gran biblioteca, no un mejor lector.
💡 Regla práctica: considera que alrededor de la mitad de la ventana anunciada es la zona de trabajo segura. Pasado ese punto, resume o recupera información en lugar de meter más texto en bruto.
Cómo los límites de memoria rompen los chats
La mayoría de la gente nota los límites de contexto solo cuando ocurre algo raro. Hay dos patrones de fallo principales, y se ven distintos.

Truncamiento silencioso
Cuando el chat se hace demasiado largo, la mayoría de las apps eliminan primero los mensajes más antiguos. Tu escena de apertura, la ficha del personaje (en algunas apps) y las reglas originales pueden desaparecer sin aviso. Entonces el modelo improvisa. Por eso un personaje cambia de repente de personalidad: el texto que lo definía ya no está sobre el escritorio.
Señales de truncamiento:
- El personaje olvida un nombre, una promesa o un lugar.
- El estilo de escritura se desliza hacia frases genéricas.
- Las reglas del prompt de sistema dejan de cumplirse.
- Las respuestas repiten frases anteriores, porque el modelo solo ve su propia salida reciente.
Perdido en el medio
El segundo patrón aparece incluso cuando, técnicamente, todo cabe. Los modelos prestan más atención al inicio y al final de la ventana. Los datos del medio reciben una atención más débil. Si metes 80,000 tokens en un chat y entierras la pista importante en el token 40,000, el modelo puede pasarla por alto.
La solución es sencilla: pon la información más importante al principio absoluto (prompt de sistema, ficha del personaje) o vuelve a exponerla al final, cerca de tu último mensaje.
Los ajustes que de verdad importan
Las apps de chat y las herramientas de API muestran muchos controles deslizantes. Solo unos pocos cambian el comportamiento de la memoria de una forma que notarás.

El control deslizante del tamaño de contexto
Muchas configuraciones locales y autoalojadas te piden que elijas tú el tamaño de contexto, y el valor por defecto suele ser pequeño, como 2K o 4K, aunque el modelo admita mucho más. Si tu personaje olvida cosas rápidamente, revisa esto primero. Subirlo aumenta el uso de memoria, así que hay un límite que marca tu hardware. En los modelos alojados, el proveedor suele fijarlo por ti.
Tokens de salida máxima
Este número es la respuesta más larga que el modelo puede escribir. Si lo pones demasiado bajo, las respuestas se cortan a mitad de frase. Si lo pones demasiado alto, desperdicias espacio de la ventana reservado para un texto que nunca vas a ver. Para roleplay, entre 250 y 500 tokens sirven para la mayoría de las escenas. Para escritura de formato largo, ve a 1,000 o más.
Temperatura y penalización por repetición
Estos dos no cambian cuánto recuerda el modelo, pero sí cambian lo bien que usa lo que recuerda.
| Ajuste | Valor bajo | Valor alto | Buen punto de partida para roleplay |
|---|
| Temperatura | Predecible, seguro | Creativo, arriesgado | 0.7 a 0.9 |
| Top P | Elecciones de palabras estrechas | Más variedad | 0.9 |
| Penalización por repetición | Permite bucles | Evita repeticiones, puede desviar | 1.05 a 1.15 |
| Tokens de salida máxima | Respuestas cortas | Respuestas largas | 300 a 500 |
💡 Vigila la penalización. Una penalización por repetición demasiado fuerte aleja al modelo de palabras que ya ha usado, incluido el nombre de tu propio personaje. Si los nombres empiezan a cambiar, bájala.
Consejos de roleplay para historias largas
El roleplay es la prueba más exigente de la longitud de contexto, porque la historia es larga y está llena de detalles. Puedes escribir durante horas en una ventana modesta si controlas lo que queda sobre el escritorio.

Escribe una ficha de personaje breve
La ficha del personaje se paga en tokens en cada solicitud. Una ficha de 2,000 tokens en una ventana de 8K deja ocupada permanentemente una cuarta parte de tu memoria. Apunta a entre 300 y 700 tokens: nombre, edad, voz, tres rasgos, un objetivo y un miedo. Recorta el trasfondo que el modelo todavía no necesita.
Una ficha ajustada podría leerse así: "Mara, 34 años, navegante de una nave. Humor seco, habla con frases cortas, desconfía de los oficiales. Quiere encontrar a su hermano desaparecido. Nunca admite cuando tiene miedo."
Haz las cuentas para tu ventana
Aquí tienes un ejemplo práctico para una ventana de 8K:
- Prompt de sistema: 300 tokens
- Ficha del personaje: 700 tokens
- Espacio reservado para la respuesta: 400 tokens
- Disponible para el historial: unos 6,700 tokens
Si cada intercambio (tu mensaje más la respuesta) ocupa de media 400 tokens, el modelo recuerda unos 16 intercambios. Después, los turnos más antiguos se pierden. Saber este número te indica exactamente cuándo resumir.
Resume cada 20 turnos
Este hábito hace más que cualquier ajuste. Cada 15 a 20 intercambios, escribe (o pide al modelo que escriba) un resumen breve de lo ocurrido. Pégalo cerca del principio del chat y luego borra los mensajes antiguos que sustituye.

Un buen resumen incluye:
- Quién está presente y qué siente el uno por el otro.
- Dónde transcurre la escena.
- Qué cambió (muertes, promesas, heridas, objetos ganados o perdidos).
- Hilos abiertos que la historia todavía tiene que resolver.
Mantenlo por debajo de 200 tokens. Una historia resumida así puede durar cientos de turnos en una ventana que, de otro modo, solo contendría 16.
Fija los datos, elimina el relleno
No todos los mensajes merecen un lugar en el escritorio. Los saludos, las descripciones repetidas y las charlas largas fuera del personaje consumen tokens sin aportar historia. Muchas apps te permiten fijar o bloquear ciertos mensajes, o guardar datos en un lorebook que solo se carga cuando aparece una palabra desencadenante. Usa estas herramientas para nombres, reglas y relaciones. Deja que la charla casual se pierda por el camino.
💡 Repite, no confíes. Si un detalle importa en la siguiente escena (la llave robada, el secreto, la herida), vuelve a mencionarlo en tu propio mensaje. Una frase cuesta menos que un agujero en la trama.
Elegir un modelo según la necesidad
Más grande no siempre es mejor. Una ventana gigante cuesta más, funciona más lenta y puede enterrar tus detalles. Adapta el modelo al trabajo.

El tamaño de la ventana es un factor. La calidad de la escritura, el seguimiento de instrucciones y la velocidad importan igual, así que prueba dos o tres modelos con el mismo prompt de apertura antes de comprometerte con una historia larga.
Soluciones rápidas a problemas comunes
El personaje olvida su nombre
Revisa primero la ficha. Si es larga y está al principio de un chat demasiado lleno, tu app puede estar cortándola. Acórtala, fíjala o repite el nombre en tu último mensaje. Después, sube el tamaño de contexto si tu configuración lo permite.
Las respuestas se cortan
Casi siempre se debe al ajuste de tokens de salida máxima. Súbelo a 500 o más. Si ya está alto, es posible que la ventana esté llena y no quede espacio para escribir. Resume los turnos antiguos para liberar espacio.
El modelo se repite
Baja un poco la penalización por repetición, sube un poco la temperatura y recorta los mensajes antiguos que contienen la frase repetida. A los modelos les encanta copiar los patrones que ven en su propio historial.
Todo va más lento
Un contexto más largo supone más trabajo de cálculo en cada respuesta. Si la velocidad baja, probablemente estés enviando mucho más texto del necesario. Un resumen limpio más los últimos diez mensajes suele ser más rápido y preciso que la transcripción completa.
Pruébalo hoy en Picasso IA
No necesitas adivinar qué modelo encaja con tu historia. Abre la colección de modelos de lenguaje grandes en PicassoIA, elige dos modelos de la tabla de arriba y pega la misma escena de apertura en cada uno. Observa cuánto tiempo se mantiene coherente cada uno y, después, ajusta la salida máxima y la temperatura y repite la prueba.

Prueba un experimento rápido: escribe un resumen de 400 tokens de tu historia actual, abre un chat nuevo con él y comprueba si los personajes encajan mejor que en el hilo original de 100 mensajes. Para mucha gente, la respuesta es que sí. Luego lleva esa misma chispa creativa más lejos y crea la portada, los retratos de personajes y las imágenes de escenas de tu historia con los modelos de imagen de Picasso IA. Empieza con un chat, un personaje y un resumen, y notarás la diferencia en la siguiente escena.