davidkimai/Context-Engineering

Ingeniería de Contexto

"La ingeniería de contexto es el delicado arte y ciencia de llenar la ventana de contexto con la información justa para el siguiente paso." — Andrej Karpathy

El software está cambiando (otra vez) Charla @YC AI Startup School

DeepGraph

Chat con NotebookLM + Podcast Deep Dive

Curso integral en construcción

Encuesta-Revisión de Ingeniería de Contexto de 1400 Artículos de Investigación

Repositorio Awesome Context Engineering

Operacionalizando la última investigación sobre contexto con primeros principios y visuales — Julio 2025 de ICML, IBM, NeurIPS, OHBM y más

"Proporcionar 'herramientas cognitivas' a GPT-4.1 aumenta su rendimiento pass@1 en AIME2024 del 26,7% al 43,3%, acercándolo mucho al rendimiento de o1-preview." — IBM Zurich

Comandos de Agente

Soporte para Claude Code | OpenCode | Amp | Kiro | Codex | Gemini CLI

Encuesta-Revisión de Ingeniería de Contexto de 1400 Artículos de Investigación | Context Rot | IBM Zurich | Semántica Cuántica | Symbolics Emergentes ICML Princeton | MEM1 Singapur-MIT | Atractores de LLM Shanghai AI | MemOS Shanghai | Razonamiento Latente | Profundidades Recursivas Dinámicas

Un manual de vanguardia y primeros principios para ir más allá de la ingeniería de prompts hacia la disciplina más amplia del diseño, orquestación y optimización del contexto.

                    Ingeniería de Prompts  │  Ingeniería de Contexto
                       ↓                    │            ↓                      
               "Lo que dices"              │  "Todo lo demás que ve el modelo"
             (Instrucción única)            │    (Ejemplos, memoria, recuperación,
                                             │     herramientas, estado, flujo de control)

Definición de Ingeniería de Contexto

El contexto no es solo el prompt único que los usuarios envían a un LLM. El contexto es la carga completa de información proporcionada a un LLM en tiempo de inferencia, que abarca todos los componentes informativos estructurados que el modelo necesita para realizar plausiblemente una tarea determinada.

— Definición de Ingeniería de Contexto de un Análisis Sistemático de Más de 1400 Artículos de Investigación

╭─────────────────────────────────────────────────────────────╮
│              CURSO DE DOMINIO DE INGENIERÍA DE CONTEXTO    │
│                    De Cero a Frontera                       │
╰─────────────────────────────────────────────────────────────╯
                          ▲
                          │
                 Fundamentos Matemáticos
                  C = A(c₁, c₂, ..., cₙ)
                          │
                          ▼
┌─────────────┬──────────────┬──────────────┬─────────────────┐
│ FUNDAMENTOS │ SISTEMA IMPL  │ INTEGRACIÓN  │ FRONTERA        │
│ (Semanas 1-4)│ (Semanas 5-8)│ (Semanas 9-10)│ (Semanas 11-12)│
└─────┬───────┴──────┬───────┴──────┬───────┴─────────┬───────┘
      │              │              │                 │
      ▼              ▼              ▼                 ▼
┌─────────────┐ ┌──────────────┐ ┌──────────────┐ ┌──────────────┐
│ Modelos Mat │ │ Sistemas RAG │ │ Multi-Agente │ │ Meta-Recurs  │
│ Componentes │ │ Arq. Memoria │ │ Orquestación │ │ Sem. Cuántica│
│ Procesamiento│ │ Integ. Htas │ │ Teoría Campo │ │ Auto-Mejora   │
│ Gestión      │ │ Sist. Agente│ │ Evaluación   │ │ Colaboración  │
└─────────────┘ └──────────────┘ └──────────────┘ └──────────────┘

Por Qué Existe Este Repositorio

"El significado no es una propiedad intrínseca y estática de una expresión semántica, sino un fenómeno emergente" — Agostino et al. — Julio 2025, Universidad de Indiana

La ingeniería de prompts recibió toda la atención, pero ahora podemos emocionarnos por lo que viene después. Una vez que dominas los prompts, el verdadero poder proviene de ingeniar la ventana de contexto completa que rodea esos prompts. Guía del pensamiento, si se quiere.

Este repositorio proporciona un enfoque progresivo y de primeros principios para la ingeniería de contexto, construido sobre una metáfora biológica:

átomos → moléculas → células → órganos → sistemas neuronales → teoría de campo neuronal y semántico
  │         │          │          │              │                         │        
prompt   pocos-    memoria +   multi-   herramientas cognitivas +   contexto = campos +
único    ejemplos  agentes    agentes   sistemas operativos         persistencia y resonancia

"La abstracción es el costo de la generalización" — Grant Sanderson (3Blue1Brown)

Una Encuesta de Ingeniería de Contexto - Julio 2025

Sobre Emergencia, Atractores y Teoría de Sistemas Dinámicos | Columbia DST

https://github.com/user-attachments/assets/9f046259-e5ec-4160-8ed0-41a608d8adf3

graph TD
    classDef basic fill:#e1f5fe,stroke:#01579b,stroke-width:2px,color:#01579b
    classDef intermediate fill:#e8f5e9,stroke:#2e7d32,stroke-width:2px,color:#2e7d32
    classDef advanced fill:#fff3e0,stroke:#e65100,stroke-width:2px,color:#e65100
    classDef meta fill:#f3e5f5,stroke:#6a1b9a,stroke-width:2px,color:#6a1b9a
    
    subgraph Basic["Nivel 1: Ingeniería de Contexto Básica"]
        A[Átomos]
        B[Moléculas]
        C[Células]
        D[Órganos]
    end
    
    subgraph Field["Nivel 2: Teoría de Campo"]
        E[Sistemas Neuronales]
        F[Campos Neuronales]
    end
    
    subgraph Protocol["Nivel 3: Sistema de Protocolo"]
        G[Cáscaras de Protocolo]
        H[Sistema Unificado]
    end
    
    subgraph Meta["Nivel 4: Meta-Recursión"]
        I[Marco Meta-Recursivo]
    end
    
    %% Conexiones
    A --> B
    B --> C
    C --> D
    D --> E
    E --> F
    F --> G
    G --> H
    H --> I
    
    %% Descripciones para cada nivel
    A1["Instrucciones únicas<br>Restricciones simples<br>Prompts básicos"] --> A
    B1["Pares de ejemplos<br>Patrones de pocos ejemplos<br>Conjuntos de demostración"] --> B
    C1["Memoria persistente<br>Gestión de estado<br>Ventana de contexto"] --> C
    D1["Flujos multi-paso<br>Especialistas<br>Orquestación del sistema"] --> D
    E1["Marcos de razonamiento<br>Herramientas de verificación<br>Patrones cognitivos"] --> E
    F1["Significado continuo<br>Atractores y resonancia<br>Residuo simbólico"] --> F
    G1["Plantillas estructuradas<br>Operaciones de campo<br>Protocolos de emergencia"] --> G
    H1["Integración de protocolos<br>Emergencia a nivel de sistema<br>Automantenimiento"] --> H
    I1["Autorreflexión<br>Mejora recursiva<br>Evolución interpretable"] --> I
    
    %% Paralelismos del mundo real
    A2["Como: Ingeniería de<br>prompts básica"] -.-> A
    B2["Como: Aprendizaje de<br>pocos ejemplos"] -.-> B
    C2["Como: Chatbots<br>conversacionales"] -.-> C
    D2["Como: Sistemas<br>multi-agente"] -.-> D
    E2["Como: ReAct<br>Cadena de Pensamiento"] -.-> E
    F2["Como: Teoría de campo<br>semántico"] -.-> F
    G2["Como: Orquestación<br>de protocolos"] -.-> G
    H2["Como: Sistemas<br>autoorganizados"] -.-> H
    I2["Como: Inteligencia<br>automejorante"] -.-> I
    
    %% Aplicar clases
    class A,B,C,D,A1,A2,B1,B2,C1,C2,D1,D2 basic
    class E,F,E1,E2,F1,F2 intermediate
    class G,H,G1,G2,H1,H2 advanced
    class I,I1,I2 meta

Inicio Rápido

1. Lee 00_foundations/01_atoms_prompting.md (5 min)
   Entiende por qué los prompts solos a menudo rinden por debajo de lo esperado

2. Ejecuta 10_guides_zero_to_hero/01_min_prompt.py (Estilo Jupyter Notebook) Experimenta con un ejemplo funcional mínimo

3. Explora 20_templates/minimal_context.yaml
   Copia/pega una plantilla en tu propio proyecto

4. Estudia 30_examples/00_toy_chatbot/
   Ve una implementación completa con gestión de contexto

Ruta de Aprendizaje

┌─────────────────┐     ┌──────────────────┐     ┌────────────────┐
│ 00_foundations/ │     │ 10_guides_zero_  │     │ 20_templates/  │
│                 │────▶│ to_one/          │────▶│                │
│ Teoría y        │     │ Tutoriales       │     │ Fragmentos     │
│ conceptos clave │     │ prácticos        │     │ copia/pega     │
└─────────────────┘     └──────────────────┘     └────────────────┘
         │                                                │
         │                                                │
         ▼                                                ▼
┌─────────────────┐                             ┌────────────────┐
│ 40_reference/   │◀───────────────────────────▶│ 30_examples/   │
│                 │                             │                │
│ Análisis        │                             │ Proyectos      │
│ profundos y     │                             │ reales,        │
│ recetario de    │                             │ progresivamente│
│ evaluación      │                             │ complejos      │
└─────────────────┘                             └────────────────┘
         ▲                                      
         │                                      
         └────────────────────┐               ┌───────────┘
                              ▼               ▼
                         ┌─────────────────────┐
                         │ 50_contrib/         │
                         │                     │
                         │ Contribuciones      │
                         │ de la comunidad     │
                         └─────────────────────┘

Lo Que Aprenderás

Concepto	Qué Es	Por Qué Importa
Presupuesto de Tokens	Optimizar cada token en tu contexto	Más tokens = más $$ y respuestas más lentas
Aprendizaje de Pocos Ejemplos	Enseñar mostrando ejemplos	A menudo funciona mejor que la explicación sola
Sistemas de Memoria	Persistir información a través de turnos	Permite interacciones con estado y coherentes
Aumento por Recuperación	Encontrar e inyectar documentos relevantes	Fundamenta respuestas en hechos, reduce alucinaciones
Flujo de Control	Dividir tareas complejas en pasos	Resuelve problemas más difíciles con prompts más simples
Poda de Contexto	Eliminar información irrelevante	Mantén solo lo necesario para el rendimiento
Métricas y Evaluación	Medir la efectividad del contexto	Optimización iterativa del uso de tokens vs. calidad
Herramientas Cognitivas y Programación de Prompts	Aprende a construir herramientas y plantillas personalizadas	La programación de prompts permite nuevas capas para la ingeniería de contexto
Teoría de Campo Neuronal	Contexto como un Campo Neuronal	Modelar el contexto como un campo neuronal dinámico permite la actualización iterativa del contexto
Mecanismos Simbólicos	Las arquitecturas simbólicas permiten razonamiento de orden superior	Sistemas más inteligentes = menos trabajo
Semántica Cuántica	Significado como dependiente del observador	Diseña sistemas de contexto aprovechando técnicas de superposición

Estilo Inspirado en Karpathy + 3Blue1Brown

Para aprendices de todos los niveles de experiencia

1. Primeros principios – comienza con el contexto fundamental
2. Adición iterativa – añade solo lo que el modelo demuestra que le falta
3. Mide todo – costo de tokens, latencia, puntuación de calidad
4. Elimina sin piedad – podar supera a rellenar
5. Código > diapositivas – cada concepto tiene una celda ejecutable
6. Visualiza todo — cada concepto se visualiza con diagramas ASCII y simbólicos

Evidencia de Investigación

Memoria + Razonamiento

MEM1: Aprendiendo a Sinergizar Memoria y Razonamiento para Agentes de Largo Horizonte Eficientes - Singapur-MIT Junio 2025

"Nuestros resultados demuestran la promesa de la consolidación de memoria impulsada por razonamiento como una alternativa escalable a las soluciones existentes para entrenar agentes interactivos de largo horizonte, donde tanto la eficiencia como el rendimiento se optimizan." — Singapur-MIT

1. MEM1 entrena agentes de IA para conservar solo lo que importa—fusionando memoria y razonamiento en cada paso—para que nunca se sientan abrumados, sin importar cuán larga sea la tarea.

2. **En lugar de acumular contexto interminable,