![Discord](https://img.shields.io/badge/Discord-join%20chat-7289DA.svg?logo=discord"){kind=icon}
コンテキストエンジニアリング
「コンテキストエンジニアリングとは、コンテキストウィンドウに次のステップに必要な情報だけを巧みに詰め込む繊細な技術であり科学である。」— Andrej Karpathy
DeepGraph
NotebookLMでチャット + ポッドキャストディープダイブ
現在構築中の包括的コース
コンテキストエンジニアリングサーベイレビュー（1400件の研究論文）
最新の研究を第一原理とビジュアルで運用可能に — 2025年7月、ICML、IBM、NeurIPS、OHBM他より
「GPT-4.1に“認知ツール”を提供すると、AIME2024におけるpass@1性能が26.7%から43.3%に向上し、o1-previewの性能に極めて近づく。」 — IBMチューリッヒ
エージェントコマンド
Claude Code | OpenCode | Amp | Kiro | Codex | Gemini CLI 対応
コンテキストエンジニアリングサーベイレビュー（1400件の研究論文） | コンテキストロット | IBMチューリッヒ | 量子意味論 | 創発的シンボリックス ICMLプリンストン | MEM1 シンガポール-MIT | LLMアトラクター 上海AI | MemOS上海 | 潜伏推論 | 動的再帰的深さ
プロンプトエンジニアリングを超え、コンテキスト設計、オーケストレーション、最適化というより広範な領域へと踏み出す、最前線の第一原理ハンドブック。
プロンプトエンジニアリング │ コンテキストエンジニアリング
↓ │ ↓
「あなたが言うこと」 │ 「モデルが見るその他すべて」
（単一の指示） │ （例、メモリ、検索、
│ ツール、状態、制御フロー）
コンテキストエンジニアリングの定義
コンテキストとは、ユーザーがLLMに送信する単一のプロンプトだけではありません。コンテキストとは、推論時にLLMに提供される完全な情報ペイロードであり、モデルが与えられたタスクを実行するために必要となる、構造化されたすべての情報コンポーネントを包含します。
╭─────────────────────────────────────────────────────────────╮
│ コンテキストエンジニアリング習得コース │
│ ゼロから最前線へ │
╰─────────────────────────────────────────────────────────────╯
▲
│
数学的基礎
C = A(c₁, c₂, ..., cₙ)
│
▼
┌─────────────┬──────────────┬──────────────┬─────────────────┐
│ 基礎 │ システム実装 │ 統合 │ 最前線 │
│ (1-4週目) │ (5-8週目) │ (9-10週目) │ (11-12週目) │
└─────┬───────┴──────┬───────┴──────┬───────┴─────────┬───────┘
│ │ │ │
▼ ▼ ▼ ▼
┌─────────────┐ ┌──────────────┐ ┌──────────────┐ ┌──────────────┐
│ 数理モデル │ │ RAGシステム │ │ マルチエージ │ │ メタ再帰 │
│ コンポーネント│ │ メモリアーキ │ │ ントオーケス │ │ 量子意味論 │
│ 処理 │ │ テクチャ │ │ トレーション │ │ 自己改善 │
│ 管理 │ │ ツール統合 │ │ 場の理論 │ │ 協調 │
│ │ │ エージェント │ │ 評価 │ │ │
└─────────────┘ └──────────────┘ └──────────────┘ └──────────────┘
このレポジトリの存在理由
「意味とは、意味表現の内在的で静的な特性ではなく、創発する現象である」 — Agostino 他 — 2025年7月、インディアナ大学
プロンプトエンジニアリングがこれまで全ての注目を集めてきましたが、今や次に来るものに胸を躍らせることができます。プロンプトを習得したら、真の力はそれらのプロンプトを取り巻くコンテキストウィンドウ全体を工学的に設計することから生まれます。いわば、思考のガイドです。
このレポジトリは、段階的かつ第一原理に基づくコンテキストエンジニアリングへのアプローチを提供し、生物学のメタファーを中心に構築されています。
原子 → 分子 → 細胞 → 器官 → 神経系 → 神経場＆意味場理論
│ │ │ │ │ │
単一 Few- メモリ + マルチ 認知ツール + コンテキスト = 場 +
プロンプト Shot エージェント エージェント オペレーティング 永続性＆共鳴
システム
「抽象化は一般化のコストである」— Grant Sanderson (3Blue1Brown)
創発、アトラクター、そして動的システム理論について | コロンビア大学DST
https://github.com/user-attachments/assets/9f046259-e5ec-4160-8ed0-41a608d8adf3
graph TD
classDef basic fill:#e1f5fe,stroke:#01579b,stroke-width:2px,color:#01579b
classDef intermediate fill:#e8f5e9,stroke:#2e7d32,stroke-width:2px,color:#2e7d32
classDef advanced fill:#fff3e0,stroke:#e65100,stroke-width:2px,color:#e65100
classDef meta fill:#f3e5f5,stroke:#6a1b9a,stroke-width:2px,color:#6a1b9a
subgraph Basic["レベル1: 基本コンテキストエンジニアリング"]
A[原子]
B[分子]
C[細胞]
D[器官]
end
subgraph Field["レベル2: 場の理論"]
E[神経系]
F[神経場]
end
subgraph Protocol["レベル3: プロトコルシステム"]
G[プロトコルシェル]
H[統合システム]
end
subgraph Meta["レベル4: メタ再帰"]
I[メタ再帰的フレームワーク]
end
%% 接続
A --> B
B --> C
C --> D
D --> E
E --> F
F --> G
G --> H
H --> I
%% 各レベルの説明
A1["単一の指示<br>シンプルな制約<br>基本プロンプト"] --> A
B1["例のペア<br>Few-shotパターン<br>デモンストレーションセット"] --> B
C1["永続メモリ<br>状態管理<br>コンテキストウィンドウ"] --> C
D1["マルチステップフロー<br>専門家<br>システムオーケストレーション"] --> D
E1["推論フレームワーク<br>検証ツール<br>認知パターン"] --> E
F1["連続的意味<br>アトラクターと共鳴<br>記号的残留"] --> F
G1["構造化テンプレート<br>場の操作<br>創発プロトコル"] --> G
H1["プロトコル統合<br>システムレベルの創発<br>自己維持"] --> H
I1["自己内省<br>再帰的改善<br>解釈可能な進化"] --> I
%% 現実世界の類似
A2["例: 基本プロンプト<br>エンジニアリング"] -.-> A
B2["例: Few-shot<br>学習"] -.-> B
C2["例: 対話型<br>チャットボット"] -.-> C
D2["例: マルチエージェント<br>システム"] -.-> D
E2["例: ReAct<br>Chain-of-Thought"] -.-> E
F2["例: 意味<br>場理論"] -.-> F
G2["例: プロトコル<br>オーケストレーション"] -.-> G
H2["例: 自己組織化<br>システム"] -.-> H
I2["例: 自己改善型<br>知能"] -.-> I
%% クラスの適用
class A,B,C,D,A1,A2,B1,B2,C1,C2,D1,D2 basic
class E,F,E1,E2,F1,F2 intermediate
class G,H,G1,G2,H1,H2 advanced
class I,I1,I2 meta
クイックスタート
-
00_foundations/01_atoms_prompting.mdを読む（5分）
プロンプトだけではしばしば性能が不十分な理由を理解する -
10_guides_zero_to_hero/01_min_prompt.pyを実行する（Jupyter Notebookスタイル）
最小限の動作例で実験する -
20_templates/minimal_context.yamlを探索する
テンプレートを自分のプロジェクトにコピー＆ペーストする -
30_examples/00_toy_chatbot/を学習する
コンテキスト管理を含む完全な実装を確認する
学習パス
┌─────────────────┐ ┌──────────────────┐ ┌────────────────┐
│ 00_foundations/ │ │ 10_guides_zero_ │ │ 20_templates/ │
│ │────▶│ to_one/ │────▶│ │
│ 理論と中核 │ │ ハンズオン │ │ コピペ │
│ 概念 │ │ ウォークスルー │ │ スニペット │
└─────────────────┘ └──────────────────┘ └────────────────┘
│ │
│ │
▼ ▼
┌─────────────────┐ ┌────────────────┐
│ 40_reference/ │◀───────────────────────────▶│ 30_examples/ │
│ │ │ │
│ 深掘りと │ │ 実際のプロジェクト
│ 評価クックブック │ │ 段階的に複雑に │
└─────────────────┘ └────────────────┘
▲
│
└────────────────────┐ ┌───────────┘
▼ ▼
┌─────────────────────┐
│ 50_contrib/ │
│ │
│ コミュニティ │
│ からの貢献 │
└─────────────────────┘
学べること
| 概念 | 内容 | 重要性 |
|---|---|---|
| トークンバジェット | コンテキスト内のすべてのトークンを最適化 | トークンが多い＝コスト増＆応答速度低下 |
| Few-Shot学習 | 例を示して教える | 説明だけより効果的なことが多い |
| メモリシステム | ターンをまたいで情報を保持 | 状態を持つ、首尾一貫した対話を実現 |
| 検索拡張 | 関連文書を見つけ注入 | 応答を事実に基づかせ、幻覚を低減 |
| 制御フロー | 複雑なタスクをステップに分割 | より単純なプロンプトでより難しい問題を解決 |
| コンテキストプルーニング | 無関係な情報を除去 | パフォーマンスに必要なものだけを保持 |
| メトリクスと評価 | コンテキストの効果を測定 | トークン使用量と品質の反復的最適化 |
| 認知ツールとプロンプトプログラミング | カスタムツールとテンプレートの作成方法を学ぶ | プロンプトプログラミングがコンテキストエンジニアリングの新たな層を可能にする |
| 神経場理論 | コンテキストを神経場として捉える | コンテキストを動的神経場としてモデル化することで反復的なコンテキスト更新が可能に |
| 記号論的メカニズム | 記号論的アーキテクチャが高次推論を可能にする | よりスマートなシステム＝より少ない労力 |
| 量子意味論 | 意味は観測者に依存する | 重ね合わせの技法を活用するコンテキストシステムの設計 |
Karpathy + 3Blue1Brownに触発されたスタイル
あらゆる経験レベルの学習者向け
- 第一原理 – 基本的なコンテキストから始める
- 反復的追加 – モデルに明らかに不足しているものだけを追加する
- すべてを測定する – トークンコスト、レイテンシ、品質スコア
- 容赦なく削除する – パディングよりもプルーニング
- コードがスライドより重要 – すべての概念に実行可能なセルがある
- すべてを可視化する — すべての概念をASCIIと記号ダイアグラムで可視化
研究エビデンス
メモリ + 推論
MEM1: 長時間タスクエージェントのためのメモリと推論の相乗効果学習 - シンガポール-MIT 2025年6月
「我々の結果は、効率とパフォーマンスの両方が最適化される長時間インタラクティブエージェントのトレーニングにおいて、推論駆動型メモリ統合が既存のソリューションに代わるスケーラブルな代替手段として有望であることを示している。」 — シンガポール-MIT
-
MEM1はAIエージェントに、各ステップでメモリと推論を融合させ、重要なものだけを保持するよう訓練するため、タスクがどれだけ長くても圧倒されることはありません。
-
無限にコンテキストを積み上げる代わりに、