context-window-management は何をしますか?
LLMのコンテキストウィンドウを管理するための戦略(要約、トリミング、ルーティング、コンテキスト劣化の回避など)
概要
このスキルは、大規模言語モデルのコンテキストウィンドウを効率的に管理するための手法をまとめています。コンテキストウィンドウが大きくなりすぎると、モデルの応答品質が低下したり、トークン制限に達したりする問題を解決します。
主な戦略
1. 要約 (Summarization)
- 長い会話やドキュメントを自動的に要約してコンテキストを圧縮します。
- 重要な情報を保持しながら、トークン使用量を削減します。
2. トリミング (Trimming)
- 最も古いメッセージや不要な情報を削除してコンテキストを短縮します。
- 最新の情報に基づいて応答を生成するのに役立ちます。
3. ルーティング (Routing)
- コンテキストを目的に応じて適切なLLMやプロンプトに振り分けます。
- マルチエージェントシステムやワークフローで特に有用です。
4. コンテキスト劣化の回避 (Avoiding Context Rot)
- コンテキストが古くなったり、矛盾したりするのを防ぐための戦略です。
- 定期的なリフレッシュや整合性チェックを実施します。
対応プラットフォーム
- Claude Code
- Cursor
- Codex
- その他のLLMエージェント
使用方法
各戦略を組み合わせて使用することを推奨します。例えば、要約とトリミングを併用することで、より効果的にコンテキストを管理できます。
# 例: 要約とトリミングの組み合わせ
context_manager.summarize(threshold=0.8)
context_manager.trim(max_tokens=4096)