pastura は何をしますか?
AIgazing。ローカルLLMのためのスタゲージングのようなもの。
このスキルは、ローカル環境で動作する大規模言語モデル(LLM)を観賞・探索するためのツールです。星空観賞のように、モデルが生成する応答や推論のプロセスを視覚的に楽しむことができます。
主な機能
- ローカルLLMのリアルタイム応答の可視化
- 複数モデルの比較表示(Ollama、llama.cpp、Hugging Face Transformers対応)
- プライバシーを重視した完全ローカル動作(インターネット接続不要)
- 拡張可能なプラグインアーキテクチャ
使用方法
# インストール
git clone https://github.com/tyabu12/pastura.git
cd pastura
npm install
# 起動
npm start
環境変数
LLM_ENDPOINT: ローカルLLMのエンドポイントURL(デフォルト:http://localhost:11434)MODEL_NAME: 使用するモデル名(例:llama3)
サポートプラットフォーム
注意: このツールは実験的なものであり、ローカルLLMの探索を目的としています。本番環境での使用は想定していません。