Communitygithub.com

irandysousa/langgraph-llama-cpp-starter

🤖 Erstellen Sie intelligente, Offline-LLM-Agenten mit LangGraph und llama-cpp-python mithilfe dieser Startvorlage für lokale, private Tool-Aufrufanwendungen.

Was ist langgraph-llama-cpp-starter?

Diese Startvorlage für KI-Agenten ermöglicht es Entwicklern, vollständig lokale und private LLM-Agenten zu erstellen, die ohne Internetverbindung und unter vollständiger Datenkontrolle arbeiten. Sie kombiniert LangGraph, ein Framework für die Erstellung zustandsbehafteter Multi-Schritt-Workflows mit Sprachmodellen, mit llama-cpp-python, einer Python-Bindung für die C++-Implementierung von LLaMA, um leistungsstarke und zugängliche lokale Inferenz zu ermöglichen. Die Vorlage bietet eine vorkonfigurierte Agentenschleife, die Tool-Aufrufe direkt auf dem lokalen Rechner unterstützt, ohne dass ein API-Key oder Cloud-Dienste erforderlich sind. Dies macht sie ideal für datenschutzbewusste Entwickler, die vertrauenswürdige KI-Workflows für sensible Daten, Prototyping, Edge-Computing und ressourcenbeschränkte Umgebungen benötigen. Die Lösung ist plattformunabhängig und mit beliebigen llama.cpp-kompatiblen Modellen nutzbar.

Funktioniert mit~Claude Code~Codex CLI~Cursor
npx skills add irandysousa/langgraph-llama-cpp-starter

In Ihrer bevorzugten KI fragen

Öffnet einen neuen Chat, in dem dieser Agent-Skill bereits geladen ist.

Dokumentation

Was macht langgraph-llama-cpp-starter?

🤖 Erstellen Sie intelligente, Offline-LLM-Agenten mit LangGraph und llama-cpp-python mithilfe dieser Startvorlage für lokale, private Tool-Aufrufanwendungen.

Verwandte Skills