Communitygithub.com

cli-anything-ollama

Lokale LLM-Inferenz und Modellverwaltung über die Ollama REST API. Entwickelt für KI-Agenten und Power-User, die Modelle verwalten, Text generieren, chatten und Embeddings ohne GUI erstellen möchten.

Was ist cli-anything-ollama?

Dieses Skill ermöglicht die lokale Nutzung von Large Language Models (LLMs) über die Ollama REST API. Es ist als CLI-Tool konzipiert und eignet sich ideal für KI-Agenten und Entwickler, die Modelle herunterladen, verwalten und für Textgenerierung, Chat und Embeddings nutzen möchten – alles ohne grafische Oberfläche. Das Tool unterstützt sowohl menschenlesbare Ausgaben für die interaktive Nutzung als auch maschinenlesbares JSON für die Einbindung in Agenten-Workflows. Es bietet einen interaktiven REPL-Modus, umfangreiche Modellverwaltungsfunktionen sowie Serverstatus- und Sitzungsmanagement. Durch die Verwendung von Flags wie `--json` und `--no-stream` können Agenten strukturierte Antworten erhalten und Fehler zuverlässig erkennen.

Funktioniert mit~Claude Code~Codex CLI~Cursor
npx skills add https://github.com/HKUDS/CLI-Anything/tree/main/skills/cli-anything-ollama

In Ihrer bevorzugten KI fragen

Öffnet einen neuen Chat, in dem dieser Agent-Skill bereits geladen ist.

Dokumentation

Was macht cli-anything-ollama?

Lokale LLM-Inferenz und Modellverwaltung über die Ollama REST API. Entwickelt für KI-Agenten und Power-User, die Modelle verwalten, Text generieren, chatten und Embeddings ohne GUI erstellen möchten.

Installation

Dieses CLI wird als Teil des Pakets cli-anything-ollama installiert:

pip install cli-anything-ollama

Voraussetzungen:

  • Python 3.10+
  • Ollama muss installiert und ausgeführt werden (ollama serve)

Verwendung

Grundlegende Befehle

# Hilfe anzeigen
cli-anything-ollama --help

# Interaktiven REPL-Modus starten
cli-anything-ollama

# Verfügbare Modelle auflisten
cli-anything-ollama model list

# Mit JSON-Ausgabe (für Agenten)
cli-anything-ollama --json model list

REPL-Modus

Wenn ohne Unterbefehl aufgerufen, startet das CLI eine interaktive REPL-Sitzung:

cli-anything-ollama
# Befehle interaktiv mit Tab-Vervollständigung und Verlauf eingeben

Befehlsgruppen

Modell

Befehle zur Modellverwaltung.

BefehlBeschreibung
listLokal verfügbare Modelle auflisten
showModelldetails anzeigen (Parameter, Vorlage, Lizenz)
pullEin Modell aus der Ollama-Bibliothek herunterladen
rmEin Modell aus dem lokalen Speicher löschen
copyEin Modell unter einem neuen Namen kopieren
psDerzeit im Speicher geladene Modelle auflisten

Generieren

Befehle zur Textgenerierung und zum Chat.

BefehlBeschreibung
textText aus einer Eingabeaufforderung generieren
chatEine Chat-Vervollständigungsanfrage senden

Embed

Befehle zur Embedding-Erzeugung.

BefehlBeschreibung
textEmbeddings für Text generieren

Server

Serverstatus- und Informationsbefehle.

BefehlBeschreibung
statusPrüfen, ob der Ollama-Server läuft
versionOllama-Serverversion anzeigen

Sitzung

Befehle zum Sitzungszustand.

BefehlBeschreibung
statusAktuellen Sitzungszustand anzeigen
historyChat-Verlauf der aktuellen Sitzung anzeigen

Beispiele

Modelle auflisten und herunterladen

# Verfügbare Modelle auflisten
cli-anything-ollama model list

# Ein Modell herunterladen
cli-anything-ollama model pull llama3.2

# Modelldetails anzeigen
cli-anything-ollama model show llama3.2

Text generieren

# Text streamen (Standard)
cli-anything-ollama generate text --model llama3.2 --prompt "Erklären Sie Quantencomputing in einem Satz"

# Nicht-streamend mit JSON-Ausgabe (für Agenten)
cli-anything-ollama --json generate text --model llama3.2 --prompt "Hallo" --no-stream

Chat

# Einzelner Chat-Durchlauf
cli-anything-ollama generate chat --model llama3.2 --message "user:Was ist Python?"

# Mehrere Chat-Durchläufe
cli-anything-ollama generate chat --model llama3.2 \
  --message "user:Was ist Python?" \
  --message "user:Wie vergleicht es sich mit JavaScript?"

# Chat aus JSON-Datei
cli-anything-ollama generate chat --model llama3.2 --file messages.json

Embeddings

cli-anything-ollama embed text --model nomic-embed-text --input "Hallo Welt"
cli-anything-ollama embed text --model nomic-embed-text --input "Hallo" --input "Welt"

Interaktive REPL-Sitzung

Starten Sie eine interaktive Sitzung für explorative Nutzung.

cli-anything-ollama
# Befehle interaktiv eingeben
# 'help' verwenden, um verfügbare Befehle zu sehen

Mit einem entfernten Host verbinden

cli-anything-ollama --host http://192.168.1.100:11434 model list

Zustandsverwaltung

Das CLI verwaltet einen leichten Sitzungszustand:

  • Aktuelle Host-URL: Konfigurierbar über --host
  • Chat-Verlauf: Für mehrfache Gespräche im REPL verfolgt
  • Zuletzt verwendetes Modell: Im REPL-Prompt angezeigt

Ausgabeformate

Alle Befehle unterstützen zwei Ausgabemodi:

  • Menschenlesbar (Standard): Tabellen, Farben, formatierter Text
  • Maschinenlesbar (--json-Flag): Strukturiertes JSON für Agenten
# Menschliche Ausgabe
cli-anything-ollama model list

# JSON-Ausgabe für Agenten
cli-anything-ollama --json model list

Für KI-Agenten

Bei programmatischer Nutzung dieses CLIs:

  1. Immer das --json-Flag für parsebare Ausgabe verwenden
  2. Rückgabecodes prüfen – 0 für Erfolg, ungleich 0 für Fehler
  3. stderr parsen für Fehlermeldungen bei Fehlschlag
  4. --no-stream für generate/chat verwenden, um vollständige Antworten zu erhalten
  5. Sicherstellen, dass Ollama läuft mit server status vor anderen Befehlen

Weitere Informationen

  • Vollständige Dokumentation: Siehe README.md im Paket
  • Testabdeckung: Siehe TEST.md im Paket
  • Methodik: Siehe HARNESS.md im cli-anything-plugin

Version

1.0.1

Individual skills in this repo

This repo contains 20 individual skills — each has its own dedicated page.

cli-anything-adguardhome

>-

cli-anything-anygen

>-

cli-anything-audacity

>-

cli-anything-blender

>-

cli-anything-browser

Browser automation CLI using DOMShell MCP server. Maps Chrome

cli-anything-calibre

>-

cli-anything-ccswitch

CLI interface for CC Switch — manage AI coding tool configurations from the terminal

cli-anything-chromadb

>-

cli-anything-cloudanalyzer

Command-line interface for CloudAnalyzer — Agent-friendly harness for CloudAnalyzer, a QA platform for mapping, localization, and perception outputs. Supports 27 commands across 8 groups: point cloud evaluation, trajectory evaluation, ground segmentation QA, config-driven quality gates, baseline evolution, processing, visualization, and interactive REPL.

cli-anything-cloudcompare

Command-line interface for CloudCompare — Agent-friendly harness for CloudCompare, the open-source 3D point cloud and mesh processing software. Supports 41 commands across 9 groups: project management, session control, point cloud operations (subsample, filter, segment, analyze), mesh operations, distance computation (C2C, C2M), transformations (ICP, matrix), export (LAS/LAZ/PLY/PCD/OBJ/STL/E57), and interactive REPL.

cli-anything-comfyui

>-

cli-anything-dify-workflow

Wrapper for the Dify workflow DSL CLI. Create, inspect, validate, edit, and export Dify workflow files through a CLI-Anything harness.

cli-anything-drawio

>-

cli-anything-eez-studio

Use EEZ Studio from the command line: inspect and modify native .eez-project files, edit LVGL screens/widgets, manage SCPI commands, and invoke the real EEZ Studio backend for LVGL builds.

cli-anything-eth2-quickstart

>-

cli-anything-exa

>-

cli-anything-firefly-iii

Firefly III CLI - Personal finance management via CLI-Anything

cli-anything-freecad

Complete CLI harness for FreeCAD parametric 3D CAD modeler (258 commands). Covers ALL workbenches: Part (29 primitives + boolean + mirror + loft + sweep), Sketcher (26 cmds: geometry + constraints + editing), PartDesign (38 cmds: pad/pocket/groove/fillet/chamfer/patterns/hole/datum), Assembly (11 cmds), Mesh (16 cmds), TechDraw (15 cmds: views + dimensions + PDF/SVG), Draft (33 cmds: 2D shapes + arrays + transforms), FEM (12 cmds), CAM/CNC (10 cmds), Surface (6 cmds), Spreadsheet (7 cmds), Import (13 formats), Export (17 formats), Measure (12 cmds), Materials (21 presets). Headless FreeCAD export to STEP/IGES/STL/OBJ/DXF/PDF/glTF/3MF.

cli-anything-gimp

>-

cli-anything-godot

>-

Verwandte Skills