cli-anything-ollama은(는) 무엇을 하나요?
Ollama REST API를 통한 로컬 LLM 추론 및 모델 관리 도구입니다. GUI 없이 모델을 관리하고, 텍스트를 생성하며, 채팅하고, 임베딩을 생성해야 하는 AI 에이전트와 고급 사용자를 위해 설계되었습니다.
설치
이 CLI는 cli-anything-ollama 패키지의 일부로 설치됩니다.
pip install cli-anything-ollama
필수 구성 요소:
- Python 3.10+
- Ollama가 설치 및 실행 중이어야 함 (
ollama serve)
사용법
기본 명령어
# 도움말 표시
cli-anything-ollama --help
# 대화형 REPL 모드 시작
cli-anything-ollama
# 사용 가능한 모델 목록 조회
cli-anything-ollama model list
# JSON 출력으로 실행 (에이전트 소비용)
cli-anything-ollama --json model list
REPL 모드
하위 명령어 없이 호출하면 CLI는 대화형 REPL 세션으로 진입합니다.
cli-anything-ollama
# 탭 완성 및 히스토리 지원으로 대화형 명령어 입력
명령어 그룹
Model
모델 관리 명령어입니다.
| 명령어 | 설명 |
|---|---|
list | 로컬에서 사용 가능한 모델 목록 조회 |
show | 모델 세부 정보(매개변수, 템플릿, 라이선스) 표시 |
pull | Ollama 라이브러리에서 모델 다운로드 |
rm | 로컬 저장소에서 모델 삭제 |
copy | 모델을 새 이름으로 복사 |
ps | 현재 메모리에 로드된 모델 목록 조회 |
Generate
텍스트 생성 및 채팅 명령어입니다.
| 명령어 | 설명 |
|---|---|
text | 프롬프트로 텍스트 생성 |
chat | 채팅 완성 요청 전송 |
Embed
임베딩 생성 명령어입니다.
| 명령어 | 설명 |
|---|---|
text | 텍스트에 대한 임베딩 생성 |
Server
서버 상태 및 정보 명령어입니다.
| 명령어 | 설명 |
|---|---|
status | Ollama 서버 실행 여부 확인 |
version | Ollama 서버 버전 표시 |
Session
세션 상태 명령어입니다.
| 명령어 | 설명 |
|---|---|
status | 현재 세션 상태 표시 |
history | 현재 세션의 채팅 기록 표시 |
예제
모델 목록 조회 및 다운로드
# 사용 가능한 모델 목록 조회
cli-anything-ollama model list
# 모델 다운로드
cli-anything-ollama model pull llama3.2
# 모델 세부 정보 확인
cli-anything-ollama model show llama3.2
텍스트 생성
# 스트리밍 텍스트 (기본값)
cli-anything-ollama generate text --model llama3.2 --prompt "양자 컴퓨팅을 한 문장으로 설명하세요"
# 비스트리밍 JSON 출력 (에이전트용)
cli-anything-ollama --json generate text --model llama3.2 --prompt "안녕하세요" --no-stream
채팅
# 단일 턴 채팅
cli-anything-ollama generate chat --model llama3.2 --message "user:Python이란 무엇인가요?"
# 다중 턴 채팅
cli-anything-ollama generate chat --model llama3.2 \
--message "user:Python이란 무엇인가요?" \
--message "user:JavaScript와 어떻게 비교되나요?"
# JSON 파일에서 채팅 불러오기
cli-anything-ollama generate chat --model llama3.2 --file messages.json
임베딩
cli-anything-ollama embed text --model nomic-embed-text --input "Hello world"
cli-anything-ollama embed text --model nomic-embed-text --input "Hello" --input "World"
대화형 REPL 세션
탐색적 사용을 위한 대화형 세션을 시작합니다.
cli-anything-ollama
# 대화형으로 명령어 입력
# 사용 가능한 명령어를 보려면 'help' 입력
원격 호스트 연결
cli-anything-ollama --host http://192.168.1.100:11434 model list
상태 관리
CLI는 가벼운 세션 상태를 유지합니다.
- 현재 호스트 URL:
--host로 설정 가능 - 채팅 기록: REPL에서 다중 턴 대화 추적
- 마지막으로 사용한 모델: REPL 프롬프트에 표시
출력 형식
모든 명령어는 두 가지 출력 모드를 지원합니다.
- 사람이 읽기 쉬운 형식 (기본값): 표, 색상, 서식화된 텍스트
- 기계가 읽기 쉬운 형식 (
--json플래그): 에이전트 소비를 위한 구조화된 JSON
# 사람용 출력
cli-anything-ollama model list
# 에이전트용 JSON 출력
cli-anything-ollama --json model list
AI 에이전트용
프로그래밍 방식으로 이 CLI를 사용할 때:
- 항상
--json플래그를 사용하여 파싱 가능한 출력을 받으세요. - 반환 코드를 확인하세요 - 성공 시 0, 오류 시 0이 아닌 값.
- stderr를 파싱하여 오류 발생 시 오류 메시지를 확인하세요.
- generate/chat에서 완전한 응답을 받으려면 **
--no-stream**을 사용하세요. - 다른 명령어를 실행하기 전에
server status로 Ollama 실행 여부를 확인하세요.
추가 정보
- 전체 문서: 패키지 내 README.md 참조
- 테스트 범위: 패키지 내 TEST.md 참조
- 방법론: cli-anything-plugin 내 HARNESS.md 참조
버전
1.0.1