hermes98761234/webgpu-agent

webgpu-agent은(는) 무엇을 하나요?

🤖 브라우저 내 AI 에이전트 — WebGPU 로컬 모델, 스킬, MCP, OpenAI/OpenRouter 지원

소개

webgpu-agent는 WebGPU를 사용하여 브라우저 내에서 로컬 대규모 언어 모델(LLM)을 실행할 수 있는 AI 에이전트입니다. 또한 OpenAI, OpenRouter 등 클라우드 기반 AI 서비스도 지원하여 유연성을 제공합니다.

주요 기능

• 로컬 모델: WebGPU를 통해 브라우저에서 직접 로컬 모델 추론 (예: Llama, Mistral, Gemma 등)
• 클라우드 모델: OpenAI, OpenRouter API를 통한 클라우드 모델 지원
• 확장 가능한 스킬: 사용자 정의 스킬을 추가하여 에이전트 기능 확장
• MCP 지원: Model Context Protocol을 통한 컨텍스트 관리 및 통합
• 데이터 프라이버시: 로컬 모델 사용 시 데이터가 브라우저를 벗어나지 않음
• 오프라인 작동: 인터넷 연결 없이도 기본적인 AI 기능 사용 가능

지원 플랫폼

• 브라우저 (Chrome, Edge, Firefox 등 WebGPU 지원 브라우저)
• Node.js (CLI 모드)
• Claude Code, Cursor, Codex 등의 AI 에이전트 플랫폼

설치 및 사용법

브라우저 사용

# 저장소 복제
git clone https://github.com/hermes98761234/webgpu-agent.git
cd webgpu-agent

# 의존성 설치
npm install

# 개발 서버 실행
npm run dev

CLI 사용 (Node.js)

# CLI 도구 실행
node cli.js --model ./models/llama-2-7b-q4f16_1-MLC.gguf

환경 변수 설정

변수명	설명	기본값
OPENAI_API_KEY	OpenAI API 키	없음
OPENROUTER_API_KEY	OpenRouter API 키	없음
LOCAL_MODEL_PATH	로컬 모델 파일 경로	./models
SKILLS_DIR	사용자 정의 스킬 디렉토리	./skills

스킬 시스템

webgpu-agent는 사용자 정의 가능한 스킬 시스템을 제공합니다. 스킬은 ./skills 디렉토리에 마크다운 파일로 정의됩니다.

스킬 예시

#skills/example-skill.md

---
name: example-skill
description: 예제 스킬
---

이 스킬은 특정 작업을 수행합니다. 명령어를 분석하고 적절한 액션을 실행합니다.

MCP (Model Context Protocol)

MCP를 통해 에이전트의 컨텍스트를 관리하고 여러 도구와 통합할 수 있습니다. 다음은 MCP 구성을 위한 예시입니다:

{
  "mcpServers": {
    "filesystem": {
      "command": "npx",
      "args": [
        "-y",
        "@modelcontextprotocol/server-filesystem",
        "/path/to/project"
      ]
    }
  }
}

라이선스

MIT