FastChat은(는) 무엇을 하나요?
An open platform for training, serving, and evaluating large language models. Release repo for Vicuna and Chatbot Arena.
대규모 언어 모델을 학습, 서빙 및 평가하기 위한 오픈 플랫폼입니다. Vicuna 및 Chatbot Arena의 릴리스 저장소입니다.
lm-sys/FastChat은 대규모 언어 모델(LLM)의 전체 라이프사이클을 관리하기 위한 오픈소스 플랫폼입니다. 이 도구는 LLM 학습, 분산 서빙, 성능 평가를 위한 통합 인터페이스를 제공합니다. 특히 Vicuna 모델의 공식 출시 저장소이자, 사용자들이 다양한 챗봇 모델을 직접 대결시켜 평가할 수 있는 Chatbot Arena 플랫폼의 기반 기술로도 사용됩니다. FastChat은 여러 GPU에서 고성능 추론을 지원하는 분산 서빙 시스템을 갖추고 있으며, 채팅용 웹 UI, OpenAI 호환 RESTful API, 그리고 LLM 성능을 객관적으로 측정할 수 있는 벤치마킹 도구를 포함합니다. Coder와 같은 AI 에이전트 도구와 연동하여 Vicuna 및 기타 오픈소스 LLM을 손쉽게 배포하고 활용할 수 있도록 지원합니다.
npx skills add lm-sys/FastChatInstalled? Explore more 코딩 & 개발 skills: steipete/bluebubbles, steipete/eightctl, steipete/blucli · View all 6 →
An open platform for training, serving, and evaluating large language models. Release repo for Vicuna and Chatbot Arena.
Send and manage iMessages via BlueBubbles, including attachments, tapbacks, edits, replies, and groups.
Control Eight Sleep pods (status, temperature, alarms, schedules).
BluOS CLI (blu) for discovery, playback, grouping, and volume.
Create, search, and manage Bear notes via grizzly CLI.
Capture frames or clips from RTSP/ONVIF cameras.
Search GIF providers with CLI/TUI, download results, and extract stills/sheets.