AYastrebov/local-llm-setup

local-llm-setup とは？

このスキルは、llama.cpp を活用してローカル環境で大規模言語モデル (LLM) の推論を実行するためのセットアップを提供します。主に AMD Radeon (ROCm) と Apple Silicon (Metal) をターゲットとしており、各プラットフォーム向けに最適化された起動スクリプトと設定ファイルが含まれています。開発者はこれにより、クラウドに依存せずに高性能なローカル推論を簡単に構築・実行でき、プライバシーを保ちながら高速な応答を得ることが可能です。また、Claude Codeスキルとして統合可能な構成も提供されており、AIエージェントとのシームレスな連携を実現します。このスキルは、コマンドラインから簡単にセットアップできるように設計されており、ROCm や Metal のバックエンドを自動的に検出して適切な config を適用します。