Communitygithub.com

videoagent-audio-studio

智能音频调度器,分析用户请求并将语音、音乐、音效任务路由到最佳模型(ElevenLabs / fal.ai),返回即用音频 URL。

videoagent-audio-studio 是什么?

VideoAgent Audio Studio 是一个专为 AI Agent 设计的智能音频调度技能,支持文本转语音(TTS)、音乐生成、音效制作及语音克隆。它通过分析用户请求,自动选择 ElevenLabs 或 fal.ai 的最佳模型,并返回可直接使用的音频 URL。该技能基于 MCP 服务器架构,支持低延迟实时 TTS、多语言(29 种语言)高质量语音合成,以及可选的音乐和音效生成。开发人员只需设置 `ELEVENLABS_API_KEY` 即可快速集成,并可选择使用 `FAL_KEY` 启用 fal.ai 模型。技能提供了清晰的快速参考表、示例对话和自托管代理部署指南,适合在 Claude Code、Cursor、Codex 等 AI Agent 平台中使用,尤其适用于需要生成语音旁白、背景音乐或自定义音效的音频制作场景。

兼容平台~Claude Code~Codex CLI~Cursor
npx skills add https://github.com/pexoai/pexo-skills/tree/main/skills/videoagent-audio-studio

在你喜欢的 AI 中提问

打开一个已预加载此 Agent Skill 的新对话。

文档

🎙️ VideoAgent Audio Studio

使用时机: 当用户要求生成语音、朗读文本、创建旁白、作曲或制作音效时。

VideoAgent Audio Studio 是一个智能音频调度器。它会分析你的请求,并将其路由到最佳可用模型——ElevenLabs 用于语音和音乐,fal.ai 用于快速音效——然后返回一个即用的音频 URL。


快速参考

请求类型最佳模型延迟
朗读文本 / 旁白elevenlabs-tts-v3~3s
低延迟 TTS(实时)elevenlabs-tts-turbo<1s
背景音乐cassetteai-music~15s
音效elevenlabs-sfx~10s
从音频克隆声音elevenlabs-voice-clone~10s

使用方法

1. 启动 AudioMind 服务器(每个会话一次)

bash {baseDir}/tools/start_server.sh

这将在端口 8124 上启动 ElevenLabs MCP 服务器。此技能将使用它进行所有音频生成。

2. 路由请求

分析用户请求并通过 MCP 服务器调用适当的工具:

文本转语音(TTS)

当用户要求“朗读”、“读出来”、“说”或“创建旁白”时:

使用 MCP 工具:text_to_speech
  text: "<要朗读的文本>"
  voice_id: "JBFqnCBsd6RMkjVDRZzb"   # 默认:“George”(专业、中性)
  model_id: "eleven_multilingual_v2"   # 低延迟时使用 "eleven_turbo_v2_5"

音乐生成

当用户要求“作曲”、“创建背景音乐”或“制作配乐”时:

使用 MCP 工具:text_to_sound_effects  (通过 fal.ai 的 cassetteai-music)
  prompt: "<音乐描述,例如 '欢快的低保真嘻哈,90 秒'>"
  duration_seconds: <时长>

音效(SFX)

当用户要求特定声音时(例如“门吱嘎作响”、“雨打窗户”):

使用 MCP 工具:text_to_sound_effects
  text: "<声音描述>"
  duration_seconds: <1-22>

语音克隆

当用户提供音频样本并希望克隆声音时:

使用 MCP 工具:voice_add
  name: "<声音名称>"
  files: ["<音频文件 URL>"]

示例对话

用户: “帮我朗读这段文本:欢迎来到我们的产品发布会”

→ 路由到:text_to_speech
  text: "欢迎来到我们的产品发布会"
  voice_id: "JBFqnCBsd6RMkjVDRZzb"
  model_id: "eleven_multilingual_v2"

🎙️ 旁白完成!点此收听


用户: “为播客生成 60 秒放松的背景音乐”

→ 路由到:cassetteai-music (fal.ai)
  prompt: "relaxing lo-fi background music for a podcast, gentle piano and soft beats, 60 seconds"
  duration_seconds: 60

🎵 背景音乐就绪!点此收听


用户: “生成一个科幻风格的门打开音效”

→ 路由到:text_to_sound_effects
  text: "a futuristic sci-fi door sliding open with a hydraulic hiss"
  duration_seconds: 3

设置

必需

在 ~/.openclaw/openclaw.json 中设置 ELEVENLABS_API_KEY:

{
  "skills": {
    "entries": {
      "videoagent-audio-studio": {
        "enabled": true,
        "env": {
          "ELEVENLABS_API_KEY": "your_elevenlabs_key_here"
        }
      }
    }
  }
}

在 elevenlabs.io/app/settings/api-keys 获取你的密钥。

可选(用于 fal.ai 音乐和音效模型)

"FAL_KEY": "your_fal_key_here"

在 fal.ai/dashboard/keys 获取你的密钥。


自托管代理

cli.js 默认连接到托管代理。如果你想完全控制——或者需要为 vercel.app 被屏蔽地区的用户提供服务——你可以从 proxy/ 目录部署你自己的实例。

快速部署(Vercel)

cd proxy
npm install
vercel --prod

环境变量

在 Vercel 项目中设置这些变量(仪表盘 → 设置 → 环境变量):

变量必需用于获取位置
ELEVENLABS_API_KEYTTS、SFX、语音克隆elevenlabs.io/app/settings/api-keys
FAL_KEY音乐生成fal.ai/dashboard/keys
VALID_PRO_KEYS(可选)限制访问允许的客户端密钥列表,用逗号分隔

将 cli.js 指向你的代理

export AUDIOMIND_PROXY_URL="https://your-domain.com/api/audio"

或者在 ~/.openclaw/openclaw.json 中设置:

{
  "skills": {
    "entries": {
      "videoagent-audio-studio": {
        "env": {
          "AUDIOMIND_PROXY_URL": "https://your-domain.com/api/audio"
        }
      }
    }
  }
}

自定义域名(推荐)

如果你的用户在中国大陆,请在 Vercel 仪表盘 → 设置 → 域名中绑定自定义域名,以避免 vercel.app 的 DNS 问题。


模型参考

模型 ID类型提供商备注
eleven_multilingual_v2TTSElevenLabs最佳质量,支持 29 种语言
eleven_turbo_v2_5TTSElevenLabs超低延迟,适合实时场景
eleven_monolingual_v1TTSElevenLabs仅英语,最快
cassetteai-music音乐fal.ai可靠、快速的音乐生成
elevenlabs-sfx音效ElevenLabs高质量音效(最长 22 秒)
elevenlabs-voice-clone克隆ElevenLabs从短音频样本克隆任意声音

更新日志

v3.0.0

  • 简化路由表:从主参考中移除不稳定/离线模型。该技能现在只列出可靠工作的模型。
  • 更清晰的用例触发:添加“使用时机”部分,让 Agent 在正确时刻激活此技能。
  • 统一设置:只需一个 ELEVENLABS_API_KEY 即可开始使用。FAL_KEY 现在变为可选。
  • 移除轮询复杂性:默认使用 cassetteai-music 进行音乐生成,该模型同步完成。

v2.1.0

  • 为长时间运行的音乐生成任务添加异步工作流。
  • 添加 cassetteai-music 作为音乐生成的稳定替代方案。

v2.0.0

  • 迁移到 ElevenLabs MCP 服务器架构。
  • 添加语音克隆支持。

v1.0.0

  • 初始版本,支持 TTS、音乐和音效路由。

Individual skills in this repo

This repo contains 19 individual skills — each has its own dedicated page.

相关技能