HyperFrames 媒體資產
為創作所需的音訊與媒體資產——配音(TTS)、背景音樂 + 音效、轉錄、字幕、去背——然後在 HTML 中消費這些資料並製作動畫。若要將資產放入組合中,請參閱 hyperframes-core。
音訊引擎——TTS · BGM · SFX 的單一來源
工作流程不應自行處理音訊或使用供應商的複製品。只有一個引擎——scripts/audio.mjs——它接受中性的 audio_request.json 並寫出 audio_meta.json(以及在 assets/voice|bgm|sfx 下的資產):
# <MEDIA_DIR> = 此技能的路徑
node <MEDIA_DIR>/scripts/audio.mjs --request ./audio_request.json --hyperframes . --out ./audio_meta.json
所有三項功能的降級取決於單一切換開關——是否有 HeyGen 憑證(從 $HEYGEN_API_KEY / $HYPERFRAMES_API_KEY / ~/.heygen 解析,不是 CLI 參數):
| 功能 | HeyGen 憑證存在 | 憑證不存在 |
|---|---|---|
| TTS | HeyGen Starfish REST(原生單詞時間戳) | → ElevenLabs → Kokoro(鏈結 transcribe 以取得單詞) |
| BGM | HeyGen 音樂檢索 | Lyria → MusicGen 本機生成(分離執行) |
| SFX | HeyGen 音效檢索(min_score 0.4) | 內建 21 檔案庫(assets/sfx/) |
- 請求(
audio_request.json):{ provider?, lang?, speed?, lines: [{ id, text, sfx?: [names] }], bgm: { mode?, query?, prompt? } }。id將每一行與呼叫者的模型(影格編號、場景 ID 等)連接起來。bgm.mode=retrieve | generate | none;省略則自動(有憑證時檢索,否則生成)。明確的retrieve是嚴格的——它會跳過而非啟動分離的生成(適用於沒有wait-bgm步驟的呼叫者)。 - 輸出(
audio_meta.json,以 ID 為鍵):{ tts_provider, voice_id, bgm, bgm_pending, …, voices: [{ id, path, duration_s, words }], sfx: [{ id, name, file, source, offset_s, duration_s, volume }], total_duration_s }。 --only tts,bgm,sfx執行子集並合併到現有的--out中(例如,提前執行 TTS+BGM,等線索出現後再執行 SFX)。- BGM 生成以分離方式啟動(
bgm_pending: true)——在組合前執行scripts/wait-bgm.mjs。 scripts/heygen-tts.mjs是一個基於相同程式碼的一次性 CLI(一個文本 → wav + 單詞),當你只需要 HeyGen TTS 而無需請求檔案時使用。
完整的選項列表和 audio_meta.json 的結構位於 scripts/audio.mjs 的標頭註解中。下面的參考資料涵蓋了每個功能背後的供應商細節和邊緣情況。
前置檢查——在任何音訊生成前顯示登入狀態
在生成語音或 BGM 之前,始終執行此步驟——無論是在完整工作流程中還是單次「為我生成 BGM/配音」請求中。 沒有 HeyGen 憑證不應被當作默默回退到本機引擎的理由:首先建議登入,讓使用者決定。執行共享的前置檢查並逐字傳遞其輸出——不要自行設計「缺少金鑰」的提示,也不要主動將金鑰寫入每個儲存庫的 .env:
npx hyperframes auth status
- 已登入 → 它會列印帳戶資訊;繼續進行。
- 未登入(
exit 1是預期的——「未登入」是正常狀態,不是失敗)→ 它會列印註冊優先的指引。建議登入:npx hyperframes auth login是瀏覽器 OAuth——它會登入並建立帳戶(始終可透過此儲存庫的 CLI 使用)。要使用現有的 HeyGen API 金鑰(來自 app.heygen.com/settings/api),請執行npx hyperframes auth login --api-key——它會儲存到共享的~/.heygen(無需每個儲存庫的.env)。輸出還會列出語音/BGM 會回退到的本機引擎以及缺少依賴時的pip提示。逐字傳遞此輸出——不要用自己的話重新解釋。 然後停止並等待使用者選擇——登入,或說「go」/「local」以繼續離線進行——在生成任何內容之前。 這是一個真正的決策點,不是一個隨意的備註:不要將其摺疊到另一個問題中,也不要自行越過它。(例外:在自主/非互動模式中,記錄狀態並繼續離線進行。) npx hyperframes auth status --json會返回{ configured, recommended_action, offline_engines }以進行確定性分支。- 如果 CLI 無法執行(不在 PATH 上且
npx無法獲取)→ 仍然建議登入(npx hyperframes auth login)並停止等待使用者選擇——不要把「沒有憑證」當作本機生成的默許綠燈。
憑證解析、完整金鑰優先順序以及本機依賴清單在 references/requirements.md 中。
供應商鏈(引擎背後的細節)
TTS——第一個可用的供應商勝出(引擎,或 npx hyperframes tts "..."):
| 順序 | 供應商 | 偵測時機 | 單詞時間戳 |
|---|---|---|---|
| 1 | HeyGen (Starfish) | $HEYGEN_API_KEY / hyperframes auth login | 是,原生——傳遞 --words narration.words.json 以捕獲 |
| 2 | ElevenLabs | $ELEVENLABS_API_KEY 已設定 | 否——後續鏈結 transcribe |
| 3 | Kokoro-82M(本機,54 種語音) | 始終(無需金鑰) | 否——後續鏈結 transcribe |
已發布的
hyperframes ttsCLI 通常是僅本機的建置(其--help顯示「Kokoro-82M」,沒有--provider/--words),即使設定了$HEYGEN_API_KEY,它也會默默地回退到 Kokoro。這就是為什麼引擎的 HeyGen 路徑是自包含的scripts/heygen-tts.mjs(REST),而不是 CLI;CLI 僅用於 Kokoro 路徑。請參閱references/tts.md。
BGM 與 SFX——預設從 HeyGen 音訊庫檢索(/v3/audio/sounds),使用與 HeyGen TTS 相同的憑證,無憑證時則使用上述開關的回退:
| 資產 | HeyGen type | 存放位置 | 回退(無憑證) |
|---|---|---|---|
| BGM | music | assets/bgm/track.mp3(檢索)· track.wav(生成) | Lyria / MusicGen 生成 |
| SFX | sound_effects(min_score 0.4) | assets/sfx/<slug>.mp3 | 內建 21 檔案庫(assets/sfx/* + manifest.json) |
請參閱 references/bgm.md 和 references/sfx.md。
路由
| 任務 | 閱讀 |
|---|---|
音訊引擎——請求/輸出結構、--only、切換開關 | scripts/audio.mjs(標頭註解) |
npx hyperframes tts / heygen-tts.mjs——供應商、語音、單詞 | references/tts.md |
| BGM——HeyGen 檢索 + 本機 Lyria / MusicGen 生成 | references/bgm.md |
| SFX——HeyGen 檢索(min_score 0.4)+ 內建本機庫 | references/sfx.md |
npx hyperframes transcribe——Whisper、模型規則、輸出格式 | references/transcribe.md |
npx hyperframes remove-background——透明裁剪 | references/remove-background.md |
| TTS → 轉錄 → 字幕(無錄製配音) | references/tts-to-captions.md |
| 字幕撰寫——樣式偵測、佈局、單詞分組、結束 | references/captions/authoring.md |
| 轉錄處理——輸入格式、品質閘門、清理、API | references/captions/transcript-handling.md |
| 字幕動畫——卡拉 OK、標記效果、音訊反應式 | references/captions/motion.md |
| 模型快取、系統依賴、故障排除 | references/requirements.md |
不可協商的規則
- 一個引擎,沒有複製品。 透過
scripts/audio.mjs(或一次性 HeyGen TTS 的heygen-tts.mjs)產生音訊。不要在工作流程中重新實作 TTS/BGM/SFX——請撰寫audio_request.json適配器並呼叫引擎。 - 「HeyGen 可用」= 可解析的憑證,不是 CLI。 整個切換開關以
heygenCredential()為依據;已發布的hyperframes tts可能僅支援 Kokoro,並且根本沒有hyperframes bgm/hyperframes sfx命令。 - 語音 ID 是供應商特定的。
am_michael僅適用於 Kokoro;HeyGen UUID 不適用於 Kokoro。如果你傳遞--voice,也請固定--provider,以避免在使用者環境變更時發生無聲的供應商漂移。 - 始終將
--model傳遞給transcribe。 CLI 預設值small.en會默默地翻譯非英語音訊。請參閱references/transcribe.md→「語言規則」。 - HeyGen 返回單詞時間戳;ElevenLabs / Kokoro 則否。 引擎會自動為後兩者鏈結
transcribe;單獨使用時,請對 HeyGen 傳遞--words,或對音訊檔案執行transcribe。 - 字幕消耗扁平的單詞陣列格式,包含
{ id, text, start, end }。請參閱references/transcribe.md→「輸出格式」。 remove-background --background-output是挖洞,不是修補。 對於「不含人物的場景」,需要不同的工具。請參閱references/remove-background.md→「何時不是正確的工具」。- BGM/SFX 預設為 HeyGen 檢索;無憑證時的回退是生成(BGM)或內建庫(SFX)。
/audio/sounds根據文字查詢排名——具體命名音效(glass shatter,而不是dramatic sound);未匹配則跳過,絕不會阻擋渲染。SFX 在語音 + BGM 下的音量約為 0.35。請參閱references/sfx.md/references/bgm.md。 - 將工作流程字幕 HTML 視為生成的輸出。 對於基於預設的影片,可重複使用的皮膚原始碼位於
.hyperframes/caption-skin.html,而工作流程腳本會寫入compositions/captions.html;不要編輯生成的compositions/captions.html來修復皮膚。請透過工作流程的captions.mjs重建,或在使用時使用該工作流程的顯式覆寫機制。