安裝 belt CLI 技能:
npx skills add belt-sh/cli
說話頭部影片製作
透過 inference.sh CLI 製作具備 AI 虛擬人像與嘴型同步的說話頭部影片。
快速開始
需要 inference.sh CLI(
belt)。安裝說明
belt login
# 推薦:P-Video-Avatar(內建文字轉語音,最快、最便宜)
belt app run pruna/p-video-avatar --input '{
"image": "https://portrait.jpg",
"voice_script": "歡迎參加我們的產品導覽。今天我將向您展示三項能讓您每週節省數小時的功能。",
"voice": "Zephyr (Female)"
}'
肖像要求
來源肖像圖片至關重要。差的肖像 = 差的影片輸出。
必備條件
| 要求 | 原因 | 規格 |
|---|---|---|
| 置中構圖 | 虛擬人像的臉需在可預測的位置 | 臉部置中 |
| 頭部與肩膀 | 身體可見以便自然動作 | 裁切至胸部以下 |
| 直視鏡頭 | 與觀眾建立連結 | 正面直視 |
| 中性表情 | 動畫的起點 | 可微帶微笑,勿大笑或皺眉 |
| 清晰臉部 | 模型需能偵測特徵 | 勿戴太陽眼鏡、無厚重陰影或遮擋物 |
| 高解析度 | 保留細節 | 臉部區域至少 512x512,理想 1024x1024 以上 |
生成肖像
# 使用 P-Image 生成專業肖像
belt app run pruna/p-image --input '{
"prompt": "professional headshot portrait of a friendly business person, soft studio lighting, clean grey background, head and shoulders, direct eye contact, neutral pleasant expression, photorealistic",
"aspect_ratio": "9:16"
}'
背景選項
| 類型 | 使用時機 |
|---|---|
| 純色 | 專業、乾淨,易於合成 |
| 柔和散景 | 自然、生活化風格 |
| 辦公室/工作室 | 商業情境 |
| 動態背景(P-Video-Avatar) | 使用 video_prompt 設定背景 |
模型選擇
從 P-Video-Avatar 開始 —— 它比替代方案快 18 倍、便宜 6 倍,並且內建文字轉語音功能。
| 模型 | 應用 ID | 內建文字轉語音 | 最適合 |
|---|---|---|---|
| P-Video-Avatar | pruna/p-video-avatar | 是(30 種語音,10 種語言) | 整體最佳:速度、成本、品質 |
| OmniHuman 1.5 | bytedance/omnihuman-1-5 | 否 | 多角色、手勢 |
| OmniHuman 1.0 | bytedance/omnihuman-1-0 | 否 | 單一角色 |
| Fabric 1.0 | falai/fabric-1-0 | 是 | 圖片說話 + 嘴型同步 |
| PixVerse Lipsync | falai/pixverse-lipsync | 否 | 真實的嘴型同步 |
成本與速度比較
| 模型 | 速度(每秒影片) | 每秒成本 |
|---|---|---|
| P-Video-Avatar | ~1.83 秒 | $0.025 |
| OmniHuman 1.5 | ~28 秒(慢 15 倍) | $0.16(貴 6.4 倍) |
| Fabric 1.0 | ~34 秒(慢 18 倍) | $0.14(貴 5.6 倍) |
製作工作流程
簡易:文字腳本 -> 影片(P-Video-Avatar)
無需另外進行文字轉語音步驟 —— P-Video-Avatar 內建語音:
belt app run pruna/p-video-avatar --input '{
"image": "https://portrait.jpg",
"voice_script": "嗨!今天我很興奮想與您分享一些內容。",
"voice": "Puck (Male)",
"voice_language": "English (US)",
"resolution": "720p"
}'
搭配風格控制
belt app run pruna/p-video-avatar --input '{
"image": "https://portrait.jpg",
"voice_script": "這是我們社群令人振奮的消息!",
"voice": "Aoede (Female)",
"voice_prompt": "熱情且充滿活力的語氣,節奏稍快",
"video_prompt": "此人在舞台上進行簡報,燈光戲劇化",
"resolution": "1080p"
}'
音訊驅動(任何模型)
提供您自己的音訊檔案:
# P-Video-Avatar 搭配自訂音訊
belt app run pruna/p-video-avatar --input '{
"image": "https://portrait.jpg",
"audio": "https://speech.mp3"
}'
# OmniHuman 搭配自訂音訊
belt app run bytedance/omnihuman-1-5 --input '{
"image_url": "https://portrait.jpg",
"audio_url": "https://speech.mp3"
}'
完整工作流程:生成肖像 + 虛擬人像
# 1. 生成肖像圖片
belt app run pruna/p-image --input '{
"prompt": "professional headshot portrait of a young woman, neutral background, looking at camera, studio lighting, photorealistic",
"aspect_ratio": "9:16"
}'
# 2. 使用內建文字轉語音建立虛擬人像影片
belt app run pruna/p-video-avatar --input '{
"image": "<第一步驟的圖片網址>",
"voice_script": "嗨!讓我為您介紹我們最新的功能。",
"voice": "Zephyr (Female)"
}'
搭配獨立文字轉語音(適用於不支援文字轉語音的模型)
# 1. 生成語音
belt app run falai/dia-tts --input '{
"prompt": "[S1] 您的旁白腳本這裡寫。"
}'
# 2. 建立說話頭部影片
belt app run bytedance/omnihuman-1-5 --input '{
"image_url": "https://portrait.jpg",
"audio_url": "<第一步驟的音訊網址>"
}'
多角色對話
OmniHuman 1.5 支援最多 2 個角色:
# 1. 生成兩位講者的對話
belt app run falai/dia-tts --input '{
"prompt": "[S1] 那麼,跟我說說這個新功能吧。 [S2] 當然!我們建立了一個顯示即時分析數據的儀表板。 [S1] 聽起來很棒。花了多久時間? [S2] 從概念到推出大約兩週。"
}'
# 2. 建立雙角色影片
belt app run bytedance/omnihuman-1-5 --input '{
"image_url": "https://two-person-portrait.png",
"audio_url": "<音訊網址>"
}'
長片(拼接片段)
對於長度超過約 60 秒的內容,請分割成段落:
# 使用相同肖像生成片段以保持一致性
belt app run pruna/p-video-avatar --input '{"image": "https://portrait.jpg", "voice_script": "第一段..."}' --no-wait
belt app run pruna/p-video-avatar --input '{"image": "https://portrait.jpg", "voice_script": "第二段..."}' --no-wait
belt app run pruna/p-video-avatar --input '{"image": "https://portrait.jpg", "voice_script": "第三段..."}' --no-wait
# 合併所有片段
belt app run infsh/media-merger --input '{
"media": ["segment1.mp4", "segment2.mp4", "segment3.mp4"]
}'
多語言內容
P-Video-Avatar 內建文字轉語音功能支援 10 種語言:
# 西班牙語
belt app run pruna/p-video-avatar --input '{
"image": "https://portrait.jpg",
"voice_script": "Bienvenidos a nuestra demostración de producto.",
"voice": "Kore (Female)",
"voice_language": "Spanish"
}'
# 日語
belt app run pruna/p-video-avatar --input '{
"image": "https://portrait.jpg",
"voice_script": "こんにちは、製品デモへようこそ。",
"voice": "Leda (Female)",
"voice_language": "Japanese"
}'
為現有影片配音
# 1. 轉錄原始影片
belt app run infsh/fast-whisper-large-v3 --input '{"audio_url": "https://video.mp4"}'
# 2. 翻譯文字(手動或使用 LLM)
# 3. 以新語言生成語音
belt app run infsh/kokoro-tts --input '{"text": "<翻譯後文字>"}'
# 4. 將原始影片與新音訊進行嘴型同步
belt app run infsh/latentsync-1-6 --input '{
"video_url": "https://original-video.mp4",
"audio_url": "<新音訊網址>"
}'
音訊品質(適用於非文字轉語音工作流程)
當您提供自己的音訊時,品質會直接影響嘴型同步的準確性。
| 參數 | 目標 | 原因 |
|---|---|---|
| 背景噪音 | 無 / 極少 | 噪音會干擾嘴型同步時序 |
| 音量 | 全程一致 | 防止同步飄移 |
| 取樣率 | 44.1kHz 或 48kHz | 標準品質 |
| 格式 | MP3 128kbps 以上 或 WAV | 與所有工具相容 |
可用語音(P-Video-Avatar)
女聲: Zephyr, Kore, Leda, Aoede, Callirrhoe, Autonoe, Despina, Erinome, Laomedeia, Achernar, Gacrux, Pulcherrima, Vindemiatrix, Sulafat
男聲: Puck, Charon, Fenrir, Orus, Enceladus, Iapetus, Umbriel, Algenib, Algieba, Schedar, Achird, Zubenelgenubi, Sadachbia, Sadaltager, Alnilam, Rasalgethi
語言: English (US), English (UK), Spanish, French, German, Italian, Portuguese (Brazil), Japanese, Korean, Hindi
構圖指南
┌─────────────────────────────────┐
│ 頭部空間(最小) │
│ ┌───────────────────────────┐ │
│ │ │ │
│ │ ● ─ ─ 眼睛在 1/3 處 ──│─ │ ← 眼睛在頂部 1/3 線
│ │ /│\ │ │
│ │ | 頭部與肩膀 │ │
│ │ / \ 可見 │ │
│ │ │ │
│ └───────────────────────────┘ │
│ 裁切至胸部以下 │
└─────────────────────────────────┘
常見錯誤
| 錯誤 | 問題 | 修正方法 |
|---|---|---|
| 低解析度肖像 | 臉部模糊、嘴型同步不佳 | 使用 1024x1024 以上臉部區域 |
| 側面 / 側角度 | 嘴型同步無法良好追蹤嘴巴 | 使用正面或接近正面 |
| 音訊有噪音 | 嘴型同步偏移、看起來不自然 | 使用內建文字轉語音或錄製乾淨音訊 |
| 片段過長 | 品質降低 | 分成多個片段後拼接 |
| 太陽眼鏡 / 遮擋物 | 臉部特徵被隱藏 | 需露出清晰臉部 |
| 光線不一致 | 動畫後顯得詭異 | 均勻柔和的光線 |
相關技能
# 專門的 P-Video-Avatar 技能
npx skills add inference-sh/skills@p-video-avatar
# 所有虛擬人像模型
npx skills add inference-sh/skills@ai-avatar-video
# 所有影片生成模型
npx skills add inference-sh/skills@ai-video-generation
# 文字轉語音
npx skills add inference-sh/skills@text-to-speech
# 圖片生成(用於肖像)
px skills add inference-sh/skills@ai-image-generation
瀏覽所有應用:belt app list