Communitygithub.com

Army161/OpenMontage

HyperFrames 구성을 위한 오디오 및 미디어 에셋을 생성합니다. 공유 오디오 엔진(scripts/audio.mjs)을 통해 다중 제공자 TTS(HeyGen / ElevenLabs / Kokoro 로컬), 배경 음악 및 효과음, Whisper 전사, 배경 제거, 자막 작성 등을 지원합니다.

OpenMontage란 무엇인가요?

이 스킬은 HyperFrames 구성을 위한 오디오 및 미디어 에셋을 생성하는 Army161/OpenMontage입니다. 하나의 공유 오디오 엔진(`scripts/audio.mjs`)을 통해 TTS(음성 해설), 배경 음악(BGM), 효과음(SFX) 제작, Whisper 기반 전사, 배경 제거, 자막 작성 기능을 제공하며, 생성된 데이터를 HTML에서 소비하고 애니메이션화할 수 있습니다. 가장 큰 특징은 HeyGen 자격 증명 유무에 따라 자동으로 제공자를 전환하는 '스위치' 메커니즘입니다. HeyGen 자격 증명이 있으면 HeyGen Starfish TTS(네이티브 워드 타임스탬프), 음악 검색, 효과음 검색을 사용하고, 없으면 ElevenLabs → Kokoro(로컬 TTS), Lyria/MusicGen(로컬 BGM 생성), 번들 SFX 라이브러리로 폴백합니다. 또한, 오디오를 생성하기 전에 반드시 `npx hyperframes auth status`를 실행하여 HeyGen 로그인 상태를 확인하고 사용자에게 선택권을 주어야 합니다. 이 스킬은 Claude Code, Cursor, Codex 등 다양한 AI 에이전트 플랫폼에서 사용할 수 있으며, 오디오 에셋 제작 파이프라인을 단일화하고 벤더 종속성을 없애는 데 중점을 둡니다.

지원 대상~Claude Code~Codex CLI~Cursor
npx skills add https://github.com/Army161/OpenMontage/tree/HEAD/.agents/skills/hyperframes-media

즐겨 사용하는 AI에게 물어보기

이 에이전트 스킬이 미리 로드된 새 채팅을 엽니다.

문서

HyperFrames 미디어

구성(composition)에 필요한 오디오 및 미디어 에셋 — 음성 해설(TTS), 배경 음악 + 효과음, 전사, 자막, 배경 제거 — 을 생성하고 HTML에서 해당 데이터를 소비하고 애니메이션화합니다. 에셋을 구성에 배치하려면 hyperframes-core를 참조하세요.

오디오 엔진 — TTS · BGM · SFX를 위한 단일 소스

워크플로우는 오디오를 직접 처리하거나 벤더 복사본을 사용하지 않습니다. 하나의 엔진 — scripts/audio.mjs — 이 중립적인 audio_request.json을 받아 audio_meta.json(및 assets/voice|bgm|sfx 아래의 에셋)을 작성합니다.

# <MEDIA_DIR> = 이 스킬의 디렉터리
node <MEDIA_DIR>/scripts/audio.mjs --request ./audio_request.json --hyperframes . --out ./audio_meta.json

세 가지 기능 모두 하나의 스위치 — HeyGen 자격 증명 존재 여부($HEYGEN_API_KEY / $HYPERFRAMES_API_KEY / ~/.heygen에서 확인, CLI 아님)에 따라 저하됩니다.

기능HeyGen 자격 증명 있음없음
TTSHeyGen Starfish REST (네이티브 워드 타임스탬프)→ ElevenLabs → Kokoro (transcribe 체인으로 워드 획득)
BGMHeyGen 음악 검색Lyria → MusicGen 로컬 생성 (분리형)
SFXHeyGen 효과음 검색 (min_score 0.4)번들 21개 파일 라이브러리 (assets/sfx/)
  • 요청 (audio_request.json): { provider?, lang?, speed?, lines: [{ id, text, sfx?: [names] }], bgm: { mode?, query?, prompt? } }. id는 각 라인을 호출자의 모델(프레임 번호, 씬 ID 등)에 연결합니다. bgm.mode = retrieve | generate | none; 생략 시 자동(자격 증명 있으면 검색, 없으면 생성). 명시적 retrieve는 엄격합니다 — 분리된 생성을 시작하는 대신 건너뜁니다(대기 BGM 단계가 없는 호출자용).
  • 출력 (audio_meta.json, id 키 기반): { tts_provider, voice_id, bgm, bgm_pending, …, voices: [{ id, path, duration_s, words }], sfx: [{ id, name, file, source, offset_s, duration_s, volume }], total_duration_s }.
  • --only tts,bgm,sfx는 하위 집합을 실행하고 기존 --out에 병합합니다(예: TTS+BGM을 먼저, SFX는 큐가 준비된 후).
  • BGM 생성은 분리되어 시작됩니다(bgm_pending: true). 조립 전에 scripts/wait-bgm.mjs를 실행하세요.
  • scripts/heygen-tts.mjs는 동일한 코드를 사용하는 단일 샷 CLI입니다(요청 파일 없이 하나의 텍스트 → wav + 워드).

전체 플래그 목록과 audio_meta.json 스키마는 scripts/audio.mjs의 헤더 주석에 있습니다. 아래 참조는 각 기능 뒤에 있는 제공자 세부 정보 및 엣지 케이스를 다룹니다.

사전 점검 — 오디오 생성 전 로그인 상태 표시

전체 워크플로우 내에서든 일회성 "BGM/음성 해설 생성" 요청에서든 음성 또는 BGM을 생성하기 전에 항상 이 작업을 실행하세요. HeyGen 자격 증명이 없다고 해서 자동으로 로컬 엔진으로 폴백해서는 안 됩니다. 먼저 로그인을 권장하고 사용자가 결정하도록 하세요. 공유 사전 점검을 실행하고 출력을 그대로 전달하세요 — 자체적인 "키 누락" 프롬프트를 즉석에서 만들지 말고, 리포지토리별 .env에 키를 쓰겠다고 제안하지 마세요.

npx hyperframes auth status
  • 로그인됨 → 계정 정보 출력, 진행.
  • 로그인 안 됨 (exit 1은 예상됨 — "로그인 안 됨"은 실패가 아닌 정상 상태) → 등록 우선 안내 출력. 로그인 권장: npx hyperframes auth login은 브라우저 OAuth입니다 — 로그인 및 계정 생성 (이 리포지토리 CLI를 통해 항상 사용 가능). 기존 HeyGen API 키(app.heygen.com/settings/api)를 사용하려면 npx hyperframes auth login --api-key 실행 — 공유 ~/.heygen에 저장됨(리포지토리별 .env 없음). 출력에는 로컬 엔진 음성/BGM이 폴백될 목록과 종속성 누락 시 pip 힌트도 포함됩니다. 이 출력을 그대로 전달하세요 — 자신의 말로 바꾸지 마세요. 그런 다음 중단하고 사용자가 선택하기를 기다리세요 — 로그인하거나, "go" / "local"이라고 말하여 오프라인으로 계속 진행하거나 — 무엇이든 생성하기 전에. 이는 지나가는 참고 사항이 아닌 실제 결정 지점입니다. 다른 질문에 포함시키거나 스스로 진행하지 마세요. (예외: 자율 / 비대화형 모드에서는 상태를 기록하고 오프라인으로 계속 진행합니다.)
  • npx hyperframes auth status --json은 결정적 분기를 위해 { configured, recommended_action, offline_engines }를 반환합니다.
  • CLI를 실행할 수 없는 경우 (PATH에 없고 npx가 가져올 수 없는 경우) → 여전히 로그인 권장 (npx hyperframes auth login)하고 사용자의 선택을 위해 중단하세요 — "자격 증명 없음"을 로컬 생성의 묵시적 허가로 취급하지 마세요.

자격 증명 해결, 전체 키 우선순위 및 로컬 종속성 목록은 references/requirements.md에 있습니다.

제공자 체인(엔진 뒤의 세부 사항)

TTS — 사용 가능한 첫 번째 제공자가 우선합니다(엔진 또는 npx hyperframes tts "...")

순서제공자감지 시점워드 타임스탬프
1HeyGen (Starfish)$HEYGEN_API_KEY / hyperframes auth login예, 네이티브 — --words narration.words.json 전달로 캡처
2ElevenLabs$ELEVENLABS_API_KEY 설정아니요 — 이후 transcribe 체인
3Kokoro-82M (로컬, 54개 음성)항상 (키 불필요)아니요 — 이후 transcribe 체인

게시된 hyperframes tts CLI는 종종 로컬 전용 빌드입니다(--help에 "Kokoro-82M"이라고 표시되고 --provider/--words 없음) $HEYGEN_API_KEY가 설정되어 있어도 자동으로 Kokoro로 폴백합니다. 이것이 엔진의 HeyGen 경로가 CLI가 아닌 자체 포함된 scripts/heygen-tts.mjs(REST)인 이유입니다. CLI는 Kokoro 경로에만 사용됩니다. references/tts.md 참조.

BGM 및 SFX — 기본적으로 HeyGen 오디오 라이브러리(/v3/audio/sounds)에서 검색되며, HeyGen TTS와 동일한 자격 증명을 사용하고, 위 스위치의 자격 증명 없는 폴백이 적용됩니다.

에셋HeyGen type위치폴백 (자격 증명 없음)
BGMmusicassets/bgm/track.mp3 (검색) · track.wav (생성)Lyria / MusicGen 생성
SFXsound_effects (min_score 0.4)assets/sfx/<slug>.mp3번들 21개 파일 라이브러리 (assets/sfx/* + manifest.json)

references/bgm.md 및 references/sfx.md 참조.

라우팅

작업읽을 문서
오디오 엔진 — 요청/메타 스키마, --only, 스위치scripts/audio.mjs (헤더 주석)
npx hyperframes tts / heygen-tts.mjs — 제공자, 음성, 워드references/tts.md
BGM — HeyGen 검색 + 로컬 Lyria / MusicGen 생성references/bgm.md
SFX — HeyGen 검색 (min_score 0.4) + 번들 로컬 라이브러리references/sfx.md
npx hyperframes transcribe — Whisper, 모델 규칙, 출력 형태references/transcribe.md
npx hyperframes remove-background — 투명 컷아웃references/remove-background.md
TTS → 전사 → 자막 (녹음된 음성 해설 없음)references/tts-to-captions.md
자막 작성 — 스타일 감지, 레이아웃, 단어 그룹화, 종료references/captions/authoring.md
대본 처리 — 입력 형식, 품질 게이트, 정리, APIreferences/captions/transcript-handling.md
자막 모션 — 가라오케, 마커 효과, 오디오 반응references/captions/motion.md
모델 캐시, 시스템 종속성, 문제 해결references/requirements.md

비협상 규칙

  • 하나의 엔진, 벤더 복사본 없음. scripts/audio.mjs(또는 일회성 HeyGen TTS용 heygen-tts.mjs)를 통해 오디오를 생성하세요. 워크플로우 내에서 TTS/BGM/SFX를 직접 구현하지 마세요 — audio_request.json 어댑터를 작성하고 엔진을 호출하세요.
  • "HeyGen 사용 가능" = 해결 가능한 자격 증명, CLI가 아님. 전체 스위치는 heygenCredential()을 기준으로 합니다. 게시된 hyperframes tts는 Kokoro 전용일 수 있으며, hyperframes bgm / hyperframes sfx 명령은 전혀 없습니다.
  • 음성 ID는 제공자별로 다릅니다. am_michael은 Kokoro 전용입니다. HeyGen UUID는 Kokoro에서 작동하지 않습니다. --voice를 전달하는 경우 사용자 환경이 변경될 때 자동 제공자 변경을 방지하기 위해 --provider도 고정하세요.
  • 항상 transcribe에 --model을 전달하세요. CLI 기본값 small.en은 비영어 오디오를 자동으로 번역합니다. references/transcribe.md → "언어 규칙" 참조.
  • HeyGen은 워드 타임스탬프를 반환하고, ElevenLabs / Kokoro는 반환하지 않습니다. 엔진은 후자 두 가지에 대해 자동으로 transcribe를 체인합니다. 독립 실행형의 경우 HeyGen에 --words를 전달하거나 오디오 파일에 대해 transcribe를 실행하세요.
  • 자막은 평면 단어 배열 형식 { id, text, start, end }을 사용합니다. references/transcribe.md → "출력 형태" 참조.
  • remove-background --background-output는 홀 컷(hole-cut)이지 인페인트(inpainted)가 아닙니다. "사람 없는 장면"에는 다른 도구가 필요합니다. references/remove-background.md → "적합하지 않은 경우" 참조.
  • BGM/SFX는 기본적으로 HeyGen 검색을 사용하고, 자격 증명 없는 폴백은 BGM 생성 또는 번들 SFX 라이브러리입니다. /audio/sounds는 텍스트 쿼리로 순위를 매깁니다. 효과를 구체적으로 지정하세요(dramatic sound 대신 glass shatter). 일치 항목이 없으면 건너뛰고 렌더를 차단하지 않습니다. SFX는 음성 + BGM 아래에서 볼륨 ~0.35에 위치합니다. references/sfx.md / references/bgm.md 참조.
  • 워크플로우 자막 HTML을 생성된 출력으로 취급하세요. 사전 설정 기반 비디오의 경우 재사용 가능한 스킨 소스는 .hyperframes/caption-skin.html에 있고 워크플로 스크립트는 compositions/captions.html을 작성합니다. 스킨을 수정하기 위해 생성된 compositions/captions.html을 편집하지 마세요. 워크플로우의 captions.mjs를 통해 재구축하거나, 해당 워크플로우의 명시적 재정의 메커니즘을 사용하세요.

Individual skills in this repo

This repo contains 20 individual skills — each has its own dedicated page.

Army161/OpenMontage

Generate AI videos from text prompts using multiple provider gateways. Use when: (1) Generating videos from text descriptions, (2) Creating AI-generated video clips for content production, (3) Image-to-video generation with a reference image, (4) Choosing between video generation providers (VEO, Kling, Sora, Runway, Seedance, MiniMax). Supports two gateways: HeyGen API and fal.ai API.

Army161/OpenMontage

Create AI avatar videos with precise control over avatars, voices, scripts, scenes, and backgrounds using HeyGen's v2 API. Use when: (1) Choosing a specific avatar and voice for a video, (2) Writing exact scripts for an avatar to speak, (3) Building multi-scene videos with different backgrounds per scene, (4) Creating transparent WebM videos for compositing, (5) Using talking photos as video presenters, (6) Integrating HeyGen avatars with Remotion, (7) Batch video generation with exact specs, (8) Brand-consistent production videos with precise control.

Army161/OpenMontage

Use p5.js/canvas for local procedural character effects: particles, weather, squash/stretch, walk cycles, and environmental motion.

Army161/OpenMontage

Review local character animation with schema checks, Playwright browser previews, frame sampling, and FFmpeg/ffprobe final output checks.

Army161/OpenMontage

Create videos from a text prompt using HeyGen's Video Agent. Use when: (1) Creating a video from a description or idea, (2) Generating explainer, demo, or marketing videos from a prompt, (3) Making a video without specifying exact avatars, voices, or scenes, (4) Quick video prototyping or drafts, (5) One-shot prompt-to-video generation, (6) User says "make me a video" or "create a video about X".

Army161/OpenMontage

Generate Mandarin and multilingual narration with Volcengine Doubao Speech 2.0. Use when creating Chinese voiceovers, when the user prefers Doubao/Volcengine/火山引擎/豆包 TTS, or when narration needs character-level timestamp metadata for subtitles.

Army161/OpenMontage

Video and audio processing with FFmpeg. Use for format conversion, resizing, compression, audio extraction, and preparing assets for Remotion. Triggers include converting GIF to MP4, resizing video, extracting audio, compressing files, or any media transformation task.

Army161/OpenMontage

Use when implementing Disney's 12 animation principles with Framer Motion in React applications

Army161/OpenMontage

All animation knowledge for HyperFrames — atomic motion rules, multi-phase scene blueprints, scene transitions, broader motion-design techniques, AND the seven runtime adapters (GSAP default, plus Lottie, Three.js, Anime.js, CSS keyframes, Web Animations API, TypeGPU). Use for any motion or animation task: pick 2-4 rules and compose, or load a blueprint, or look up runtime-specific API (e.g. GSAP eases / Lottie player / Three.js mixer). HyperFrames-native: single paused timeline, seek-safe, deterministic.

Army161/OpenMontage

HyperFrames CLI dev loop. Use when running npx hyperframes init, add, catalog, capture, lint, validate, inspect, layout, snapshot, preview, play, render, publish, lambda, doctor, browser, info, upgrade, skills, compositions, docs, benchmark, telemetry, transcribe, tts, or remove-background, or when troubleshooting the HyperFrames build/render environment. Entry point for AWS Lambda cloud rendering (`hyperframes lambda deploy / render / progress / destroy / policies`).

Army161/OpenMontage

The HyperFrames composition contract — build one renderable project. Use for composition structure, the `data-*` timing attributes, `class="clip"`, tracks, sub-compositions, variables, framework-owned media playback, deterministic-render rules, and validation. Read before writing composition HTML.

Army161/OpenMontage

Non-animation creative direction for HyperFrames videos. Use for design spec (frame.md / design.md) handling, palettes, typography, narration, beat planning, audio-reactive visuals, composition patterns, and brand / style decisions. For atomic motion patterns and scene blueprints, use `hyperframes-animation`.

Army161/OpenMontage

Install and wire registry blocks and components into HyperFrames compositions. Use when running hyperframes add, installing a block or component, wiring an installed item into index.html, or working with hyperframes.json. Covers the add command, install locations, block sub-composition wiring, component snippet merging, registry discovery, and authoring a new block or component to contribute upstream (idea → scaffold → validate → PR).

Army161/OpenMontage

Use when the user wants a short, design-led motion graphic where motion is the message: kinetic typography, stat or number count-up, chart/data-viz hit, logo sting, brand lockup, lower-third, callout, social overlay, animated headline/tweet/news item, motion poster, or quick captured-page highlight. Usually under 10s and up to ~30s, with no narration arc, voice-over, or live-action subject. Can render to MP4 or transparent overlay. Not for longer, multi-scene, narrated, or brand-reel pieces (use general-video), narrated website videos (website-to-video), topic explainers (faceless-explainer), product promos (product-launch-video), PR videos (pr-to-video), or captions on existing footage (embedded-captions). When unsure whether it's a quick motion-first piece or a longer / narrated treatment, see /hyperframes.

Army161/OpenMontage

Use when the user has a music track (an audio file, or a video to pull audio from) and wants a beat-synced HyperFrames video, calm to hard-hitting. The music drives everything: one analyzer reads it once, the orchestrator lays out the frames and fills a per-frame plan, and one sub-agent builds each frame. Typography and templates are the floor — a complete video needs zero assets — but any images or videos the user supplies are cut into the frames on the same beat grid (beat-cut / ken-burns). The genre (lyric video, slideshow, kinetic promo) falls out of the per-frame choices; the pipeline never branches on it.

Army161/OpenMontage

Best practices for Remotion - Video creation in React

Army161/OpenMontage

Toolkit-specific Remotion patterns — custom transitions, shared components, and project conventions. For core Remotion framework knowledge (hooks, animations, rendering, etc.), see the `remotion-official` skill.

Army161/OpenMontage

Port an existing Remotion (React) composition to HyperFrames HTML. Use ONLY when the user explicitly asks to port/convert/migrate/translate a Remotion source. Do NOT use: (a) authoring a new HyperFrames composition; (b) Remotion mentioned in passing; (c) Remotion code shared as reference only; (d) "same video as my Remotion one" without explicit migrate request — treat as fresh build. Doubt → `/general-video`. One-way, Remotion-only: no reverse export (HyperFrames→Remotion or any framework), no non-Remotion source (After Effects, Framer Motion, plain React/CSS) → out of scope, re-create via `/general-video`. Flags unsupported patterns (useState, useEffect, async calculateMetadata, third-party React libs, `@remotion/lambda`) and recommends runtime interop over lossy translation. Unsure whether to port vs. build fresh, or only a passing Remotion mention? → /hyperframes.

Army161/OpenMontage

Animate SVG character rigs with GSAP, CSS transforms, Remotion frame control, and HyperFrames-compatible browser previews.

Army161/OpenMontage

Three.js animation - keyframe animation, skeletal animation, morph targets, animation mixing. Use when animating objects, playing GLTF animations, creating procedural motion, or blending animations.

관련 스킬