Communitygithub.com

HyperFrames 미디어

HyperFrames 컴포지션을 위한 오디오 및 미디어 에셋을 생성합니다. 하나의 공유 오디오 엔진(`scripts/audio.mjs`)으로 TTS, 배경 음악, 음향 효과, 전사, 자막, 배경 제거를 처리합니다.

HyperFrames 미디어란 무엇인가요?

이 스킬은 AI 기반 콘텐츠 제작 워크플로우(예: Claude Code, Cursor 등)를 위해 설계된 HyperFrames 미디어 에셋 생성 도구입니다. `scripts/audio.mjs`라는 단일 오디오 엔진을 중심으로 TTS(HeyGen, ElevenLabs, 로컬 Kokoro), 배경 음악 및 음향 효과(HeyGen 라이브러리 검색 또는 로컬 Lyria/MusicGen 생성), Whisper 기반 전사, 배경 제거, 자막/가라오케 제작을 통합합니다. 핵심 강점은 공급자 체인을 통한 점진적 폴백(fallback)입니다. HeyGen API 키가 있으면 고품질 클라우드 서비스를 사용하고, 없으면 자동으로 로컬 엔진으로 전환되어 어떤 환경에서도 작동합니다. 사용자는 `audio_request.json` 파일로 작업을 정의하고 엔진을 호출하여 `audio_meta.json`과 에셋을 얻습니다. 사전 점검(`npx hyperframes auth status`)을 통해 HeyGen 로그인 상태를 확인하고 사용자에게 결정권을 부여합니다. 모든 오디오 생성은 이 단일 엔진을 통해야 하며, 워크플로우 내에서 자체적으로 TTS/BGM/SFX를 구현하지 말아야 합니다.

지원 대상~Claude Code~Codex CLI~Cursor
npx skills add https://github.com/9018/mychat/tree/HEAD/OpenMontage/.agents/skills/hyperframes-media

즐겨 사용하는 AI에게 물어보기

이 에이전트 스킬이 미리 로드된 새 채팅을 엽니다.

문서

HyperFrames 미디어은(는) 무엇을 하나요?

컴포지션에 필요한 오디오 및 미디어 에셋(보이스오버(TTS), 배경 음악 + 음향 효과, 전사, 자막, 배경 제거)을 생성한 후, 해당 데이터를 HTML에서 소비하고 애니메이션화합니다. 에셋을 컴포지션에 배치하는 방법은 hyperframes-core를 참조하세요.

오디오 엔진 — TTS · BGM · SFX의 단일 소스

워크플로우는 오디오를 수동으로 생성하거나 자체 복사본을 사용하지 않습니다. 하나의 엔진인 scripts/audio.mjs 가 있으며, 이 엔진은 중립적인 audio_request.json을 받아 audio_meta.json(및 assets/voice|bgm|sfx 아래의 에셋)을 작성합니다:

# <MEDIA_DIR> = 이 스킬의 디렉토리
node <MEDIA_DIR>/scripts/audio.mjs --request ./audio_request.json --hyperframes . --out ./audio_meta.json

세 가지 기능 모두 하나의 스위치 — HeyGen 자격 증명의 유무(CLI가 아닌 $HEYGEN_API_KEY / $HYPERFRAMES_API_KEY / ~/.heygen에서 확인)에 따라 작동 방식이 결정됩니다:

기능HeyGen 자격 증명 있음없음
TTSHeyGen Starfish REST (네이티브 단어 타임스탬프)→ ElevenLabs → Kokoro (전사를 위해 transcribe 연결)
BGMHeyGen 음악 검색Lyria → MusicGen 로컬 생성 (분리 실행)
SFXHeyGen 음향 효과 검색 (min_score 0.4)번들 21개 파일 라이브러리 (assets/sfx/)
  • 요청 (audio_request.json): { provider?, lang?, speed?, lines: [{ id, text, sfx?: [names] }], bgm: { mode?, query?, prompt? } }. id는 각 라인을 호출자의 모델(프레임 번호, 씬 ID 등)에 연결합니다. bgm.mode = retrieve | generate | none; 생략 시 자동(자격 증명이 있으면 검색, 없으면 생성). 명시적 retrieve는 엄격합니다 — 분리된 생성을 시작하지 않고 건너뜁니다(wait-bgm 단계가 없는 호출자용).
  • 출력 (audio_meta.json, id 키 기준): { tts_provider, voice_id, bgm, bgm_pending, …, voices: [{ id, path, duration_s, words }], sfx: [{ id, name, file, source, offset_s, duration_s, volume }], total_duration_s }.
  • --only tts,bgm,sfx는 하위 집합을 실행하고 기존 --out에 병합합니다(예: TTS+BGM을 먼저 처리하고, 큐가 생기면 SFX를 나중에 처리).
  • BGM 생성은 분리되어 실행됩니다(bgm_pending: true) — 조립 전에 scripts/wait-bgm.mjs를 실행하세요.
  • scripts/heygen-tts.mjs는 요청 파일 없이 HeyGen TTS만 필요할 때 사용하는 단일 호출 CLI입니다(하나의 텍스트 → wav + 단어).

전체 플래그 목록과 audio_meta.json 스키마는 scripts/audio.mjs의 헤더에 있습니다. 아래 참조는 각 기능의 공급자 세부 정보와 가장자리 사례를 다룹니다.

사전 점검 — 오디오 생성 전 로그인 상태 확인

음성 또는 BGM을 생성하기 전에 항상 다음을 실행하세요 — 전체 워크플로우 내에서든 "BGM/보이스오버 생성" 단일 요청이든 상관없습니다. HeyGen 자격 증명이 없다고 해서 무조건 로컬 엔진으로 폴백하는 것은 아닙니다: 먼저 로그인을 권장하고 사용자가 결정하도록 하세요. 공유 사전 점검을 실행하고 출력을 그대로 전달하세요 — 자체적인 "키 없음" 프롬프트를 즉흥적으로 만들지 말고, 저장소별 .env에 키를 쓰도록 제안하지 마세요:

npx hyperframes auth status
  • 로그인됨 → 계정 정보를 출력합니다. 계속 진행하세요.
  • 로그인되지 않음 (exit 1은 여기서 예상됩니다 — "로그인되지 않음"은 실패가 아닌 정상 상태입니다) → 등록 우선 안내를 출력합니다. 로그인을 권장하세요: npx hyperframes auth login은 브라우저 OAuth입니다 — 로그인하고 계정을 생성합니다(이 저장소의 CLI를 통해 항상 사용 가능). 기존 HeyGen API 키(app.heygen.com/settings/api에서 발급)를 사용하려면 npx hyperframes auth login --api-key를 실행하세요 — 공유 ~/.heygen에 저장됩니다(저장소별 .env 없음). 출력에는 로컬 엔진의 음성/BGM이 폴백될 내용과 종속성이 누락된 경우 pip 힌트도 나열됩니다. 이 출력을 있는 그대로 전달하세요 — 자신의 말로 바꿔 표현하지 마세요. 그런 다음 중단하고 사용자가 선택할 때까지 기다리세요 — 로그인하거나 "go" / "local"이라고 말하여 오프라인으로 계속합니다 — 그 후에야 무언가를 생성하세요. 이것은 단순한 참고 사항이 아닌 실제 결정 지점입니다: 다른 질문에 포함시키지 말고, 스스로 이 단계를 넘어가지 마세요. (예외: 자율 / 비대화형 모드에서는 상태를 기록하고 오프라인으로 계속합니다.)
  • npx hyperframes auth status --json은 결정적 분기를 위해 { configured, recommended_action, offline_engines }을 반환합니다.
  • CLI를 실행할 수 없는 경우(PATH에 없고 npx가 가져올 수 없는 경우) → 여전히 로그인을 권장하고(npx hyperframes auth login), 사용자의 선택을 위해 중단하세요 — "자격 증명 없음"을 로컬 생성을 위한 묵시적 허가로 처리하지 마세요.

자격 증명 확인, 전체 키 우선 순위 및 로컬 종속성 목록은 references/requirements.md에 있습니다.

공급자 체인 (엔진 뒤의 세부 사항)

TTS — 사용 가능한 첫 번째 공급자가 우선합니다(엔진, 또는 npx hyperframes tts "..."):

순서공급자감지 조건단어 타임스탬프
1HeyGen (Starfish)$HEYGEN_API_KEY / hyperframes auth login예, 네이티브 — 캡처하려면 --words narration.words.json 전달
2ElevenLabs$ELEVENLABS_API_KEY 설정됨아니요 — 이후 transcribe 연결
3Kokoro-82M (로컬, 54개 음성)항상 (키 불필요)아니요 — 이후 transcribe 연결

게시된 hyperframes tts CLI는 종종 로컬 전용 빌드입니다(--help에 "Kokoro-82M"이라고 표시되고 --provider/--words가 없음). $HEYGEN_API_KEY가 설정되어 있어도 자동으로 Kokoro로 폴백됩니다. 이것이 엔진의 HeyGen 경로가 CLI가 아닌 자체 포함된 scripts/heygen-tts.mjs(REST)인 이유입니다. CLI는 Kokoro 경로에만 사용됩니다. references/tts.md를 참조하세요.

BGM 및 SFX — 기본적으로 HeyGen 오디오 라이브러리(/v3/audio/sounds)에서 검색되며, HeyGen TTS와 동일한 자격 증명을 사용하고, 위 스위치의 자격 증명 없음 폴백이 적용됩니다:

에셋HeyGen type위치폴백 (자격 증명 없음)
BGMmusicassets/bgm/track.mp3 (검색) · track.wav (생성)Lyria / MusicGen 생성
SFXsound_effects (min_score 0.4)assets/sfx/<slug>.mp3번들 21개 파일 라이브러리 (assets/sfx/* + manifest.json)

references/bgm.md 및 references/sfx.md를 참조하세요.

라우팅

작업읽을 내용
오디오 엔진 — 요청/메타 스키마, --only, 스위치scripts/audio.mjs (헤더 주석)
npx hyperframes tts / heygen-tts.mjs — 공급자, 음성, 단어references/tts.md
BGM — HeyGen 검색 + 로컬 Lyria / MusicGen 생성references/bgm.md
SFX — HeyGen 검색 (min_score 0.4) + 번들 로컬 라이브러리references/sfx.md
npx hyperframes transcribe — Whisper, 모델 규칙, 출력 형태references/transcribe.md
npx hyperframes remove-background — 투명 컷아웃references/remove-background.md
TTS → 전사 → 자막 (녹화된 보이스오버 없음)references/tts-to-captions.md
자막 저작 — 스타일 감지, 레이아웃, 단어 그룹화, 종료references/captions/authoring.md
대본 처리 — 입력 형식, 품질 게이트, 정리, APIreferences/captions/transcript-handling.md
자막 모션 — 가라오케, 마커 효과, 오디오 반응형references/captions/motion.md
모델 캐시, 시스템 종속성, 문제 해결references/requirements.md

절대 규칙

  • 하나의 엔진, 자체 복사본 없음. scripts/audio.mjs(또는 단일 HeyGen TTS의 경우 heygen-tts.mjs)를 통해 오디오를 생성하세요. 워크플로우 내에서 TTS/BGM/SFX를 직접 구현하지 마세요 — audio_request.json 어댑터를 작성하고 엔진을 호출하세요.
  • "HeyGen 사용 가능" = 확인 가능한 자격 증명, CLI가 아님. 전체 스위치는 heygenCredential()을 기준으로 합니다. 게시된 hyperframes tts는 Kokoro 전용일 수 있으며, hyperframes bgm / hyperframes sfx 명령은 아예 없습니다.
  • 음성 ID는 공급자별로 다릅니다. am_michael은 Kokoro 전용입니다. HeyGen UUID는 Kokoro에서 작동하지 않습니다. --voice를 전달하는 경우, 사용자 환경이 변경될 때 자동으로 공급자가 변경되는 것을 방지하기 위해 --provider도 함께 지정하세요.
  • transcribe에는 항상 --model을 전달하세요. CLI 기본값 small.en은 비영어 오디오를 자동으로 번역합니다. references/transcribe.md → "언어 규칙"을 참조하세요.
  • HeyGen은 단어 타임스탬프를 반환합니다. ElevenLabs / Kokoro는 반환하지 않습니다. 엔진은 후자의 두 공급자에 대해 자동으로 transcribe를 연결합니다. 독립 실행형으로 사용할 때는 HeyGen에 --words를 전달하거나 오디오 파일에 대해 transcribe를 실행하세요.
  • 자막은 { id, text, start, end } 형식의 평면 단어 배열을 사용합니다. references/transcribe.md → "출력 형태"를 참조하세요.
  • remove-background --background-output는 구멍을 뚫는(cut-out) 것이지 인페인팅이 아닙니다. "사람 없는 장면"이 필요하면 다른 도구가 필요합니다. references/remove-background.md → "적합하지 않은 경우"를 참조하세요.
  • BGM/SFX는 기본적으로 HeyGen 검색을 사용하며, 자격 증명이 없으면 BGM은 생성, SFX는 번들 라이브러리로 폴백됩니다. /audio/sounds는 텍스트 쿼리로 순위를 매깁니다 — 효과를 구체적으로 명명하세요(glass shatter처럼 dramatic sound는 피하세요). 일치하는 항목이 없어도 건너뛰며, 렌더를 차단하지 않습니다. SFX는 음성 + BGM 아래에서 볼륨 ~0.35로 설정됩니다. references/sfx.md / references/bgm.md를 참조하세요.
  • 워크플로우 자막 HTML은 생성된 출력물로 취급하세요. 사전 설정 기반 비디오의 경우 재사용 가능한 스킨 소스는 .hyperframes/caption-skin.html에 있고, 워크플로우 스크립트는 compositions/captions.html을 작성합니다. 생성된 compositions/captions.html을 편집하여 스킨을 수정하지 마세요. 워크플로우의 captions.mjs를 통해 다시 빌드하거나, 해당 워크플로우의 명시적 재정의 메커니즘을 사용하세요.

Individual skills in this repo

This repo contains 20 individual skills — each has its own dedicated page.

9018/mychat

Generate AI videos from text prompts using multiple provider gateways. Use when: (1) Generating videos from text descriptions, (2) Creating AI-generated video clips for content production, (3) Image-to-video generation with a reference image, (4) Choosing between video generation providers (VEO, Kling, Sora, Runway, Seedance, MiniMax, Gemini Omni). Supports gateways: HeyGen API, fal.ai API, Kling official direct API, and the Gemini API (Gemini Omni Flash).

9018/mychat

Create AI avatar videos with precise control over avatars, voices, scripts, scenes, and backgrounds using HeyGen's v2 API. Use when: (1) Choosing a specific avatar and voice for a video, (2) Writing exact scripts for an avatar to speak, (3) Building multi-scene videos with different backgrounds per scene, (4) Creating transparent WebM videos for compositing, (5) Using talking photos as video presenters, (6) Integrating HeyGen avatars with Remotion, (7) Batch video generation with exact specs, (8) Brand-consistent production videos with precise control.

9018/mychat

Use p5.js/canvas for local procedural character effects: particles, weather, squash/stretch, walk cycles, and environmental motion.

9018/mychat

Review local character animation with schema checks, Playwright browser previews, frame sampling, and FFmpeg/ffprobe final output checks.

9018/mychat

Create videos from a text prompt using HeyGen's Video Agent. Use when: (1) Creating a video from a description or idea, (2) Generating explainer, demo, or marketing videos from a prompt, (3) Making a video without specifying exact avatars, voices, or scenes, (4) Quick video prototyping or drafts, (5) One-shot prompt-to-video generation, (6) User says "make me a video" or "create a video about X".

9018/mychat

Generate Mandarin and multilingual narration with Volcengine Doubao Speech 2.0. Use when creating Chinese voiceovers, when the user prefers Doubao/Volcengine/火山引擎/豆包 TTS, or when narration needs character-level timestamp metadata for subtitles.

9018/mychat

Video and audio processing with FFmpeg. Use for format conversion, resizing, compression, audio extraction, and preparing assets for Remotion. Triggers include converting GIF to MP4, resizing video, extracting audio, compressing files, or any media transformation task.

9018/mychat

Use when implementing Disney's 12 animation principles with Framer Motion in React applications

9018/mychat

All animation knowledge for HyperFrames — atomic motion rules, multi-phase scene blueprints, scene transitions, broader motion-design techniques, AND the seven runtime adapters (GSAP default, plus Lottie, Three.js, Anime.js, CSS keyframes, Web Animations API, TypeGPU). Use for any motion or animation task: pick 2-4 rules and compose, or load a blueprint, or look up runtime-specific API (e.g. GSAP eases / Lottie player / Three.js mixer). HyperFrames-native: single paused timeline, seek-safe, deterministic.

9018/mychat

HyperFrames CLI dev loop. Use when running npx hyperframes init, add, catalog, capture, lint, validate, inspect, layout, snapshot, preview, play, render, publish, lambda, doctor, browser, info, upgrade, skills, compositions, docs, benchmark, telemetry, transcribe, tts, or remove-background, or when troubleshooting the HyperFrames build/render environment. Entry point for AWS Lambda cloud rendering (`hyperframes lambda deploy / render / progress / destroy / policies`).

9018/mychat

The HyperFrames composition contract — build one renderable project. Use for composition structure, the `data-*` timing attributes, `class="clip"`, tracks, sub-compositions, variables, framework-owned media playback, deterministic-render rules, and validation. Read before writing composition HTML.

9018/mychat

Non-animation creative direction for HyperFrames videos. Use for design spec (frame.md / design.md) handling, palettes, typography, narration, beat planning, audio-reactive visuals, composition patterns, and brand / style decisions. For atomic motion patterns and scene blueprints, use `hyperframes-animation`.

9018/mychat

Install and wire registry blocks and components into HyperFrames compositions. Use when running hyperframes add, installing a block or component, wiring an installed item into index.html, or working with hyperframes.json. Covers the add command, install locations, block sub-composition wiring, component snippet merging, registry discovery, and authoring a new block or component to contribute upstream (idea → scaffold → validate → PR).

9018/mychat

Use when the user wants a short, design-led motion graphic where motion is the message: kinetic typography, stat or number count-up, chart/data-viz hit, logo sting, brand lockup, lower-third, callout, social overlay, animated headline/tweet/news item, motion poster, or quick captured-page highlight. Usually under 10s and up to ~30s, with no narration arc, voice-over, or live-action subject. Can render to MP4 or transparent overlay. Not for longer, multi-scene, narrated, or brand-reel pieces (use general-video), narrated website videos (website-to-video), topic explainers (faceless-explainer), product promos (product-launch-video), PR videos (pr-to-video), or captions on existing footage (embedded-captions). When unsure whether it's a quick motion-first piece or a longer / narrated treatment, see /hyperframes.

9018/mychat

Use when the user has a music track (an audio file, or a video to pull audio from) and wants a beat-synced HyperFrames video, calm to hard-hitting. The music drives everything: one analyzer reads it once, the orchestrator lays out the frames and fills a per-frame plan, and one sub-agent builds each frame. Typography and templates are the floor — a complete video needs zero assets — but any images or videos the user supplies are cut into the frames on the same beat grid (beat-cut / ken-burns). The genre (lyric video, slideshow, kinetic promo) falls out of the per-frame choices; the pipeline never branches on it.

9018/mychat

Toolkit-specific Remotion patterns — custom transitions, shared components, and project conventions. For core Remotion framework knowledge (hooks, animations, rendering, etc.), see the `remotion-official` skill.

9018/mychat

Port an existing Remotion (React) composition to HyperFrames HTML. Use ONLY when the user explicitly asks to port/convert/migrate/translate a Remotion source. Do NOT use: (a) authoring a new HyperFrames composition; (b) Remotion mentioned in passing; (c) Remotion code shared as reference only; (d) "same video as my Remotion one" without explicit migrate request — treat as fresh build. Doubt → `/general-video`. One-way, Remotion-only: no reverse export (HyperFrames→Remotion or any framework), no non-Remotion source (After Effects, Framer Motion, plain React/CSS) → out of scope, re-create via `/general-video`. Flags unsupported patterns (useState, useEffect, async calculateMetadata, third-party React libs, `@remotion/lambda`) and recommends runtime interop over lossy translation. Unsure whether to port vs. build fresh, or only a passing Remotion mention? → /hyperframes.

9018/mychat

Animate SVG character rigs with GSAP, CSS transforms, Remotion frame control, and HyperFrames-compatible browser previews.

9018/mychat

Three.js animation - keyframe animation, skeletal animation, morph targets, animation mixing. Use when animating objects, playing GLTF animations, creating procedural motion, or blending animations.

9018/mychat

Download video and audio from YouTube and 1000+ sites using yt-dlp. No API keys needed. Use when: (1) Downloading a video from YouTube or other sites, (2) Extracting audio from a video URL, (3) Downloading subtitles/captions from a video, (4) Getting video metadata without downloading.

관련 스킬