Communitygithub.com

Aseel1600/Edit01

HyperFrames 컴포지션을 위한 오디오 및 미디어 에셋을 생성합니다. 하나의 공유 오디오 엔진(`scripts/audio.mjs`)으로 TTS(다중 제공자), 배경 음악 및 음향 효과, Whisper 기반 전사, 배경 제거, 자막 작성을 지원합니다.

Edit01란 무엇인가요?

이 스킬은 HyperFrames 컴포지션을 위한 오디오 및 미디어 에셋의 전체 생성 파이프라인을 단일 엔진(`scripts/audio.mjs`)으로 통합합니다. TTS는 HeyGen(기본, 단어 타임스탬프 포함), ElevenLabs, Kokoro 로컬 모델을 순차적으로 폴백하며, 배경 음악(BGM)과 음향 효과(SFX)는 HeyGen API를 통한 검색을 기본으로 하고 자격 증명이 없을 경우 각각 로컬 Lyria/MusicGen 생성과 번들 SFX 라이브러리로 대체됩니다. Whisper를 통한 오디오 전사, 배경 제거, 그리고 단어별 스타일링이 가능한 고급 자막(가라오케 효과 포함) 작성을 지원합니다. 모든 작업 전에는 `npx hyperframes auth status`를 통해 HeyGen 로그인 상태를 확인하고 사용자에게 명시적인 선택을 요구하며, 비대화형 모드가 아니라면 자격 증명 없이 자동으로 로컬 엔진으로 폴백하지 않습니다. TTS 제공자 선택, 음성 ID, BGM 분위기 프롬프트, SFX 구체적인 이름 지정 등 세부적인 제어가 가능하며, 최종 결과물은 HTML에서 소비 및 애니메이션화할 수 있는 `audio_meta.json` 형식으로 출력됩니다.

지원 대상~Claude Code~Codex CLI~Cursor
npx skills add https://github.com/Aseel1600/Edit01/tree/HEAD/.agents/skills/hyperframes-media

즐겨 사용하는 AI에게 물어보기

이 에이전트 스킬이 미리 로드된 새 채팅을 엽니다.

문서

HyperFrames Media(미디어)

컴포지션에 필요한 오디오 및 미디어 에셋(내레이션(TTS), 배경 음악 + 음향 효과, 전사, 자막, 배경 제거)을 생성하고, 해당 데이터를 HTML에서 소비 및 애니메이션화합니다. 에셋을 컴포지션에 배치하려면 hyperframes-core를 참조하세요.

오디오 엔진 — TTS · BGM · SFX를 위한 단일 소스

워크플로우는 오디오를 직접 구현하거나 복사본을 만들지 않습니다. 하나의 엔진 — scripts/audio.mjs — 이 중립적인 audio_request.json을 받아 audio_meta.json(및 assets/voice|bgm|sfx 아래의 에셋)을 작성합니다:

# <MEDIA_DIR> = 이 스킬의 디렉터리
node <MEDIA_DIR>/scripts/audio.mjs --request ./audio_request.json --hyperframes . --out ./audio_meta.json

세 가지 기능 모두 하나의 스위치 — HeyGen 자격 증명 존재 여부($HEYGEN_API_KEY / $HYPERFRAMES_API_KEY / ~/.heygen에서 확인, CLI가 아님)에 따라 성능이 달라집니다:

기능HeyGen 자격 증명 있음HeyGen 자격 증명 없음
TTSHeyGen Starfish REST (네이티브 단어 타임스탬프)→ ElevenLabs → Kokoro (단어 추출을 위해 transcribe 연결)
BGMHeyGen 음악 검색Lyria → MusicGen 로컬 생성 (분리 실행)
SFXHeyGen 음향 효과 검색 (최소 점수 0.4)번들 21개 파일 라이브러리 (assets/sfx/)
  • 요청 (audio_request.json): { provider?, lang?, speed?, lines: [{ id, text, sfx?: [names] }], bgm: { mode?, query?, prompt? } }. id는 각 라인을 호출자의 모델(프레임 번호, 씬 ID 등)에 연결합니다. bgm.mode = retrieve | generate | none; 생략 시 자동(자격 증명 있으면 retrieve, 없으면 generate). 명시적인 retrieve는 엄격합니다 — 분리 생성(generate)을 시작하지 않고 건너뜁니다 (wait-bgm 단계가 없는 호출자를 위함).
  • 출력 (audio_meta.json, ID 키 기준): { tts_provider, voice_id, bgm, bgm_pending, …, voices: [{ id, path, duration_s, words }], sfx: [{ id, name, file, source, offset_s, duration_s, volume }], total_duration_s }.
  • --only tts,bgm,sfx는 하위 집합을 실행하고 기존 --out에 병합합니다 (예: TTS+BGM을 먼저, SFX는 큐가 생긴 후에).
  • BGM 생성은 분리되어 실행됩니다 (bgm_pending: true) — 조립 전에 scripts/wait-bgm.mjs를 실행하세요.
  • scripts/heygen-tts.mjs는 동일한 코드를 사용하는 단일 실행 CLI입니다 (요청 파일 없이 하나의 텍스트 → wav + 단어).

전체 플래그 목록과 audio_meta.json 스키마는 scripts/audio.mjs 헤더에 있습니다. 아래 참조는 각 기능 뒤에 있는 제공자 세부 정보와 가장자리 사례를 다룹니다.

사전 점검 — 오디오 생성 전 로그인 상태 표시

음성 또는 BGM을 생성하기 전에 항상 실행하세요 — 전체 워크플로우 내에서든 "BGM/내레이션 생성" 단일 요청이든 상관없습니다. HeyGen 자격 증명이 없다고 해서 자동으로 로컬 엔진으로 폴백해서는 안 됩니다: 먼저 로그인을 권장하고 사용자가 결정하도록 해야 합니다. 공유 사전 점검을 실행하고 그 출력을 그대로 전달하세요 — 자체 "키 없음" 프롬프트를 즉흥적으로 만들지 말고, 키를 저장소별 .env에 쓰겠다고 제안하지 마세요:

npx hyperframes auth status
  • 로그인됨 → 계정 정보를 출력합니다. 계속 진행하세요.
  • 로그인되지 않음 (exit 1은 여기서 예상됩니다 — "로그인되지 않음"은 정상 상태이지 실패가 아님) → 등록 우선 안내를 출력합니다. 로그인을 권장하세요: npx hyperframes auth login은 브라우저 OAuth입니다 — 로그인하고 계정을 생성합니다 (이 저장소의 CLI를 통해 항상 사용 가능). 기존 HeyGen API 키(app.heygen.com/settings/api)를 사용하려면 npx hyperframes auth login --api-key를 실행하세요 — 공유 ~/.heygen에 저장됩니다 (저장소별 .env 없음). 출력에는 로컬 엔진 음성/BGM이 폴백될 것이라는 내용과 종속성이 누락된 경우 pip 힌트도 나열됩니다. 이 출력을 있는 그대로 전달하세요 — 자신의 말로 바꾸지 마세요. 그런 다음 멈추고 사용자가 선택할 때까지 기다리세요 — 로그인하거나, 오프라인으로 계속하려면 "go" / "local"이라고 말하세요 — 그 후에야 무엇이든 생성합니다. 이것은 실제 결정 지점이지 지나가는 메모가 아닙니다: 다른 질문에 포함시키지 말고, 스스로 지나치지 마세요. (예외: 자율/비대화형 모드에서는 상태를 기록하고 오프라인으로 계속합니다.)
  • npx hyperframes auth status --json은 결정적 분기를 위해 { configured, recommended_action, offline_engines }를 반환합니다.
  • CLI를 실행할 수 없는 경우 (PATH에 없고 npx가 가져올 수 없는 경우) → 그래도 로그인을 권장하고 (npx hyperframes auth login) 사용자의 선택을 위해 멈추세요 — "자격 증명 없음"을 로컬 생성을 위한 묵시적 허가로 취급하지 마세요.

자격 증명 해결, 전체 키 우선 순위 및 로컬 종속성 목록은 references/requirements.md에 있습니다.

제공자 체인 (엔진 뒤의 세부 정보)

TTS — 사용 가능한 첫 번째 제공자가 우선합니다 (엔진 또는 npx hyperframes tts "..."):

순서제공자감지 조건단어 타임스탬프
1HeyGen (Starfish)$HEYGEN_API_KEY / hyperframes auth login예, 네이티브 — --words narration.words.json으로 캡처
2ElevenLabs$ELEVENLABS_API_KEY 설정됨아니오 — 이후 transcribe 연결
3Kokoro-82M (로컬, 54개 음성)항상 (키 불필요)아니오 — 이후 transcribe 연결

게시된 hyperframes tts CLI는 종종 로컬 전용 빌드입니다 (--help에 "Kokoro-82M"이라고 표시되고 --provider/--words 없음). $HEYGEN_API_KEY가 설정되어 있어도 자동으로 Kokoro로 폴백합니다. 이것이 엔진의 HeyGen 경로가 자체 포함된 scripts/heygen-tts.mjs(REST)를 사용하고 CLI를 사용하지 않는 이유입니다. CLI는 Kokoro 경로에만 사용됩니다. references/tts.md를 참조하세요.

BGM 및 SFX — 기본적으로 HeyGen 오디오 라이브러리(/v3/audio/sounds)에서 검색되며, HeyGen TTS와 동일한 자격 증명을 사용하고 위 스위치의 자격 증명 없음 폴백이 적용됩니다:

에셋HeyGen type위치폴백 (자격 증명 없음)
BGMmusicassets/bgm/track.mp3 (검색) · track.wav (생성)Lyria / MusicGen 생성
SFXsound_effects (최소 점수 0.4)assets/sfx/<slug>.mp3번들 21개 파일 라이브러리 (assets/sfx/* + manifest.json)

references/bgm.md 및 references/sfx.md를 참조하세요.

라우팅

작업참조
오디오 엔진 — 요청/메타 스키마, --only, 스위치scripts/audio.mjs (헤더 주석)
npx hyperframes tts / heygen-tts.mjs — 제공자, 음성, 단어references/tts.md
BGM — HeyGen 검색 + 로컬 Lyria / MusicGen 생성references/bgm.md
SFX — HeyGen 검색 (최소 점수 0.4) + 번들 로컬 라이브러리references/sfx.md
npx hyperframes transcribe — Whisper, 모델 규칙, 출력 형태references/transcribe.md
npx hyperframes remove-background — 투명 컷아웃references/remove-background.md
TTS → 전사 → 자막 (녹음된 내레이션 없음)references/tts-to-captions.md
자막 작성 — 스타일 감지, 레이아웃, 단어 그룹화, 종료references/captions/authoring.md
대본 처리 — 입력 형식, 품질 게이트, 정리, APIreferences/captions/transcript-handling.md
자막 모션 — 가라오케, 마커 효과, 오디오 반응references/captions/motion.md
모델 캐시, 시스템 종속성, 문제 해결references/requirements.md

절대 규칙

  • 단일 엔진, 복사본 없음. scripts/audio.mjs(또는 단발성 HeyGen TTS의 경우 heygen-tts.mjs)를 통해 오디오를 생성합니다. 워크플로우 내에서 TTS/BGM/SFX를 다시 구현하지 마세요 — audio_request.json 어댑터를 작성하고 엔진을 호출하세요.
  • "HeyGen 사용 가능" = 해결 가능한 자격 증명, CLI가 아님. 전체 스위치는 heygenCredential()에 달려 있습니다. 게시된 hyperframes tts는 Kokoro 전용일 수 있으며, hyperframes bgm / hyperframes sfx 명령은 아예 없습니다.
  • 음성 ID는 제공자별로 다릅니다. am_michael은 Kokoro 전용입니다. HeyGen UUID는 Kokoro에서 작동하지 않습니다. --voice를 전달하는 경우 사용자 환경이 변경될 때 제공자가 자동으로 변경되는 것을 방지하기 위해 --provider도 함께 지정하세요.
  • transcribe에는 항상 --model을 전달하세요. CLI 기본값인 small.en은 비영어 오디오를 자동으로 번역합니다. references/transcribe.md → "언어 규칙" 참조.
  • HeyGen은 단어 타임스탬프를 반환합니다. ElevenLabs / Kokoro는 반환하지 않습니다. 엔진은 후자의 두 가지에 대해 자동으로 transcribe를 연결합니다. 독립형으로 사용하는 경우 HeyGen에 --words를 전달하거나 오디오 파일에 대해 transcribe를 실행하세요.
  • 자막은 평면 단어 배열 형식 { id, text, start, end }을 사용합니다. references/transcribe.md → "출력 형태" 참조.
  • remove-background --background-output는 구멍을 뚫는 것이지, 인페인트(inpaint)가 아닙니다. "사람이 없는 장면"이 필요하면 다른 도구가 필요합니다. references/remove-background.md → "적절한 도구가 아닌 경우" 참조.
  • BGM/SFX는 기본적으로 HeyGen 검색을 사용합니다. 자격 증명이 없으면 BGM은 생성(generation), SFX는 번들 라이브러리로 대체됩니다. /audio/sounds는 텍스트 쿼리로 순위를 매깁니다 — 효과를 구체적으로 이름 지정하세요 (glass shatter, dramatic sound처럼 모호하지 않게). 일치하는 항목이 없으면 건너뛰며 렌더를 차단하지 않습니다. SFX는 음성 + BGM 아래에서 볼륨 약 0.35로 배치됩니다. references/sfx.md / references/bgm.md 참조.
  • 워크플로우 자막 HTML은 생성된 출력으로 취급하세요. 사전 설정 기반 비디오의 경우 재사용 가능한 스킨 소스는 .hyperframes/caption-skin.html에 있고 워크플로우 스크립트는 compositions/captions.html을 작성합니다. 스킨을 수정하기 위해 생성된 compositions/captions.html을 편집하지 마세요. 워크플로우의 captions.mjs를 통해 다시 빌드하거나, 해당 워크플로우의 명시적 재정의 메커니즘을 사용하세요(있는 경우).

Individual skills in this repo

This repo contains 20 individual skills — each has its own dedicated page.

Aseel1600/Edit01

Generate AI videos from text prompts using multiple provider gateways. Use when: (1) Generating videos from text descriptions, (2) Creating AI-generated video clips for content production, (3) Image-to-video generation with a reference image, (4) Choosing between video generation providers (VEO, Kling, Sora, Runway, Seedance, MiniMax, Gemini Omni). Supports gateways: HeyGen API, fal.ai API, Kling official direct API, and the Gemini API (Gemini Omni Flash).

Aseel1600/Edit01

Create AI avatar videos with precise control over avatars, voices, scripts, scenes, and backgrounds using HeyGen's v2 API. Use when: (1) Choosing a specific avatar and voice for a video, (2) Writing exact scripts for an avatar to speak, (3) Building multi-scene videos with different backgrounds per scene, (4) Creating transparent WebM videos for compositing, (5) Using talking photos as video presenters, (6) Integrating HeyGen avatars with Remotion, (7) Batch video generation with exact specs, (8) Brand-consistent production videos with precise control.

Aseel1600/Edit01

Use p5.js/canvas for local procedural character effects: particles, weather, squash/stretch, walk cycles, and environmental motion.

Aseel1600/Edit01

Review local character animation with schema checks, Playwright browser previews, frame sampling, and FFmpeg/ffprobe final output checks.

Aseel1600/Edit01

Create videos from a text prompt using HeyGen's Video Agent. Use when: (1) Creating a video from a description or idea, (2) Generating explainer, demo, or marketing videos from a prompt, (3) Making a video without specifying exact avatars, voices, or scenes, (4) Quick video prototyping or drafts, (5) One-shot prompt-to-video generation, (6) User says "make me a video" or "create a video about X".

Aseel1600/Edit01

Generate Mandarin and multilingual narration with Volcengine Doubao Speech 2.0. Use when creating Chinese voiceovers, when the user prefers Doubao/Volcengine/火山引擎/豆包 TTS, or when narration needs character-level timestamp metadata for subtitles.

Aseel1600/Edit01

Video and audio processing with FFmpeg. Use for format conversion, resizing, compression, audio extraction, and preparing assets for Remotion. Triggers include converting GIF to MP4, resizing video, extracting audio, compressing files, or any media transformation task.

Aseel1600/Edit01

Generate expressive, multilingual narration with fish.audio (S1 / S2-generation models) and reuse cloned voices via reference_id. Use when the user prefers fish.audio/Fish Audio TTS, wants a specific playground voice model, or needs high-emotion voice-clone narration.

Aseel1600/Edit01

Use when implementing Disney's 12 animation principles with Framer Motion in React applications

Aseel1600/Edit01

All animation knowledge for HyperFrames — atomic motion rules, multi-phase scene blueprints, scene transitions, broader motion-design techniques, AND the seven runtime adapters (GSAP default, plus Lottie, Three.js, Anime.js, CSS keyframes, Web Animations API, TypeGPU). Use for any motion or animation task: pick 2-4 rules and compose, or load a blueprint, or look up runtime-specific API (e.g. GSAP eases / Lottie player / Three.js mixer). HyperFrames-native: single paused timeline, seek-safe, deterministic.

Aseel1600/Edit01

HyperFrames CLI dev loop. Use when running npx hyperframes init, add, catalog, capture, lint, validate, inspect, layout, snapshot, preview, play, render, publish, lambda, doctor, browser, info, upgrade, skills, compositions, docs, benchmark, telemetry, transcribe, tts, or remove-background, or when troubleshooting the HyperFrames build/render environment. Entry point for AWS Lambda cloud rendering (`hyperframes lambda deploy / render / progress / destroy / policies`).

Aseel1600/Edit01

The HyperFrames composition contract — build one renderable project. Use for composition structure, the `data-*` timing attributes, `class="clip"`, tracks, sub-compositions, variables, framework-owned media playback, deterministic-render rules, and validation. Read before writing composition HTML.

Aseel1600/Edit01

Non-animation creative direction for HyperFrames videos. Use for design spec (frame.md / design.md) handling, palettes, typography, narration, beat planning, audio-reactive visuals, composition patterns, and brand / style decisions. For atomic motion patterns and scene blueprints, use `hyperframes-animation`.

Aseel1600/Edit01

Install and wire registry blocks and components into HyperFrames compositions. Use when running hyperframes add, installing a block or component, wiring an installed item into index.html, or working with hyperframes.json. Covers the add command, install locations, block sub-composition wiring, component snippet merging, registry discovery, and authoring a new block or component to contribute upstream (idea → scaffold → validate → PR).

Aseel1600/Edit01

Use when the user wants a short, design-led motion graphic where motion is the message: kinetic typography, stat or number count-up, chart/data-viz hit, logo sting, brand lockup, lower-third, callout, social overlay, animated headline/tweet/news item, motion poster, or quick captured-page highlight. Usually under 10s and up to ~30s, with no narration arc, voice-over, or live-action subject. Can render to MP4 or transparent overlay. Not for longer, multi-scene, narrated, or brand-reel pieces (use general-video), narrated website videos (website-to-video), topic explainers (faceless-explainer), product promos (product-launch-video), PR videos (pr-to-video), or captions on existing footage (embedded-captions). When unsure whether it's a quick motion-first piece or a longer / narrated treatment, see /hyperframes.

Aseel1600/Edit01

Use when the user has a music track (an audio file, or a video to pull audio from) and wants a beat-synced HyperFrames video, calm to hard-hitting. The music drives everything: one analyzer reads it once, the orchestrator lays out the frames and fills a per-frame plan, and one sub-agent builds each frame. Typography and templates are the floor — a complete video needs zero assets — but any images or videos the user supplies are cut into the frames on the same beat grid (beat-cut / ken-burns). The genre (lyric video, slideshow, kinetic promo) falls out of the per-frame choices; the pipeline never branches on it.

Aseel1600/Edit01

Best practices for Remotion - Video creation in React

Aseel1600/Edit01

Toolkit-specific Remotion patterns — custom transitions, shared components, and project conventions. For core Remotion framework knowledge (hooks, animations, rendering, etc.), see the `remotion-official` skill.

Aseel1600/Edit01

Port an existing Remotion (React) composition to HyperFrames HTML. Use ONLY when the user explicitly asks to port/convert/migrate/translate a Remotion source. Do NOT use: (a) authoring a new HyperFrames composition; (b) Remotion mentioned in passing; (c) Remotion code shared as reference only; (d) "same video as my Remotion one" without explicit migrate request — treat as fresh build. Doubt → `/general-video`. One-way, Remotion-only: no reverse export (HyperFrames→Remotion or any framework), no non-Remotion source (After Effects, Framer Motion, plain React/CSS) → out of scope, re-create via `/general-video`. Flags unsupported patterns (useState, useEffect, async calculateMetadata, third-party React libs, `@remotion/lambda`) and recommends runtime interop over lossy translation. Unsure whether to port vs. build fresh, or only a passing Remotion mention? → /hyperframes.

Aseel1600/Edit01

Animate SVG character rigs with GSAP, CSS transforms, Remotion frame control, and HyperFrames-compatible browser previews.

관련 스킬