Communitygithub.com

mychat (HypeFrames Media)

Cria ativos de áudio e mídia para composições HyperFrames: TTS multi-provedor (HeyGen / ElevenLabs / Kokoro local), música de fundo + efeitos sonoros, transcrição, remoção de fundo e legendas, tudo através de um mecanismo de áudio compartilhado.

O que é mychat (HypeFrames Media)?

Este skill gerencia a criação de ativos de áudio e mídia para composições HyperFrames, centralizando toda a produção de voz (TTS), música de fundo (BGM), efeitos sonoros (SFX), transcrição e legendas em um único mecanismo de áudio (`scripts/audio.mjs`). Ele suporta uma cadeia de provedores de TTS que começa com HeyGen (timestamps nativos), depois ElevenLabs e, finalmente, Kokoro local como fallback sem credenciais. Para BGM e SFX, ele recupera ativos da biblioteca de áudio do HeyGen quando uma credencial está disponível ou gera/usa recursos locais (Lyria/MusicGen para BGM e uma biblioteca SFX compactada de 21 arquivos) quando não está. O skill também oferece transcrição Whisper, remoção de fundo, criação de legendas estilo karaokê e roteamento claro para fluxos de trabalho que precisam esperar pela geração BGM assíncrona. Todas as capacidades são unificadas por um único arquivo de requisição JSON e um esquema de saída, garantindo que os workflows não implementem sua própria lógica de áudio, mas sim chamem o mecanismo central. Uma regra crucial é sempre executar `npx hyperframes auth status` antes da geração para verificar o status de login e recomendar o login adequado, parando para a decisão do usuário, em vez de prosseguir silenciosamente com mecanismos locais.

Funciona com~Claude Code~Codex CLI~Cursor
npx skills add https://github.com/9018/mychat/tree/HEAD/OpenMontage/.agents/skills/hyperframes-media

Perguntar na sua IA favorita

Abre um novo chat com esta habilidade de agente já pré-carregada.

Documentação

HyperFrames Media

Crie os ativos de áudio e mídia que uma composição precisa — narração (TTS), música de fundo + efeitos sonoros, transcrição, legendas, remoção de fundo — e então consuma e anime esses dados em HTML. Para colocar ativos em composições, veja hyperframes-core.

O mecanismo de áudio — uma fonte para TTS · BGM · SFX

Os workflows NÃO criam áudio manualmente nem usam cópias avulsas. Existe um mecanismo — scripts/audio.mjs — que recebe um audio_request.json neutro e escreve audio_meta.json (mais ativos em assets/voice|bgm|sfx):

# <MEDIA_DIR> = diretório deste skill
node <MEDIA_DIR>/scripts/audio.mjs --request ./audio_request.json --hyperframes . --out ./audio_meta.json

Todas as três capacidades dependem de UMA ÚNICA CONDIÇÃO — se uma credencial HeyGen está presente (resolvida de $HEYGEN_API_KEY / $HYPERFRAMES_API_KEY / ~/.heygen, não da CLI):

CapacidadeCredencial HeyGen presenteausente
TTSHeyGen Starfish REST (timestamps nativos)→ ElevenLabs → Kokoro (encadeie transcribe para palavras)
BGMHeyGen recuperação de músicaLyria → MusicGen geração local (desanexada)
SFXHeyGen recuperação de efeitos sonoros (min_score 0.4)biblioteca local de 21 arquivos (assets/sfx/)
  • Requisição (audio_request.json): { provider?, lang?, speed?, lines: [{ id, text, sfx?: [nomes] }], bgm: { mode?, query?, prompt? } }. id conecta cada linha de volta ao modelo do chamador (um número de frame, um id de cena, …). bgm.mode = retrieve | generate | none; omita para auto (recuperar quando credenciado, senão gerar). Um modo explícito retrieve é estrito — ele ignora em vez de iniciar uma geração desanexada (para chamadores sem a etapa wait-bgm).
  • Saída (audio_meta.json, indexado por id): { tts_provider, voice_id, bgm, bgm_pending, …, voices: [{ id, path, duration_s, words }], sfx: [{ id, name, file, source, offset_s, duration_s, volume }], total_duration_s }.
  • --only tts,bgm,sfx executa um subconjunto e faz merge em um --out existente (ex.: TTS+BGM no início, SFX quando as deixas existirem).
  • A geração BGM é iniciada desanexada (bgm_pending: true) — execute scripts/wait-bgm.mjs antes de montar.
  • scripts/heygen-tts.mjs é uma CLI de uso único sobre o mesmo código (um texto → wav + palavras) para quando você só precisa do TTS HeyGen sem um arquivo de requisição.

A lista completa de flags + o esquema audio_meta.json estão no cabeçalho de scripts/audio.mjs. As referências abaixo cobrem os detalhes do provedor e os casos extremos por trás de cada capacidade.

Pré-voo — mostre o status de login antes de qualquer áudio

Sempre execute isso antes de gerar voz ou BGM — dentro de um workflow completo ou em uma solicitação avulsa de "gere um BGM/narração para mim". Não ter credencial HeyGen não é motivo para cair silenciosamente em mecanismos locais: primeiro recomende fazer login e deixe o usuário decidir. Execute o pré-voo compartilhado e repasse sua saída literalmente — não improvise seu próprio prompt de "chave ausente" e não se ofereça para escrever chaves em um .env por repositório:

npx hyperframes auth status
  • Logado → imprime a conta; prossiga.
  • Não logado (exit 1 é esperado aqui — "não logado" é um estado normal, não uma falha) → imprime orientações de registro primeiro. Recomende fazer login: npx hyperframes auth login é OAuth via navegador — ele faz login e cria uma conta (sempre disponível através da CLI deste repositório). Para usar uma chave de API HeyGen existente (de app.heygen.com/settings/api), execute npx hyperframes auth login --api-key — ele salva no ~/.heygen compartilhado (sem .env por repositório). A saída também lista os mecanismos locais para os quais a voz/BGM cairão e uma dica pip quando as dependências estiverem faltando. Repasse esta saída como está — não a parafraseie com suas próprias palavras. Então PARE e aguarde o usuário escolher — fazer login, ou dizer "vai" / "local" para continuar offline — antes de gerar qualquer coisa. Este é um ponto de decisão real, não uma nota de passagem: não o dobre em outra pergunta e não prossiga além dele por conta própria. (Exceção: em modo autônomo / não interativo, anote o status e continue offline.)
  • npx hyperframes auth status --json retorna { configured, recommended_action, offline_engines } para ramificação determinística.
  • Se a CLI não puder ser executada (não está no PATH e npx não consegue obtê-la) → ainda recomende fazer login (npx hyperframes auth login) e PARE para a escolha do usuário — não trate "sem credencial" como um sinal verde silencioso para geração local.

A resolução de credenciais, a prioridade completa de chaves e a lista de dependências locais estão em references/requirements.md.

Cadeias de provedores (o detalhe por trás do mecanismo)

TTS — o primeiro provedor disponível vence (o mecanismo, ou npx hyperframes tts "..."):

OrdemProvedorDetectado quandoTimestamps de palavras
1HeyGen (Starfish)$HEYGEN_API_KEY / hyperframes auth loginSim, nativos — passe --words narration.words.json para capturar
2ElevenLabs$ELEVENLABS_API_KEY definidoNão — encadeie transcribe após
3Kokoro-82M (local, 54 vozes)sempre (nenhuma chave necessária)Não — encadeie transcribe após

A CLI publicada hyperframes tts geralmente é a compilação apenas local (seu --help diz "Kokoro-82M", sem --provider/--words) e cai silenciosamente para Kokoro mesmo com $HEYGEN_API_KEY definida. É por isso que o caminho HeyGen do mecanismo é o scripts/heygen-tts.mjs (REST) autocontido, NÃO a CLI; a CLI é usada apenas para o caminho Kokoro. Veja references/tts.md.

BGM e SFX — por padrão recuperados da biblioteca de áudio do HeyGen (/v3/audio/sounds), mesma credencial do TTS HeyGen, com o fallback sem credencial da chave acima:

AtivoHeyGen typeVai paraFallback (sem credencial)
BGMmusicassets/bgm/track.mp3 (recuperar) · track.wav (gerar)Lyria / MusicGen geração
SFXsound_effects (min_score 0.4)assets/sfx/<slug>.mp3biblioteca local de 21 arquivos (assets/sfx/* + manifest.json)

Veja references/bgm.md e references/sfx.md.

Roteamento

TarefaLeia
O mecanismo de áudio — esquema de requisição/meta, --only, a chavescripts/audio.mjs (comentário do cabeçalho)
npx hyperframes tts / heygen-tts.mjs — provedores, vozes, palavrasreferences/tts.md
BGM — recuperação HeyGen + geração local Lyria / MusicGenreferences/bgm.md
SFX — recuperação HeyGen (min_score 0.4) + biblioteca local compactareferences/sfx.md
npx hyperframes transcribe — Whisper, regras de modelo, formato de saídareferences/transcribe.md
npx hyperframes remove-background — recortes transparentesreferences/remove-background.md
TTS → transcrição → legendas (sem narração gravada)references/tts-to-captions.md
Criação de legendas — detecção de estilo, layout, agrupamento de palavras, saídareferences/captions/authoring.md
Manipulação de transcrições — formatos de entrada, portões de qualidade, limpeza, APIsreferences/captions/transcript-handling.md
Movimento de legendas — karaokê, efeitos de marcador, reativo a áudioreferences/captions/motion.md
Caches de modelo, dependências do sistema, solução de problemasreferences/requirements.md

Regras inegociáveis

  • Um mecanismo, nenhuma cópia avulsa. Produza áudio via scripts/audio.mjs (ou heygen-tts.mjs para TTS HeyGen de uso único). Não reimplemente TTS/BGM/SFX dentro de um workflow — escreva um adaptador audio_request.json e chame o mecanismo.
  • "HeyGen disponível" = uma credencial resolvível, não a CLI. Toda a chave depende de heygenCredential(); a CLI publicada hyperframes tts pode ser apenas Kokoro, e não há nenhum comando hyperframes bgm / hyperframes sfx.
  • IDs de voz são específicos do provedor. am_michael é apenas Kokoro; UUIDs do HeyGen não funcionam no Kokoro. Se você passar --voice, também fixe --provider para evitar desvio silencioso de provedor quando o ambiente do usuário mudar.
  • Sempre passe --model para transcribe. O padrão da CLI small.en traduz silenciosamente áudio não-inglês. Veja references/transcribe.md → "Regra de Idioma".
  • HeyGen retorna timestamps de palavras; ElevenLabs / Kokoro não. O mecanismo encadeia transcribe automaticamente para os dois últimos; de forma independente, passe --words para HeyGen ou execute transcribe no arquivo de áudio.
  • Legendas consomem o formato de array de palavras planas com { id, text, start, end }. Veja references/transcribe.md → "Formato de Saída".
  • remove-background --background-output é corte de buraco, não inpaint. Para "cena sem a pessoa", uma ferramenta diferente é necessária. Veja references/remove-background.md → "Quando NÃO é a ferramenta certa".
  • BGM/SFX padrão é recuperação HeyGen; o fallback sem credencial é geração (BGM) ou biblioteca local (SFX). /audio/sounds classifica por uma consulta de texto — nomeie os efeitos concretamente (glass shatter, não dramatic sound); uma não correspondência ignora, nunca bloqueia a renderização. SFX ficam em volume ~0,35 acima da voz + BGM. Veja references/sfx.md / references/bgm.md.
  • Trate o HTML de legendas do workflow como saída gerada. Para vídeos baseados em predefinições, o código-fonte da pele reutilizável está em .hyperframes/caption-skin.html e o script do workflow escreve compositions/captions.html; não edite o compositions/captions.html gerado para corrigir a pele. Reconstrua via captions.mjs do workflow ou use o mecanismo de substituições explícitas desse workflow quando presente.

Individual skills in this repo

This repo contains 20 individual skills — each has its own dedicated page.

9018/mychat

Generate AI videos from text prompts using multiple provider gateways. Use when: (1) Generating videos from text descriptions, (2) Creating AI-generated video clips for content production, (3) Image-to-video generation with a reference image, (4) Choosing between video generation providers (VEO, Kling, Sora, Runway, Seedance, MiniMax, Gemini Omni). Supports gateways: HeyGen API, fal.ai API, Kling official direct API, and the Gemini API (Gemini Omni Flash).

9018/mychat

Create AI avatar videos with precise control over avatars, voices, scripts, scenes, and backgrounds using HeyGen's v2 API. Use when: (1) Choosing a specific avatar and voice for a video, (2) Writing exact scripts for an avatar to speak, (3) Building multi-scene videos with different backgrounds per scene, (4) Creating transparent WebM videos for compositing, (5) Using talking photos as video presenters, (6) Integrating HeyGen avatars with Remotion, (7) Batch video generation with exact specs, (8) Brand-consistent production videos with precise control.

9018/mychat

Use p5.js/canvas for local procedural character effects: particles, weather, squash/stretch, walk cycles, and environmental motion.

9018/mychat

Review local character animation with schema checks, Playwright browser previews, frame sampling, and FFmpeg/ffprobe final output checks.

9018/mychat

Create videos from a text prompt using HeyGen's Video Agent. Use when: (1) Creating a video from a description or idea, (2) Generating explainer, demo, or marketing videos from a prompt, (3) Making a video without specifying exact avatars, voices, or scenes, (4) Quick video prototyping or drafts, (5) One-shot prompt-to-video generation, (6) User says "make me a video" or "create a video about X".

9018/mychat

Generate Mandarin and multilingual narration with Volcengine Doubao Speech 2.0. Use when creating Chinese voiceovers, when the user prefers Doubao/Volcengine/火山引擎/豆包 TTS, or when narration needs character-level timestamp metadata for subtitles.

9018/mychat

Video and audio processing with FFmpeg. Use for format conversion, resizing, compression, audio extraction, and preparing assets for Remotion. Triggers include converting GIF to MP4, resizing video, extracting audio, compressing files, or any media transformation task.

9018/mychat

Use when implementing Disney's 12 animation principles with Framer Motion in React applications

9018/mychat

All animation knowledge for HyperFrames — atomic motion rules, multi-phase scene blueprints, scene transitions, broader motion-design techniques, AND the seven runtime adapters (GSAP default, plus Lottie, Three.js, Anime.js, CSS keyframes, Web Animations API, TypeGPU). Use for any motion or animation task: pick 2-4 rules and compose, or load a blueprint, or look up runtime-specific API (e.g. GSAP eases / Lottie player / Three.js mixer). HyperFrames-native: single paused timeline, seek-safe, deterministic.

9018/mychat

HyperFrames CLI dev loop. Use when running npx hyperframes init, add, catalog, capture, lint, validate, inspect, layout, snapshot, preview, play, render, publish, lambda, doctor, browser, info, upgrade, skills, compositions, docs, benchmark, telemetry, transcribe, tts, or remove-background, or when troubleshooting the HyperFrames build/render environment. Entry point for AWS Lambda cloud rendering (`hyperframes lambda deploy / render / progress / destroy / policies`).

9018/mychat

The HyperFrames composition contract — build one renderable project. Use for composition structure, the `data-*` timing attributes, `class="clip"`, tracks, sub-compositions, variables, framework-owned media playback, deterministic-render rules, and validation. Read before writing composition HTML.

9018/mychat

Non-animation creative direction for HyperFrames videos. Use for design spec (frame.md / design.md) handling, palettes, typography, narration, beat planning, audio-reactive visuals, composition patterns, and brand / style decisions. For atomic motion patterns and scene blueprints, use `hyperframes-animation`.

9018/mychat

Install and wire registry blocks and components into HyperFrames compositions. Use when running hyperframes add, installing a block or component, wiring an installed item into index.html, or working with hyperframes.json. Covers the add command, install locations, block sub-composition wiring, component snippet merging, registry discovery, and authoring a new block or component to contribute upstream (idea → scaffold → validate → PR).

9018/mychat

Use when the user wants a short, design-led motion graphic where motion is the message: kinetic typography, stat or number count-up, chart/data-viz hit, logo sting, brand lockup, lower-third, callout, social overlay, animated headline/tweet/news item, motion poster, or quick captured-page highlight. Usually under 10s and up to ~30s, with no narration arc, voice-over, or live-action subject. Can render to MP4 or transparent overlay. Not for longer, multi-scene, narrated, or brand-reel pieces (use general-video), narrated website videos (website-to-video), topic explainers (faceless-explainer), product promos (product-launch-video), PR videos (pr-to-video), or captions on existing footage (embedded-captions). When unsure whether it's a quick motion-first piece or a longer / narrated treatment, see /hyperframes.

9018/mychat

Use when the user has a music track (an audio file, or a video to pull audio from) and wants a beat-synced HyperFrames video, calm to hard-hitting. The music drives everything: one analyzer reads it once, the orchestrator lays out the frames and fills a per-frame plan, and one sub-agent builds each frame. Typography and templates are the floor — a complete video needs zero assets — but any images or videos the user supplies are cut into the frames on the same beat grid (beat-cut / ken-burns). The genre (lyric video, slideshow, kinetic promo) falls out of the per-frame choices; the pipeline never branches on it.

9018/mychat

Toolkit-specific Remotion patterns — custom transitions, shared components, and project conventions. For core Remotion framework knowledge (hooks, animations, rendering, etc.), see the `remotion-official` skill.

9018/mychat

Port an existing Remotion (React) composition to HyperFrames HTML. Use ONLY when the user explicitly asks to port/convert/migrate/translate a Remotion source. Do NOT use: (a) authoring a new HyperFrames composition; (b) Remotion mentioned in passing; (c) Remotion code shared as reference only; (d) "same video as my Remotion one" without explicit migrate request — treat as fresh build. Doubt → `/general-video`. One-way, Remotion-only: no reverse export (HyperFrames→Remotion or any framework), no non-Remotion source (After Effects, Framer Motion, plain React/CSS) → out of scope, re-create via `/general-video`. Flags unsupported patterns (useState, useEffect, async calculateMetadata, third-party React libs, `@remotion/lambda`) and recommends runtime interop over lossy translation. Unsure whether to port vs. build fresh, or only a passing Remotion mention? → /hyperframes.

9018/mychat

Animate SVG character rigs with GSAP, CSS transforms, Remotion frame control, and HyperFrames-compatible browser previews.

9018/mychat

Three.js animation - keyframe animation, skeletal animation, morph targets, animation mixing. Use when animating objects, playing GLTF animations, creating procedural motion, or blending animations.

9018/mychat

Download video and audio from YouTube and 1000+ sites using yt-dlp. No API keys needed. Use when: (1) Downloading a video from YouTube or other sites, (2) Extracting audio from a video URL, (3) Downloading subtitles/captions from a video, (4) Getting video metadata without downloading.

Habilidades Relacionadas