Communitygithub.com

1345AbhishekKumar/starter-nextjs

Áudio e mídia para composições HyperFrames, produzidos por um motor de áudio compartilhado (`scripts/audio.mjs`) — TTS multi-provedor (HeyGen / ElevenLabs / Kokoro local), música de fundo + efeitos sonoros (busca na biblioteca de áudio da HeyGen por padrão, com geração local via Lyria / MusicGen e uma biblioteca de SFX integrada como fallback sem credenciais), transcrição com Whisper, remoção de fundo e criação de legendas. Use para narração / TTS, BGM, SFX / efeitos sonoros, transcrição, legendas / subtítulos / letras / karaokê / estilização por palavra, seleção de voz e provedor, e sugestão de clima musical.

O que é starter-nextjs?

Este skill fornece um motor de áudio abrangente para criar todos os ativos de mídia necessários para composições HyperFrames, incluindo narração (TTS), música de fundo (BGM), efeitos sonoros (SFX), transcrição, legendas e remoção de fundo. Ele é centralizado em um único script (`scripts/audio.mjs`) que aceita um arquivo `audio_request.json` e produz `audio_meta.json` com os ativos de áudio correspondentes. O motor suporta múltiplos provedores de TTS: HeyGen Starfish (com timestamps nativos por palavra), ElevenLabs e Kokoro-82M local, com fallback automático baseado na disponibilidade de credenciais. Para BGM e SFX, ele primeiro tenta recuperar da biblioteca de áudio da HeyGen; se não houver credenciais, gera BGM localmente (Lyria / MusicGen) ou usa uma biblioteca de 21 SFX integrada como fallback. O skill também inclui um pré-voo obrigatório (`npx hyperframes auth status`) para verificar o estado de login antes de qualquer geração de áudio, garantindo que o usuário tome uma decisão informada sobre usar serviços online ou motores locais. Além do motor principal, há referências detalhadas para transcrição (Whisper), remoção de fundo, criação de legendas com estilização por palavra e efeitos de karaokê, e tratamento de transcrições. É ideal para desenvolvedores que precisam de uma solução completa e flexível para produção de mídia em composições HyperFrames, seja com credenciais HeyGen ou totalmente offline.

Funciona com~Claude Code~Codex CLI~Cursor
npx skills add https://github.com/1345AbhishekKumar/starter-nextjs/tree/HEAD/.agents/skills/hyperframes-media

Perguntar na sua IA favorita

Abre um novo chat com esta habilidade de agente já pré-carregada.

Documentação

HyperFrames Media

Crie os ativos de áudio e mídia que uma composição precisa — narração (TTS), música de fundo + efeitos sonoros, transcrição, legendas, remoção de fundo — e então consuma e anime esses dados em HTML. Para colocar ativos em composições, veja hyperframes-core.

O motor de áudio — uma única fonte para TTS · BGM · SFX

Os workflows NÃO criam áudio manualmente ou fazem cópias avulsas. Existe um único motor — scripts/audio.mjs — que recebe um audio_request.json neutro e escreve audio_meta.json (mais ativos sob assets/voice|bgm|sfx):

# <MEDIA_DIR> = diretório deste skill
node <MEDIA_DIR>/scripts/audio.mjs --request ./audio_request.json --hyperframes . --out ./audio_meta.json

Todas as três capacidades dependem de UMA ÚNICA CHAVE — se uma credencial HeyGen está presente (resolvida de $HEYGEN_API_KEY / $HYPERFRAMES_API_KEY / ~/.heygen, não da CLI):

CapacidadeCredencial HeyGen presenteausente
TTSHeyGen Starfish REST (timestamps nativos por palavra)→ ElevenLabs → Kokoro (encadeie transcribe para palavras)
BGMBusca de música HeyGenGeração local Lyria → MusicGen (desanexada)
SFXBusca de efeitos sonoros HeyGen (min_score 0.4)Biblioteca integrada de 21 arquivos (assets/sfx/)
  • Requisição (audio_request.json): { provider?, lang?, speed?, lines: [{ id, text, sfx?: [nomes] }], bgm: { mode?, query?, prompt? } }. id liga cada linha de volta ao modelo do chamador (um número de quadro, um ID de cena, …). bgm.mode = retrieve | generate | none; omita para automático (recupera quando credenciado, senão gera). Um retrieve explícito é estrito — ele pula em vez de iniciar uma geração desanexada (para chamadores sem etapa wait-bgm).
  • Saída (audio_meta.json, indexado por ID): { tts_provider, voice_id, bgm, bgm_pending, …, voices: [{ id, path, duration_s, words }], sfx: [{ id, name, file, source, offset_s, duration_s, volume }], total_duration_s }.
  • --only tts,bgm,sfx executa um subconjunto e mescla com um --out existente (ex.: TTS+BGM no início, SFX depois que as cues existirem).
  • A geração de BGM é iniciada de forma desanexada (bgm_pending: true) — execute scripts/wait-bgm.mjs antes de montar.
  • scripts/heygen-tts.mjs é uma CLI de uso único sobre o mesmo código (um texto → wav + palavras) para quando você precisar apenas do TTS da HeyGen sem um arquivo de requisição.

A lista completa de flags + o esquema de audio_meta.json estão no cabeçalho de scripts/audio.mjs. As referências abaixo cobrem os detalhes dos provedores e casos extremos por trás de cada capacidade.

Pré-voo — mostrar status de login antes de qualquer áudio

Sempre execute isso antes de gerar voz ou BGM — dentro de um workflow completo ou uma solicitação avulsa de "gere um BGM/narração para mim". Ausência de credencial HeyGen não é motivo para cair silenciosamente nos motores locais: primeiro recomende fazer login e deixe o usuário decidir. Execute o pré-voo compartilhado e transmita sua saída literalmente — não improvise seu próprio prompt de "chave ausente" e não se ofereça para escrever chaves em um .env por repositório:

npx hyperframes auth status
  • Logado → imprime a conta; prossiga.
  • Não logado (exit 1 é esperado aqui — "não logado" é um estado normal, não uma falha) → imprime orientações de registro. Recomende fazer login: npx hyperframes auth login é OAuth via navegador — ele faz login e cria uma conta (sempre disponível através da CLI deste repositório). Para usar uma chave de API HeyGen existente (de app.heygen.com/settings/api), execute npx hyperframes auth login --api-key — ele salva no ~/.heygen compartilhado (sem .env por repositório). A saída também lista os motores locais de voz/BGM que serão usados como fallback e uma dica pip quando faltarem dependências. Transmita esta saída como está — não a parafraseie com suas próprias palavras. Então PARE e aguarde o usuário escolher — fazer login, ou dizer "vai" / "local" para continuar offline — antes de gerar qualquer coisa. Este é um ponto de decisão real, não uma nota passageira: não o funda em outra pergunta e não prossiga além dele por conta própria. (Exceção: em modo autônomo / não interativo, anote o status e continue offline.)
  • npx hyperframes auth status --json retorna { configured, recommended_action, offline_engines } para ramificação determinística.
  • Se a CLI não puder ser executada (não está no PATH e npx não consegue buscá-la) → ainda assim recomende fazer login (npx hyperframes auth login) e PARE para a escolha do usuário — não trate "nenhuma credencial" como sinal verde silencioso para geração local.

A resolução de credenciais, a prioridade completa de chaves e a lista de dependências locais estão em references/requirements.md.

Cadeias de provedores (os detalhes por trás do motor)

TTS — o primeiro provedor disponível vence (o motor, ou npx hyperframes tts "..."):

OrdemProvedorDetectado quandoTimestamps por palavra
1HeyGen (Starfish)$HEYGEN_API_KEY / hyperframes auth loginSim, nativo — passe --words narration.words.json para capturar
2ElevenLabs$ELEVENLABS_API_KEY definidoNão — encadeie transcribe depois
3Kokoro-82M (local, 54 vozes)sempre (nenhuma chave necessária)Não — encadeie transcribe depois

A CLI publicada hyperframes tts é frequentemente a versão apenas local (seu --help diz "Kokoro-82M", sem --provider/--words) e cai silenciosamente para Kokoro mesmo com $HEYGEN_API_KEY definido. É por isso que o caminho HeyGen do motor é o scripts/heygen-tts.mjs autossuficiente (REST), NÃO a CLI; a CLI é usada apenas para o caminho Kokoro. Veja references/tts.md.

BGM & SFX — por padrão recuperados da biblioteca de áudio HeyGen (/v3/audio/sounds), mesma credencial do TTS HeyGen, com o fallback sem credencial da chave acima:

AtivoTipo HeyGenDestinoFallback (sem credencial)
BGMmusicassets/bgm/track.mp3 (recuperação) · track.wav (geração)Geração Lyria / MusicGen
SFXsound_effects (min_score 0.4)assets/sfx/<slug>.mp3Biblioteca integrada de 21 arquivos (assets/sfx/* + manifest.json)

Veja references/bgm.md e references/sfx.md.

Roteamento

TarefaLeia
O motor de áudio — esquema requisição/meta, --only, a chavescripts/audio.mjs (comentário de cabeçalho)
npx hyperframes tts / heygen-tts.mjs — provedores, vozes, palavrasreferences/tts.md
BGM — recuperação HeyGen + geração local Lyria / MusicGenreferences/bgm.md
SFX — recuperação HeyGen (min_score 0.4) + biblioteca local integradareferences/sfx.md
npx hyperframes transcribe — Whisper, regras de modelo, formato de saídareferences/transcribe.md
npx hyperframes remove-background — recortes transparentesreferences/remove-background.md
TTS → transcrição → legendas (sem narração gravada)references/tts-to-captions.md
Criação de legendas — detecção de estilo, layout, agrupamento de palavras, saídareferences/captions/authoring.md
Tratamento de transcrições — formatos de entrada, gates de qualidade, limpeza, APIsreferences/captions/transcript-handling.md
Movimento de legendas — karaokê, efeitos de marcador, reativo a áudioreferences/captions/motion.md
Caches de modelo, dependências de sistema, solução de problemasreferences/requirements.md

Regras inegociáveis

  • Um único motor, sem cópias avulsas. Produza áudio via scripts/audio.mjs (ou heygen-tts.mjs para TTS HeyGen de uso único). Não reimplemente TTS/BGM/SFX dentro de um workflow — escreva um adaptador audio_request.json e chame o motor.
  • "HeyGen disponível" = credencial resolvível, não a CLI. A chave inteira depende de heygenCredential(); a CLI publicada hyperframes tts pode ser apenas Kokoro, e não existe nenhum comando hyperframes bgm / hyperframes sfx.
  • IDs de voz são específicos do provedor. am_michael é apenas Kokoro; UUIDs da HeyGen não funcionam no Kokoro. Se você passar --voice, também fixe --provider para evitar deriva silenciosa de provedor quando o ambiente do usuário mudar.
  • Sempre passe --model para transcribe. O padrão da CLI small.en traduz silenciosamente áudio não inglês. Veja references/transcribe.md → "Regra de Idioma".
  • HeyGen retorna timestamps por palavra; ElevenLabs / Kokoro não. O motor encadeia transcribe automaticamente para os dois últimos; de forma independente, passe --words para a HeyGen ou execute transcribe contra o arquivo de áudio.
  • Legendas consomem o formato de array de palavras plano com { id, text, start, end }. Veja references/transcribe.md → "Formato de Saída".
  • remove-background --background-output é recorte de buraco, não inpainted. Para "cena sem a pessoa", é necessária uma ferramenta diferente. Veja references/remove-background.md → "QUANDO NÃO é a ferramenta certa".
  • BGM/SFX usam recuperação HeyGen por padrão; o fallback sem credencial é geração (BGM) ou a biblioteca integrada (SFX). /audio/sounds classifica por uma consulta de texto — nomeie efeitos concretamente (glass shatter, não dramatic sound); uma falta de correspondência pula, nunca bloqueia a renderização. SFX ficam em volume ~0,35 sob voz + BGM. Veja references/sfx.md / references/bgm.md.
  • Trate o HTML de legendas do workflow como saída gerada. Para vídeos com skin predefinida, a fonte da skin reutilizável está em .hyperframes/caption-skin.html e o script do workflow escreve compositions/captions.html; não edite compositions/captions.html gerado para corrigir a skin. Reconstrua via captions.mjs do workflow, ou use o mecanismo de substituições explícitas desse workflow quando presente.

Individual skills in this repo

This repo contains 13 individual skills — each has its own dedicated page.

1345AbhishekKumar/starter-nextjs

Add captions to a talking-head video. ONE catalog (CATALOG.md) of 32 visual identities behind two engines: column-flow (captions composited INTO the scene — matte occlusion + mix-blend; cream/ink/editorial/keynote/documentary/loud/neon/glitch/chrome/velocity) and themed constitutions (anchor/ordnance/terminal/neonsign/stardust/stomp/scoreboard/transit/vhs/arcade/dossier/laser/thunder/hologram/biolume/aurora/spectrum/papercut/popup/chalkboard/graffiti/brush/inkwater/ransom/lastpage/nightcity — e.g. a glyph-decode climax, a neon sign WRITTEN stroke by stroke, or the quiet `anchor` rail default). Route by identity, never by mode. Trigger on "captions/subtitles", "embed/cinematic captions", "VFX captions", "炸/特效/酷炫字幕", a named identity, or top-tier motion-graphics asks. Embedding every word is wrong for most talking-head content — `anchor` is the verbatim default. Pipeline: transcription → hyperframes remove-background matting → HTML render → ffmpeg overlay. Requires hyperframes and a single-subject clip.

1345AbhishekKumar/starter-nextjs

The fallback workflow for authoring custom HyperFrames video compositions at any length or format — longer or multi-scene pieces, brand / sizzle reels, montages, title cards, static loops, and freeform compositions. Input- and length-agnostic. If a specialized workflow clearly fits the input — a marketed product, a website, a topic explainer, a GitHub PR, existing footage, a short motion graphic, or a Remotion port — prefer it (see /hyperframes); use this only as the general fallback when none fit.

1345AbhishekKumar/starter-nextjs

All animation knowledge for HyperFrames — atomic motion rules, multi-phase scene blueprints, scene transitions, broader motion-design techniques, AND the seven runtime adapters (GSAP default, plus Lottie, Three.js, Anime.js, CSS keyframes, Web Animations API, TypeGPU). Use for any motion or animation task: pick 2-4 rules and compose, or load a blueprint, or look up runtime-specific API (e.g. GSAP eases / Lottie player / Three.js mixer). HyperFrames-native: single paused timeline, seek-safe, deterministic.

1345AbhishekKumar/starter-nextjs

HyperFrames CLI dev loop. Use when running npx hyperframes init, add, catalog, capture, lint, validate, inspect, layout, snapshot, preview, play, render, publish, lambda, doctor, browser, info, upgrade, skills, compositions, docs, benchmark, telemetry, transcribe, tts, or remove-background, or when troubleshooting the HyperFrames build/render environment. Entry point for AWS Lambda cloud rendering (`hyperframes lambda deploy / render / progress / destroy / policies`).

1345AbhishekKumar/starter-nextjs

The HyperFrames composition contract — build one renderable project. Use for composition structure, the `data-*` timing attributes, `class="clip"`, tracks, sub-compositions, variables, framework-owned media playback, deterministic-render rules, and validation. Read before writing composition HTML.

1345AbhishekKumar/starter-nextjs

Non-animation creative direction for HyperFrames videos. Use for design spec (frame.md / design.md) handling, palettes, typography, narration, beat planning, audio-reactive visuals, composition patterns, and brand / style decisions. For atomic motion patterns and scene blueprints, use `hyperframes-animation`.

1345AbhishekKumar/starter-nextjs

Install and wire registry blocks and components into HyperFrames compositions. Use when running hyperframes add, installing a block or component, wiring an installed item into index.html, or working with hyperframes.json. Covers the add command, install locations, block sub-composition wiring, component snippet merging, registry discovery, and authoring a new block or component to contribute upstream (idea → scaffold → validate → PR).

1345AbhishekKumar/starter-nextjs

Use when the user wants a short, design-led motion graphic where motion is the message: kinetic typography, stat or number count-up, chart/data-viz hit, logo sting, brand lockup, lower-third, callout, social overlay, animated headline/tweet/news item, motion poster, or quick captured-page highlight. Usually under 10s and up to ~30s, with no narration arc, voice-over, or live-action subject. Can render to MP4 or transparent overlay. Not for longer, multi-scene, narrated, or brand-reel pieces (use general-video), narrated website videos (website-to-video), topic explainers (faceless-explainer), product promos (product-launch-video), PR videos (pr-to-video), or captions on existing footage (embedded-captions). When unsure whether it's a quick motion-first piece or a longer / narrated treatment, see /hyperframes.

1345AbhishekKumar/starter-nextjs

Use when the user has a music track (an audio file, or a video to pull audio from) and wants a beat-synced HyperFrames video, calm to hard-hitting. The music drives everything: one analyzer reads it once, the orchestrator lays out the frames and fills a per-frame plan, and one sub-agent builds each frame. Typography and templates are the floor — a complete video needs zero assets — but any images or videos the user supplies are cut into the frames on the same beat grid (beat-cut / ken-burns). The genre (lyric video, slideshow, kinetic promo) falls out of the per-frame choices; the pipeline never branches on it.

1345AbhishekKumar/starter-nextjs

turn a product or marketing URL, pasted script, or brief into a product launch video, including SaaS promos, feature reveals, app launches, company promos, and product marketing videos. Use this skill when the user wants to market, launch, promote, or reveal a product. Do not use it for general non-launch website tours, non-product topic explainers, GitHub pull requests, captioning existing footage, or short unnarrated motion graphics. If the intent is unclear, route through /hyperframes first. This is the new shot-sequence architecture: every visual frame is authored as a time-coded shot sequence picked from a menu of golden blueprints, so frames develop over their full duration instead of freezing after entrance.

1345AbhishekKumar/starter-nextjs

turn a GitHub pull request (a PR URL like github.com/<owner>/<repo>/pull/<N>, an <owner>/<repo>#<N> ref, or 'this PR' in a checked-out repo) into a code-change explainer video, up to ~3 min (sweet spot 30-90s) — changelog, feature reveal, fix, or refactor walkthrough, rendered from the diff / commits / files. The input is a CODE CHANGE read via the gh CLI; there is no website capture. Use this skill for a GitHub PR. Do not use it for a product launch/promo (use /product-launch-video), a tour of a real website (use /website-to-video), a topic explainer with no PR (use /faceless-explainer), captions on existing footage (use /embedded-captions), or a short unnarrated motion graphic (use /motion-graphics). If the intent is unclear, route through /hyperframes first.

1345AbhishekKumar/starter-nextjs

Port an existing Remotion (React) composition to HyperFrames HTML. Use ONLY when the user explicitly asks to port/convert/migrate/translate a Remotion source. Do NOT use: (a) authoring a new HyperFrames composition; (b) Remotion mentioned in passing; (c) Remotion code shared as reference only; (d) "same video as my Remotion one" without explicit migrate request — treat as fresh build. Doubt → `/general-video`. One-way, Remotion-only: no reverse export (HyperFrames→Remotion or any framework), no non-Remotion source (After Effects, Framer Motion, plain React/CSS) → out of scope, re-create via `/general-video`. Flags unsupported patterns (useState, useEffect, async calculateMetadata, third-party React libs, `@remotion/lambda`) and recommends runtime interop over lossy translation. Unsure whether to port vs. build fresh, or only a passing Remotion mention? → /hyperframes.

1345AbhishekKumar/starter-nextjs

Capture a general website/URL and turn it into a HyperFrames video (site tour, showcase, or social clip from the site's own visuals). Uses headless Chrome screenshots + brand assets. Use when intent is general — portfolio/blog/landing-page showcase or social clip from the site. NOT for: product/SaaS launch or promo (→ /product-launch-video, even from a URL); topic explainer with no site (→ /faceless-explainer); GitHub PR (→ /pr-to-video); adding captions to existing video (→ /embedded-captions); short unnarrated page-highlight motion graphic (→ /motion-graphics). Unclear launch-vs-general-site? Ask one question or start at /hyperframes.

Habilidades Relacionadas