Communitygithub.com

Army161/OpenMontage

Audio et ressources médias pour les compositions HyperFrames, pilotées par un moteur audio partagé (`scripts/audio.mjs`) — TTS multi-fournisseurs (HeyGen / ElevenLabs / Kokoro local), musique de fond + effets sonores (récupération HeyGen par défaut, avec génération locale Lyria / MusicGen en BGM et une bibliothèque SFX intégrée en repli sans identifiants), transcription Whisper, suppression d'arrière-plan et création de sous-titres.

Qu'est-ce que OpenMontage ?

Ce skill fournit un moteur audio unifié (`scripts/audio.mjs`) pour générer l'ensemble des ressources médias nécessaires aux compositions HyperFrames : voix off (TTS), musique de fond (BGM), effets sonores (SFX), transcription, sous-titres et suppression d'arrière-plan. Il prend en charge plusieurs fournisseurs de TTS (HeyGen, ElevenLabs, Kokoro) avec une dégradation progressive : HeyGen est utilisé si une clé API est présente, sinon ElevenLabs, puis Kokoro local. Pour la BGM et les SFX, le moteur tente d'abord une récupération depuis la bibliothèque audio HeyGen, et en l'absence d'identifiants, il passe en mode génération locale (Lyria / MusicGen pour la BGM) ou utilise une bibliothèque SFX intégrée de 21 fichiers. Le skill gère également la transcription Whisper (avec règles de modèle pour éviter la traduction automatique), la suppression d'arrière-plan (découpe du sujet, pas de réinpainting) et la création de sous-titres avec support du karaoké et du style par mot. Avant toute génération, il exécute une vérification d'authentification via `npx hyperframes auth status` et recommande la connexion avant de passer en mode local, afin de respecter le choix de l'utilisateur. Le format de sortie est un fichier `audio_meta.json` indexé par identifiant, contenant les chemins des fichiers audio, les durées, les timestamps des mots, et les métadonnées des SFX.

Compatible avec~Claude Code~Codex CLI~Cursor
npx skills add https://github.com/Army161/OpenMontage/tree/HEAD/.agents/skills/hyperframes-media

Demander à votre IA préférée

Ouvre une nouvelle conversation avec cette compétence d'agent déjà préchargée.

Documentation

Médias HyperFrames

Créez les ressources audio et médias nécessaires à une composition — voix off (TTS), musique de fond + effets sonores, transcription, sous-titres, suppression d'arrière-plan — puis consommez et animez ces données en HTML. Pour placer les ressources dans des compositions, voir hyperframes-core.

Le moteur audio — une source unique pour TTS · BGM · SFX

Les workflows NE réimplémentent PAS l'audio en dur ni ne dupliquent le code. Un seul moteur existe — scripts/audio.mjs — qui prend un audio_request.json neutre et écrit audio_meta.json (plus les ressources sous assets/voice|bgm|sfx) :

# <MEDIA_DIR> = répertoire de ce skill
node <MEDIA_DIR>/scripts/audio.mjs --request ./audio_request.json --hyperframes . --out ./audio_meta.json

Les trois capacités dépendent d'UN SEUL commutateur — la présence d'un identifiant HeyGen (résolu depuis $HEYGEN_API_KEY / $HYPERFRAMES_API_KEY / ~/.heygen, pas depuis la CLI) :

CapacitéIdentifiant HeyGen présentabsent
TTSAPI REST HeyGen Starfish (timestamps natifs)→ ElevenLabs → Kokoro (chaîne transcribe pour les mots)
BGMRécupération de musique HeyGenLyria → MusicGen génération locale (détachée)
SFXRécupération d'effets sonores HeyGen (min_score 0.4)bibliothèque intégrée de 21 fichiers (assets/sfx/)
  • Requête (audio_request.json) : { provider?, lang?, speed?, lines: [{ id, text, sfx?: [noms] }], bgm: { mode?, query?, prompt? } }. id relie chaque ligne au modèle appelant (un numéro de frame, un id de scène, …). bgm.mode = retrieve | generate | none ; omettre pour automatique (récupération avec identifiant, sinon génération). Un retrieve explicite est strict — il ignore plutôt que de lancer une génération détachée (pour les appelants sans étape wait-bgm).
  • Sortie (audio_meta.json, indexé par id) : { tts_provider, voice_id, bgm, bgm_pending, …, voices: [{ id, path, duration_s, words }], sfx: [{ id, name, file, source, offset_s, duration_s, volume }], total_duration_s }.
  • --only tts,bgm,sfx exécute un sous-ensemble et fusionne dans un fichier --out existant (ex. TTS+BGM tôt, SFX une fois les repères connus).
  • La génération BGM est lancée détachée (bgm_pending: true) — exécutez scripts/wait-bgm.mjs avant l'assemblage.
  • scripts/heygen-tts.mjs est une CLI à usage unique sur le même code (un texte → wav + mots) pour quand vous avez juste besoin du TTS HeyGen sans fichier de requête.

La liste complète des drapeaux et le schéma de audio_meta.json se trouvent dans l'en-tête de scripts/audio.mjs. Les références ci-dessous couvrent les détails des fournisseurs et les cas particuliers de chaque capacité.

Prévol — afficher l'état de connexion avant tout audio

Exécutez toujours ceci avant de générer une voix ou une BGM — dans un workflow complet ou une demande ponctuelle « génère-moi une BGM/voix off ». L'absence d'identifiant HeyGen n'est pas une raison pour passer silencieusement aux moteurs locaux : recommandez d'abord la connexion et laissez l'utilisateur décider. Exécutez la prévol partagée et relayez sa sortie textuellement — n'improvisez pas votre propre invite « clé manquante », et ne proposez pas d'écrire des clés dans un .env par dépôt :

npx hyperframes auth status
  • Connecté → il affiche le compte ; continuez.
  • Non connecté (exit 1 est attendu ici — « non connecté » est un état normal, pas un échec) → il affiche des instructions d'enregistrement. Recommandez la connexion : npx hyperframes auth login est une OAuth navigateur — elle connecte et crée un compte (toujours disponible via la CLI de ce dépôt). Pour utiliser une clé API HeyGen existante (depuis app.heygen.com/settings/api), exécutez npx hyperframes auth login --api-key — elle est sauvegardée dans le fichier partagé ~/.heygen (pas de .env par dépôt). La sortie liste également les moteurs locaux vers lesquels la voix/BGM se rabattra et un indice pip si les dépendances manquent. Relayez cette sortie telle quelle — ne la paraphrasez pas dans vos propres mots. Puis ARRÊTEZ et attendez que l'utilisateur choisisse — se connecter, ou dire « go » / « local » pour continuer hors ligne — avant de générer quoi que ce soit. C'est un véritable point de décision, pas une note de passage : ne le fondez pas dans une autre question, et ne passez pas outre par vous-même. (Exception : en mode autonome / non interactif, notez l'état et continuez hors ligne.)
  • npx hyperframes auth status --json renvoie { configured, recommended_action, offline_engines } pour une ramification déterministe.
  • Si la CLI ne peut pas s'exécuter (pas dans le PATH et npx ne peut pas la récupérer) → recommandez quand même la connexion (npx hyperframes auth login) et ARRÊTEZ pour le choix de l'utilisateur — ne traitez pas « pas d'identifiant » comme un feu vert silencieux pour la génération locale.

La résolution des identifiants, la priorité complète des clés et la liste des dépendances locales se trouvent dans references/requirements.md.

Chaînes de fournisseurs (le détail derrière le moteur)

TTS — le premier fournisseur disponible l'emporte (le moteur, ou npx hyperframes tts "...") :

OrdreFournisseurDétecté quandTimestamps de mots
1HeyGen (Starfish)$HEYGEN_API_KEY / hyperframes auth loginOui, natifs — passez --words narration.words.json pour capturer
2ElevenLabs$ELEVENLABS_API_KEY définiNon — chaîne transcribe après
3Kokoro-82M (local, 54 voix)toujours (aucune clé requise)Non — chaîne transcribe après

La CLI publiée hyperframes tts est souvent la version locale uniquement (son --help indique « Kokoro-82M », pas de --provider/--words) et retombe silencieusement sur Kokoro même avec $HEYGEN_API_KEY définie. C'est pourquoi le chemin HeyGen du moteur est le scripts/heygen-tts.mjs autonome (REST), PAS la CLI ; la CLI n'est utilisée que pour le chemin Kokoro. Voir references/tts.md.

BGM & SFX — par défaut récupérés depuis la bibliothèque audio HeyGen (/v3/audio/sounds), même identifiant que pour le TTS HeyGen, avec le repli sans identifiant du commutateur ci-dessus :

Ressourcetype HeyGenAtterrit dansRepli (pas d'identifiant)
BGMmusicassets/bgm/track.mp3 (récupération) · track.wav (génération)Lyria / MusicGen génération
SFXsound_effects (min_score 0.4)assets/sfx/<slug>.mp3bibliothèque intégrée de 21 fichiers (assets/sfx/* + manifest.json)

Voir references/bgm.md et references/sfx.md.

Routage

TâcheLire
Le moteur audio — schéma requête/méta, --only, le commutateurscripts/audio.mjs (commentaire d'en-tête)
npx hyperframes tts / heygen-tts.mjs — fournisseurs, voix, motsreferences/tts.md
BGM — récupération HeyGen + génération locale Lyria / MusicGenreferences/bgm.md
SFX — récupération HeyGen (min_score 0.4) + bibliothèque locale intégréereferences/sfx.md
npx hyperframes transcribe — Whisper, règles de modèle, forme de sortiereferences/transcribe.md
npx hyperframes remove-background — découpe transparentereferences/remove-background.md
TTS → transcription → sous-titres (sans voix off enregistrée)references/tts-to-captions.md
Création de sous-titres — détection de style, disposition, regroupement de mots, sortiereferences/captions/authoring.md
Gestion des transcriptions — formats d'entrée, barrières de qualité, nettoyage, APIreferences/captions/transcript-handling.md
Mouvement des sous-titres — karaoké, effets de marqueur, réactif à l'audioreferences/captions/motion.md
Caches de modèles, dépendances système, dépannagereferences/requirements.md

Règles non négociables

  • Un moteur unique, pas de duplication. Produisez l'audio via scripts/audio.mjs (ou heygen-tts.mjs pour un TTS HeyGen ponctuel). Ne réimplémentez pas TTS/BGM/SFX dans un workflow — écrivez un adaptateur audio_request.json et appelez le moteur.
  • « HeyGen disponible » = un identifiant résoluble, pas la CLI. Tout le commutateur repose sur heygenCredential() ; la CLI publiée hyperframes tts peut être Kokoro uniquement, et il n'existe pas de commande hyperframes bgm / hyperframes sfx du tout.
  • Les identifiants de voix sont spécifiques au fournisseur. am_michael est Kokoro uniquement ; les UUID HeyGen ne fonctionnent pas sur Kokoro. Si vous passez --voice, fixez aussi --provider pour éviter une dérive silencieuse du fournisseur lorsque l'environnement de l'utilisateur change.
  • Passez toujours --model à transcribe. La valeur par défaut small.en de la CLI traduit silencieusement l'audio non anglais. Voir references/transcribe.md → « Règle de langue ».
  • HeyGen renvoie des timestamps de mots ; ElevenLabs / Kokoro non. Le moteur chaîne transcribe automatiquement pour ces deux derniers ; en utilisation autonome, passez --words à HeyGen ou exécutez transcribe sur le fichier audio.
  • Les sous-titres consomment le format plat de tableau de mots avec { id, text, start, end }. Voir references/transcribe.md → « Forme de sortie ».
  • remove-background --background-output est une découpe, pas un réinpainting. Pour « une scène sans la personne », un outil différent est nécessaire. Voir references/remove-background.md → « Quand ce n'est PAS le bon outil ».
  • BGM/SFX par défaut en récupération HeyGen ; le repli sans identifiant est la génération (BGM) ou la bibliothèque intégrée (SFX). /audio/sounds classe les résultats par pertinence d'une requête textuelle — nommez les effets concrètement (glass shatter, pas dramatic sound) ; une absence de résultat ignore, ne bloque jamais le rendu. Les SFX sont placés à un volume d'environ 0.35 sous la voix et la BGM. Voir references/sfx.md / references/bgm.md.
  • Traitez le HTML des sous-titres du workflow comme une sortie générée. Pour les vidéos basées sur des préréglages, la source de skin réutilisable se trouve dans .hyperframes/caption-skin.html et le script du workflow écrit compositions/captions.html ; ne modifiez pas le compositions/captions.html généré pour corriger le skin. Reconstruisez via captions.mjs du workflow, ou utilisez son mécanisme explicite de surcharge lorsqu'il est présent.

Individual skills in this repo

This repo contains 20 individual skills — each has its own dedicated page.

Army161/OpenMontage

Generate AI videos from text prompts using multiple provider gateways. Use when: (1) Generating videos from text descriptions, (2) Creating AI-generated video clips for content production, (3) Image-to-video generation with a reference image, (4) Choosing between video generation providers (VEO, Kling, Sora, Runway, Seedance, MiniMax). Supports two gateways: HeyGen API and fal.ai API.

Army161/OpenMontage

Create AI avatar videos with precise control over avatars, voices, scripts, scenes, and backgrounds using HeyGen's v2 API. Use when: (1) Choosing a specific avatar and voice for a video, (2) Writing exact scripts for an avatar to speak, (3) Building multi-scene videos with different backgrounds per scene, (4) Creating transparent WebM videos for compositing, (5) Using talking photos as video presenters, (6) Integrating HeyGen avatars with Remotion, (7) Batch video generation with exact specs, (8) Brand-consistent production videos with precise control.

Army161/OpenMontage

Use p5.js/canvas for local procedural character effects: particles, weather, squash/stretch, walk cycles, and environmental motion.

Army161/OpenMontage

Review local character animation with schema checks, Playwright browser previews, frame sampling, and FFmpeg/ffprobe final output checks.

Army161/OpenMontage

Create videos from a text prompt using HeyGen's Video Agent. Use when: (1) Creating a video from a description or idea, (2) Generating explainer, demo, or marketing videos from a prompt, (3) Making a video without specifying exact avatars, voices, or scenes, (4) Quick video prototyping or drafts, (5) One-shot prompt-to-video generation, (6) User says "make me a video" or "create a video about X".

Army161/OpenMontage

Generate Mandarin and multilingual narration with Volcengine Doubao Speech 2.0. Use when creating Chinese voiceovers, when the user prefers Doubao/Volcengine/火山引擎/豆包 TTS, or when narration needs character-level timestamp metadata for subtitles.

Army161/OpenMontage

Video and audio processing with FFmpeg. Use for format conversion, resizing, compression, audio extraction, and preparing assets for Remotion. Triggers include converting GIF to MP4, resizing video, extracting audio, compressing files, or any media transformation task.

Army161/OpenMontage

Use when implementing Disney's 12 animation principles with Framer Motion in React applications

Army161/OpenMontage

All animation knowledge for HyperFrames — atomic motion rules, multi-phase scene blueprints, scene transitions, broader motion-design techniques, AND the seven runtime adapters (GSAP default, plus Lottie, Three.js, Anime.js, CSS keyframes, Web Animations API, TypeGPU). Use for any motion or animation task: pick 2-4 rules and compose, or load a blueprint, or look up runtime-specific API (e.g. GSAP eases / Lottie player / Three.js mixer). HyperFrames-native: single paused timeline, seek-safe, deterministic.

Army161/OpenMontage

HyperFrames CLI dev loop. Use when running npx hyperframes init, add, catalog, capture, lint, validate, inspect, layout, snapshot, preview, play, render, publish, lambda, doctor, browser, info, upgrade, skills, compositions, docs, benchmark, telemetry, transcribe, tts, or remove-background, or when troubleshooting the HyperFrames build/render environment. Entry point for AWS Lambda cloud rendering (`hyperframes lambda deploy / render / progress / destroy / policies`).

Army161/OpenMontage

The HyperFrames composition contract — build one renderable project. Use for composition structure, the `data-*` timing attributes, `class="clip"`, tracks, sub-compositions, variables, framework-owned media playback, deterministic-render rules, and validation. Read before writing composition HTML.

Army161/OpenMontage

Non-animation creative direction for HyperFrames videos. Use for design spec (frame.md / design.md) handling, palettes, typography, narration, beat planning, audio-reactive visuals, composition patterns, and brand / style decisions. For atomic motion patterns and scene blueprints, use `hyperframes-animation`.

Army161/OpenMontage

Install and wire registry blocks and components into HyperFrames compositions. Use when running hyperframes add, installing a block or component, wiring an installed item into index.html, or working with hyperframes.json. Covers the add command, install locations, block sub-composition wiring, component snippet merging, registry discovery, and authoring a new block or component to contribute upstream (idea → scaffold → validate → PR).

Army161/OpenMontage

Use when the user wants a short, design-led motion graphic where motion is the message: kinetic typography, stat or number count-up, chart/data-viz hit, logo sting, brand lockup, lower-third, callout, social overlay, animated headline/tweet/news item, motion poster, or quick captured-page highlight. Usually under 10s and up to ~30s, with no narration arc, voice-over, or live-action subject. Can render to MP4 or transparent overlay. Not for longer, multi-scene, narrated, or brand-reel pieces (use general-video), narrated website videos (website-to-video), topic explainers (faceless-explainer), product promos (product-launch-video), PR videos (pr-to-video), or captions on existing footage (embedded-captions). When unsure whether it's a quick motion-first piece or a longer / narrated treatment, see /hyperframes.

Army161/OpenMontage

Use when the user has a music track (an audio file, or a video to pull audio from) and wants a beat-synced HyperFrames video, calm to hard-hitting. The music drives everything: one analyzer reads it once, the orchestrator lays out the frames and fills a per-frame plan, and one sub-agent builds each frame. Typography and templates are the floor — a complete video needs zero assets — but any images or videos the user supplies are cut into the frames on the same beat grid (beat-cut / ken-burns). The genre (lyric video, slideshow, kinetic promo) falls out of the per-frame choices; the pipeline never branches on it.

Army161/OpenMontage

Best practices for Remotion - Video creation in React

Army161/OpenMontage

Toolkit-specific Remotion patterns — custom transitions, shared components, and project conventions. For core Remotion framework knowledge (hooks, animations, rendering, etc.), see the `remotion-official` skill.

Army161/OpenMontage

Port an existing Remotion (React) composition to HyperFrames HTML. Use ONLY when the user explicitly asks to port/convert/migrate/translate a Remotion source. Do NOT use: (a) authoring a new HyperFrames composition; (b) Remotion mentioned in passing; (c) Remotion code shared as reference only; (d) "same video as my Remotion one" without explicit migrate request — treat as fresh build. Doubt → `/general-video`. One-way, Remotion-only: no reverse export (HyperFrames→Remotion or any framework), no non-Remotion source (After Effects, Framer Motion, plain React/CSS) → out of scope, re-create via `/general-video`. Flags unsupported patterns (useState, useEffect, async calculateMetadata, third-party React libs, `@remotion/lambda`) and recommends runtime interop over lossy translation. Unsure whether to port vs. build fresh, or only a passing Remotion mention? → /hyperframes.

Army161/OpenMontage

Animate SVG character rigs with GSAP, CSS transforms, Remotion frame control, and HyperFrames-compatible browser previews.

Army161/OpenMontage

Three.js animation - keyframe animation, skeletal animation, morph targets, animation mixing. Use when animating objects, playing GLTF animations, creating procedural motion, or blending animations.

Skills associés