Preprocesamiento de Medios para HyperFrames
Tres comandos CLI que generan activos para composiciones: tts (voz), transcribe (marcas de tiempo) y remove-background (video transparente). Cada uno descarga un modelo en la primera ejecución y lo almacena en caché en ~/.cache/hyperframes/. Coloca la salida en el proyecto, luego refiérete a ella desde el HTML de la composición; consulta el skill hyperframes para las convenciones de elementos de audio/video.
Texto a Voz (tts)
Genera audio de voz localmente con Kokoro-82M. Sin clave API.
npx hyperframes tts "Texto aquí" --voice af_nova --output narracion.wav
npx hyperframes tts script.txt --voice bf_emma --output narracion.wav
npx hyperframes tts --list # las 54 voces
Selección de Voz
Empareja la voz con el contenido. La opción predeterminada es af_heart.
| Tipo de contenido | Voz | Por qué |
|---|---|---|
| Demo de producto | af_heart/af_nova | Cálida, profesional |
| Tutorial / guía | am_adam/bf_emma | Neutral, fácil de seguir |
| Marketing / promoción | af_sky/am_michael | Enérgica o autoritaria |
| Documentación | bf_emma/bm_george | Inglés británico claro, formal |
| Casual / social | af_heart/af_sky | Cercana, natural |
Multilingüe
Los IDs de voz codifican el idioma en la primera letra: a=inglés americano, b=inglés británico, e=español, f=francés, h=hindi, i=italiano, j=japonés, p=portugués brasileño, z=mandarín. La CLI detecta automáticamente la configuración regional del fonemizador a partir del prefijo — no necesitas --lang cuando la voz coincide con el texto.
npx hyperframes tts "La reunión empieza a las nueve" --voice ef_dora --output es.wav
npx hyperframes tts "今日はいい天気ですね" --voice jf_alpha --output ja.wav
Usa --lang solo para anular la detección automática (acentos estilizados). Códigos válidos: en-us, en-gb, es, fr-fr, hi, it, pt-br, ja, zh. La fonemización en idiomas no ingleses requiere espeak-ng a nivel de sistema (brew install espeak-ng / apt-get install espeak-ng).
Velocidad
0.7-0.8— tutorial, contenido complejo, accesibilidad1.0— ritmo natural (predeterminado)1.1-1.2— intros, transiciones, contenido dinámico1.5+— raramente apropiado; probar con cuidado
Guiones Largos
Para más de unos pocos párrafos, escribe en un archivo .txt y pasa la ruta. Las entradas de más de ~5 minutos de voz pueden beneficiarse de dividirse en segmentos.
Requisitos
Python 3.8+ con kokoro-onnx y soundfile (pip install kokoro-onnx soundfile). El modelo se descarga en el primer uso (~311 MB + ~27 MB de voces, almacenado en caché en ~/.cache/hyperframes/tts/).
Transcripción (transcribe)
Genera un transcript.json normalizado con marcas de tiempo a nivel de palabra.
npx hyperframes transcribe audio.mp3
npx hyperframes transcribe video.mp4 --model small --language es
npx hyperframes transcribe subtitles.srt # importar existente
npx hyperframes transcribe subtitles.vtt
npx hyperframes transcribe openai-response.json
Regla de Idioma (No Negociable)
Nunca uses modelos .en a menos que el usuario indique explícitamente que el audio está en inglés. Los modelos .en (small.en, medium.en) traducen audio no inglés a inglés en lugar de transcribirlo. Esto destruye silenciosamente el idioma original.
- Idioma conocido y no inglés →
--model small --language <código>(sin sufijo.en) - Idioma conocido e inglés →
--model small.en - Idioma desconocido →
--model small(sin.en, sin--language) — whisper detecta automáticamente
El modelo predeterminado es small, no small.en.
Tamaños de Modelo
| Modelo | Tamaño | Velocidad | Cuándo usarlo |
|---|---|---|---|
tiny | 75 MB | Más rápido | Vista previa rápida, pruebas de pipeline |
base | 142 MB | Rápido | Clips cortos, audio claro |
small | 466 MB | Moderado | Predeterminado — la mayoría del contenido |
medium | 1.5 GB | Lento | Contenido importante, audio ruidoso, música |
large-v3 | 3.1 GB | Más lento | Calidad de producción |
Música con voces: comenzar con medium como mínimo; las pistas producidas a menudo necesitan importación manual de SRT/VTT. Para controles de calidad de subtítulos (obligatorios después de cada transcripción), el JS de limpieza, las reglas de reintento y la ruta de importación de API de OpenAI/Groq, consulta hyperframes/references/transcript-guide.md.
Formato de Salida
Las composiciones consumen un array plano de objetos de palabra. El campo id (w0, w1, ...) se agrega durante la normalización para referencias estables en anulaciones de subtítulos; es opcional para compatibilidad hacia atrás.
[
{ "id": "w0", "text": "Hola", "start": 0.0, "end": 0.5 },
{ "id": "w1", "text": "mundo.", "start": 0.6, "end": 1.2 }
]
Eliminación de Fondo (remove-background)
Elimina el fondo de un video o imagen para que el sujeto (típicamente una persona — avatar, presentador, cabeza parlante) se sitúe como una superposición transparente en una composición.
npx hyperframes remove-background sujeto.mp4 -o transparente.webm # predeterminado: VP9 alpha WebM
npx hyperframes remove-background sujeto.mp4 -o transparente.mov # ProRes 4444 (edición)
npx hyperframes remove-background retrato.jpg -o recorte.png # recorte de imagen única
npx hyperframes remove-background sujeto.mp4 -o sujeto.webm \
--background-output plato.webm # ambas capas en un solo paso
npx hyperframes remove-background sujeto.mp4 -o transparente.webm --device cpu
npx hyperframes remove-background --info # proveedores detectados
Usa u2net_human_seg (MIT). La primera ejecución descarga ~168 MB de pesos a ~/.cache/hyperframes/background-removal/models/.
NO uses u2net para pegatinas troqueladas con contorno blanco
remove-background (u2net) es segmentación de objetos salientes — segmenta el
cuerpo del sujeto y corta el contorno blanco troquelado, porque el trazo
blanco alrededor de la figura no es "el objeto". Para pegatinas transparentes de
Telegram / mensajería renderizadas con un contorno blanco sobre un fondo de color
plano conocido, clavea el fondo en lugar de segmentar el sujeto:
- Relleno por inundación del fondo plano.
PIL ImageDraw.floodfillsembrado desde puntos a lo largo de los cuatro bordes (paso ~24px), marca los píxeles rellenos → alfa 0, todo lo demás opaco. Esto preserva el contorno blanco Y los objetos interiores del mismo color Y las islas desconectadas (una taza voladora separada del cuerpo mantiene su propio contorno). Requiere que el prompt de generación coloque al sujeto sobre un fondo plano uniforme y solicite el contorno blanco troquelado explícitamente. - Variante sin contorno (más limpia que eliminar un contorno horneado):
vuelve a ejecutar cada imagen imagen-a-imagen — pasa el renderizado
final como
--refy solicita "recrea la misma pose/props pero QUITA el contorno blanco y ponlo en un fondo verde croma puro plano (#00b140)", luego clavea el verde con una clave croma suave, nunca una máscara binaria (alpha = clip((HIGH-(G-max(R,B)))/(HIGH-LOW),0,1), LOW≈30 HIGH≈95, más despill globalG = min(G, max(R,B))). Un relleno por inundación binario + erosión produce bordes escalonados/aliasing — difumina la alfa binaria (GaussianBlur(0.8)) para un borde suave en lugar de erosionar. - Tamaño para pegatinas de mensajería: recorta al bbox alfa sólido y escala el lado largo exactamente al objetivo (ej. 512) — no rellenes a un cuadrado de 512² (deja al sujeto pequeño con espacio vacío alrededor).
NO se aplica a: recortes humanos para superposiciones de video (u2net es correcto ahí); arte sin contorno troquelado; sujetos sobre un fondo no uniforme/ocupado (el relleno por inundación necesita un color clave plano).
Separación de Capas (--background-output)
Usa --background-output (o -b) para emitir un segundo video transparente junto con el recorte: mismo RGB de origen, alfa es 255 − máscara en lugar de máscara. El recorte es el sujeto con un fondo transparente; el plato es el entorno original con un agujero transparente donde estaba el sujeto.
| Archivo | Alfa es… | Úsalo para |
|---|---|---|
-o sujeto.webm | La máscara — sujeto opaco, fondo transparente | Capa frontal, colocar encima |
--background-output plato.webm | Inversa — entorno opaco, región del sujeto transparente | Capa inferior; colocar texto o gráficos entre esta y el sujeto |
Ambas salidas comparten el mismo preset --quality y se ejecutan desde una sola inferencia — el costo de codificación se duplica aproximadamente, el costo de segmentación se mantiene igual. Solo válido para entradas de video y salidas .webm/.mov.
Plato con agujero, no un plato limpio inpintado. La región del sujeto en plato.webm es completamente transparente — compón algo opaco debajo para llenar el agujero. La única prueba para saber si --background-output es la herramienta correcta: ¿se verá algo a través de la silueta del sujeto donde solía estar el sujeto?
| Caso de uso | Herramienta correcta |
|---|---|
| Texto/gráficos entre el recorte y el plato (razón de existir de este comando) | Agujero (--background-output) |
| Sujeto sobre una escena no relacionada | Solo sujeto.webm; ignora el plato |
| Mostrar la habitación sin la persona, sola sobre ningún otro contenido | Plato limpio — necesita un inpintador (LaMa, ProPainter, E2FGVI). No este comando. |
| Reemplazar al sujeto con un sujeto diferente | Plato limpio — igual que arriba |
Si un usuario pide "la habitación sin la persona" y tiene la intención de mostrarla sola, no uses --background-output. Diles que necesitan un inpintador.
Composición típica en capas (el caso de uso canónico del agujero):
<!-- z=1 el plato con alfa inversa llena todo excepto la región del sujeto -->
<video
src="plato.webm"
data-start="0"
data-duration="6"
data-track-index="0"
muted
playsinline
></video>
<!-- z=2 gráficos / texto viven entre las dos capas -->
<h1 id="headline" style="z-index:2; ...">HÁZLO EN HYPERFRAMES</h1>
<!-- z=3 el recorte flota al sujeto de vuelta sobre el titular -->
<div class="cutout-wrap" style="position:absolute;inset:0;z-index:3">
<video
src="sujeto.webm"
data-start="0"
data-duration="6"
data-track-index="1"
muted
playsinline
></video>
</div>
Esto es funcionalmente equivalente al patrón texto-detrás-de-sujeto a continuación, pero no necesitas el presenter.mp4 original en el proyecto — el plato lo reemplaza. Útil cuando quieres enviar solo las dos capas transparentes y permitir que el usuario coloque contenido arbitrario entre ellas.
Formato de Salida
| Formato | Cuándo |
|---|---|
.webm (VP9 + alfa) | Predeterminado. Las composiciones lo reproducen directamente via <video>. |
.mov (ProRes 4444) | Edición en DaVinci/Premiere/FCP. Archivos grandes. |
.png | Recorte de imagen única (sujeto fijo, superpuesto sobre un fondo). |
Chrome decodifica alfa VP9 de forma nativa, por lo que el .webm se conecta a una composición como cualquier otro video con reproducción automática silenciada; consulta el skill hyperframes para las convenciones de pista <video>.
Presets de Calidad
--quality fast|balanced|best controla solo el CRF del codificador VP9 — la calidad de segmentación es fija.
| Preset | CRF | Cuándo |
|---|---|---|
fast | 30 | Iterando, archivo más pequeño, coincidencia de color menos estricta |
balanced | 18 | Predeterminado. Visualmente idéntico para la mayoría de usos |
best | 12 | Entrega final / maestra. Archivo más grande, coincidencia más precisa |
Patrones de Composición — elige el correcto
El webm recortado es una copia re-codificada del RGB del mp4 de origen. Esa elección tiene consecuencias dependiendo de lo que coloques detrás:
| Patrón | Qué hay detrás del recorte | Resultado |
|---|---|---|
| Recorte sobre una escena diferente (más común) | Imagen estática, degradado o video no relacionado | Se ve genial. El RGB del recorte es la única fuente del sujeto — sin duplicación, sin halos en los bordes. Para esto está diseñado remove-background. |
| Recorte sobre su propio mp4 de origen (texto-detrás-de-sujeto) | El mismo mp4 del que se generó el recorte | Dos fuentes RGB para la misma persona. Con --quality balanced (crf 18) la duplicación es apenas visible; con --quality fast (crf 30) verás un ligero cambio de color / borde en ... [truncado para traducción] |
…
[truncado para traducción]