音频与视频处理技能
音视频处理的完整指南。
快速参考
FFmpeg 命令
| 任务 | 命令 |
|---|---|
| 转换格式 | ffmpeg -i input.mp4 output.webm |
| 提取音频 | ffmpeg -i video.mp4 -vn audio.mp3 |
| 生成缩略图 | ffmpeg -i video.mp4 -ss 5 -frames:v 1 thumb.jpg |
| 调整尺寸 | ffmpeg -i input.mp4 -vf scale=1280:720 output.mp4 |
| 压缩 | ffmpeg -i input.mp4 -crf 28 output.mp4 |
常用格式
视频: MP4, WebM, MKV, AVI, MOV
音频: MP3, AAC, WAV, FLAC, OGG
编解码器: H.264, H.265/HEVC, VP9, AV1
1. FFmpeg 基础
安装
# Ubuntu/Debian
sudo apt install ffmpeg
# macOS
brew install ffmpeg
# Windows (Chocolatey)
choco install ffmpeg
基本转换
# 视频格式转换
ffmpeg -i input.avi output.mp4
# 音频格式转换
ffmpeg -i input.wav output.mp3
# 指定编解码器
ffmpeg -i input.mp4 -c:v libx264 -c:a aac output.mp4
视频质量控制
# CRF(恒定速率因子)- 值范围0-51,越低画质越好
ffmpeg -i input.mp4 -c:v libx264 -crf 23 output.mp4
# 码率控制
ffmpeg -i input.mp4 -c:v libx264 -b:v 2M output.mp4
# 双遍编码以获得更优画质
ffmpeg -i input.mp4 -c:v libx264 -b:v 2M -pass 1 -f null /dev/null
ffmpeg -i input.mp4 -c:v libx264 -b:v 2M -pass 2 output.mp4
2. 视频处理
调整尺寸与缩放
# 缩放到指定分辨率
ffmpeg -i input.mp4 -vf "scale=1920:1080" output.mp4
# 保持宽高比缩放
ffmpeg -i input.mp4 -vf "scale=1280:-1" output.mp4 # 自动计算高度
ffmpeg -i input.mp4 -vf "scale=-1:720" output.mp4 # 自动计算宽度
# 添加黑边(letterbox)缩放
ffmpeg -i input.mp4 -vf "scale=1920:1080:force_original_aspect_ratio=decrease,pad=1920:1080:(ow-iw)/2:(oh-ih)/2" output.mp4
裁剪与截取
# 从指定时间戳到另一时间戳进行裁剪
ffmpeg -i input.mp4 -ss 00:01:00 -to 00:02:00 -c copy output.mp4
# 指定持续时间进行裁剪
ffmpeg -i input.mp4 -ss 00:01:00 -t 30 -c copy output.mp4
# 快速定位(将 -ss 放在输入文件前)
ffmpeg -ss 00:01:00 -i input.mp4 -t 30 -c copy output.mp4
拼接视频
# 创建文件列表
echo "file 'video1.mp4'" > list.txt
echo "file 'video2.mp4'" >> list.txt
echo "file 'video3.mp4'" >> list.txt
# 执行拼接
ffmpeg -f concat -safe 0 -i list.txt -c copy output.mp4
添加水印
# 图片水印
ffmpeg -i input.mp4 -i logo.png -filter_complex "overlay=10:10" output.mp4
# 右下角位置
ffmpeg -i input.mp4 -i logo.png -filter_complex "overlay=W-w-10:H-h-10" output.mp4
# 文字水印
ffmpeg -i input.mp4 -vf "drawtext=text='版权信息':fontsize=24:fontcolor=white:x=10:y=10" output.mp4
速度调整
# 加速2倍
ffmpeg -i input.mp4 -filter:v "setpts=0.5*PTS" -filter:a "atempo=2.0" output.mp4
# 减速0.5倍
ffmpeg -i input.mp4 -filter:v "setpts=2*PTS" -filter:a "atempo=0.5" output.mp4
3. 音频处理
提取音频
# 提取音频轨道
ffmpeg -i video.mp4 -vn -c:a copy audio.aac
# 转换为MP3
ffmpeg -i video.mp4 -vn -c:a libmp3lame -q:a 2 audio.mp3
# 提取指定音频流
ffmpeg -i video.mp4 -map 0:a:0 -c copy audio.m4a
音频格式转换
# WAV转MP3
ffmpeg -i input.wav -c:a libmp3lame -b:a 320k output.mp3
# FLAC转MP3
ffmpeg -i input.flac -c:a libmp3lame -q:a 0 output.mp3
# MP3转AAC
ffmpeg -i input.mp3 -c:a aac -b:a 256k output.m4a
音频标准化
# Loudnorm 滤波器(EBU R128)
ffmpeg -i input.mp3 -af loudnorm=I=-16:LRA=11:TP=-1.5 output.mp3
# 音量调整
ffmpeg -i input.mp3 -af "volume=2.0" output.mp3 # 放大2倍
ffmpeg -i input.mp3 -af "volume=0.5" output.mp3 # 缩小一半
# 峰值标准化
ffmpeg -i input.mp3 -af "acompressor" output.mp3
合并音频与视频
# 替换音频轨道
ffmpeg -i video.mp4 -i audio.mp3 -c:v copy -c:a aac -map 0:v -map 1:a output.mp4
# 将音频混入视频
ffmpeg -i video.mp4 -i audio.mp3 -c:v copy -filter_complex "[0:a][1:a]amix=inputs=2:duration=first" output.mp4
4. 缩略图与截图
单张缩略图
# 在指定时间点截取
ffmpeg -i video.mp4 -ss 00:00:05 -frames:v 1 thumbnail.jpg
# 最佳质量
ffmpeg -i video.mp4 -ss 00:00:05 -frames:v 1 -q:v 2 thumbnail.jpg
# 指定尺寸
ffmpeg -i video.mp4 -ss 00:00:05 -frames:v 1 -vf "scale=320:180" thumbnail.jpg
多张缩略图
# 每隔N秒截取
ffmpeg -i video.mp4 -vf "fps=1/10" thumbnails_%03d.jpg # 每10秒
# 截取指定数量的缩略图
ffmpeg -i video.mp4 -vf "select='not(mod(n,300))'" -vsync vfr thumb_%03d.jpg
# 生成缩略图网格
ffmpeg -i video.mp4 -vf "fps=1/10,scale=160:90,tile=10x10" sprite.jpg
GIF 制作
# 简单 GIF
ffmpeg -i video.mp4 -ss 0 -t 5 -vf "fps=10,scale=320:-1" output.gif
# 使用调色板的高品质 GIF
ffmpeg -i video.mp4 -ss 0 -t 5 -vf "fps=10,scale=320:-1:flags=lanczos,palettegen" palette.png
ffmpeg -i video.mp4 -i palette.png -ss 0 -t 5 -filter_complex "[0:v]fps=10,scale=320:-1:flags=lanczos[x];[x][1:v]paletteuse" output.gif
5. 流媒体格式
HLS(HTTP 直播流)
# 生成 HLS
ffmpeg -i input.mp4 \
-c:v libx264 -c:a aac \
-hls_time 10 \
-hls_list_size 0 \
-hls_segment_filename "segment_%03d.ts" \
output.m3u8
# 自适应码率 HLS
ffmpeg -i input.mp4 \
-filter_complex "[0:v]split=3[v1][v2][v3];[v1]scale=1920:1080[v1out];[v2]scale=1280:720[v2out];[v3]scale=854:480[v3out]" \
-map "[v1out]" -c:v:0 libx264 -b:v:0 5M \
-map "[v2out]" -c:v:1 libx264 -b:v:1 2M \
-map "[v3out]" -c:v:2 libx264 -b:v:2 1M \
-map 0:a -c:a aac -b:a 128k \
-var_stream_map "v:0,a:0 v:1,a:0 v:2,a:0" \
-master_pl_name master.m3u8 \
-hls_time 6 \
-hls_segment_filename "v%v/segment_%03d.ts" \
v%v/index.m3u8
DASH(动态自适应流媒体)
ffmpeg -i input.mp4 \
-c:v libx264 -c:a aac \
-f dash \
-init_seg_name "init-\$RepresentationID\$.m4s" \
-media_seg_name "chunk-\$RepresentationID\$-\$Number%05d\$.m4s" \
output.mpd
6. Python 集成
PyAV(FFmpeg 绑定)
import av
def transcode_video(input_path, output_path, target_codec='libx264'):
input_container = av.open(input_path)
output_container = av.open(output_path, 'w')
# 获取输入流
video_stream = input_container.streams.video[0]
audio_stream = input_container.streams.audio[0] if input_container.streams.audio else None
# 创建输出流
output_video = output_container.add_stream(target_codec, rate=video_stream.average_rate)
output_video.width = video_stream.width
output_video.height = video_stream.height
output_video.pix_fmt = 'yuv420p'
if audio_stream:
output_audio = output_container.add_stream('aac', rate=audio_stream.rate)
for packet in input_container.demux():
if packet.stream.type == 'video':
for frame in packet.decode():
for out_packet in output_video.encode(frame):
output_container.mux(out_packet)
elif packet.stream.type == 'audio' and audio_stream:
for frame in packet.decode():
for out_packet in output_audio.encode(frame):
output_container.mux(out_packet)
# 刷新编码器
for packet in output_video.encode():
output_container.mux(packet)
output_container.close()
input_container.close()
MoviePy
from moviepy.editor import VideoFileClip, concatenate_videoclips, TextClip, CompositeVideoClip
def process_video(input_path, output_path):
# 加载视频
clip = VideoFileClip(input_path)
# 裁剪
trimmed = clip.subclip(10, 60) # 10s 到 60s
# 调整尺寸
resized = trimmed.resize(height=720)
# 添加文字叠加
txt_clip = TextClip("你好,世界", fontsize=50, color='white')
txt_clip = txt_clip.set_position('center').set_duration(5)
# 合成
final = CompositeVideoClip([resized, txt_clip])
# 导出
final.write_videofile(
output_path,
codec='libx264',
audio_codec='aac'
)
clip.close()
def create_thumbnail(video_path, output_path, time=5):
clip = VideoFileClip(video_path)
frame = clip.get_frame(time)
clip.save_frame(output_path, t=time)
clip.close()
def concatenate_videos(video_paths, output_path):
clips = [VideoFileClip(path) for path in video_paths]
final = concatenate_videoclips(clips)
final.write_videofile(output_path)
for clip in clips:
clip.close()
FFmpeg 子进程调用
import subprocess
import json
def get_video_info(video_path):
"""使用 ffprobe 获取视频元数据"""
cmd = [
'ffprobe',
'-v', 'quiet',
'-print_format', 'json',
'-show_format',
'-show_streams',
video_path
]
result = subprocess.run(cmd, capture_output=True, text=True)
return json.loads(result.stdout)
def transcode_video(input_path, output_path, options=None):
"""使用 FFmpeg 转码视频"""
cmd = ['ffmpeg', '-i', input_path]
if options:
if 'video_codec' in options:
cmd.extend(['-c:v', options['video_codec']])
if 'audio_codec' in options:
cmd.extend(['-c:a', options['audio_codec']])
if 'crf' in options:
cmd.extend(['-crf', str(options['crf'])])
if 'resolution' in options:
cmd.extend(['-vf', f"scale={options['resolution']}"])
cmd.extend(['-y', output_path])
result = subprocess.run(cmd, capture_output=True, text=True)
if result.returncode != 0:
raise Exception(f"FFmpeg 错误: {result.stderr}")
return True
def generate_hls(input_path, output_dir):
"""生成 HLS 流"""
import os
os.makedirs(output_dir, exist_ok=True)
cmd = [
'ffmpeg', '-i', input_path,
'-c:v', 'libx264',
'-c:a', 'aac',
'-hls_time', '10',
'-hls_list_size', '0',
'-hls_segment_filename', f'{output_dir}/segment_%03d.ts',
f'{output_dir}/index.m3u8'
]
subprocess.run(cmd, check=True)
7. 直播推流
RTMP 服务器(nginx-rtmp)
# nginx.conf
rtmp {
server {
listen 1935;
application live {
live on;
record off;
# HLS 输出
hls on;
hls_path /var/www/hls;
hls_fragment 3;
hls_playlist_length 60;
}
}
}
推流到 RTMP
# 推送文件到 RTMP
ffmpeg -re -i input.mp4 -c copy -f flv rtmp://server/live/stream
# 推送摄像头
ffmpeg -f v4l2 -i /dev/video0 -f alsa -i hw:0 \
-c:v libx264 -preset veryfast -b:v 2M \
-c:a aac -b:a 128k \
-f flv rtmp://server/live/stream
# 推流到 YouTube
ffmpeg -i input.mp4 \
-c:v libx264 -preset medium -b:v 4M \
-c:a aac -b:a 128k \
-f flv rtmp://a.rtmp.youtube.com/live2/YOUR_STREAM_KEY
8. 视频处理管道
使用 Celery 实现异步处理
from celery import Celery
import os
celery = Celery('video_tasks')
@celery.task
def process_upload(video_id, input_path):
"""完整的视频处理流水线"""
output_dir = f'/videos/{video_id}'
os.makedirs(output_dir, exist_ok=True)
# 生成缩略图
generate_thumbnail.delay(video_id, input_path, f'{output_dir}/thumb.jpg')
# 转码为多种分辨率
resolutions = [
('1080p', '1920:1080', '5M'),
('720p', '1280:720', '2.5M'),
('480p', '854:480', '1M'),
]
for name, scale, bitrate in resolutions:
transcode_resolution.delay(
video_id, input_path,
f'{output_dir}/{name}.mp4',
scale, bitrate
)
# 生成 HLS
generate_hls.delay(video_id, input_path, f'{output_dir}/hls')
@celery.task
def generate_thumbnail(video_id, input_path, output_path):
cmd = [
'ffmpeg', '-i', input_path,
'-ss', '5', '-frames:v', '1',
'-vf', 'scale=320:-1',
output_path
]
subprocess.run(cmd, check=True)
@celery.task
def transcode_resolution(video_id, input_path, output_path, scale, bitrate):
cmd = [
'ffmpeg', '-i', input_path,
'-c:v', 'libx264', '-b:v', bitrate,
'-vf', f'scale={scale}',
'-c:a', 'aac', '-b:a', '128k',
output_path
]
subprocess.run(cmd, check=True)
9. 音频分析
波形图生成
import librosa
import librosa.display
import matplotlib.pyplot as plt
import numpy as np
def generate_waveform(audio_path, output_path):
"""生成波形图"""
y, sr = librosa.load(audio_path)
plt.figure(figsize=(14, 5))
librosa.display.waveshow(y, sr=sr)
plt.title('波形图')
plt.savefig(output_path, dpi=150, bbox_inches='tight')
plt.close()
def generate_spectrogram(audio_path, output_path):
"""生成频谱图"""
y, sr = librosa.load(audio_path)
D = librosa.stft(y)
S_db = librosa.amplitude_to_db(np.abs(D), ref=np.max)
plt.figure(figsize=(14, 5))
librosa.display.specshow(S_db, sr=sr, x_axis='time', y_axis='hz')
plt.colorbar(format='%+2.0f dB')
plt.title('频谱图')
plt.savefig(output_path, dpi=150, bbox_inches='tight')
plt.close()
10. 最佳实践
编码预设
# Web优化版 MP4
ffmpeg -i input.mp4 \
-c:v libx264 -preset slow -crf 22 \
-c:a aac -b:a 128k \
-movflags +faststart \
output.mp4
# 存档级质量
ffmpeg -i input.mp4 \
-c:v libx264 -preset veryslow -crf 18 \
-c:a flac \
archive.mkv
# 移动端优化
ffmpeg -i input.mp4 \
-c:v libx264 -preset fast -crf 28 \
-vf "scale='min(720,iw)':-2" \
-c:a aac -b:a 96k \
mobile.mp4
最佳实践
- 使用硬件加速 - NVENC, VAAPI, VideoToolbox
- 针对 Web 优化 - faststart 标志
…
[截断,等待翻译]