快速体验

本节,我们将围绕五个方面直接展示 BMF 框架的能力:转码编辑会议/导播GPU+CPU 加速AI。下面所提供的所有 demo 都可在 Goole Colab 上找到相应的实现方法和文档,让您可以直观地体验它们。

转码

本 demo 将逐步介绍如何使用 BMF 开发转码程序,包括视频转码、音频转码和图像转码。您可以从中熟悉如何使用 BMF,以及如何使用与 FFmpeg 兼容的选项来实现所需的能力。

快速体验:Open In Colab

编辑

本 demo 展示了如何通过BMF框架实现高复杂度的音频和视频编辑 pipeline。我们实现了 video_concat 和 video_overlay 两个 Python 模块,并结合各种原子能力构建了一个复杂的 BMF Graph。

快速体验:Open In Colab

会议/导播

本 demo 使用 BMF 框架构建一个简单的导播服务。该服务提供的 API 可实现动态视频拉取、视频布局控制、音频混合,并最终将输出流式传输到 RTMP 服务器。本 demo 展示了 BMF 的模块化、多语言开发以及动态调整 pipeline 的能力。

下方是一个导播操作的录频演示:

CPU+GPU 加速

视频帧提取

视频帧提取加速 demo 展示了:

  1. BMF 的灵活能力:

    • 多语言编程,在这个 demo 中我们可以看见多语言模块协同工作
    • 易于扩展,可以轻松添加新的 Python、C++ 模块
    • 完全兼容 FFmpeg
  2. 支持快速硬件加速以及 CPU/GPU pipeline

    • BMF 支持异构 pipeline,例如 CPU 和 GPU 之间的进程
    • BMF 具有有用的硬件 color space conversion 能力 快速体验:Open In Colab

GPU 视频处理

GPU 转码和 filter 模块 demo 展示了:

  1. 由 GPU 加速的 BMF 中常见的视频/图像 filter
  2. 如何写 BMF 的 GPU 模块

本 demo 构建了一个完全在 GPU 上运行的转码 pipeline:

decode->scale->flip->rotate->crop->blur->encode

快速体验:Open In Colab

AI

Deoldify

本 demo 展示了如何将最先进的 AI 算法集成到 BMF 的视频处理 pipeline。著名的开源着色算法 DeOldify 被封装在 BMF Python 模块,代码不到 100 行。最终的效果如下图所示,左边是原视频,右边是彩色视频:

快速体验:Open In Colab

超分辨率

本 demo 将 Real-ESRGAN 的超分辨率推理过程实现为 BMF 模块,展示了一个结合解码、超分辨率推理和编码的 BMF pipeline。

快速体验:Open In Colab

视频质量打分

本 demo 展示了如何使用 BMF 调用美学评估模型。深度学习模型 Aesmode 在 AVA 数据集上的二元分类准确率达到了 83.8%,达到学术届 SOTA 的水平,并且可以通过帧提取处理直接用于评估视频的美学程度。

快速体验:Open In Colab

使用 TensorRT 进行人脸检测

本 demo 展示了一个基于 TensorRT 加速的全链路人脸检测 pipeline,其内部使用 TensorRT 加速的 Onnx 模型来处理输入视频。它使用 NMS 算法过滤重复的候选框,形成输出,可用于高效处理人脸检测任务。

快速体验:Open In Colab


最后修改 February 19, 2024 : fix baidu statistics (daa0758)