如何启用 Halide 后端以提高效率

目录

• 引言
• 需求
  • LLVM 编译器
  • Halide 语言。
• 使用 Halide 后端构建 OpenCV
• 设置 Halide 为首选后端

上一篇教程： 加载 Caffe 框架模型
下一篇教程： 如何为 Halide 后端调度您的网络

原作者	Dmitry Kurtaev
兼容性	OpenCV >= 3.3

引言

本教程指导如何在 OpenCV 深度学习模块中使用 Halide 语言后端运行您的模型。Halide 是一个开源项目，允许我们以易于阅读的格式编写图像处理算法，根据特定设备调度计算，并以相当高的效率进行评估。

Halide 项目的官方网站：http://halide-lang.org/。

最新的效率比较：https://github.com/opencv/opencv/wiki/DNN-Efficiency

需求

LLVM 编译器

注意

LLVM 编译可能需要很长时间。

• 从 http://releases.llvm.org/4.0.0/llvm-4.0.0.src.tar.xz 下载 LLVM 源代码。解压它。令llvm_root 为源代码的根目录。
• 创建目录 llvm_root/tools/clang
• 下载与 LLVM 版本相同的 Clang。在本例中，它将来自 http://releases.llvm.org/4.0.0/cfe-4.0.0.src.tar.xz。将其解压到 llvm_root/tools/clang。请注意，它应该是 Clang 源代码的根目录。
• 在 Linux 上构建 LLVM

  cd llvm_root
  mkdir build && cd build
  cmake -DLLVM_ENABLE_TERMINFO=OFF -DLLVM_TARGETS_TO_BUILD="X86" -DLLVM_ENABLE_ASSERTIONS=ON -DCMAKE_BUILD_TYPE=Release ..
  make -j4

• 在 Windows 上构建 LLVM（开发者命令提示符）

  mkdir \\path-to-llvm-build\\ && cd \\path-to-llvm-build\\
  cmake.exe -DLLVM_ENABLE_TERMINFO=OFF -DLLVM_TARGETS_TO_BUILD=X86 -DLLVM_ENABLE_ASSERTIONS=ON -DCMAKE_BUILD_TYPE=Release -DCMAKE_INSTALL_PREFIX=\\path-to-llvm-install\\ -G "Visual Studio 14 Win64" \\path-to-llvm-src\\
  MSBuild.exe /m:4 /t:Build /p:Configuration=Release .\\INSTALL.vcxproj

注意

\\path-to-llvm-build\\ 和 \\path-to-llvm-install\\ 是不同的目录。

Halide 语言。

• 从 GitHub 仓库下载源代码，https://github.com/halide/Halide 或使用 git。根目录将为 halide_root。

  git clone https://github.com/halide/Halide.git

• 在 Linux 上构建 Halide

  cd halide_root
  mkdir build && cd build
  cmake -DLLVM_DIR=llvm_root/build/lib/cmake/llvm -DCMAKE_BUILD_TYPE=Release -DLLVM_VERSION=40 -DWITH_TESTS=OFF -DWITH_APPS=OFF -DWITH_TUTORIALS=OFF ..
  make -j4

• 在 Windows 上构建 Halide（开发者命令提示符）

  cd halide_root
  mkdir build && cd build
  cmake.exe -DLLVM_DIR=\\path-to-llvm-install\\lib\\cmake\\llvm -DLLVM_VERSION=40 -DWITH_TESTS=OFF -DWITH_APPS=OFF -DWITH_TUTORIALS=OFF -DCMAKE_BUILD_TYPE=Release -G "Visual Studio 14 Win64" ..
  MSBuild.exe /m:4 /t:Build /p:Configuration=Release .\\ALL_BUILD.vcxproj

使用 Halide 后端构建 OpenCV

构建 OpenCV 时，添加以下配置标志

• WITH_HALIDE - 启用 Halide 链接
• HALIDE_ROOT_DIR - Halide 构建目录的路径

设置 Halide 为首选后端

net.setPreferableBackend(DNN_BACKEND_HALIDE);