cv::gapi::onnx::ep::OpenVINO 结构体参考

该结构体提供用于填充 ONNX OpenVINO 执行提供程序的推理选项的函数。请参考 https://onnxruntime.ai/docs/execution-providers/OpenVINO-ExecutionProvider.html#summary-of-options。 更多...

#include <opencv2/gapi/infer/onnx.hpp>

cv::gapi::onnx::ep::OpenVINO 的协作图

公共成员函数
GAPI_WRAP	OpenVINO (const std::map< std::string, std::string > &params)
	类构造函数。
GAPI_WRAP	OpenVINO (const std::string &dev_type)
	类构造函数。
GAPI_WRAP OpenVINO &	cfgCacheDir (const std::string &dir)
	指定 OpenVINO 执行提供程序的缓存目录。
GAPI_WRAP OpenVINO &	cfgEnableDynamicShapes ()
	启用 OpenVINO 执行提供程序的动态形状。
GAPI_WRAP OpenVINO &	cfgEnableOpenCLThrottling ()
	启用 OpenVINO 执行提供程序的 OpenCL 节流。
GAPI_WRAP OpenVINO &	cfgNumThreads (size_t nthreads)
	指定 OpenVINO 执行提供程序的线程数量。

公共属性
std::string	cache_dir
std::string	device_type
bool	enable_dynamic_shapes = false
bool	enable_opencl_throttling = false
size_t	num_of_threads = 0
std::map< std::string, std::string >	params_map

详细描述

该结构体提供用于填充 ONNX OpenVINO 执行提供程序的推理选项的函数。请参考 https://onnxruntime.ai/docs/execution-providers/OpenVINO-ExecutionProvider.html#summary-of-options.

构造函数和析构函数文档

OpenVINO() [1/2]

GAPI_WRAP cv::gapi::onnx::ep::OpenVINO::OpenVINO ( const std::string &  dev_type )

inlineexplicit

类构造函数。

根据设备类型信息构造 OpenVINO 参数。

参数

dev_type

要使用的目标设备类型。（"CPU"、"GPU"、"GPU.0" 等）

OpenVINO() [2/2]

GAPI_WRAP cv::gapi::onnx::ep::OpenVINO::OpenVINO ( const std::map< std::string, std::string > &  params )

inlineexplicit

类构造函数。

根据传递的选项映射构造 OpenVINO 参数。

参数

params

参数名称及其对应字符串值的映射。

成员函数文档

cfgCacheDir()

GAPI_WRAP OpenVINO & cv::gapi::onnx::ep::OpenVINO::cfgCacheDir ( const std::string &  dir )

inline

指定 OpenVINO 执行提供程序的缓存目录。

该函数用于显式指定保存和加载 blob 的路径，以启用模型缓存功能。

参数

dir	用作缓存的目录路径。

返回值

对该参数结构的引用。

以下是该函数的调用图

cfgEnableDynamicShapes()

GAPI_WRAP OpenVINO & cv::gapi::onnx::ep::OpenVINO::cfgEnableDynamicShapes ( )

inline

启用 OpenVINO 执行提供程序的动态形状。

该函数用于启用 OpenCL 队列节流，用于 GPU 设备（在使用 GPU 时降低 CPU 利用率）。该函数用于启用对动态形状模型的工作，其形状将在运行时根据推理输入图像/数据的形状动态设置，在 CPU 中进行。

返回值

对该参数结构的引用。

以下是该函数的调用图

cfgEnableOpenCLThrottling()

GAPI_WRAP OpenVINO & cv::gapi::onnx::ep::OpenVINO::cfgEnableOpenCLThrottling ( )

inline

启用 OpenVINO 执行提供程序的 OpenCL 节流。

该函数用于启用 OpenCL 队列节流，用于 GPU 设备（在使用 GPU 时降低 CPU 利用率）。

返回值

对该参数结构的引用。

以下是该函数的调用图

cfgNumThreads()

GAPI_WRAP OpenVINO & cv::gapi::onnx::ep::OpenVINO::cfgNumThreads ( size_t  nthreads )

inline

指定 OpenVINO 执行提供程序的线程数量。

该函数用于在运行时使用该值覆盖加速器线程数量的默认值。

参数

nthreads

线程数量。

返回值

对该参数结构的引用。

以下是该函数的调用图

成员数据文档

cache_dir

std::string cv::gapi::onnx::ep::OpenVINO::cache_dir

device_type

std::string cv::gapi::onnx::ep::OpenVINO::device_type

enable_dynamic_shapes

bool cv::gapi::onnx::ep::OpenVINO::enable_dynamic_shapes = false

enable_opencl_throttling

bool cv::gapi::onnx::ep::OpenVINO::enable_opencl_throttling = false

num_of_threads

size_t cv::gapi::onnx::ep::OpenVINO::num_of_threads = 0

params_map

std::map<std::string, std::string> cv::gapi::onnx::ep::OpenVINO::params_map

---

该结构体的文档是从以下文件生成的

• opencv2/gapi/infer/onnx.hpp