cv::gapi::onnx::ep::OpenVINO 结构体参考

此结构体提供用于填充 ONNX OpenVINO 执行提供程序的推理选项的函数。请参考 https://onnxruntime.ai/docs/execution-providers/OpenVINO-ExecutionProvider.html#summary-of-options。 更多…

#include <opencv2/gapi/infer/onnx.hpp>

cv::gapi::onnx::ep::OpenVINO 的协作图

公共成员函数
GAPI_WRAP	OpenVINO (const std::map< std::string, std::string > &params)
	类构造函数。
GAPI_WRAP	OpenVINO (const std::string &dev_type)
	类构造函数。
GAPI_WRAP OpenVINO &	cfgCacheDir (const std::string &dir)
	指定 OpenVINO 执行提供程序缓存目录。
GAPI_WRAP OpenVINO &	cfgEnableDynamicShapes ()
	启用 OpenVINO 执行提供程序动态形状。
GAPI_WRAP OpenVINO &	cfgEnableOpenCLThrottling ()
	启用 OpenVINO 执行提供程序 OpenCL 节流。
GAPI_WRAP OpenVINO &	cfgNumThreads (size_t nthreads)
	指定 OpenVINO 执行提供程序线程数。

公共属性
std::string	cache_dir
std::string	device_type
bool	enable_dynamic_shapes = false
bool	enable_opencl_throttling = false
size_t	num_of_threads = 0
std::map< std::string, std::string >	params_map

详细描述

此结构体提供用于填充 ONNX OpenVINO 执行提供程序的推理选项的函数。请参考 https://onnxruntime.ai/docs/execution-providers/OpenVINO-ExecutionProvider.html#summary-of-options。

构造函数和析构函数文档

OpenVINO() [1/2]

GAPI_WRAP cv::gapi::onnx::ep::OpenVINO::OpenVINO ( const std::string & dev_type )

inlineexplicit

类构造函数。

基于设备类型信息构造 OpenVINO 参数。

参数

dev_type

要使用的目标设备类型。（“CPU”、“GPU”、“GPU.0”等）

OpenVINO() [2/2]

GAPI_WRAP cv::gapi::onnx::ep::OpenVINO::OpenVINO ( const std::map< std::string, std::string > & params )

inlineexplicit

类构造函数。

基于传递的选项映射构造 OpenVINO 参数。

参数

params

参数名称及其对应的字符串值的映射。

成员函数文档

cfgCacheDir()

GAPI_WRAP OpenVINO & cv::gapi::onnx::ep::OpenVINO::cfgCacheDir ( const std::string & dir )

inline

指定 OpenVINO 执行提供程序缓存目录。

此函数用于显式指定保存和加载 blob 的路径，启用模型缓存功能。

参数

dir	用作缓存的目录路径。

返回值

此参数结构的引用。

以下是此函数的调用图

cfgEnableDynamicShapes()

GAPI_WRAP OpenVINO & cv::gapi::onnx::ep::OpenVINO::cfgEnableDynamicShapes ( )

inline

启用 OpenVINO 执行提供程序动态形状。

此函数用于为 GPU 设备启用 OpenCL 队列节流（在使用 GPU 时减少 CPU 利用率）。此函数用于启用与动态形状模型的工作，其形状将在运行时根据推理输入图像/数据形状在 CPU 上动态设置。

返回值

此参数结构的引用。

以下是此函数的调用图

cfgEnableOpenCLThrottling()

GAPI_WRAP OpenVINO & cv::gapi::onnx::ep::OpenVINO::cfgEnableOpenCLThrottling ( )

inline

启用 OpenVINO 执行提供程序 OpenCL 节流。

此函数用于为 GPU 设备启用 OpenCL 队列节流（在使用 GPU 时减少 CPU 利用率）。

返回值

此参数结构的引用。

以下是此函数的调用图

cfgNumThreads()

GAPI_WRAP OpenVINO & cv::gapi::onnx::ep::OpenVINO::cfgNumThreads ( size_t nthreads )

inline

指定 OpenVINO 执行提供程序线程数。

此函数用于在运行时使用此值覆盖加速器的默认线程数。

参数

nthreads

线程数。

返回值

此参数结构的引用。

以下是此函数的调用图

成员数据文档

cache_dir

std::string cv::gapi::onnx::ep::OpenVINO::cache_dir

device_type

std::string cv::gapi::onnx::ep::OpenVINO::device_type

enable_dynamic_shapes

bool cv::gapi::onnx::ep::OpenVINO::enable_dynamic_shapes = false

enable_opencl_throttling

bool cv::gapi::onnx::ep::OpenVINO::enable_opencl_throttling = false

num_of_threads

size_t cv::gapi::onnx::ep::OpenVINO::num_of_threads = 0

params_map

std::map<std::string, std::string> cv::gapi::onnx::ep::OpenVINO::params_map

---

此结构体的文档由以下文件生成：

• opencv2/gapi/infer/onnx.hpp