随机梯度下降 SVM 分类器。更多...

#include <opencv2/ml.hpp>

cv::ml::SVMSGD 的协作图

公共类型
枚举	MarginType { SOFT_MARGIN , HARD_MARGIN }

枚举	SvmsgdType { SGD , ASGD }

从 cv::ml::StatModel 继承的公共类型
枚举	Flags { UPDATE_MODEL = 1 , RAW_OUTPUT =1 , COMPRESSED_INPUT =2 , PREPROCESSED_INPUT =4 }

公共成员函数
virtual float	getInitialStepSize () const =0
	SVMSGD 优化问题的参数 initialStepSize。

virtual float	getMarginRegularization () const =0
	SVMSGD 优化问题的参数 marginRegularization。

virtual int	getMarginType () const =0
	边距类型，是 SVMSGD::MarginType 中的一种。

virtual float	getShift ()=0

virtual float	getStepDecreasingPower () const =0
	SVMSGD 优化问题的参数 stepDecreasingPower。

virtual int	getSvmsgdType () const =0
	算法类型，是 SVMSGD::SvmsgdType 中的一种。

virtual TermCriteria	getTermCriteria () const =0
	训练算法的终止条件。您可以指定最大迭代次数 (maxCount) 和/或迭代之间误差变化多少以使算法继续 (epsilon)。

virtual Mat	getWeights ()=0

virtual void	setInitialStepSize (float InitialStepSize)=0
	SVMSGD 优化问题的参数 initialStepSize。

virtual void	setMarginRegularization (float marginRegularization)=0
	SVMSGD 优化问题的参数 marginRegularization。

virtual void	setMarginType (int marginType)=0
	边距类型，是 SVMSGD::MarginType 中的一种。

virtual void	setOptimalParameters (int svmsgdType=SVMSGD::ASGD, int marginType=SVMSGD::SOFT_MARGIN)=0
	函数为选定的 SVM SGD 模型设置最佳参数值。

virtual void	setStepDecreasingPower (float stepDecreasingPower)=0
	SVMSGD 优化问题的参数 stepDecreasingPower。

virtual void	setSvmsgdType (int svmsgdType)=0
	算法类型，是 SVMSGD::SvmsgdType 中的一种。

virtual void	setTermCriteria (const cv::TermCriteria &val)=0
	训练算法的终止条件。您可以指定最大迭代次数 (maxCount) 和/或迭代之间误差变化多少以使算法继续 (epsilon)。

从 cv::ml::StatModel 继承的公共成员函数
virtual float	calcError (const Ptr< TrainData > &data, bool test, OutputArray resp) const
	计算训练或测试数据集上的误差。

virtual bool	empty () const CV_OVERRIDE
	如果 Algorithm 为空（例如，在最开始或读取不成功后），则返回 true。

virtual int	getVarCount () const =0
	返回训练样本中的变量数量。

virtual bool	isClassifier () const =0
	如果模型是分类器，则返回 true。

virtual bool	isTrained () const =0
	如果模型已训练，则返回 true。

virtual float	predict (InputArray samples, OutputArray results=noArray(), int flags=0) const =0
	预测提供的样本的响应。

virtual bool	train (const Ptr< TrainData > &trainData, int flags=0)
	训练统计模型。

virtual bool	train (InputArray samples, int layout, InputArray responses)
	训练统计模型。

从 cv::Algorithm 继承的公共成员函数
	Algorithm ()

virtual	~Algorithm ()

virtual void	clear ()
	清除算法状态。

virtual String	getDefaultName () const

virtual void	read (const FileNode &fn)
	从文件存储读取算法参数。

virtual void	save (const String &filename) const

void	write (const Ptr< FileStorage > &fs, const String &name=String()) const

virtual void	write (FileStorage &fs) const
	将算法参数存储在文件存储中。

void	write (FileStorage &fs, const String &name) const

静态公共成员函数
static Ptr< SVMSGD >	create ()
	创建空模型。使用 StatModel::train 训练模型。由于 SVMSGD 有多个参数，您可能希望找到适合您的问题的最佳参数，或者使用 setOptimalParameters() 设置一些默认参数。

static Ptr< SVMSGD >	load (const String &filepath, const String &nodeName=String())
	从文件加载并创建一个序列化的 SVMSGD。

从 cv::ml::StatModel 继承的静态公共成员函数
template<typename _Tp >
static Ptr< _Tp >	train (const Ptr< TrainData > &data, int flags=0)
	使用默认参数创建并训练模型。

从 cv::Algorithm 继承的静态公共成员函数
template<typename _Tp >
static Ptr< _Tp >	load (const String &filename, const String &objname=String())
	从文件加载算法。

template<typename _Tp >
static Ptr< _Tp >	loadFromString (const String &strModel, const String &objname=String())
	从字符串加载算法。

template<typename _Tp >
static Ptr< _Tp >	read (const FileNode &fn)
	从文件节点读取算法。

其他继承成员
从 cv::Algorithm 继承的受保护成员函数
void	writeFormat (FileStorage &fs) const

详细描述

随机梯度下降 SVM 分类器。

SVMSGD 提供了 SVM 分类器的快速易用实现，使用随机梯度下降方法，如 [35] 所示。

分类器具有以下参数

模型类型，
边距类型，
边距正则化 ( \(\lambda\)),
初始步长 ( \(\gamma_0\)),
步长递减幂 ( \(c\)),
和终止条件。

模型类型可以具有以下值之一：SGD 和 ASGD。

SGD 是 SVMSGD 分类器的经典版本：每一步都通过以下公式计算
\[w_{t+1} = w_t - \gamma(t) \frac{dQ_i}{dw} |_{w = w_t}\]
其中
- \(w_t\) 是第 \(t\) 步决策函数的权重向量，
- \(\gamma(t)\) 是迭代 \(t\) 时模型参数的步长，它根据公式 \(\gamma(t) = \gamma_0 (1 + \lambda \gamma_0 t) ^ {-c}\) 在每一步都减小。
- \(Q_i\) 是来自 SVM 任务的样本编号为 \(i\) 的目标函数，该样本在算法的每一步随机选择。
ASGD 是平均随机梯度下降 SVM 分类器。ASGD 分类器根据公式 \(\widehat{w}_{t+1} = \frac{t}{1+t}\widehat{w}_{t} + \frac{1}{1+t}w_{t+1}\) 在算法的每一步都对权重向量进行平均。

推荐的模型类型是 ASGD（遵循 [35]）。

边距类型可以具有以下值之一：SOFT_MARGIN 或 HARD_MARGIN。

如果您有线性可分集合，则应使用 HARD_MARGIN 类型。
如果您有非线性可分集合或包含离群值的集合，则应使用 SOFT_MARGIN 类型。
在一般情况下（如果您对集合的线性可分性一无所知），请使用 SOFT_MARGIN。

其他参数可以描述如下

边距正则化参数负责在每一步都降低权重，以及对离群值限制的强度（参数越小，离群值被忽略的可能性越小）。SGD 模型的推荐值为 0.0001，ASGD 模型的推荐值为 0.00001。
初始步长参数是步长 \(\gamma(t)\) 的初始值。您需要找到适合您问题的最佳初始步长。
步长下降幂是 \(\gamma(t)\) 根据上述公式下降的幂参数。SGD 模型的推荐值为 1，ASGD 模型的推荐值为 0.75。
终止条件可以是 TermCriteria::COUNT、TermCriteria::EPS 或 TermCriteria::COUNT + TermCriteria::EPS。您需要找到适合您问题的最佳终止条件。

请注意，参数边距正则化、初始步长和步长下降幂应为正数。

要使用 SVMSGD 算法，请执行以下操作

首先，创建 SVMSGD 对象。算法默认情况下会设置最佳参数，但您可以通过函数 setSvmsgdType()、setMarginType()、setMarginRegularization()、setInitialStepSize() 和 setStepDecreasingPower() 设置您自己的参数。
然后，可以使用方法 train() 使用训练特征和相应标签来训练 SVM 模型。
之后，可以使用方法 predict() 预测新特征向量的标签。

// 创建空对象
cv::Ptr<SVMSGD> svmsgd = SVMSGD::create();
 
// 训练随机梯度下降 SVM
svmsgd->train(trainData);
 
// 预测新样本的标签
svmsgd->predict(samples, responses);

成员枚举文档

◆ MarginType

enum cv::ml::SVMSGD::MarginType

边距类型。

枚举值
SOFT_MARGIN	一般情况，适合非线性可分集合的情况，允许离群值。
HARD_MARGIN	对线性可分集合的情况更准确。

◆ SvmsgdType

enum cv::ml::SVMSGD::SvmsgdType

SVMSGD 类型。ASGD 通常是更好的选择。

枚举值
SGD	随机梯度下降。
ASGD	平均随机梯度下降。

成员函数文档

◆ create()

static Ptr< SVMSGD > cv::ml::SVMSGD::create ( )

static

Python
	cv.ml.SVMSGD.create(		) ->	retval
	cv.ml.SVMSGD_create(		) ->	retval

创建空模型。使用 StatModel::train 训练模型。由于 SVMSGD 有多个参数，您可能希望找到适合您的问题的最佳参数，或者使用 setOptimalParameters() 设置一些默认参数。

◆ getInitialStepSize()

virtual float cv::ml::SVMSGD::getInitialStepSize ( ) const

纯虚函数

Python
	cv.ml.SVMSGD.getInitialStepSize(		) ->	retval

SVMSGD 优化问题的参数 initialStepSize。

另请参阅: setInitialStepSize

◆ getMarginRegularization()

virtual float cv::ml::SVMSGD::getMarginRegularization ( ) const

纯虚函数

Python
	cv.ml.SVMSGD.getMarginRegularization(		) ->	retval

SVMSGD 优化问题的参数 marginRegularization。

另请参阅: setMarginRegularization

◆ getMarginType()

virtual int cv::ml::SVMSGD::getMarginType ( ) const

纯虚函数

Python
	cv.ml.SVMSGD.getMarginType(		) ->	retval

边距类型，是 SVMSGD::MarginType 中的一种。

另请参阅: setMarginType

◆ getShift()

virtual float cv::ml::SVMSGD::getShift ( )

纯虚函数

Python
	cv.ml.SVMSGD.getShift(		) ->	retval

返回值: 训练模型的偏移量（决策函数 f(x) = 权重 * x + 偏移量）。

◆ getStepDecreasingPower()

virtual float cv::ml::SVMSGD::getStepDecreasingPower ( ) const

纯虚函数

Python
	cv.ml.SVMSGD.getStepDecreasingPower(		) ->	retval

SVMSGD 优化问题的参数 stepDecreasingPower。

另请参阅: setStepDecreasingPower

◆ getSvmsgdType()

virtual int cv::ml::SVMSGD::getSvmsgdType ( ) const

纯虚函数

Python
	cv.ml.SVMSGD.getSvmsgdType(		) ->	retval

算法类型，是 SVMSGD::SvmsgdType 中的一种。

另请参阅: setSvmsgdType

◆ getTermCriteria()

virtual TermCriteria cv::ml::SVMSGD::getTermCriteria ( ) const

纯虚函数

Python
	cv.ml.SVMSGD.getTermCriteria(		) ->	retval

训练算法的终止条件。您可以指定最大迭代次数 (maxCount) 和/或迭代之间误差变化多少以使算法继续 (epsilon)。

另请参阅: setTermCriteria

◆ getWeights()

virtual Mat cv::ml::SVMSGD::getWeights ( )

纯虚函数

Python
	cv.ml.SVMSGD.getWeights(		) ->	retval

返回值: 训练模型的权重（决策函数 f(x) = 权重 * x + 偏移量）。

◆ load()

static Ptr< SVMSGD > cv::ml::SVMSGD::load	(	const String &	filepath,
		const String &	nodeName = `String()`
	)

static

Python
	cv.ml.SVMSGD.load(	filepath[, nodeName]	) ->	retval
	cv.ml.SVMSGD_load(	filepath[, nodeName]	) ->	retval

从文件加载并创建一个序列化的 SVMSGD。

使用 SVMSGD::save 将 SVMSGD 序列化并存储到磁盘。通过使用包含分类器的文件的路径调用此函数，再次从该文件加载 SVMSGD。可以选择指定包含分类器的文件的节点。

参数

filepath	序列化 SVMSGD 的路径
nodeName	包含分类器的节点的名称

◆ setInitialStepSize()

virtual void cv::ml::SVMSGD::setInitialStepSize ( float InitialStepSize )

纯虚函数

Python
	cv.ml.SVMSGD.setInitialStepSize(	InitialStepSize	) ->	None

SVMSGD 优化问题的参数 initialStepSize。

另请参阅: getInitialStepSize

◆ setMarginRegularization()

virtual void cv::ml::SVMSGD::setMarginRegularization ( float marginRegularization )

纯虚函数

Python
	cv.ml.SVMSGD.setMarginRegularization(	marginRegularization	) ->	None

SVMSGD 优化问题的参数 marginRegularization。

另请参阅: getMarginRegularization

◆ setMarginType()

virtual void cv::ml::SVMSGD::setMarginType ( int marginType )

纯虚函数

Python
	cv.ml.SVMSGD.setMarginType(	marginType	) ->	None

边距类型，是 SVMSGD::MarginType 中的一种。

另请参阅: getMarginType

◆ setOptimalParameters()

virtual void cv::ml::SVMSGD::setOptimalParameters	(	int	svmsgdType = `SVMSGD::ASGD`,
		int	marginType = `SVMSGD::SOFT_MARGIN`
	)

纯虚函数

Python
	cv.ml.SVMSGD.setOptimalParameters(	[, svmsgdType[, marginType]]	) ->	None

函数为选定的 SVM SGD 模型设置最佳参数值。

参数

svmsgdType	是 SVMSGD 分类器的类型。
marginType	是边距约束的类型。

◆ setStepDecreasingPower()

virtual void cv::ml::SVMSGD::setStepDecreasingPower ( float stepDecreasingPower )

纯虚函数

Python
	cv.ml.SVMSGD.setStepDecreasingPower(	stepDecreasingPower	) ->	None

SVMSGD 优化问题的参数 stepDecreasingPower。

另请参阅: getStepDecreasingPower

◆ setSvmsgdType()

virtual void cv::ml::SVMSGD::setSvmsgdType ( int svmsgdType )

纯虚函数

Python
	cv.ml.SVMSGD.setSvmsgdType(	svmsgdType	) ->	None

算法类型，是 SVMSGD::SvmsgdType 中的一种。

另请参阅: getSvmsgdType

◆ setTermCriteria()

virtual void cv::ml::SVMSGD::setTermCriteria ( const cv::TermCriteria & val )

纯虚函数

Python
	cv.ml.SVMSGD.setTermCriteria(	val	) ->	None

训练算法的终止条件。您可以指定最大迭代次数 (maxCount) 和/或迭代之间误差变化多少以使算法继续 (epsilon)。

另请参阅: getTermCriteria

此类的文档是从以下文件生成的

opencv2/ml.hpp

公共类型

公共成员函数

静态公共成员函数

其他继承成员

详细描述

成员枚举文档

◆ MarginType

◆ SvmsgdType

成员函数文档

◆ create()

◆ getInitialStepSize()

◆ getMarginRegularization()

◆ getMarginType()

◆ getShift()

◆ getStepDecreasingPower()

◆ getSvmsgdType()

◆ getTermCriteria()

◆ getWeights()

◆ load()

◆ setInitialStepSize()

◆ setMarginRegularization()

◆ setMarginType()

◆ setOptimalParameters()

◆ setStepDecreasingPower()

◆ setSvmsgdType()

◆ setTermCriteria()