可以合并为:
(1.6)
若想要得到最优超平面,即使得 为最小,那么即是解二次规划问题
(1.7)
(1.8)
引入Lagrange函数,求解出该线性问题
(1.9)
对式中的 和 求偏导,并且令其偏导数为0
(1.10)
(1.11)
解(1.10)和(1.11)可得:
把(1.12)和(1.13)代入(1.9)可得:
将目标函数换成极小,得到优化对偶的问题
线性不可分
如图1.3所示的问题,当一条直线不能把目标研究内容集合准确地分开,会产生很大的误差,这一类问题统称为线性可分问题,要使用非线性学习机。
线性不可分问题
当训练集合不能用一条直线准确分为两类时,此时我们要引入一个非负变量:
对最大间隔的要求适当的放松,可以允许有不在约束条件 的点存在,可以用式(1.20)表示:
(1.20)
解决下列最优化问题即为构造了最优超平面
(1.21)
(1.22)
(1.23)
相似的线性可分问题,也是使用Lagrange函数求解二次规划问题的
为Lagrange子向量,可得到对偶问题:
(1.24)
(1.25)
1.3.3 多元回归分析
回归分析作为数理统计学的一种方法,可以通过回归分析一组变量之间的相关性,而且可以解出表示它们相关性的函数[15]。如这是一个简单的回归问题:分析两个变量X和Y的关系。假设测得的若干个X的值和其相对应的Y值, ,根据这些数值,分析推断两个变量之间的关系。即如图1.3所示寻求一条曲线 。
回归问题 x
用数学语言描述:
给定训练集合
(1.26)
假设数据样本是按照一个概率 选取的独立分别的样本点,损失函数为 ,寻找一个相关性函数 使得期望风险
(1.27)
有最小值。
在研究多个变量之间的关系时,则要求运用多元回归分析法,它的表达式一般为:
(1.28)
模型参数是 , 是误差项, 的存在有一定的变异性。
1.4分析方法的比较
预测模型的评价指标主要是有两个,一是预测结果的精确度,二是模型的可靠性。一般而言,判定模型的好与坏是采用多项误差方法来确定的,因为只使用一种误差分析方法来评价预测模型的优劣势不可靠的[26]。这个章节会分析三个方法的数据分析特点,包括神经网络、SVM和回归分析。
- 上一篇:微型不锈钢柱焊接工艺研究+文献综述
- 下一篇:反应物浓度对材料的影响+文献综述
-
-
-
-
-
-
-
浅析中国古代宗法制度
中国传统元素在游戏角色...
C++最短路径算法研究和程序设计
g-C3N4光催化剂的制备和光催化性能研究
高警觉工作人群的元情绪...
上市公司股权结构对经营绩效的影响研究
现代简约美式风格在室内家装中的运用
NFC协议物理层的软件实现+文献综述
巴金《激流三部曲》高觉新的悲剧命运
江苏省某高中学生体质现状的调查研究