机器学习100天(四十):040 线性支持向量机-公式推导
创始人
2024-05-29 08:37:03

《机器学习100天》完整目录:目录

机器学习 100 天,今天讲的是:线性支持向量机-公式推导!

首先来看这样一个问题,在二维平面上需要找到一条直线划分正类和负类。

在这里插入图片描述

我们找到了 A、B、C 三条直线。这三条直线都能正确分类所有训练样本。但是,哪条直线最好呢?直观上来看,我们会选择 C这条直线,因为这条直线不仅分类正确,而且距离正负类样本的距离都很远。这样的好处是增加了该分类线的容错能力和健壮性。因为若要保证对未知的测试数据也能进行正确分类,最好让分类直线距离正类负类的点都有一定的距离。这样能让每个样本点附近的圆形区域是“安全”的。圆形区域越大,表示分类直线对测量数据误差的容忍性越高,越“安全”。

因此, 距离分类线最近的点与分类线的距离越大,表明该分类模型越好。这就是支持向量机算法的核心思想。

首先,我们定义距离分类线最近的点与分类线的距离叫做最大间距,用 margin 表示。

在这里插入图片描述

我们的目标就是最大化 margin。必须满足的条件是:必须让每个训练样本都分类正确。即满足不等式:

相关内容

热门资讯

五角大楼最新UFO解密文件公开... 当地时间5月22日,美国国防部再度公布一批“与外星人、地外生命、不明空中现象以及不明飞行物(UFO)...
午盘:美股继续上扬 道指涨逾4...   北京时间5月23日凌晨,美股周五午盘继续上扬,道指上涨逾400点。标普500指数本周有望录得涨幅...
今年经济起步有力 展现出强大... (来源:中国经济导报)转自:中国经济导报本报记者 | 白  雪    5月22日,国家发展改革委举行...
核电厂如何“退休”有了新规定 来源:科技日报19日,由国家发展改革委、国家能源局、财政部、生态环境部联合印发的《核电厂退役准备管理...
智慧农业破解“靠天吃饭” 来源:经济日报  春染田野,万象“耕”新。从重庆梁平广袤田间的鱼菜共生数字工厂智能调控、无人机精准飞...