机器学习100天(四十):040 线性支持向量机-公式推导
创始人
2024-05-29 08:37:03

《机器学习100天》完整目录:目录

机器学习 100 天,今天讲的是:线性支持向量机-公式推导!

首先来看这样一个问题,在二维平面上需要找到一条直线划分正类和负类。

在这里插入图片描述

我们找到了 A、B、C 三条直线。这三条直线都能正确分类所有训练样本。但是,哪条直线最好呢?直观上来看,我们会选择 C这条直线,因为这条直线不仅分类正确,而且距离正负类样本的距离都很远。这样的好处是增加了该分类线的容错能力和健壮性。因为若要保证对未知的测试数据也能进行正确分类,最好让分类直线距离正类负类的点都有一定的距离。这样能让每个样本点附近的圆形区域是“安全”的。圆形区域越大,表示分类直线对测量数据误差的容忍性越高,越“安全”。

因此, 距离分类线最近的点与分类线的距离越大,表明该分类模型越好。这就是支持向量机算法的核心思想。

首先,我们定义距离分类线最近的点与分类线的距离叫做最大间距,用 margin 表示。

在这里插入图片描述

我们的目标就是最大化 margin。必须满足的条件是:必须让每个训练样本都分类正确。即满足不等式:

相关内容

热门资讯

再见了,饿了么   炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会! (来源:白狐财经)转...
大风蓝色预警中 阵风可达七级 ... 市气象台7日6时发布:今天白天晴,偏北风三四级,阵风七级左右,最高气温10℃;夜间晴间多云,偏北风二...
草原儿女书写志愿青春 12月5日,在内蒙古自治区乌海市海勃湾区东山北社区党群服务中心,青年志愿者刘润泽按下相机快门,为一家...
我省今年将新建成高速公路九百公...   ●凉山州雷波县、金阳县和阿坝州红原县将结束不通高速的历史。预计到年底,四川通高速公路的县(市、区...
浙江鹏源供应链管理有限公司增资... 经济观察网 天眼查App显示,12月3日,浙江鹏源供应链管理有限公司发生工商变更,新增宁波星巢之链企...