易坊好文馆

  1. 首页 > 玩科技 >

模型|17个机器学习的常用算法！( 四 )

问题 数据 进行 算法 样本 分类 包括 方式 模型 公式 vector 分类器 贝叶斯


常见机器学习算法优缺点：
朴素贝叶斯：
1. 如果给出的特征向量长度可能不同 ， 这是需要归一化为通长度的向量（这里以文本分类为例） ， 比如说是句子单词的话 ， 则长度为整个词汇量的长度 ， 对应位置是该单词出现的次数 。
2. 计算公式如下：

模型|17个机器学习的常用算法！
文章图片

其中一项条件概率可以通过朴素贝叶斯条件独立展开 。 要注意一点就是 的计算方法 ， 而由朴素贝叶斯的前提假设可知 ， = ， 因此一般有两种 ， 一种是在类别为ci的那些样本集中 ， 找到wj出现次数的总和 ， 然后除以该样本的总和；第二种方法是类别为ci的那些样本集中 ， 找到wj出现次数的总和 ， 然后除以该样本中所有特征出现次数的总和 。
3. 如果 中的某一项为0 ， 则其联合概率的乘积也可能为0 ， 即2中公式的分子为0 ， 为了避免这种现象出现 ， 一般情况下会将这一项初始化为1 ， 当然为了保证概率相等 ， 分母应对应初始化为2（这里因为是2类 ， 所以加2 ， 如果是k类就需要加k ， 术语上叫做laplace光滑, 分母加k的原因是使之满足全概率公式） 。
朴素贝叶斯的优点：对小规模的数据表现很好 ， 适合多分类任务 ， 适合增量式训练 。
缺点：对输入数据的表达形式很敏感 。
决策树：决策树中很重要的一点就是选择一个属性进行分枝 ， 因此要注意一下信息增益的计算公式 ， 并深入理解它 。
信息熵的计算公式如下:
其中的n代表有n个分类类别（比如假设是2类问题 ， 那么n=2） 。 分别计算这2类样本在总样本中出现的概率p1和p2 ， 这样就可以计算出未选中属性分枝前的信息熵 。
现在选中一个属性xi用来进行分枝 ， 此时分枝规则是：如果xi=vx的话 ， 将样本分到树的一个分支；如果不相等则进入另一个分支 。 很显然 ， 分支中的样本很有可能包括2个类别 ， 分别计算这2个分支的熵H1和H2,计算出分枝后的总信息熵H’=p1*H1+p2*H2. ， 则此时的信息增益ΔH=H-H’ 。 以信息增益为原则 ， 把所有的属性都测试一边 ， 选择一个使增益最大的属性作为本次分枝属性 。
决策树的优点：计算量简单 ， 可解释性强 ， 比较适合处理有缺失属性值的样本 ， 能够处理不相关的特征；
缺点：容易过拟合（后续出现了随机森林 ， 减小了过拟合现象） 。
Logistic回归：Logistic是用来分类的 ， 是一种线性分类器 ， 需要注意的地方有：
1. logistic函数表达式为：
其导数形式为：

模型|17个机器学习的常用算法！
文章图片

2. logsitc回归方法主要是用最大似然估计来学习的 ， 所以单个样本的后验概率为：

推荐阅读


上一篇：英国殖民地|英国女王，被辞退了｜地球知识局

下一篇：功能|真正全能型体验——荣耀平板V7 Pro 体验