• Support Vector Machine(SVM)
    • 1. 算法介绍
    • 2. 分布式实现 on Angel
    • 3. 运行 & 性能
      • 输入格式
      • 参数
      • 性能

    Support Vector Machine(SVM)

    SVM支持向量机器是一种常用的分类算法

    1. 算法介绍

    SVM分类模型可以抽象为以下优化问题：

    model)})

    其中：Support Vector Machine(SVM) - 图2 为正则项；Support Vector Machine(SVM) - 图3 为正则项系数；Support Vector Machine(SVM) - 图4)}) 为合页损失函数（hinge loss），如下图所示：

    Support Vector Machine(SVM) - 图5

    2. 分布式实现 on Angel

    Angel MLLib提供了用mini-batch gradient descent优化方法求解的SVM二分类算法，算法逻辑如下：

    Support Vector Machine(SVM) - 图6

    3. 运行 & 性能

    输入格式

    • ml.feature.index.range：特征向量的维度
    • ml.data.type：支持”dummy”、”libsvm”两种数据格式，具体参考：Angel数据格式

    参数

    • 算法参数

      • ml.epoch.num：迭代次数
      • ml.batch.sample.ratio：每次迭代的样本采样率
      • ml.num.update.per.epoch：个epoch中参数更新的次数
      • ml.data.validate.ratio：每次validation的样本比率，设为0时不做validation
      • ml.learn.rate：初始学习速率
      • ml.opt.decay.class.name：学习率衰减系类
      • ml.opt.decay.on.batch: 是否对每个mini batch衰减
      • ml.opt.decay.alpha: 学习率衰减参数alpha
      • ml.opt.decay.beta: 学习率衰减参数beta
      • ml.opt.decay.intervals: 学习率衰减参数intervals
      • ml.svm.reg.l2：L2惩罚项系数
      • ml.inputlayer.optimizer：优化器类型，可选”adam”,”ftrl”和”momentum”
      • ml.data.label.trans.class: 是否要对标签进行转换, 默认为”NoTrans”, 可选项为”ZeroOneTrans”(转为0-1), “PosNegTrans”(转为正负1), “AddOneTrans”(加1), “SubOneTrans”(减1).
      • ml.data.label.trans.threshold: “ZeroOneTrans”(转为0-1), “PosNegTrans”(转为正负1)这两种转还要以设一个阈值, 大于阈值的为1, 阈值默认为0
      • ml.data.posneg.ratio: 正负样本重采样比例, 对于正负样本相差较大的情况有用(如5倍以上)

    • 输入输出参数

      • angel.train.data.path：训练数据的输入路径
      • angel.predict.data.path：预测数据的输入路径
      • ml.feature.index.range：数据特征个数
      • ml.data.type：数据格式，支持”dummy”、”libsvm”
      • angel.save.model.path：训练完成后，模型的保存路径
      • angel.predict.out.path：预测结果存储路径
      • angel.log.path：log文件保存路径

    • 资源参数

      • angel.workergroup.number：Worker个数
      • angel.worker.memory.mb：Worker申请内存大小
      • angel.worker.task.number：每个Worker上的task的个数，默认为1
      • angel.ps.number：PS个数
      • angel.ps.memory.mb：PS申请内存大小!

    • 其它参数配置

      • 模型输出路径删除： 为了防止误删除模型，Angel默认不自动删除模型输出路径的文件。如果需要删除，要在Angel参数框内填入angel.output.path.deleteonexist=true

    性能