导语

  

内容提要

  

    冯旸赫、孙博良、程光权、陈超、黄魁华等著的《在线半监督学习理论及方法》从理论分析开始，描述了在线半监督学习的框架，对在线流形正则化、在线协同正则化、在线半监督支持向量机和在线多重正则化等新方法、新算法进行了介绍，最后从工程应用角度进行了案例分析。
    在章节组织上，第1章总结了在线半监督学习的研究现状和基本概念。第2章介绍了在线半监督学习的数学框架，在凸优化理论下给出了基于正则化方法的在线半监督学习问题描述和基本假设，利用Fenchel Coniugate进行对偶变换，在对偶问题中重新分析在线半监督学习问题的特点，介绍了一种基于对偶提升过程的在线半监督学习框架模型，全面地介绍了在线半监督学习的理论基础。第3章主要介绍了在线流形正则化算法，为了达到实用目的，本章还介绍了两种缓冲池策略和两种稀疏化方法来减少在线流形正则化算法的时空复杂度。第4章介绍了在线协同正则化算法，该算法利用不同视图内决策函数的一致性指导学习过程。采用hinge—loss函数和tolerance函数对基本的协同正则化问题重新进行了描述和定义，并介绍了该算法在各种实验过程和结果。第5章介绍了在线半监督支持向量机算法，并通过实验分析了该算法的适用范围和优、缺点。第6章介绍了近年来半监督学习发展的一个重要方向——在线多重正则化，本章以基于流形正则化和协同正则化的多重正则化问题作为切入点，深入介绍了在线多重正则化近几年的最新研究成果。
    本书适合半监督学习和在线学习的前沿研究人员阅读，也可作为军事人工智能相关方向研究生的课堂读物。

第1章  绪论
  1.1  半监督学习
    1.1.1  生成式模型
    1.1.2  自训练
    1.1.3  协同训练
    1.1.4  低密度区域分割
    1.1.5  基于图的半监督学习
  1.2  在线学习
    1.2.1  问题类型
    1.2.2  更新类型
    1.2.3  贪婪程度
  1.3  在线半监督学习
    1.3.1  在线流形正则化
    1.3.2  在线协同正则化
    1.3.3  在线半监督支持向量机
    1.3.4  在线半监督Boosting
    1.3.5  其他在线半监督学习算法
第2章  在线半监督学习框架
  2.1  基于正则化理论的半监督学习
    2.1.1  逆问题与正则化
    2.1.2  基于正则化理论的半监督学习方法
  2.2  在线半监督学习框架模型
    2.2.1  问题描述与基本假设
    2.2.2  基于Fenchel Conjugate的对偶变换
    2.2.3  基于对偶提升过程的在线半监督学习框架模型
第3章  在线流形正则化
  3.1  相关基本概念
    3.1.1  半监督学习中流形正则化问题的数学描述
    3.1.2  模型定义
  3.2  在线流形正则化算法
    3.2.1  Fenchel Conjugate的对偶变换
    3.2.2  流形正则化的对偶问题
    3.2.3  基于对偶提升过程的在线流形正则化算法
  3.3  基于梯度提升的在线流形正则化算法
    3.3.1  样本关联更新
    3.3.2  整体更新
    3.3.3  两步更新
  3.4  核函数与稀疏化
    3.4.1  核函数
    3.4.2  稀疏化
  3.5  对偶提升过程
  3.6  随机梯度下降
  3.7  算法应用与分析
    3.7.1  数据集与实验方法
    3.7.2  计算复杂度
    3.7.3  错误率
    3.7.4  其他实验结果与分析
第4章  在线协同正则化
  4.1  相关基本概念
    4.1.1  半监督学习中协同正则化问题的数学描述
    4.1.2  模型定义
  4.2  在线协同正则化算法
    4.2.1  多变量Fenchel Conjugate的对偶变换
    4.2.2  协同正则化的对偶问题
    4.2.3  基于对偶提升过程的在线协同正则化算法
  4.3  在线协同正则化算法分析
  4.4  基于贪婪提升的在线协同正则化算法
    4.4.1  基于单样本的贪婪提升
    4.4.2  基于多样本的贪婪提升
  4.5  多视图中的核函数与稀疏化
    4.5.1  ε容忍
    4.5.2  多视图k最大对偶系数法
  4.6  算法应用与分析
    4.6.1  Two—moons—two—lines数据集
    4.6.2  网页分类
    4.6.3  Rotating Two—moons—two—lines数据流
    4.6.4  其他实验结果与分析
第5章  在线半监督支持向量机
  5.1  相关基本概念
  5.2  在线半监督支持向量机算法
    5.2.1  凹凸过程及问题转化
    5.2.2  对偶问题及其分析
    5.2.3  基于对偶提升过程的在线半监督支持向量机算法
  5.3  两种在线半监督支持向量机算法
    5.3.1  基于贪婪提升的在线半监督支持向量机算法
    5.3.2  基于LCCCP的在线半监督支持向量机算法
  5.4  S3VM问题模型
  5.5  对偶提升过程
  5.6  算法应用与分析
    5.6.1  数据集与实验方法
    5.6.2  计算复杂度
    5.6.3  错误率
    5.6.4  其他实验结果与分析
第6章  在线多重正则化
  6.1  相关基本概念
    6.1.1  半监督学习中多重正则化问题的数学描述
    6.1.2  模型定义
  6.2  在线多重正则化算法
    6.2.1  多重正则化的对偶问题
    6.2.2  基于对偶提升过程的在线多重正则化算法
  6.3  两种在线多重正则化算法
    6.3.1  基于梯度提升的在线多重正则化算法
    6.3.2  基于贪婪提升的在线多重正则化算法
  6.4  算法应用与分析
    6.4.1  Two—moons—two—lines数据集
    6.4.2  WebKB数据集
    6.4.3  Rotating two—moons—two—lines数据流
    6.4.4  其他实验结果与分析
后记
参考文献
附录A  Fenchel Conjugate
  A.1  Fenchel Conjugate的定义
  A.2  Fenchel Conjugate的重要性质
  A.3  一些重要函数的Fenchel Conjugate