第2章
机器学习基础

机器学习起源于20世纪50年代。1959年，在IBM工作的Arthur Samuel设计了一个下棋程序，这个程序具有学习的能力，它可以在不断的对弈中提高自己。由此“机器学习”这个概念被指出，它结合了多个学科，如概率论、优化理论、统计学等，最终在计算机上实现自我获取新知识，学习改善自己。机器学习是人工智能的一个子集，目前已经发展出许多有用的方法，比如支持向量机、回归、决策树、随机森林、强化方法、集成学习、深度学习等，在一定程度上可以帮助人们完成一些数据预测、自动化、自动决策、最优化等初步替代脑力的任务。本章主要介绍机器学习的基本概念、监督学习、分类算法、逻辑回归、代价函数、损失函数、线性判别分析、主成分分析、决策树、支持向量机、最大期望算法、聚类和降维，以及模型评估的方法、指标等。