appB

附录 BB.1 Lagrange MultipliersLagrange 乘子法用于寻找多元函数在一组约束下的极值，通过引入 Language 乘子，可以将有 $d$ 个变量与 $k$ 个约束条件的最优化问题转化为具有 $d+k$ 个变量的无约束优化问题进行求解 一个约束的问题求解 等式约束的优化 ...
2020-10-12

Ch11

特征选择与稀疏学习嵌入式选择与 L1 正则化岭 ( Ridge ) 回归： $$\min_{w}\sum_{i = 1}^{m}\left ( y_{i} - w^{T}x_{i} \right )^{2} \lambda\left| \left| w \right| \right|_{ ...
2020-10-12

Ch09

C09. 聚类层次聚类层次聚类 ( HierarchicalClustering ) ：在不同层次对数据集进行划分，从而形成树形的聚类结构，数据集的划分可以采用「自底向上」的聚合策略，也可采用「自顶向下」的分拆策略。 AGNES ( AGglomerativeNESting ) ：也叫凝聚聚类，是一 ...
2020-10-12

Ch08

C08. 集成学习8.1 个体与集成集成学习 ( Ensemble Learning ) 通过构建并且结合多个学习器来完成学习任务，也被称为多分类器系统 ( Multi-Classifiter System ) 、基于委员会的学习 ( Committee-Based Learning ) 等等。 集 ...
2020-10-12

Ch07

C07. Bayes 分类器7.1 Bayes 决策论Bayes 决策论是概率框架下实施决策的基本方法。详细描述还可参考 [^Duda,2003] Ch02 前提条件 $N$ 种类别标记，即 $\mathcal{Y}={c_1,\cdots,c_N}$ $\lambda_{ij}$ 是将 ...
2020-10-12

Ch05

C05. 神经网络5.1 神经元模型神经网络是由具有适应性的简单单元组成的广泛并行互连的网络，它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。[^Kohonen,1988] 简单单元——「M-P神经元(neuron)模型」，神经元接收到来自$n$个其他神经元传递过来的输入信号，这些输入 ...
2020-10-12

Ch04

C04. 决策树基本流程决策树是基于树结构来进行决策的。 决策树的生成是一个递归过程，导致递归的原因： 当前结点包含的样本全部属于同一个类别，无需划分； 当前属性集为空，或者所有样本在所有属性上取值相同，无法划分； 把当前结点标记为叶结点，其类别设定为这个结点所包含的样本最多的类别 当前结点包 ...
2020-10-12

Ch02

C02. 模型评估与选择2.1 经验误差与过拟合 ...
2020-10-12

Ch03

C03. 线性模型3.1 基本形式线性模型 ( Linear Model ) 通过学习得到一个用来进行预测的函数，函数是属性的线性组合，有很好的可解释性。 由 $d$ 个属性描述的示例 $\text{x}= ( x_1,\cdots,x_d )^T$ $x_i$ 是 $\text{x}$ ...
2020-10-12

Ch01

C01. 绪论这是一本机器学习本科生教材，只要具备大学本科三年级水平就可以满足自学需要。 提纲 重点 难点 要点 基本知识点1.1 引言机器学习：研究如何通过计算的手段，利用经验来改善系统自身的性能。 在计算机系统中，「经验」以「数据」形式存在，因此机器学习就是关于在计算机上从数据中产生「 ...
2020-10-12
1…1819202122…33