逻辑斯谛回归(Logistic Regression)模型是经典的分类方法,而最大熵则是概率模型中学习的一个准则,将其推广到分类问题得到最大熵模...

决策树的概念比较简单,可以将决策树看做一个if-then集合:如果“条件1”,那么...。决策树学习的损失函数通常是正则化后极大似然函数,学习的...

朴素贝叶斯是基于贝叶斯定理和特征条件独立假设的分类方法,所谓特征条件独立是指在类别已经确定的条件下,特征之间都是相互独立、互不干扰的,这也正是“...

k近邻法即kNN算法,是假设给定一个训练集,对于每个训练样本的分类已经确认,当对测试样本分类时,根据其k个最近邻的训练样本的类别,通过多数表决的...

定义假设输入空间是$\mathcal{X} \subseteq R^n$,输出空间是$\mathcal{Y} = \{+1, - 1\}$,由输...

损失函数(1)0-1损失函数$$L(Y, f(X)) = \left\{ \begin{align}1, Y \neq f(X) \\ 0, Y...