Jensen不等式 凸函数（convex function）：设\(f\)是定义域为实数的函数，如果对于所有的实数\(x\)，\(f(x)\)的二次倒数大于0，那么\(f\)是凸函数。 凸函数性质： \[ \lambda f(x_1) + (1 - \lambda) f(x_2) \geq f(\l ...

EM算法 1. 概念 概率模型有时既含有观测变量（observable variable），又含有隐变量（hidden variable）或潜在变量（latent variable），如果概率模型的变量都是观测变量，那么给定数据，可以直接用极大似然估计法，或者贝叶斯估计法估计模型参数。但是，当模型含 ...

如果天空是黑暗的， 那就摸黑生存； 如果发出声音是危险的， 那就保持沉默； 如果自觉无力发光的， 那就蜷伏于墙角。 但不要习惯了黑暗就为黑暗辩护； 不要为自己的苟且而得意； 不要嘲讽那些比自己更勇敢热情的人们； 我们可以卑微如尘土，不可扭曲如蛆虫。

高级人工智能总结--搜索 1. 搜索问题 搜索问题的构成：状态空间、后继函数（actions + costs）、初始状态和目标测试。 解是一个行动序列，将初始状态转换成目标状态。 搜索问题是对原问题的建模。 1.1. 状态空间 状态空间包含环境中的每一个细节，搜索状态只保留行动需要的细节。 ...

集成学习 1. 概述 集成学习（ensemble learning）是使用一系列的学习器进行学习，并使用某种规则把各个学习结果进行整合从而获得比单个学习器效果更好的一种机器学习方法。 集成学习主要有两个问题： 如何得到若干个个体学习器； 如何选择一种结合策略，将这些弱学习器集成强学习器。 个体学 ...

统计学习方法概论 1. 统计学习 1.1. 对象及方法 （1）统计学习的对象：数据 （2）关于数据的基本假设：同类数据具有一定的统计规律性 （3）统计学习的方法：基于数据构建统计模型从而对数据进行预测与分析 （4）组成：监督学习，非监督学习，半监督学习，强化学习 （5）统计学习方法三要素：模型，策略 ...

hexo玩坏了，全都删了。。。 重新开始吧！