贝叶斯简介:

贝叶斯(约1701-1761) Thomas Bayes,英国数学家

贝叶斯方法源于他生前为解决一个“逆概”问题写的一篇文章。

贝叶斯要解决的问题:

正向概率:假设袋子里面有N个白球,M个黑球,你伸手进去摸一把,摸出黑球的概率是多大。

逆向概率:如果我们事先并不知道袋子里面黑白球的比例,而是闭着眼睛摸出一个(或好几个)球,观察这些取出来的球的颜色之后,那么我们可以就此对袋子里面的黑白球的比例作出什么样的推测。

从贝叶斯定理到机器学习的朴素贝叶斯(Naive Bayesian)

在机器学习二分类问题中,A是标签值,B是特征值,我们用贝叶斯算法的预测过程,就是用贝叶斯公式求解上述条件概率的过程。通过我们所有的训练样本或观测数据(训练过程就是求得先验概率和反条件概率的过程),就可以算出P(A)和P(B|A)、P(B|A逆),从而求得这个条件概率。

当然,问题没那么简单,在这里我们的A和B都只取一个值(发生和不发生),当A取多个值时,就是多分类问题,暂不考虑;当B取多个值时,会遇到一个问题,就是P(B|A)的计算。

贝叶斯理论是类脑计算的一个算法框架。以这个框架为基础,根据人脑认知行为的计算层要求,我们可以构造出相应的算法。以上算法可以使用计算机以软件形式实现,也可以设计专用的集成电路进行加速计算。

“我们相信人人都可以成为一个IT大神,现在开始,选择一条阳光大道,助你入门,学习的路上不再迷茫。这里是北京尚学堂,初学者转行到IT行业的聚集地。"

查看原文 >>
相关文章