什么叫做贝叶斯方法?
2000年9月编号为40的《经济学人》中曾发表一篇题为“赞扬贝叶斯”( In Praise of Bayes)的文章,其中对贝叶斯学习的描述如下:
贝叶斯方法的精髓在于其提供了一种数学法则来解释当有一系列证据出现的情况下,你该如何改变自己现有的信念。换句话说,它让科学家能够将新的数据与他们现有的知识或专长结合起来。
一个典型的例子就是,假设一个天赋异禀的新生儿看到了他人生中第一次的日出,接着会想知道太阳是否会再次升起。他赋予这两个可能的结果同等的先验概率,并且在袋子里放入一粒白色弹珠和一粒黑色弹珠来代表此种情况。
第二天当太阳升起时,这个孩子在衰子里又放入一粒白色弹珠。此时,从袋子里随机拿出一粒白色弹珠的概率(也就是孩子对将来太阳会升起的信念程度)就从1/2增加到了2/3。
当太阳再一天升起后,孩子再放入一粒白色的弹珠,此时概率(信念的程度)从2/3上升到3/4,依此类推。慢慢地,最初认为太阳每天早晨指不定是否升起信念扰慢慢地被修正为几乎可以断定太阳永远会再次升起。