机器学习算法之贝叶斯算法介绍(一)

来源：康宁反应器技术有限公司分类：工作原理

2024-11-06 11:22:49 161阅读次数

扫码分享

*图片来源于网络

近些年来很多化学化工类文献会在其里面提到贝叶斯算法(或贝叶斯优化算法)，让人有种感觉，这个贝叶斯算法是很高级非常有用，而又带有一些神秘感。

随便上网一搜索，会出现大量文章介绍贝叶斯定理、贝叶斯算法，条件概率、先验概率、后验概率、朴素贝叶斯、高斯贝叶斯等等名词，让非这个专业的人感觉到头大。例如在搜索引擎里面输入“贝叶斯定理”会查到关于贝叶斯定理的历史来源，计算公式介绍等。

贝叶斯算法

*图片来源于网络it.sohu.com/a/577883879_99977650

本文为了非专业背景的读者了解“贝叶斯算法”原理，采用轻松的方式为您介绍贝叶斯算法的思路逻辑。

在开始前，我们先来看看平时下结论的步骤：

在观察到一个证据或线索后，我们通常会根据自己历史经验，该证据出现时有多少概率产生某后果，然后选择最大概率的后果做出结论判断。其实这就是类似朴素贝叶斯算法的步骤。

为了方便理解，举一个不严谨的例子：

住在南方海边城市的人在夏季，天气闷热而且感觉到胸闷，会做出大概率海上会有台风的判断。

这里的夏季天气闷热胸闷是证据(Evidence，E)，台风是输出(Outcome，Y)，根据这个证据得出这个台风的判断的概率，使用数学表达为P(Y|E)。当然这个输出也可以为疾病(Y2，使用Y2区分台风)，毕竟有胸闷现象，但判断者为什么选择是台风的判断而不是身体疾病的判断？

P(Y)即先验概率 P(Y|E)为后验概率

因为判断者其中一个理由是认为自己身体很棒有病的概率很低，也就是P(Y2)概率比出现台风的概率P(Y)小多了(注，这里的P(Y)即先验概率，P(Y|E)为后验概率)。

历史经验 P(E|Y)概率

再进一步分析，为什么判断者根据这个证据做出台风判断，是因为他在南方海边城市住有“历史经验”，我们看看他是如何得到这个历史经验的。

小时候，第一次发现有台风很好奇，第二次发现有台风，好像都是在夏季及其闷热而且胸闷。渐渐地他发现，在夏天有台风前感觉非常闷热和胸闷的概率很高，也就是P(E|Y)概率很高，而且他所住的城市出现台风的概率比较高P(Y)。另外他身体健康出现胸闷的机会不大，即P(Y2)比较小。在他脑海中做出P(Y|E)=P(E|Y)*P(Y)/P(E)计算，因而有了出现这个证据做出有台风的判断。

看完前面不严谨的例子后，我们来看看电脑是如何实现朴素贝叶斯算法的？

比如给出一个水果的特征为“长”、“甜”、“黄色”，电脑如何通过已有的数据来“学习”，并预测出现这三个特征的水果是什么。