贝叶斯定理是一种基于概率论的算法，它通过计算每个观测值属于每个类别的概率来进行分类。例如，如果有两个类别C1和C2，朴素贝叶斯算法会计算每个观测值属于类别1和类别2的概率，然后选择概率更高的类别作为该观测值的类别。
为了更好地理解贝叶斯定理，需要掌握以下概念：概率、条件概率和贝叶斯定理。本文将详细解释这些概念。
概率是衡量某一事件发生的可能性或发生几率的量度，其值介于0和1之间。如果一个事件的概率接近0，那么可以认为这个事件发生的可能性非常低；相反，如果一个事件的概率接近1，那么可以认为这个事件发生的可能性非常高。
事件的概率可以通过以下方式计算：考虑事件的有利结果数量，并将其除以总的可能结果数量，通常称为样本空间。
例如，如果想要计算抛硬币得到正面的概率，有两个可能的结果：正面和反面，有利结果的数量为1。因此，概率为1/2，即0.5。这意味着当抛一枚公平的硬币时，得到正面的概率是0.5。
再举一个例子，假设想要计算掷骰子得到偶数的概率。在这种情况下，事件是得到一个偶数。掷骰子时，可以得到1到6的任何数字，因此总结果数量是6。在这种情况下，有利结果可以是2、4或6，即总共有3个有利结果。因此，得到偶数的概率是3/6，也就是0.5。
接下来，来看条件概率的概念。它计算在给定条件下某一事件发生的概率。考虑一个例子，掷两个骰子，并想要计算在两个骰子的点数之和小于或等于5的条件下，第二个骰子得到2的概率。
在这种情况下，得到2是事件，而点数之和小于或等于5是条件。条件概率可以表示如下：
P(E2|E1) = P(E1 ∩ E2) / P(E1)
这里计算在给定条件（E1：点数之和小于或等于5）下事件发生（E2：第二个骰子得到2）的概率。如果分解这个问题，有两个事件。事件1是点数之和小于或等于5，事件2是第二个骰子得到2。有利结果将是两个事件的交集。
使用这个公式，可以用以下例子来说明。有通过掷两个骰子可以得到的所有可能结果。在这些36种结果中，得到点数之和小于或等于5的概率是多少？有10个数字的和小于或等于5。因此，事件E1的概率可以写成10/36。
现在让找出事件E1和E2的交集的概率。在这些10种情况中，有多少种情况第二个骰子是2？只有3种情况同时满足两个条件。因此，事件E1和E2的交集的概率是3/36。
已经得到了条件概率E1|E2的公式。同样，可以得到E2|E1的概率公式：
P(E1|E2) = P(E2|E1) * P(E1) / P(E2)
P(E1 ∩ E2) = P(E2|E1) * P(E1) = P(E1|E2) * P(E2)
P(E1|E2) = (P(E2|E1) * P(E1)) / P(E2)