机器学习 第九期-第12课-贝叶斯网络


第12课 贝叶斯网络

先验概率
  • Each node corresponds to a random variable.
  • Each edge corresponds to a conditional dependency between variables.


DAG:有向无环图。

对于 n 个 \({0, 1}\),那么会有 \(2^n\) 种情况,指数级的增长。

使用了贝叶斯网络,下降到线性 \(O(n)\) 的方式。

贝叶斯网络

朴素贝叶斯

朴素贝叶斯

概率模型取决于父亲结点与当前结点的概率分布。

隐含马尔科夫模型

隐含马尔科夫模型

概率模型由当前隐含变量与观测变量之间的概率分布与当前隐含变量与隐含变量的父节点之间的概率分布。

概率图模型

分类模型 -> 概率模型。

概率图模型回答的问题:给定可观测的变量,如何推断隐藏变量?

所有的贝叶斯网络,都是生成模型,都是联合分布。

求解方法:Expectation maximization algorithm (learning)

Conditional Independence

  • \(Pr(A, B) = Pr(A) \times Pr(B)\)
  • \(Pr(A ∣ B) = Pr(A)\)
  • \(Pr(B ∣ A) = Pr(B)\)
  • \(Pr(A, B ∣ C) = Pr(A ∣ C) \times Pr(B ∣ C) Pr(A ∣ B, C) = Pr(A ∣ C)\)
  • \(Pr(B ∣ A, C) = Pr(B ∣ C)\)


因果关系结论

  • 如果 c 被观测到,那么就是一个常量,概率图模型中。
  • 如果 c 作为因,那么观测到了,影响到 a 和 b,则 a 和 b 是条件独立。
  • 如果 c 作为果,那么观测到了,被 a 和 b 影响到了,则 a 和 b 不是条件独立。


Tail-to-Tail

Head-to-Tail

Head-to-Head

条件独立也有传递性。

学员笔记

学员笔记
已邀请:

要回复问题请先登录注册

返回顶部