Advertisement

贝叶斯网络---理论

阅读量：

文章目录

  • 贝叶斯网络

    • 主要内容

      • 相对熵
      • 互信息
      • 信息增益
      • 概率
      • 高斯朴素贝叶斯
      • 朴素贝叶斯
      • 高斯朴素贝叶斯
      • 多项分布朴素贝叶斯
      • 实例分析
      • 问题解决

    • 贝叶斯网络

      • 贝叶斯网络的3种不同形状

贝叶斯网络

利用图论知识帮我们做点推敲
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

主要内容

在这里插入图片描述

相对熵

在这里插入图片描述

互信息

在这里插入图片描述
在这里插入图片描述

信息增益

在这里插入图片描述

概率

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

高斯朴素贝叶斯

在这里插入图片描述
在这里插入图片描述

朴素贝叶斯

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
即朴素贝叶斯的通项公式：
在这里插入图片描述

高斯朴素贝叶斯

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

多项分布朴素贝叶斯

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
一般特征若是连续的，可以用高斯朴素贝叶斯。若特征是离散的，一种方法可以做成多项式分布。
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
即算出的哪个最大即作为这些特征最终的标签值y-hat的。
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
即给定标记值y后，可以估计出属于这个类别的特征的均值与方差了。
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

实例分析

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

问题解决

1朴素贝叶斯多数用于分类问题，即离散时概率好计算。用于回归，y是连续的，算起来就不是那么封闭性了。
2朴素贝叶斯也有过拟合的可能。加上a一定程度上可防止过拟合。
在这里插入图片描述
在这里插入图片描述

贝叶斯网络

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
所以将朴素贝叶斯归为贝叶斯网络中了。贝叶斯网络等价于有向无环图。
即好比将一个丰满的艺术作品图叫做贝叶斯网络，而将色彩颜色都去掉，只有素描以及线条了就是朴素贝叶斯网络了。
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
以下为全连接的贝叶斯网络，即没有任何信息的丢失与修改的网络。
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
只有有拓扑图以及条件概率表就可以算任何一个概率的取值了。
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
当然给出源节点以及各支节点的条件概率都可以进行求解每个叶节点的概率的，但是当一些样本缺失后，我们可以采用如EM算法估计感兴趣节点的概率以及感兴趣参数的概率的。

贝叶斯网络的3种不同形状

在这里插入图片描述
即当c是一个可观测的条件时确定了时，即a与b是独立的了。
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
以下是中看不中用的方法，我们要根据先验知识判断，不要过多依赖数据情况，数据很重要，可以建模构成图，但不是很合适，通过先验知识有时可能会更合适。
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
通过先验知识给定网络拓扑，然后通过数据算未知节点的参数，是贝叶斯网络的最舒服的用法。

全部评论 (0)

还没有任何评论哟~

相关文章推荐

贝叶斯网络——贝叶斯理论(3)

对贝叶斯公式大家可能已经比较熟悉了，贝叶斯网络又是什么东东？贝叶斯网络又叫概率图模型，是图灵奖得主JudeaPearl于1985年首先提出的。现在大火的深度学习神经网络，以及机器学习中的马尔可夫链、隐...

贝叶斯网络---理论

文章目录 贝叶斯网络 主要内容 相对熵 互信息 信息增益 概率 高斯朴素贝叶斯 朴素贝叶斯 高斯朴素贝叶斯 多项分布朴素贝叶斯 实例分析 问题解决 贝叶斯网络 贝叶斯网络的3种不同形状 贝叶斯网络 利...

Python和贝叶斯网络：贝叶斯理论(6)

在前面的章节中我们学习了贝叶斯网络的基本知识。本章将利用Python建立如下图所示的贝叶斯网络： 在Python中建立贝叶斯网络要引入pgmpy包和pandas包，然后编写如下代码： frompgmp...

贝叶斯网络的独立性：贝叶斯理论(5)

有些贝叶斯网络联合概率的计算是可以化简的。比如： a、b、c的取值范围分别是、和，i、j、k=1,2,3,......。求已知情况下的概率。 解： 网络的联合概率计算公式是：，代入上式得： 其中 代入...

机器学习之贝叶斯（贝叶斯定理、贝叶斯网络、朴素贝叶斯）

一、概率知识点复习 （1）条件概率 就是事件A在另外一个事件B已经发生条件下的发生概率。条件概率表示为PAB，读作“在B条件下A的概率”。 （2）联合概率 可以简单的理解为事件A与事件B都发生的概率，...

贝叶斯分类——贝叶斯网络

在“贝叶斯分类——朴素贝叶斯算法”中，我介绍了朴素贝叶斯分类的相关知识。其中的核心思想是利用变量之间的“朴素”性质，计算出联合概率密度。这依赖于朴素贝叶斯分类的一个限制条件，就是特征属性必须有条件独立...

[贝叶斯一]之贝叶斯理论

一、基本概念 贝叶斯理论是机器学习中一个核心方法，它由英国数学家托马斯贝叶斯在1763年发表的一篇论文中首先提出这个定理。贝叶斯定理是用来度量不确定性事件的，比如今天下雨概率，是一种概率模型。

概率论基础、朴素贝叶斯、贝叶斯统计、MLE及贝叶斯网络

趁着这几天在复习数据挖掘，里面牵扯到了一些概率论里面的基础常识，我就简单介绍下有关的基础知识吧！ 概率论是一门研究随机现象数量规律的学科，个体选择是有各种各样的原因，微观层面难以准确判断，但从宏观层面...

贝叶斯网络

一、贝叶斯网络 1、贝叶斯算法：有监督的学习算法，解决的是分类问题，如新闻分类、评论分类、邮件分类、客户是否流失、是否值得投资、信用等级评定等二分类和多分类问题； 2、贝叶斯理论：用客观的新信息更新我...

贝叶斯网络

贝叶斯网络、马尔科夫随机场MRF,MarkovRandomField和因子图都属于概念图，因此它们都归属于机器学习中的概念图模型PGM,ProbabilityGraphicalModel. 一：定义 ...