2022年贝叶斯网络 .pdf
《2022年贝叶斯网络 .pdf》由会员分享,可在线阅读,更多相关《2022年贝叶斯网络 .pdf(10页珍藏版)》请在得力文库 - 分享文档赚钱的网站上搜索。
1、12-4-171/10贝氏网络维基百科,自由的百科全书(重定向自贝叶斯网络)贝氏网络 (Bayesian network),又称信任网络(belief network)或是有向非循环图形模型(directed acyclic graphical model),是一种机率图型模型,借由有向非循环图形(directedacyclic graphs, or DAGs )中得知一组随机变量及其 n组条件机率分配(conditional probability distributions, or CPDs)的性质。举例而言,贝氏网络可用来表示疾病和其相关症状间的机率关系;倘若已知某种症状下,贝氏网络就可
2、用来计算各种可能罹患疾病之发生机率。一般而言,贝氏网络的有向非循环图形中的节点表示随机变量,它们可以是可观察到的变量,抑或是潜在变量、未知参数等。连接两个节点的箭头代表此两个随机变量是具有因果关系或是非条件独立的;而节点中变量间若没有箭头相互连接一起的情况就称其随机变量彼此间为条件独立。若两个节点间以一个单箭头连接在一起,表示其中一个节点是“因(parents)”,另一个是“果(descendants orchildren)”,两节点就会产生一个条件机率值。比方说, 我们以表示第i 个节点,而的“因”以表示,的“果”以表示;图一就是一种典型的贝氏网络结构图,依照先前的定义,我们就可以轻易的从图
3、一可以得知:,以及大部分的情况下,贝氏网络适用在节点的性质是属于离散型的情况下,且依照此条件机率写出条件机率表(conditional probability table, or CPT),此条件机率表的每一列 (row) 列出所有可能发生的,每一行 (column) 列出所有可能发生的,且任一行的机率总和必为1。写出条件机率表后就很容易将事情给条理化,且轻易地得知此贝氏网络结构图中各节点间之因果关系;但是条件机率表也有其缺点:若是节点是由很多的“因”所造成的“果”,如此条件机率表就会变得在计算上既复杂又使用不便。下图为图一贝氏网络中某部分结构图之条件机率表。名师资料总结 - - -精品资料欢
4、迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 1 页,共 10 页 - - - - - - - - - 12-4-172/10图一:部分结构图之条件机率表目录1 数学定义2 马可夫毯 (Markov blanket)3 举例说明4 求解方法4.1 精确推论4.2 随机推论 (蒙地卡罗方法)4.2.1 1. 结构已知,观测值完整:4.2.2 2. 结构已知,观测值不完整 (有遗漏资料 ):5 补充例子 (列举推理法)6 贝氏网络的应用层面7 参考文献数学定义令G = (I , E)表示一个 有向非循环图形(DAG),
5、其中 I 代表图形中所有的节点的集合,而E代表有向连接线段的集合,且令X = (Xi)i I为其有向非循环图形中的某一节点i 所代表之随机变量,若节点X的联合机率分配可以表示成:则称X为相对于一有向非循环图形G 的贝氏网络,其中表示节点 i 之“因”。对任意的随机变量,其联合分配可由各自的局部条件机率分配相乘而得出:依照上式,我们可以将一贝氏网络的联合机率分配写成:, 对每个相对于Xi的“因”变量Xj 而言)上面两个表示式之差别在于条件机率的部分,在贝氏网络中,若已知其“因”变量下,某些节点会与其“因”变量条件独立,只有与“因”变量有关的节点才会有条件机率的存在。如果联合分配的相依数目很稀少时
6、,使用贝氏函数的方法可以节省相当大的内存容量。举例而言,若想将10个变量其值皆为 0或1储存成一条件机率表型式,一个直观的想法可知我们总共必须要计算个值;但若这 10个变量中无任何变量之相关“因”变量是超过三个以上的话,则贝氏网络的条件机率表最多只需计算个值即可!另一个贝式网络优点在于:对人类而言,它更能轻易地得知各变量间是否条件独立或相依与其局部分配 (local distribution)的型态来求得所有随机变量之联合分配。名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 2 页,
7、共 10 页 - - - - - - - - - 12-4-173/10定义一个节点之马可夫毯为此节点的因节点、果节点与果节点的因节点所成之集合。一旦给定其马可夫毯的值后,若网络内之任一节点X皆会与其他的节点条件独立的话,就称X为相对于一有向非循环图形G的贝氏网络。举例说明假设有两个服务器,会传送封包到使用者端 ( 以U表示之),但是第二个服务器的封包传送成功率会与第一个服务器传送成功与否有关,因此此贝氏网络的结构图可以表示成如图二的型式。就每个封包传送而言,只有两种可能值:T(成功) 或 F(失败)。则此贝氏网络之联合机率分配可以表示成:图二:简单的贝氏网络例子此模型亦可回答如:“假设已知使
8、用者端成功接受到封包,求第一服务器成功发送封包的机率?”诸如此类的问题,而此类型问题皆可用条件机率的方法来算出其所求之发生机率:求解方法以上例子是一个很简单的贝氏网络模型,但是如果当模型很复杂时,这时使用列举式的方法来求解机率就会变得非常复杂且难以计算,因此必须使用其他的替代方法。一般来说,贝氏机率有以下几种求法:精确推论列举推理法 (如上述例子)名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 3 页,共 10 页 - - - - - - - - - 12-4-174/10变量消元算
9、法 (variable elimination)随机推论 (蒙地卡罗方法)直接取样算法拒绝取样算法概似加权算法马可夫炼蒙地卡罗算法 (Markov chain Monte Carlo algorithm)在此,以马可夫炼蒙地卡罗算法为例,又马可夫炼蒙地卡罗算法的类型很多,故在这里只说明其中一种Gibbs sampling 的操作步: 首先将已给定数值的变量固定,然后将未给定数值的其他变量随意给定(1) 随意挑选其中一个未给定数值的变量(2) 从条件分配抽样出新的的值,接着重新计算当迭代结束后,删除前面若干笔尚未稳定的数值,就可以求出 的近似条件机率分配。马可夫炼蒙地卡罗算法的优点是在计算很大的
10、网络时效率很好,但缺点是所抽取出的样本并不具独立性。当贝氏网络上的结构跟参数皆已知时,我们可以透过以上方法来求得特定情况的机率,不过,如果当网络的结构或参数未知时,我们必须借由所观测到的资料去推估网络的结构或参数,一般而言,推估网络的结构会比推估节点上的参数来的困难。依照对贝氏网络结构的了解和观测值的完整与否,我们可以分成下列四种情形:结构 观测值方法已知 完整最大概似估计法 (MLE)已知 部份EM 算法Greedy Hill-climbing method未知 完整搜寻整个模型空间未知 部份结构算法EM 算法Bound contraction以下就结构已知的部分,作进一步的说明。1. 结构
11、已知,观测值完整:此时我们可以用最大概似估计法(MLE)来求得参数。其对数概似函数为其中代表的因变量,代表第个观测值, N代表观测值资料的总数。以图二当例子,我们可以求出节点U的最大概似估计式为由上式就可以借由观测值来估计出节点U的条件分配。如果当模型很复杂时,这时可能就要利用数值分析或其它最佳化技巧来求出参数。名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 4 页,共 10 页 - - - - - - - - - 12-4-175/102. 结构已知,观测值不完整 (有遗漏资料 )
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 2022年贝叶斯网络 2022 年贝叶斯 网络
限制150内