老师关于相关性的一个问题

来源：4-10 相关分析与实现

小龙问路21

2018-07-24

信息增益是对称的吗有简单证明公式吗或直观解释

写回答

2回答

途索

2018-07-25

//img.mukewang.com/szimg/5b57bcf9000105b110010161.jpg
同学你好，信息增益也叫互信息，它是具有对称性的，证明如以上公式。x到y的互信息与y到x的互信息，都可以转化成x的熵加y的熵减去x和y的联合熵（联合熵本身与顺序无关），所以信息增益是对称的。

小龙问路21

好的谢谢老师

2018-07-25

共1条回复

途索

2018-07-24

同学你好，这个证明公式有详细的，明天整理给你。

Python3数据分析与挖掘建模实战，快速胜任数据分析师

快速胜任数据分析岗位，逆袭成为数据掘金时代的抢手人才！

2204 学习 · 489 问题

相似问题

回答 1

回答 1

回答 1

回答 1

回答 1