联合熵

独立的(H(X),H(Y)), 联合的(H(X,Y)), 以及一对带有互信息 I(X; Y) 的相互关联的子系统 X,Y 的条件熵。

联合熵是一集变量之间不确定性的衡量手段。

两个变量 $X$ 和 $Y$ 的联合信息熵定义为：

\Eta(X,Y) = -\sum_{x} \sum_{y} P(x,y) \log_2[P(x,y)] \!

其中 $x$ 和 $y$ 是 $X$ 和 $Y$ 的特定值, 相应地, $P(x,y)$ 是这些值一起出现的联合概率, 若 $P(x,y)=0$ 为0，则 $P(x,y) \log_2[P(x,y)]$ 定义为0。

对于两个以上的变量 $X_1, ..., X_n$ ，该式的一般形式为：

\Eta(X_1, ..., X_n) = -\sum_{x_1} ... \sum_{x_n} P(x_1, ..., x_n) \log_2[P(x_1, ..., x_n)] \!

其中 $x_1,...,x_n$ 是 $X_1,...,X_n$ 的特定值，相应地， $P(x_1, ..., x_n)$ 是这些变量同时出现的概率，若 $P(x_1, ..., x_n)=0$ 为0，则 $P(x_1, ..., x_n) \log_2[P(x_1, ..., x_n)]$ 被定义为0.

单词	Joint entropy
释义	Joint entropy 中文百科联合熵联合熵是一集变量之间不确定性的衡量手段。两个变量 $X$ 和 $Y$ 的联合信息熵定义为： $\Eta(X,Y) = -\sum_{x} \sum_{y} P(x,y) \log_2[P(x,y)] \!$ 其中 $x$ 和 $y$ 是 $X$ 和 $Y$ 的特定值, 相应地, $P(x,y)$ 是这些值一起出现的联合概率, 若 $P(x,y)=0$ 为0，则 $P(x,y) \log_2[P(x,y)]$ 定义为0。对于两个以上的变量 $X_1, ..., X_n$ ，该式的一般形式为： $\Eta(X_1, ..., X_n) = -\sum_{x_1} ... \sum_{x_n} P(x_1, ..., x_n) \log_2[P(x_1, ..., x_n)] \!$ 其中 $x_1,...,x_n$ 是 $X_1,...,X_n$ 的特定值，相应地， $P(x_1, ..., x_n)$ 是这些变量同时出现的概率，若 $P(x_1, ..., x_n)=0$ 为0，则 $P(x_1, ..., x_n) \log_2[P(x_1, ..., x_n)]$ 被定义为0. 英语百科 Joint entropy 联合熵 In information theory, joint entropy is a measure of the uncertainty associated with a set of variables.
随便看	character cell的意思 character cell size的意思 character cell viewer的意思 character center line的意思 character change的意思 character check的意思 character checking inadmissible的意思 Character class的意思 character class description的意思 Character classes的意思 character classification的意思 character classification by age的意思 character classification by body types的意思 character classification by mind and will的意思 character classification by will and motive的意思 character classification of expenditures的意思 Character code的意思 character code conversion的意思 character coded的意思 character coded request的意思 character codes的意思 character code table的意思 character code translation的意思 Character coding的意思 character communication的意思

Joint entropy

联合熵

Joint entropy 联合熵