一：自資訊 《資訊熵，聯合熵，條件熵，交叉熵，相對熵》 二：資訊熵 《資訊熵，聯合熵，條件熵，交叉熵，相對熵》 三：聯合熵 《資訊熵，聯合熵，條件熵，交叉熵，相對熵》 《資訊熵，聯合熵，條件熵，交叉熵，相對熵》 四：條件熵 《資訊熵，聯合熵，條件熵，交叉熵，相對熵》 《資訊熵，聯合熵，條件熵，交叉熵，相對熵》 五：交叉熵 《資訊熵，聯合熵，條件熵，交叉熵，相對熵》 六：相對熵（KL散度） 《資訊熵，聯合熵，條件熵，交叉熵，相對熵》 《資訊熵，聯合熵，條件熵，交叉熵，相對熵》 《資訊熵，聯合熵，條件熵，交叉熵，相對熵》 七：總結 《資訊熵，聯合熵，條件熵，交叉熵，相對熵》
