@diceloss與交叉熵的權重 / 博客 RSS 訂閱

Dec 05 2025

是大魔術師 - diceloss與交叉熵的權重

1.信息量與信息熵 香農在他著名的論文”通信的數學原理“（A Mathematic Theory of Communication）中提出了”信息熵“的概念，解決了信息的度量問題，並且量化出信息的作用。 一條信息的信息量與其不確定性有着直接的關係。比如説，我們要搞清楚一件非常非常不確定的事，或是我們一無所知的事情，就需要了解大量的信息。相反，

互信息 , 損失函數 , 人工智能 , 深度學習 , diceloss與交叉熵的權重 , 概率分佈

收藏 評論