回憶起高中的普通化學課程,那是我初次認識「熵(Entropy)」這個名詞,對於學習化工的我來說,對其認知僅止於熱力學第二定律冷冰冰的定義:「在孤立系統中,熵總是趨向於增加。」
在我當時的理解來說,對這個概念的理解是非常悲觀且單向的。這個定律彷彿在宣告,宇宙的亂度在沒有外力干預的情況下,必然會傾向增加:擴散的氣體分子比集中時更穩定;破碎的玻璃不會自動復原;書桌凌亂的狀態遠比整潔時常見;乃至於人與動植物的自然老化。在首次接觸這個概念時,熵的增加幾乎象徵著一種不可逆的衰亡過程。而身為化工背景的學生,我學習熵的主要應用,是透過查詢一系列的熱力學數據、計算反應的吉布斯自由能變化(ΔG),來冷靜地判定一個化學反應是否能自發性地進行。
然而,隨著對世界運作的理解逐漸加深,我開始意識到熵的概念遠不止於熱力學中的定義,它在自然界的各種現象中扮演著重要的角色,從分子運動到宇宙的演化,甚至在資訊理論中也有著深遠的影響。
數個月前,我從學校騎車到華山練體能,順道去吃了一碗愛玉。抵達目的地後在文學步道散步。一瞬間,注意到一株沒了葉子的樹,這時,我對於熵的理解有了新的體悟。

圖. 愛玉與我的愛車
我腦袋閃過的不再是植物加速了山的風化造成亂度增加,而是清晰的觀察到其主幹如何分岔成許多細小的枝幹,這些枝幹又分岔成更多的樹枝。這種「不斷延伸與擴散」的過程,在某種意義上,似乎也是一種物質與能量的散佈模式,不也是一種熵增加的表現嗎?
探究其根源,樹木為了最大化光合作用的效率,必須盡可能擴展其葉片在樹冠中的分布,這種分岔的模式正是自然選擇的結果,讓樹木能夠在競爭激烈的環境中生存下來。這使得熵的增加不僅是一種物理過程,更是一種生物適應的「最佳化策略」。透過不斷地分岔與擴散,達到最大化能量利用的目的。這遠遠超出了我對於熵的初始理解,讓我開始重新思考熵在自然界中的多樣性與複雜性,不再是邁向衰亡的象徵,而是一種富有生命力與創造力的精妙戰略。
進一步反思,這種分岔的模式在自然界中是非常普遍的現象,從河流的分流到血管的分支,再到神經系統的網絡結構,都呈現出類似的特徵。在數學上,這種無限分岔的結構被稱為「分形(Fractal)」,它們具有自相似性(Self-similarity),無論在什麼尺度下觀察,都呈現出相似的結構。分形的概念讓我對於熵有了更深層次的理解,熵不僅僅是物質與能量的散佈,更是一種結構與模式的展現。
如果說物理學和生物學上的熵,讓我看見了具象世界的演化智慧,那麼「資訊熵」(Information Entropy)的邏輯則是為我打開了通往抽象數位世界的大門,也是人類探討資訊與智慧的關鍵概念。
在碩士期間,因為學研究器學習而接觸到資訊熵的概念,這是一種用來衡量資訊不確定性的工具。在資訊科學中,熵不再僅是物質與能量的散佈,而是用來描述資訊的分佈與不確定性。一個數據集的熵越高,表示其中的資訊越分散、不確定性越大;反之,熵越低,表示資訊越集中、確定性越高。
理解了資訊熵,我才真正看懂現代科技運作的底層邏輯。例如,當我們在傳輸資料或影像音訊時,會使用壓縮算法(如 jpeg、VP9、AV1、zip 等)來減少資料的大小,這些算法的核心原理就是透過剔除冗餘資訊來降低熵,從而達到更高的壓縮效率。又或者在機器學習中,模型的訓練過程本質上也是一種熵的優化過程,常用的「交叉熵(Cross-Entropy)」這個損失函數就是用來衡量模型預測的概率分布與真實標籤分布之間的差異,透過最小化交叉熵,模型能夠更好地學習到數據中的模式與規律。
這就像是我們閱讀一本書的過程:從一開始翻開書本時的充滿未知(高資訊熵),到隨著逐頁閱讀、逐漸理解書中的概念與故事(消除不確定性、降低資訊熵),最終徹底掌握一本書的核心概念(達到最低資訊熵)。
回過頭來看,我最初在普通化學課本中讀到的那句「熵總是增加」,似乎不再只是關於混亂與衰亡的敘述。當視角從單一的熱力學系統擴展到自然與資訊的世界時,熵的增加反而像是一種更深層的秩序與創造力的展現。能量向外流動、結構向外展開、資訊逐漸被理解。
也許,熵的增加並不只是宇宙不可逆的命運,而是一種推動世界運作的背景規律。在這個規律之上,生命透過演化建立結構,人類透過理解降低不確定性,而知識本身也像樹枝一般不斷分岔延伸。希望在未來的日子裡,我能夠繼續在這個充滿熵的世界中,找到更多關於秩序與創造力的啟示。