[“邪惡”嘅物理學] 唔打掃間房就愈嚟愈亂,一切真係都係熵嘅錯?

學術
#1 牛河博士生
26/11/21 03:35

(圖擷取自:《魔法少女小圓》動畫)

「無聊」開場白問題:

「如果冇人打掃嘅話,經過時間嘅洗禮,間房/屋只會愈嚟愈污糟,愈嚟愈亂。點解會咁嘅呢?」

因為你懶,唔執屋清潔囉,咁都要問⋯⋯嗯,啱嘅,不過你有冇諗過,點解自然世界嘅演化,係會傾向愈嚟愈「亂」,而唔係掉番轉,變得愈嚟愈整齊、有秩序呢?其實歸根究底,哩啲全部都係「物理學嘅錯」,因為現實物理世界有熵(entropy)#哩樣作怪

#一樣連魔法少女都搞唔掂嘅嘢,好似係。PS:《魔法少女小圓》係一套好有深度嘅「神作」動畫嚟

熵係乜嚟?

(credits: HMP Comics)

要了解點解熵咁「邪惡」,我哋要首先明白乜嘢係熵。「溫馨提示」:以下內容不適合未成年人仕閱讀,好似係

熵,簡單概括講嘅話,係形容一個物理系統,佢包含嘅「資訊量」嘅一個參數,同著名物理學家波士文(Ludwig Boltzmann)開創嘅統計力學(statistical mechanics)有關。根據統計力學,宏觀世界嘅物質,係由龐大數量嘅微觀粒子構成。我哋喺宏觀世界,大尺度下觀察、測量到嘅物理量、物理規律,只係表象,背後其實係將大量微觀粒子各自嘅運動或狀態,綜合起嚟取平均或期望值,而得出嚟嘅表述。好似根據分子運動論(kinetic theory of gases),氣體嘅溫度,其實就係組成氣體堆微觀粒子,佢哋平均動能嘅描述。

而一個(宏觀)物理系統嘅熵值,就係同微觀狀態(microstates)數量,同啲微觀狀態嘅機率有關*。哩度微觀狀態,係指微觀粒子嘅位置、動量、位能等;而數量就係指喺同一宏觀狀態(macrostates),好似相同系統能量、體積、壓力下,有幾多相對應嘅微觀狀態組合可能性。

*哩度講嘅係熵嘅統計力學定義。而熵嘅各種經典熱力學(classical thermodynamics)定義,雖然睇落唔同,但其實一樣可以由統計力學定義出發,根據各種系統情況,用對應嘅微觀狀態概率密度函數推導出嚟。

熵=混亂程度?常見嘅坊間誤解

(網上圖片)

一般坊間科普,甚至係某啲教科書,都會將熵同混亂程度,直接劃上等號。好似一個系統愈混亂,佢嘅熵值就愈高。不過哩個簡單嘅詮釋又啱唔啱呢?

事實上,哩個詮釋其實係錯㗎!正確嚟講,熵真正描述同量化嘅,係我哋表述一個(宏觀)物理系統時,忽略咗嘅微觀世界資訊量,而唔係混亂程度。而且混亂、秩序,本身就係一個好主觀概念嚟,係唔可以客觀量化嘅。就似和理非遊行示威,有人會覺得有秩序,但某啲人同某強國就覺得係「混亂邪惡」咁。又好似一杯水同一堆碎冰,一般人都會認為一堆碎冰比較混亂。不過事實上,碎冰嘅熵值係比較細先啱。

#2 鴨記正能量
26/11/21 03:37

下篇失蹤了

#3 牛河博士生
26/11/21 03:46

熵=忽略咗嘅微觀世界資訊量

(credits: smbc)

要真正明白熵係乜,同點解有人會將佢同「混亂、秩序」扯上關係,我哋可以用以下嘅比喻:

試諗吓擲N粒骰仔,或喺圍棋棋盤上,隨機擺N粒棋子嘅情況。而家忽略擲骰仔/擺棋子嘅過程,假設啲骰仔/棋子係全部一模一樣,分唔到,只係睇最後骰仔數字組合(唔理次序),或棋子整體分佈形狀。「整齊」、有規律嘅棋子排列分佈或數字組合,比起隨機、冇規律嘅組合/排列,可能性數量相對係少好多。好似全部數字一樣嘅組合,例如111111咁,我哋可以確定每粒骰仔對應嘅數字必然係1,只有一種可能性;相反冇規律嘅組合,好似134265咁,每粒骰仔對應嘅就會係1-6任何一個數字,可能性係6!=720種。

如果啲骰仔係公平,每個數字擲到嘅機率一樣,或每個棋子位置擺放機率一樣,咁每個可能性嘅資訊量亦會係一樣。再比較番有規律同冇規律嘅整體組合/排列,如果只睇整體組合/排列,我哋可以睇到結果係冇規律時,被忽略嘅資訊量係最大,亦即熵值最大。哩個就係點解坊間好多解釋,會錯誤直接將熵簡化理解成混亂程度

有興趣想了解更多嘅,可以睇下面ZAP Physics《Entropy is NOT About Disorder》嘅英文短片:

「邪惡」嘅熱力學第二定律

(credits: xkcd #2315 )

熵哩個詞,之所以為人「熟識」嘅原因,相信就係熱力學第二定律(the second law of thermodynamics)。哩條定律表述嘅係熱力學過程嘅不可逆性:一個封閉嘅孤立系统,必定無何避免,會自發咁向住熱力學平衡(thermal equilibrium)方向演化,即熵值必然隨時間增加,直至去到最大值為止。熱力學第二定律,係物理學少數有時間方向性嘅定律,所以有人會將熵值同時間掛勾,就好似上年科幻電影《天能》嘅「逆熵」設定出現咁。

熱力學第二定律背後嘅原理,係可以從統計力學,由機率去理解。熵值不斷增大嘅真正含意,喺自然界會自發咁向住分布可能性,即機率更高嘅方向發展。用番上一節骰仔數字組合/棋子分佈嘅比喻,熵值愈大嘅宏觀整體結果,佢嘅骰仔組合/棋子排列可能性就愈多,出現嘅機率就愈大;相反熵值愈細,出現嘅機率就愈少。如果假設個系統,係會不斷隨機試勻所有可能性組合,咁好自然熵值最大嘅結果係最有可能出現,同演化到。

喺自然界,絕大部分情況下,「混亂、冇序」嘅微觀物理態組合,熵值通常愈大。所以坊間先會出現熱力學第二定律,等同自然世界演化偏向混亂、冇序,宇宙必然趨向「混亂邪惡」嘅誤解。事實上,即使係封閉嘅孤立系统,喺某啲特殊情況或物理條件下,有序嘅微觀物理態組合,佢嘅熵值係可以更大;系統嘅演化係可以由冇序 -> 有序。詳細嘅例子,可以睇以下Sixty Symbols嘅短片(英文)

#4 牛河博士生
26/11/21 03:49

總結:熵=/=混亂程度

雖然小弟拙文開頭,話世界愈嚟愈亂,係「物理學同熵嘅錯」,不過哩個講法嚴格上係錯㗎,唔好再將你間房/屋亂,賴落物理學度啦!今次講到哩度,最後送首《魔法少女小圓》粵語改版主題曲作結,下次有機會再講。

後記/補充說明:

(一)物理學嘅熵,同資訊/電腦科學嘅資訊熵,又叫夏農熵(Shannon entropy),係息息相關。前者可以理解為後者嘅應用例子。

(二)熵公式定義為

k_B:波士文常數

p_i:微觀物理態i,佢對應嘅機率

#5 牛河博士生
26/11/21 03:50

延伸閱讀:

[1] 《The Misunderstood Nature of Entropy》by PBS Space Time (英文字幕)

[2] 《Second Law of Thermodynamics 》by Sixty Symbols (英文字幕)

[3]《時間可以倒流嗎?甚麼是熵增定律?電影《天能》中的科學假設》by 媽咪說(蝗語慎入)

[4] 《柴知道》科普:甚麼是热力学第二定律?by 《柴知道》(蝗語慎入)

[5] 《觀賞”天能”所需要了解的物理學概念”熵”》by mouchou2

[6]《Is ENTROPY Really a "Measure of Disorder"? Physics of Entropy EXPLAINED and MADE EASY》by Parth G (英文)

#6 牛河博士生
26/11/21 03:50

原文link:

#7 壞過聖誕鹿的樂高
26/11/21 04:16

#8 ☝️
26/11/21 05:57

#9 牛河博士生
26/11/21 08:10

下篇失蹤了

小弟拙文唔跟次序,係常識吧

咁都只係遵從「增熵」定律,好似係

#10 南極灰熊
26/11/21 08:20

你講物理學先會得出「熵≠混亂程度」呢個結論姐

如果係講密碼學 一樣嘢愈random (亂) 熵就愈高㗎啦

係咪先?

#11 牛河博士生
26/11/21 08:30

你講物理學先會得出「熵≠混亂程度」呢個結論姐

如果係講密碼學 一樣嘢愈random (亂) 熵就愈高㗎啦

係咪先?

請客觀定義咩叫「亂」?

我文章最後已經講咗,事實上資訊/電腦科學嘅資訊熵(即你講嘅密碼學)

背後定義係等同統計力學(物理學)嘅熵

後者係前者,應用喺物理系統嘅例子

所謂愈random熵愈高,同樣係講𡁵個系統/variable有幾多資訊

#12 熱水牛
26/11/21 08:58

簡化版

啲野亂左你個人就會 「冏」左

咁所以係關冏事

#13 南極灰熊
26/11/21 08:58

你講物理學先會得出「熵≠混亂程度」呢個結論姐

如果係講密碼學 一樣嘢愈random (亂) 熵就愈高㗎啦

係咪先?

請客觀定義咩叫「亂」?

我文章最後已經講咗,事實上資訊/電腦科學嘅資訊熵(即你講嘅密碼學)

背後定義係等同統計力學(物理學)嘅熵

後者係前者,應用喺物理系統嘅例子

所謂愈random熵愈高,同樣係講𡁵個系統/variable有幾多資訊

密碼學嘅「秩序」好客觀㗎喎

加密得好咪 無序

冇加密到咪 有序

無序咪亂 同時熵就高㗎啦

夠唔夠客觀?

#14 牛河博士生
26/11/21 09:14

你講物理學先會得出「熵≠混亂程度」呢個結論姐

如果係講密碼學 一樣嘢愈random (亂) 熵就愈高㗎啦

係咪先?

請客觀定義咩叫「亂」?

我文章最後已經講咗,事實上資訊/電腦科學嘅資訊熵(即你講嘅密碼學)

背後定義係等同統計力學(物理學)嘅熵

後者係前者,應用喺物理系統嘅例子

所謂愈random熵愈高,同樣係講𡁵個系統/variable有幾多資訊

密碼學嘅「秩序」好客觀㗎喎

加密得好咪 無序

冇加密到咪 有序

無序咪亂 同時熵就高㗎啦

夠唔夠客觀?

「加密」得好=有序?咩叫「加密」得好?

事實上,所謂有幾random/「加密」得好

背後都係指𡁵資訊量

即你需要問幾多條問題,先會知個密碼係乜

而唔係個密碼幾「有序」

#15 牛河博士生
26/11/21 10:57

簡化版

啲野亂左你個人就會 「冏」左

咁所以係關冏事

#16 DutalaTortoise
26/11/21 13:28

Straightforward:

ln'W>0

No one can destroy information

#17 牛河博士生
26/11/21 14:24

Straightforward:

ln'W>0

No one can destroy information

冇人知資訊,係唔係真係唔可以被消滅

詳見黑洞資訊悖論

#18 牛河博士生
26/11/21 15:41

「書面語」修訂版:

#19 腐毒
26/11/21 16:15

雖然只睇得明三四成

但好有趣嘅概念

#20 他媽廣池
26/11/21 16:18

tllr

#21 牛河博士生
26/11/21 18:51

雖然只睇得明三四成

但好有趣嘅概念

多謝欣賞

有冇睇埋引用嗰啲片呀?

#22 熵熵大狗公
26/11/21 20:13

所以我間房咁多甲由

#23 牛河博士生
26/11/21 20:30

所以我間房咁多甲由

你需要國安法,好似係

#24 腐毒
26/11/21 22:08

雖然只睇得明三四成

但好有趣嘅概念

多謝欣賞

有冇睇埋引用嗰啲片呀?

想睇嗰篇文唔知點解開唔到

都係再浸下巴打篇文

#25 腐毒
26/11/21 22:08

所以我間房咁多甲由

你需要國安法,好似係

#26 DutalaTortoise
26/11/21 22:24

雖然只睇得明三四成

但好有趣嘅概念

多謝欣賞

有冇睇埋引用嗰啲片呀?

熵定義個natural logarithm 好似係用ratio同isotherm砌出嚟,當年HKAL Phy特登唔考

#27 南極灰熊
26/11/21 23:01

請客觀定義咩叫「亂」?

我文章最後已經講咗,事實上資訊/電腦科學嘅資訊熵(即你講嘅密碼學)

背後定義係等同統計力學(物理學)嘅熵

後者係前者,應用喺物理系統嘅例子

所謂愈random熵愈高,同樣係講𡁵個系統/variable有幾多資訊

密碼學嘅「秩序」好客觀㗎喎

加密得好咪 無序

冇加密到咪 有序

無序咪亂 同時熵就高㗎啦

夠唔夠客觀?

「加密」得好=有序?咩叫「加密」得好?

事實上,所謂有幾random/「加密」得好

背後都係指𡁵資訊量

即你需要問幾多條問題,先會知個密碼係乜

而唔係個密碼幾「有序」

諗諗吓都係你啱

加密得好嘅要素係混亂程度(randomness)高(Shannon secrecy)

randomness高的話熵值都會高

但我最多都只可以話:

被加密過嘅嘢一定會有高嘅熵值

但有高熵值嘅嘢 例如圖片、影片咁樣 都唔一定被加密過

我咁講有冇缺陷?

#28 牛河博士生
26/11/21 23:34

密碼學嘅「秩序」好客觀㗎喎

加密得好咪 無序

冇加密到咪 有序

無序咪亂 同時熵就高㗎啦

夠唔夠客觀?

「加密」得好=有序?咩叫「加密」得好?

事實上,所謂有幾random/「加密」得好

背後都係指𡁵資訊量

即你需要問幾多條問題,先會知個密碼係乜

而唔係個密碼幾「有序」

諗諗吓都係你啱

加密得好嘅要素係混亂程度(randomness)高(Shannon secrecy)

randomness高的話熵值都會高

但我最多都只可以話:

被加密過嘅嘢一定會有高嘅熵值

但有高熵值嘅嘢 例如圖片、影片咁樣 都唔一定被加密過

我咁講有冇缺陷?

所有咪話

熵真正表達嘅,係量化嘅資訊

#29 牛河博士生
27/11/21 03:25

雖然只睇得明三四成

但好有趣嘅概念

多謝欣賞

有冇睇埋引用嗰啲片呀?

想睇嗰篇文唔知點解開唔到

都係再浸下巴打篇文

邊篇?上面有啲link唔work

#30 亞古獸
27/11/21 05:23

#31 腐毒
27/11/21 06:13

多謝欣賞

有冇睇埋引用嗰啲片呀?

想睇嗰篇文唔知點解開唔到

都係再浸下巴打篇文

邊篇?上面有啲link唔work

我問題嚟無事

#32 牛河博士生
27/11/21 10:11

有關熵,點解同資訊量,隨機有關嘅網上文章

#33 牛河博士生
28/11/21 01:31

想睇嗰篇文唔知點解開唔到

都係再浸下巴打篇文

邊篇?上面有啲link唔work

我問題嚟無事

歡迎發問,如果有地方睇唔明

#34 國民黨孫大砲
28/11/21 01:46

應該講埋 data compression 同 Shannon's source coding theorem

#35 牛河博士生
28/11/21 02:57

應該講埋 data compression 同 Shannon's source coding theorem

咁會變TLDR

而且主旨係想講物理學嘅熵

更何況我本身唔係讀information science出身

(雖然讀quantum information接觸過吓)

本主題共有 35 則回覆,第 1 頁。