[“邪惡”嘅物理學] 唔打掃間房就愈嚟愈亂,一切真係都係熵嘅錯?
(圖擷取自:《魔法少女小圓》動畫)
「無聊」開場白問題:
「如果冇人打掃嘅話,經過時間嘅洗禮,間房/屋只會愈嚟愈污糟,愈嚟愈亂。點解會咁嘅呢?」
因為你懶,唔執屋清潔囉,咁都要問⋯⋯嗯,啱嘅,不過你有冇諗過,點解自然世界嘅演化,係會傾向愈嚟愈「亂」,而唔係掉番轉,變得愈嚟愈整齊、有秩序呢?其實歸根究底,哩啲全部都係「物理學嘅錯」,因為現實物理世界有熵(entropy)#哩樣作怪
#一樣連魔法少女都搞唔掂嘅嘢,好似係。PS:《魔法少女小圓》係一套好有深度嘅「神作」動畫嚟
熵係乜嚟?
(credits: HMP Comics)
要了解點解熵咁「邪惡」,我哋要首先明白乜嘢係熵。「溫馨提示」:以下內容不適合未成年人仕閱讀,好似係
熵,簡單概括講嘅話,係形容一個物理系統,佢包含嘅「資訊量」嘅一個參數,同著名物理學家波士文(Ludwig Boltzmann)開創嘅統計力學(statistical mechanics)有關。根據統計力學,宏觀世界嘅物質,係由龐大數量嘅微觀粒子構成。我哋喺宏觀世界,大尺度下觀察、測量到嘅物理量、物理規律,只係表象,背後其實係將大量微觀粒子各自嘅運動或狀態,綜合起嚟取平均或期望值,而得出嚟嘅表述。好似根據分子運動論(kinetic theory of gases),氣體嘅溫度,其實就係組成氣體堆微觀粒子,佢哋平均動能嘅描述。
而一個(宏觀)物理系統嘅熵值,就係同微觀狀態(microstates)數量,同啲微觀狀態嘅機率有關*。哩度微觀狀態,係指微觀粒子嘅位置、動量、位能等;而數量就係指喺同一宏觀狀態(macrostates),好似相同系統能量、體積、壓力下,有幾多相對應嘅微觀狀態組合可能性。
*哩度講嘅係熵嘅統計力學定義。而熵嘅各種經典熱力學(classical thermodynamics)定義,雖然睇落唔同,但其實一樣可以由統計力學定義出發,根據各種系統情況,用對應嘅微觀狀態概率密度函數推導出嚟。
熵=混亂程度?常見嘅坊間誤解
(網上圖片)
一般坊間科普,甚至係某啲教科書,都會將熵同混亂程度,直接劃上等號。好似一個系統愈混亂,佢嘅熵值就愈高。不過哩個簡單嘅詮釋又啱唔啱呢?
事實上,哩個詮釋其實係錯㗎!正確嚟講,熵真正描述同量化嘅,係我哋表述一個(宏觀)物理系統時,忽略咗嘅微觀世界資訊量,而唔係混亂程度。而且混亂、秩序,本身就係一個好主觀概念嚟,係唔可以客觀量化嘅。就似和理非遊行示威,有人會覺得有秩序,但某啲人同某強國就覺得係「混亂邪惡」咁。又好似一杯水同一堆碎冰,一般人都會認為一堆碎冰比較混亂。不過事實上,碎冰嘅熵值係比較細先啱。
下篇失蹤了
熵=忽略咗嘅微觀世界資訊量
(credits: smbc)
要真正明白熵係乜,同點解有人會將佢同「混亂、秩序」扯上關係,我哋可以用以下嘅比喻:
試諗吓擲N粒骰仔,或喺圍棋棋盤上,隨機擺N粒棋子嘅情況。而家忽略擲骰仔/擺棋子嘅過程,假設啲骰仔/棋子係全部一模一樣,分唔到,只係睇最後骰仔數字組合(唔理次序),或棋子整體分佈形狀。「整齊」、有規律嘅棋子排列分佈或數字組合,比起隨機、冇規律嘅組合/排列,可能性數量相對係少好多。好似全部數字一樣嘅組合,例如111111咁,我哋可以確定每粒骰仔對應嘅數字必然係1,只有一種可能性;相反冇規律嘅組合,好似134265咁,每粒骰仔對應嘅就會係1-6任何一個數字,可能性係6!=720種。
如果啲骰仔係公平,每個數字擲到嘅機率一樣,或每個棋子位置擺放機率一樣,咁每個可能性嘅資訊量亦會係一樣。再比較番有規律同冇規律嘅整體組合/排列,如果只睇整體組合/排列,我哋可以睇到結果係冇規律時,被忽略嘅資訊量係最大,亦即熵值最大。哩個就係點解坊間好多解釋,會錯誤直接將熵簡化理解成混亂程度
有興趣想了解更多嘅,可以睇下面ZAP Physics《Entropy is NOT About Disorder》嘅英文短片:
「邪惡」嘅熱力學第二定律
(credits: xkcd #2315 )
熵哩個詞,之所以為人「熟識」嘅原因,相信就係熱力學第二定律(the second law of thermodynamics)。哩條定律表述嘅係熱力學過程嘅不可逆性:一個封閉嘅孤立系统,必定無何避免,會自發咁向住熱力學平衡(thermal equilibrium)方向演化,即熵值必然隨時間增加,直至去到最大值為止。熱力學第二定律,係物理學少數有時間方向性嘅定律,所以有人會將熵值同時間掛勾,就好似上年科幻電影《天能》嘅「逆熵」設定出現咁。
熱力學第二定律背後嘅原理,係可以從統計力學,由機率去理解。熵值不斷增大嘅真正含意,喺自然界會自發咁向住分布可能性,即機率更高嘅方向發展。用番上一節骰仔數字組合/棋子分佈嘅比喻,熵值愈大嘅宏觀整體結果,佢嘅骰仔組合/棋子排列可能性就愈多,出現嘅機率就愈大;相反熵值愈細,出現嘅機率就愈少。如果假設個系統,係會不斷隨機試勻所有可能性組合,咁好自然熵值最大嘅結果係最有可能出現,同演化到。
喺自然界,絕大部分情況下,「混亂、冇序」嘅微觀物理態組合,熵值通常愈大。所以坊間先會出現熱力學第二定律,等同自然世界演化偏向混亂、冇序,宇宙必然趨向「混亂邪惡」嘅誤解。事實上,即使係封閉嘅孤立系统,喺某啲特殊情況或物理條件下,有序嘅微觀物理態組合,佢嘅熵值係可以更大;系統嘅演化係可以由冇序 -> 有序。詳細嘅例子,可以睇以下Sixty Symbols嘅短片(英文)
總結:熵=/=混亂程度
雖然小弟拙文開頭,話世界愈嚟愈亂,係「物理學同熵嘅錯」,不過哩個講法嚴格上係錯㗎,唔好再將你間房/屋亂,賴落物理學度啦!今次講到哩度,最後送首《魔法少女小圓》粵語改版主題曲作結,下次有機會再講。
後記/補充說明:
(一)物理學嘅熵,同資訊/電腦科學嘅資訊熵,又叫夏農熵(Shannon entropy),係息息相關。前者可以理解為後者嘅應用例子。
(二)熵公式定義為
k_B:波士文常數
p_i:微觀物理態i,佢對應嘅機率
延伸閱讀:
[1] 《The Misunderstood Nature of Entropy》by PBS Space Time (英文字幕)
[2] 《Second Law of Thermodynamics 》by Sixty Symbols (英文字幕)
[3]《時間可以倒流嗎?甚麼是熵增定律?電影《天能》中的科學假設》by 媽咪說(蝗語慎入)
[4] 《柴知道》科普:甚麼是热力学第二定律?by 《柴知道》(蝗語慎入)
[5] 《觀賞”天能”所需要了解的物理學概念”熵”》by mouchou2
[6]《Is ENTROPY Really a "Measure of Disorder"? Physics of Entropy EXPLAINED and MADE EASY》by Parth G (英文)
原文link:
下篇失蹤了
小弟拙文唔跟次序,係常識吧
咁都只係遵從「增熵」定律,好似係
你講物理學先會得出「熵≠混亂程度」呢個結論姐
如果係講密碼學 一樣嘢愈random (亂) 熵就愈高㗎啦
係咪先?
你講物理學先會得出「熵≠混亂程度」呢個結論姐
如果係講密碼學 一樣嘢愈random (亂) 熵就愈高㗎啦
係咪先?
請客觀定義咩叫「亂」?
我文章最後已經講咗,事實上資訊/電腦科學嘅資訊熵(即你講嘅密碼學)
背後定義係等同統計力學(物理學)嘅熵
後者係前者,應用喺物理系統嘅例子
所謂愈random熵愈高,同樣係講𡁵個系統/variable有幾多資訊
簡化版
啲野亂左你個人就會 「冏」左
咁所以係關冏事
你講物理學先會得出「熵≠混亂程度」呢個結論姐
如果係講密碼學 一樣嘢愈random (亂) 熵就愈高㗎啦
係咪先?
請客觀定義咩叫「亂」?
我文章最後已經講咗,事實上資訊/電腦科學嘅資訊熵(即你講嘅密碼學)
背後定義係等同統計力學(物理學)嘅熵
後者係前者,應用喺物理系統嘅例子
所謂愈random熵愈高,同樣係講𡁵個系統/variable有幾多資訊
密碼學嘅「秩序」好客觀㗎喎
加密得好咪 無序
冇加密到咪 有序
無序咪亂 同時熵就高㗎啦
夠唔夠客觀?
你講物理學先會得出「熵≠混亂程度」呢個結論姐
如果係講密碼學 一樣嘢愈random (亂) 熵就愈高㗎啦
係咪先?
請客觀定義咩叫「亂」?
我文章最後已經講咗,事實上資訊/電腦科學嘅資訊熵(即你講嘅密碼學)
背後定義係等同統計力學(物理學)嘅熵
後者係前者,應用喺物理系統嘅例子
所謂愈random熵愈高,同樣係講𡁵個系統/variable有幾多資訊
密碼學嘅「秩序」好客觀㗎喎
加密得好咪 無序
冇加密到咪 有序
無序咪亂 同時熵就高㗎啦
夠唔夠客觀?
「加密」得好=有序?咩叫「加密」得好?
事實上,所謂有幾random/「加密」得好
背後都係指𡁵資訊量
即你需要問幾多條問題,先會知個密碼係乜
而唔係個密碼幾「有序」
簡化版
啲野亂左你個人就會 「冏」左
咁所以係關冏事
Straightforward:
ln'W>0
No one can destroy information
Straightforward:
ln'W>0
No one can destroy information
冇人知資訊,係唔係真係唔可以被消滅
詳見黑洞資訊悖論
「書面語」修訂版:
雖然只睇得明三四成
但好有趣嘅概念
tllr
雖然只睇得明三四成
但好有趣嘅概念
多謝欣賞
有冇睇埋引用嗰啲片呀?
所以我間房咁多甲由
所以我間房咁多甲由
你需要國安法,好似係
雖然只睇得明三四成
但好有趣嘅概念
多謝欣賞
有冇睇埋引用嗰啲片呀?
想睇嗰篇文唔知點解開唔到
都係再浸下巴打篇文
所以我間房咁多甲由
你需要國安法,好似係
雖然只睇得明三四成
但好有趣嘅概念
多謝欣賞
有冇睇埋引用嗰啲片呀?
熵定義個natural logarithm 好似係用ratio同isotherm砌出嚟,當年HKAL Phy特登唔考
請客觀定義咩叫「亂」?
我文章最後已經講咗,事實上資訊/電腦科學嘅資訊熵(即你講嘅密碼學)
背後定義係等同統計力學(物理學)嘅熵
後者係前者,應用喺物理系統嘅例子
所謂愈random熵愈高,同樣係講𡁵個系統/variable有幾多資訊
密碼學嘅「秩序」好客觀㗎喎
加密得好咪 無序
冇加密到咪 有序
無序咪亂 同時熵就高㗎啦
夠唔夠客觀?
「加密」得好=有序?咩叫「加密」得好?
事實上,所謂有幾random/「加密」得好
背後都係指𡁵資訊量
即你需要問幾多條問題,先會知個密碼係乜
而唔係個密碼幾「有序」
諗諗吓都係你啱
加密得好嘅要素係混亂程度(randomness)高(Shannon secrecy)
randomness高的話熵值都會高
但我最多都只可以話:
被加密過嘅嘢一定會有高嘅熵值
但有高熵值嘅嘢 例如圖片、影片咁樣 都唔一定被加密過
我咁講有冇缺陷?
密碼學嘅「秩序」好客觀㗎喎
加密得好咪 無序
冇加密到咪 有序
無序咪亂 同時熵就高㗎啦
夠唔夠客觀?
「加密」得好=有序?咩叫「加密」得好?
事實上,所謂有幾random/「加密」得好
背後都係指𡁵資訊量
即你需要問幾多條問題,先會知個密碼係乜
而唔係個密碼幾「有序」
諗諗吓都係你啱
加密得好嘅要素係混亂程度(randomness)高(Shannon secrecy)
randomness高的話熵值都會高
但我最多都只可以話:
被加密過嘅嘢一定會有高嘅熵值
但有高熵值嘅嘢 例如圖片、影片咁樣 都唔一定被加密過
我咁講有冇缺陷?
所有咪話
熵真正表達嘅,係量化嘅資訊
雖然只睇得明三四成
但好有趣嘅概念
多謝欣賞
有冇睇埋引用嗰啲片呀?
想睇嗰篇文唔知點解開唔到
都係再浸下巴打篇文
邊篇?上面有啲link唔work
多謝欣賞
有冇睇埋引用嗰啲片呀?
想睇嗰篇文唔知點解開唔到
都係再浸下巴打篇文
邊篇?上面有啲link唔work
我問題嚟無事
有關熵,點解同資訊量,隨機有關嘅網上文章
想睇嗰篇文唔知點解開唔到
都係再浸下巴打篇文
邊篇?上面有啲link唔work
我問題嚟無事
歡迎發問,如果有地方睇唔明
應該講埋 data compression 同 Shannon's source coding theorem
應該講埋 data compression 同 Shannon's source coding theorem
咁會變TLDR
而且主旨係想講物理學嘅熵
更何況我本身唔係讀information science出身
(雖然讀quantum information接觸過吓)