計算機能耗理論下限推導的教學探討
——針對新概念物理教程·熱學

汪中明　王笑君

(華南師范大學物理與電信工程學院　廣東 廣州　510006)

?

計算機能耗理論下限推導的教學探討
——針對新概念物理教程·熱學

汪中明王笑君

(華南師范大學物理與電信工程學院廣東 廣州510006)

摘 要：新概念物理教程熱學中將玻爾茲曼熵和信息熵相比得到計算機處理信息能耗的理論下限，受限于篇幅的原因，作者講解較為簡略，給學習者對知識的理解增加了難度.本文就課本中的處理方法提出幾點疑問，進一步給出計算機處理信息能耗理論下限的一般解釋.在此基礎上就當前一些學者認為玻爾茲曼熵與信息熵等價的觀點作出辨析.

關鍵詞：信息熵玻爾茲曼熵新概念物理能耗

新概念物理教程·熱學是趙凱華先生主筆的新概念物理教程中的第二卷，與傳統(tǒng)的物理教程相比，改革力度大，強化了熵的概念的教學，引進了量子統(tǒng)計的概念，還加強了熱學與其他學科之間的聯(lián)系，教育性、可讀性都大大增加，為人稱道.受限于篇幅的原因，教材作者在諸多拓展性知識點上采取了簡略描述或以小字來討論，類似作畫中精彩的留白，作者對知識詳略有序的處理也給教師和學生在教和學的過程中留下了更多的探討空間.

1新概念物理教程熱學中計算機處理能耗下限的推導及問題的提出

熱學卷第二章7.3節(jié)“信息熵與遺傳密碼”一節(jié)中，在給出了信息熵的一般性介紹以后，教材作者引入了計算機處理信息能耗下限的推導：

1bit= kln2 = 0.957×10-23J/K

熱力學的熵增加原理告訴我們，要使計算機里的信息量存儲增加1bit，它的熵減少kln2，這只能以環(huán)境的熵至少增加這么多為代價，即在溫度T下處理每個bit，計算機至少消耗能量kTln2.這是能耗的理論下限.

趙先生將信息熵與玻爾茲曼熵相比，從而得到計算機處理每比特的信息至少消耗kTln2的能量看起來很是巧妙，但是，在給出信息熵與玻爾茲曼熵具體的概念界定前，我們先提出這樣一些困惑：

(1)信息熵與遺傳密碼一節(jié)中指出，信息熵是對某種狀態(tài)做出完全判斷所缺的信息量.它意味著信息量的缺損，那么信息熵描述的狀態(tài)和玻爾茲曼熵描述的狀態(tài)是否一致，信息熵的定義域是什么？

(2)玻爾茲曼熵是從能量的角度描述一個系統(tǒng)微觀粒子的狀態(tài)，量綱為J/K，而信息熵依存于某個事件發(fā)生的概率，量綱為bit，二者的量綱截然不同，將二者對比得到計算機處理信息能耗的理論下限，其依據(jù)是什么呢？

(3)玻爾茲曼熵與信息熵之間的關系具體是怎樣的，真的如許多學者提出的二者是等價的嗎？

2計算機能耗理論下限的進一步解釋

基于以上問題，為了得到計算機能耗理論下限的進一步解釋，我們先明確信息熵與玻爾茲曼熵的概念.

2.1信息熵

1948年美國工程師和數(shù)學家克勞德·香農在《貝爾系統(tǒng)技術雜志》上發(fā)表論文《通信的數(shù)學理論》，奠定了信息論的基礎.香農指出,“通信的基本問題是在一點精確地或近似地恢復另一點所選擇的消息.”信息論中把香農指出的另一點選擇的消息稱為信源，恢復消息的這一端為信宿，那么對信源信息量的度量就是信息論需要解決的首要問題.

香農將信源限制為具有某一先驗概率的隨機過程，并借鑒了熱力學中的玻爾茲曼熵概念，用信息熵來度量事件選擇中含有多少“選擇的可能性”，或者說用信息熵來度量選擇的結果具有多大的不確定性.其表達式為

式中i表示事件有i=1,2,…,N共N種可能性，各種可能性的概率為Pi，負號表明該信息是待觀測的，常數(shù)K取決于對數(shù)底a的值.

現(xiàn)代計算機普遍采用二進制方式存儲信息，用0和1表示兩種可能性，信息論定義在兩種可能性中做出判斷所需的信息量為1比特(bit),那么a的值為2.當信源中每一個隨機事件發(fā)生的概率Pi相等時，用二進制度量信源的信息，信息熵就是

S=-KlnP

2.2玻爾茲曼熵

S=-klnΩ

2.3對將信息熵與玻爾茲曼熵對比得出計算機能耗理論下限的進一步解釋

一個孤立的系統(tǒng)，采用計算機二進制的算法，對系統(tǒng)(或者說是信源)做一次判斷，由于各個微觀狀態(tài)之間是相互獨立的，那么系統(tǒng)的未知狀態(tài)數(shù)減少一半，通過一次判斷獲得信息，則此孤立系統(tǒng)的未知狀態(tài)數(shù)減少，即信息熵減少；同樣，由于判斷確定了一個量子態(tài)，此孤立系統(tǒng)的總的量子態(tài)數(shù)降低，對應的玻爾茲曼熵在降低.而熱力學熵增加原理指出，當熱力學系統(tǒng)從一平衡態(tài)經絕熱過程到達另一平衡態(tài)時，它的熵永不減少.所以，此孤立系統(tǒng)的熱力學熵降低，必然導致其外界環(huán)境的熵增加，且系統(tǒng)降低的熱力學熵與環(huán)境增加的熱力學熵相等.我們把上述過程用公式表示出來.

判斷前孤立系統(tǒng)信息熵為

判斷前孤立系統(tǒng)的玻爾茲曼熵為

S熱初=klnΩ

判斷后孤立系統(tǒng)信息熵為

判斷后孤立系統(tǒng)的玻爾茲曼熵為

S熱末=klnΩ=klnΩ-kln2

判斷前、后的信息熵變

ΔS信=S信初-S信末=1bit

判斷前、后的玻爾茲曼熵變

判斷前、后外界環(huán)境的熱力學熵變等于孤立系統(tǒng)的熵變

ΔS外=kln2

通過以上的表達式，我們就能很明確地看到，對一個孤立系統(tǒng)做一次判斷，這個過程我們用兩個量來描述它，一個是信息熵，一個是熱力學中的玻爾茲曼熵，二者對應同一個事件狀態(tài)，所以二者是一一對應的關系，即計算機做一次判斷，獲得1bit的信息量，系統(tǒng)的玻爾茲曼熵降低，導致環(huán)境的熵增加，增加了kln2.即當環(huán)境溫度為300 K時，計算機處理每1bit，至少消耗約為3×10-21J的能量.

回過頭看趙凱華先生推導計算機能耗理論下限的過程，其實理論上完全沒有問題，只是由于為了部分語言上的精簡和突出玻爾茲曼熵與信息熵的“相似性”，如“它和玻爾茲曼熵的公式極為相似”、“兩者相比”，給學生閱讀和教師教學操作上，帶來了一定的難度，讓讀者不容易理解的是直接將玻爾茲曼熵與信息熵相比就在物理意義上得出計算機能耗的理論下限，這中間還差一道鴻溝沒有跨越.

事實上，對于教師來說，如果換一種說法，會讓理解上的難度大為降低：計算機采用二進制做一次判斷，對應的信息熵就是1bit，也是在兩種微觀量子態(tài)中作出判斷，所以量子態(tài)的數(shù)目就是2，對應的玻爾茲曼熵就是kln2，這樣我們就可以說“要使計算機里的信息量存儲增加1bit，它的熵減少kln2，這只能以環(huán)境的熵至少增加這么多為代價，即在溫度T下處理每個bit，計算機至少消耗kTln2焦耳的能量”.所以，嚴格來說

1bit =kln2 = 0.957×10-23J/K

這個等式是存在問題的，因為1bit對應的是信息熵，從前面對信息熵概念的描述我們知道，信息熵本沒有單位，我們只是人為地規(guī)定把從兩種可能性中作出判斷所需的信息量叫做1bit.而玻爾茲曼熵的單位是J/K，等式前后的量綱完全不同，用等號將二者建立等量關系顯然是不合理的，合理的處理方式應該是我們在物理意義上將二者建立對應關系.

3教學上的拓展延伸——信息熵與玻爾茲曼熵關系的辨析

基于趙先生的理論建立起了連通信息論和熱力學的橋梁，學生在學完這一節(jié)以后，會很自然地有一個困惑，就是信息熵與玻爾茲曼熵的關系.我們就此來對他們作一個明確的辨析，也是對前文提出的第3個問題的回答.

許多學生甚至是學者將玻爾茲曼熵與信息熵視為等價，一定程度上因為二者都是建立在概率的基礎上.對于玻爾茲曼熵，如前文對玻爾茲曼熵的介紹，lnΩ= -H，它的值涉及到所研究系統(tǒng)微觀狀態(tài)的數(shù)目，微觀量子態(tài)的數(shù)目越多，其對應的宏觀狀態(tài)出現(xiàn)的概率就越大.對于信息熵來說，信宿要對信源作出完全判斷所缺的信息量，當信源中包含的事件可能性越多，需要作出判斷的次數(shù)也就越多，信息熵也就越大.所以，本質上看，二者都是從概率的角度出發(fā)，熵的大小由概率決定，但能否因此說二者是等價的呢，顯然是還遠遠不夠的，我們不能就此而忽略玻爾茲曼熵與信息熵之間存在的巨大差異.

玻爾茲曼熵中的Ω是微觀粒子狀態(tài)的數(shù)目，它以系統(tǒng)中每一個微觀粒子的狀態(tài)為統(tǒng)計單元；而在信息論中，信息是通過認識主體的感受而體現(xiàn)出來的，信息熵中每一個元事件的確定則要受制于信源傳遞了什么樣的信息.比如擲兩顆骰子，當信源傳遞的是兩顆骰子正面朝上的點數(shù)之和的大小時，那么“兩顆骰子正面點數(shù)之和”為從2到12這幾個特定的數(shù)之一，這個狀態(tài)就是一個元事件，共有11種狀態(tài)，當信源傳遞的是兩顆骰子點數(shù)的奇偶性時，那么“同奇、同偶、奇偶”就是對應的3種元事件.所以，信息熵從信息缺損的角度來描述一個事件，顯然這是受制于主觀能動性的，一千個讀者就有一千個哈姆雷特，對同一個事件，不同的人所需要的信息是不一樣的，信息熵的大小也會有所差異，因而具有主觀性.而對于物理中的一個宏觀系統(tǒng)，其微觀粒子總的狀態(tài)數(shù)僅由一定體積中粒子的數(shù)目和環(huán)境的溫度決定，是客觀實在的.就如同普朗克在《論熱力學》一書中所說， “這個定律的局限存在于受觀測的自然，而不在于觀測者.這個定律的演繹所要求的是人的經驗是無足輕重的”.所以理論上我們可以用信息熵描述完全判斷某一系統(tǒng)微觀量子態(tài)所需要的信息量，但不能用玻爾茲曼熵去描述非微觀物理意義上的概率事件.兩種熵都基于概率，但實際上他們對概率的定義方式截然不同，這也必然導致二者之間存在巨大差異.

綜上，我們用一副圖(圖1)來辨析一下信息熵與玻爾茲曼熵二者之間的關系.

圖1　玻爾茲曼熵與信息熵之間的關系

玻爾茲曼熵是在統(tǒng)計的角度上建立起了系統(tǒng)宏觀狀態(tài)與微觀量子態(tài)的關系，從而反映出熱力學第二定律中熵增加原理的本質是概率法則在起作用.信息熵中，概率法則決定了對某一事件作出判斷所缺的信息量的多少.它們都是從概率統(tǒng)計的角度出發(fā)的，在一定程度上可以建立起聯(lián)系，二者的表達式十分相似，但實則兩個熵中概率的描述范圍受限于各自的條件，不同的比例系數(shù)也決定了二者向兩個完全不同的學科方向發(fā)展.所以玻爾茲曼熵與信息熵是完全不等價的.

4教學中的總結與反思

信息熵與遺傳密碼一節(jié)是以小字展出的，在教學中的地位并不重要，但我們不能忽視熵在物理學中發(fā)揮的越來越基本、越來越重要的角色，從物理學走向化學、生命科學等學科中，熵的重要性也越來越突出.教師在教學中首先自己要明確信息熵與玻爾茲曼熵的關系，然后用更加簡單的方法講清楚將玻爾茲曼熵與信息熵對比從而得出計算機能耗理論下限的過程,以加深學生對熵概念的認知，提高他們的學習興趣，同時還能夠為后續(xù)熱力學統(tǒng)計物理的學習打下基礎.

參 考 文 獻

1趙凱華，羅蔚茵. 新概念物理教程·熱學.北京：高等教育出版社，2005

2田寶玉，等. 信息論基礎.北京：人民郵電出版社，2008

3李鶴齡. 信息熵、玻爾茲曼熵以及克勞修斯熵之間的關系——兼論玻爾茲曼熵和克勞修斯熵是否等價. 大學物理,2004(12):37～40

Discussion on Teaching of Deriving Theoretical Lower Limit of Computer Energy Consumption

Wang ZhongmingWang Xiaojun

(School of Physics and Telecommunication Engineering, South China Normal University, Guangzhou, Guangdong510006)

Abstract：There is a method compare Boltzmann entropy with Information entropy for getting the lowest energy consumption of computer in Heat of new concept physics. Limitation of space forbids full treatment of the subject which bring the difficulty to readers in understand. The article put forward some questions on how to get lowest energy consumption then give explain further for understand easily, and we also discussed the relation between Boltzmann entropy and Information entropy at last.

Key words:information entropy; boltzmann entropy; new concept physics; energy consumption

(收稿日期：2015-11-10)