信息的本質是什麼

信息的本質是什麼

1948年,數學家香農在題為“通訊的數學理論”的論文中指出:“信息是用來消除隨機不定性的東西”。首先是消除隨機不定性,然後是“東西”。

隨機不定性我們知道可以用概率來描述,用信息熵來作為概率分佈中不確定性的度量:

信息的本質是什麼

信息加入後,這種隨機不定性得到一定的消除。比如買彩票,假設7個數字分佈是完全隨機的。如果有一個人告訴你(假設這個人無所不知),第1個數字是3,那就消除了1/7的不確定性,也就獲得了這1/7的信息量。但如果這個時候另外一個人又來告訴你,第1個數字是3,這時的信息量為0,因為第1個數字是3已經知道了,再來告訴一次,不沒有減少不確定性。但假如第2個人明確告訴你(這個人也無所不知),第2個數字是6,那就增加了信息,因為不確定性減少到5/7。

從這個過程可以看出,信息不同於物質和能量,是宇宙展示自身的另一種形態。信息有以下特點:

  1. 與意識關聯,如果完全沒有意識,也就談不上信息;
  2. 要有解碼過程,不然信息沒有意義。如果只是有信息發佈者,但沒有接收者,或接收者不能正確解讀信息,那麼信息是沒有任何意義的。
  3. 在概率模型下存在,因此具有虛擬屬性。信息不僅看不見摸不著,而且跟概率是相關聯的,如果有那麼一個世界是沒有概率屬性的,比如一切都是確定的(概率為1),或一切都是不確定的(概率為0),那麼也就不存在信息;
  4. 信息是宇宙表達自身的一種方式;
  5. 信息是可以流動的,其流動方式與信息的傳遞有關;

因為信息的不可描述性(描述信息過程本身就產生了新信息),香農這樣的大神也只能把他定義為“東西”,這種“東西”不能用物質的觀念去解讀,但他又確確實實存在,也正式因為信息的存在,宇宙才成為一個有趣的存在(想象一下一個一切都是確定的,或一切都永遠無法確定的宇宙)。

需要注意的是,信息和數據、比特不是一個概念。比特是信息量或數據量的一種單位(也不是隻有這一種單位),比如A向B傳輸100bit數據,但B是否獲得100bit的信息量,那是不一定的。如果這100bit數據包含的信息B在之前已經獲取,那麼收到這100bit的數據對B而言信息量為0。

信息在通信和人工智能領域都是一個重要的概念,我們自己理解信息,才能讓機器去解讀信息。


分享到:


相關文章: