算法數學基礎-重要的幾個隨機過程及其基本概念

在之前的介紹的概率論的基本內容中我們研究的對象主要是隨機變量，直接從實驗的結果出發，不關心現象發生的過程規律。但是我們接觸的自然界的隨機現象都是變化的，如何對變化的隨機現象進行研究呢？這就需要更進一步，充分考慮時間變化帶來的影響，考慮了時間影響的隨機變量就叫隨機過程。比如研究一年中天氣變化的規律、研究一段時間內的環境對系統的影響等等（隨機變化的信號與噪聲的關係），這些都可以建模成為隨機過程。理解了隨機過程這個數學概念產生的背景，其他的數學概念就很好理解了。

我們都知道隨機變量可以用其分佈律、分佈函數（概率密度函數）來刻畫，並且可以通過數字特徵來研究，那隨機過程也是非常類似的。區別在於所有的規律中必須要體現時間（依賴於時間）。

隨機過程：一族依賴於時間的隨機變量稱為隨機過程。（一族的意思是指每一個時間點都可以看成是一個隨機變量，這組隨機變量之間的關係可由時間來刻畫)，比如每天溫度都是一個隨機變量可能滿足正態分佈，而一個月的溫度變化是由每天的溫度連續變化來體現的，所以一個月的溫度變化就用隨機過程來刻畫。所以，解決現實問題的時候可以參考這樣的思路，如果只考慮結果那麼我們採用隨機變量的概念來刻畫，如果要考慮過程影響（研究過程變化的規律）那麼就需要用隨機過程來表達。比如測量運動目標的距離時存在測量誤差、110在指定時間段內接警次數、通訊系統各種噪聲的干擾、生物群落生長和變化過程等等。

參數集：就是時間的動態變化範圍稱為參數集。

樣本函數（樣本曲線）：樣本函數是指對隨機過程的一次觀察，比如某1個月的氣溫變化。（類比隨機變量的一次實驗）

分佈函數：隨機過程在某一時刻的狀態可以用隨機變量來描述，所以分佈函數依賴於時間F(x,t)，本質上是一個二維函數。所以複雜系統之所以複雜，是因為構成的變量較多，一維世界的生物永遠無法理解二維世界，我們這些生活在四維時空中的生物也無法理解高維的世界是一個道理。

數字特徵：隨機過程的數字特徵概念與隨機變量差不多，但是這些特徵都要加上一個時間依賴，所以均值就變成了均值函數（由各個隨機變量的均值構成）、方差變成了方差函數、協方差就變成了協方差函數等等。其中最重要的是均值函數與自相關函數，因為這兩個函數刻畫了隨機過程的一般規律和過程變化的基本規律，是隨機過程統計特徵的集中刻畫。

二階矩過程：隨機過程中研究主要過程類型都是這個類型的，所以有必要知道一下。定義很簡單的，就是二階矩都存在的過程稱為二階矩過程，因為只有中心矩和原點矩都存在，才能通過其數字特徵研究隨機過程的特性。

二維隨機過程：研究對象包括了多個隨機過程，比如信號系統中的同時包括信號與噪聲的輸出就可以建模為二維隨機過程。如果他們之間不是相互獨立的，那麼他們的二階混合原點矩存在，稱為互相關函數，同理還存在互協方差函數。這裡有兩個結論要知道，如果連個隨機過程的互協方差函數為0，則兩個隨機過程不相關；兩外一個兩個隨機過程相互獨立其互協方差係數為0，反之則不成立。對於多個隨機過程組成的線性系統，W(t)=X(t)+Y(t)+Z(t)，均值函數為過程的均值函數之和，而相關函數則等於各自的相關函數與兩兩之間的互相關函數之和。所以線性是系統分析的一個重要假設，很多研究都要基於線性的假設，所以我們也特別關心每個變量的動態範圍（線性變化的範圍，這個範圍越大則結果越好）

獨立增量過程：隨機過程中過程中的變化是相互獨立的，比如昨天與今天的溫度差和昨天與前天的溫度差之間沒有關係，則這個過程稱之為獨立增量過程。舉個非獨立增量過程的例子，比如銀行的複利就不是獨立增量的，因為今天賺的錢取取決於昨天的本金。如果增加量與初始狀態無關，比如麥子今天收拾100斤，明天收還是一百斤，增加的結果與開始時間無關，則這個增量又是平穩的。下面講兩個典型的獨立增量過程，泊松過程和維納過程。這裡有個重要的推導，就是在獨立增量過程在初始狀態為0的條件下，協方差函數可以用方差函數來表示。（推導略）

泊松過程：統計一段時間內的質點出現個數的過程，也稱為計數過程。如果計數過程滿足三個假設：1、不同時間段之間增量相互獨立；2、對充分小的間隔通過1個質點的概率可以刻畫為間隔的線性關係+高階無窮小；3、對於充分小的間隔通過2個以上的質點概率為一個高階無窮小既與出現一個質點的概率相比可以忽略不計。把滿足上述條件的計數過程稱為

維納過程：比如一個喝醉的人丟了，我們要找到他怎麼找呢？就可以用這個維納過程作為數學模型來描述他的行為。維納過程就是描述無規則的隨機運動過程的模型，比如隨機遊走、布朗運動等等。它也是一類獨立的隨機過程，具有平穩性（平穩性可以理解為如花粉的布朗運動只與觀察的時間有關，而與何時觀察無關）。

隨機過程是一類重要的數學模型，希望大家都能深度的掌握。

閱讀更多 老郭講算法 的文章

關鍵字: 數學 隨機變量 過程