python數據分析實用技能:Pandas 透視表(pivot

介紹

寫在前面: 這邊文章是我收藏了很久的也是實際的分析工作中經常用到的pandas數據分析技能之一,如果大家覺得需要,不妨收藏一下

python數據分析實用技能:Pandas 透視表(pivot_table)


也許大多數人都有在Excel中使用數據透視表的經歷,其實Pandas也提供了一個類似的功能,名為 pivot_table。雖然pivot_table非常有用,但是我發現為了格式化輸出我所需要的內容,經常需要記住它的使用語法。所以,本文將重點解釋pandas中的函數 ,並教大家如何使用它來進行數據分析。

如果你對這個概念不熟悉,維基百科上對它做了詳細的解釋。順便說一下,你知道微軟為PivotTable(透視表)註冊了商標嗎?其實以前我也不知道。不用說,下面我將討論的透視表並不是PivotTable。

數據

使用pandas中pivot_table的一個挑戰是,你需要確保你理解你的數據,並清楚地知道你想通過透視表解決什麼問題。其實,雖然pivot_table看起來只是一個簡單的函數,但是它能夠快速地對數據進行強大的分析。

在本文中,我將會跟蹤一個銷售渠道(也稱為漏斗)。基本的問題是,一些銷售週期很長(可以想一下"企業軟件"、"資本設備"等),而管理者想更詳細地瞭解它一整年的情況。

典型的問題包括

  • 本渠道收入是多少?
  • 渠道的產品是什麼?
  • 誰在什麼階段有什麼產品?
  • 我們年底前結束交易的可能性有多大?

很多公司將會使用CRM工具或者其他銷售使用的軟件來跟蹤此過程。雖然他們可能擁有有效的工具對數據進行分析,但肯定有人需要將數據導出到Excel,並使用一個透視表工具來總結這些數據。

使用Pandas透視表將是一個不錯的選擇,應為它有以下優點:

  • 更快(一旦設置之後)
  • 自行說明(通過查看代碼,你將知道它做了什麼)
  • 易於生成報告或電子郵件
  • 更靈活,因為你可以定義定製的聚合函數

Read in the data

首先,讓我們搭建所需的環境。

如果你想跟隨我繼續下去,那麼可以下載這個Excel文件。

Python

 import pandas as pd
import numpy as np

版本提醒

因為Pivot_table API已經隨著時間有所改變,所以為了使本文中示例代碼能夠正常工作,請確保你安裝了最近版本的Pandas(>0.15)。本文示例還用到了category數據類型,而它也需要確保是最近版本。

首先,將我們銷售渠道的數據讀入到數據幀中。

Python

python數據分析實用技能:Pandas 透視表(pivot_table)

為方便起見,我們將上表中"Status"列定義為category,並按我們想要的查看方式設置順序。

其實,並不嚴格要求這樣做,但這樣做能夠在分析數據的整個過程中,幫助我們保持所想要的順序。

Python

 df = pd.read_excel("../in/sales-funnel.xlsx")
df.head()

處理數據

既然我們建立數據透視表,我覺得最容易的方法就是一步一個腳印地進行。添加項目和檢查每一步來驗證你正一步一步得到期望的結果。為了查看什麼樣的外觀最能滿足你的需要,就不要害怕處理順序和變量的繁瑣。

最簡單的透視表必須有一個數據幀和一個索引。在本例中,我們將使用"Name(名字)"列作為我們的索引。

Python

pd.pivot_table(df,index=["Name"])
python數據分析實用技能:Pandas 透視表(pivot_table)

此外,你也可以有多個索引。實際上,大多數的pivot_table參數可以通過列表獲取多個值。

Python

pd.pivot_table(df,index=["Name","Rep","Manager"])
python數據分析實用技能:Pandas 透視表(pivot_table)

這樣很有趣但並不是特別有用。我們可能想做的是通過將"Manager"和"Rep"設置為索引來查看結果。要實現它其實很簡單,只需要改變索引就可以。

Python

pd.pivot_table(df,index=["Manager","Rep"])
python數據分析實用技能:Pandas 透視表(pivot_table)

可以看到,透視表比較智能,它已經開始通過將"Rep"列和"Manager"列進行對應分組,來實現數據聚合和總結。那麼現在,就讓我們共同看一下數據透視表可以為我們做些什麼吧。

為此,"Account"和"Quantity"列對於我們來說並沒什麼用。所以,通過利用"values"域顯式地定義我們關心的列,就可以實現移除那些不關心的列。

Python

pd.pivot_table(df,index=["Manager","Rep"],values=["Price"])
python數據分析實用技能:Pandas 透視表(pivot_table)

"Price"列會自動計算數據的平均值,但是我們也可以對該列元素進行計數或求和。要添加這些功能,使用aggfunc和np.sum就很容易實現。

Python

python數據分析實用技能:Pandas 透視表(pivot_table)

aggfunc可以包含很多函數,下面就讓我們嘗試一種方法,即使用numpy中的函數mean和len來進行計數。

Python

 pd.pivot_table(df,index=["Manager","Rep"],values=["Price"],aggfunc=np.sum)
python數據分析實用技能:Pandas 透視表(pivot_table)

如果我們想通過不同產品來分析銷售情況,那麼變量"columns"將允許我們定義一個或多個列。

列vs.值

我認為pivot_table中一個令人困惑的地方是"columns(列)"和"values(值)"的使用。記住,變量"columns(列)"是可選的,它提供一種額外的方法來分割你所關心的實際值。然而,聚合函數aggfunc最後是被應用到了變量"values"中你所列舉的項目上。

Python

pd.pivot_table(df,index=["Manager","Rep"],values=["Price"],
columns=["Product"],aggfunc=[np.sum])
python數據分析實用技能:Pandas 透視表(pivot_table)

然而,非數值(NaN)有點令人分心。如果想移除它們,我們可以使用"fill_value"將其設置為0。

Python

pd.pivot_table(df,index=["Manager","Rep"],values=["Price"],
columns=["Product"],aggfunc=[np.sum],fill_value=0)
python數據分析實用技能:Pandas 透視表(pivot_table)

其實,我覺得添加"Quantity"列將對我們有所幫助,所以將"Quantity"添加到"values"列表中。

Python

 pd.pivot_table(df,index=["Manager","Rep"],values=["Price","Quantity"],
columns=["Product"],aggfunc=[np.sum],fill_value=0)
python數據分析實用技能:Pandas 透視表(pivot_table)

有趣的是,你可以將幾個項目設置為索引來獲得不同的可視化表示。下面的代碼中,我們將"Product"從"columns"中移除,並添加到"index"變量中。

Python

pd.pivot_table(df,index=["Manager","Rep","Product"],
values=["Price","Quantity"],aggfunc=[np.sum],fill_value=0)
python數據分析實用技能:Pandas 透視表(pivot_table)

對於這個數據集,這種顯示方式看起來更有意義。不過,如果我想查看一些總和數據呢?"margins=True"就可以為我們實現這種功能。

Python

pd.pivot_table(df,index=["Manager","Rep","Product"],
values=["Price","Quantity"],
aggfunc=[np.sum,np.mean],fill_value=0,margins=True)
python數據分析實用技能:Pandas 透視表(pivot_table)

下面,讓我們以更高的管理者角度來分析此渠道。根據我們前面對category的定義,注意現在"Status"是如何排序的。

Python

 pd.pivot_table(df,index=["Manager","Status"],values=["Price"],
aggfunc=[np.sum],fill_value=0,margins=True)
python數據分析實用技能:Pandas 透視表(pivot_table)

一個很方便的特性是,為了對你選擇的不同值執行不同的函數,你可以向aggfunc傳遞一個字典。不過,這樣做有一個副作用,那就是必須將標籤做的更加簡潔才行。

Python

pd.pivot_table(df,index=["Manager","Status"],columns=["Product"],values=["Quantity","Price"],aggfunc={"Quantity":len,"Price":np.sum},fill_value=0)
python數據分析實用技能:Pandas 透視表(pivot_table)

此外,你也可以提供一系列的聚合函數,並將它們應用到"values"中的每個元素上。

python數據分析實用技能:Pandas 透視表(pivot_table)

Python

 table = pd.pivot_table(df,index=["Manager","Status"],columns=["Product"],values=["Quantity","Price"], aggfunc={"Quantity":len,"Price":[np.sum,np.mean]},fill_value=0)
table
python數據分析實用技能:Pandas 透視表(pivot_table)

也許,同一時間將這些東西全都放在一起會有點令人望而生畏,但是一旦你開始處理這些數據,並一步一步地添加新項目,你將能夠領略到它是如何工作的。我一般的經驗法則是,一旦你使用多個"grouby",那麼你需要評估此時使用透視表是否是一種好的選擇。

高級透視表過濾

一旦你生成了需要的數據,那麼數據將存在於數據幀中。所以,你可以使用自定義的標準數據幀函數來對其進行過濾。

如果你只想查看一個管理者(例如Debra Henley)的數據,可以這樣:

Python

python數據分析實用技能:Pandas 透視表(pivot_table)

我們可以查看所有的暫停(pending)和成功(won)的交易,代碼如下所示:

Python

 table.query('Manager == ["Debra Henley"]')
python數據分析實用技能:Pandas 透視表(pivot_table)

這是pivot_table中一個很強大的特性,所以一旦你得到了你所需要的pivot_table格式的數據,就不要忘了此時你就擁有了pandas的強大威力。

如果你想將其保存下來作為參考,那麼這裡提供完整的筆記:

數據下載地址:http://pbpython.com/extras/sales-funnel.xlsx

備忘單

為了試圖總結所有這一切,我已經創建了一個備忘單,我希望它能夠幫助你記住如何使用pandas的pivot_table。

python數據分析實用技能:Pandas 透視表(pivot_table)


分享到:


相關文章: