前言
文的文字及圖片來源於網絡,僅供學習、交流使用,不具有任何商業用途,版權歸原作者所有,如有問題請及時聯繫我們以作處理。
PS：如有需要Python學習資料的小夥伴可以加點擊下方鏈接自行獲取http://t.cn/A6Zvjdun
抓取數據
通過請求https://piao.qunar.com/ticket/list.htm?keyword=北京，獲取北京地區熱門景區信息，再通過BeautifulSoup去分析提取出我們需要的信息。
這裡爬取了前4頁的景點信息，每頁有15個景點。因為去哪兒並沒有什麼反爬措施，所以直接請求就可以了。
這裡隨機選擇了13個熱門城市：北京、上海、成都、三亞、廣州、重慶、深圳、西安、杭州、廈門、武漢、大連、蘇州。
並將爬取的數據存到了MongoDB數據庫 。
爬蟲部分完整代碼如下：
<code>import requests
from bs4 import BeautifulSoup
from pymongo import MongoClient
class QuNaEr():
def __init__(self, keyword, page=1):
self.keyword = keyword
self.page = page
def qne_spider(self):
url = 'https://piao.qunar.com/ticket/list.htm?keyword=%s®ion=&from=mpl_search_suggest&page=%s' % (self.keyword, self.page)
response = requests.get(url)
response.encoding = 'utf-8'
text = response.text
bs_obj = BeautifulSoup(text, 'html.parser')
arr = bs_obj.find('div', {'class': 'result_list'}).contents
for i in arr:
info = i.attrs
# 景區名稱
name = info.get('data-sight-name')
# 地址
address = info.get('data-address')
# 近期售票數
count = info.get('data-sale-count')
# 經緯度
point = info.get('data-point')
# 起始價格
price = i.find('span', {'class': 'sight_item_price'})
price = price.find_all('em')
price = price[0].text
conn = MongoClient('localhost', port=27017)
db = conn.QuNaEr # 庫
table = db.qunaer_51 # 表
table.insert_one({
'name' : name,
'address' : address,
'count' : int(count),
'point' : point,
'price' : float(price),
'city' : self.keyword
})
if __name__ == '__main__':
citys = ['北京', '上海', '成都', '三亞', '廣州', '重慶', '深圳', '西安', '杭州', '廈門', '武漢', '大連', '蘇州']
for i in citys:
for page in range(1, 5):
qne = QuNaEr(i, page=page)
qne.qne_spider()/<code>
效果圖如下：
有了數據，我們就可以分析出自己想要的東西了。
分析數據
1、最受歡迎的15個景區
由圖可以看出，在選擇的13個城市中，最熱門的景區為上海的迪士尼樂園。
代碼如下：
<code>from pymongo import MongoClient
# 設置字體，不然無法顯示中文
from pylab import *
mpl.rcParams['font.sans-serif'] = ['SimHei']
conn = MongoClient('localhost', port=27017)
db = conn.QuNaEr # 庫
table = db.qunaer_51 # 表
result = table.find().sort([('count', -1)]).limit(15)
# x,y軸數據
x_arr = [] # 景區名稱
y_arr = [] # 銷量
for i in result:
x_arr.append(i['name'])
y_arr.append(i['count'])
"""
去哪兒月銷量排行榜
"""
plt.bar(x_arr, y_arr, color='rgb') # 指定color，不然所有的柱體都會是一個顏色
plt.gcf().autofmt_xdate() # 旋轉x軸，避免重疊
plt.xlabel(u'景點名稱') # x軸描述信息
plt.ylabel(u'月銷量') # y軸描述信息
plt.title(u'拉鉤景點月銷量統計表') # 指定圖表描述信息
plt.ylim(0, 4000) # 指定Y軸的高度
plt.savefig('去哪兒月銷售量排行榜') # 保存為圖片
plt.show()/<code>
2、景區熱力圖
這裡為了方便，只展示一下北京地區的景區熱力圖。用到了百度地圖的開放平臺。首先需要先註冊開發者信息，首頁底部有個申請秘鑰的按鈕，點擊進行創建就可以了。我的應用類型選擇的是瀏覽器端，因此只需要組裝數據替換掉相應html代碼即可。另外還需要將自己訪問應用的AK替換掉。效果圖如下：
3、景區價格
價格是出遊第一個要考慮的，一開始想統計一下各城市的平均價格，但是後來發現效果不是很好，比如北京的劉老根大舞臺價格在580元，這樣拉高了平均價格。就好比姚明和潘長江的平均身高在190cm，並沒有什麼說服力。所以索性展示一下景區的價格分佈。
根據價格設置了六個區間：
通過上圖得知，大部分的景區門票價格都在200元以下。每次旅遊花費基本都在交通、住宿、吃吃喝喝上了。門票佔比還是比較少的。
實現代碼如下：
<code>arr = [[0, 50], [50,100], [100, 200], [200,300], [300,500], [500,1000]]
name_arr = []
total_arr = []
for i in arr:
result = table.count({'price': {'$gte': i[0], '$lt': i[1]}})
name = '%s元 ~ %s元 ' % (i[0], i[1])
name_arr.append(name)
total_arr.append(result)
color = 'red', 'orange', 'green', 'blue', 'gray', 'goldenrod' # 各類別顏色
explode = (0.2, 0, 0, 0, 0, 0) # 各類別的偏移半徑
# 繪製餅狀圖
pie = plt.pie(total_arr, colors=color, explode=explode, labels=name_arr, shadow=True, autopct='%1.1f%%')
plt.axis('equal')
plt.title(u'熱點旅遊景區門票價格比例', fontsize=12)
plt.legend(loc=0, bbox_to_anchor=(0.82, 1)) # 圖例
# 設置legend的字體大小
leg = plt.gca().get_legend()
ltext = leg.get_texts()
plt.setp(ltext, fontsize=6)
# 顯示圖
plt.show()/<code>
你一般旅遊都去哪呢？
閱讀更多 松鼠愛吃餅乾 的文章
