07.09 看這裡!教你如何用python爬蟲獲取User-Agent!

hello小夥伴們!剛剛學習Python爬蟲的小夥伴們應該面臨反爬問題,那麼初步解決辦法除了代理ip還有就是隨機生成UA

今天給大家推薦兩種隨機生成UA的方法,廢話不多說了,直接上代碼

第一種:

1.導入random模塊 :

import random

2.定義一個列表 存放UA,(來源:網上查找,可以去github上查)

list = [{'User-Agent': 'Mozilla/5.0 (Windows NT 6.1; rv:22.0) Gecko/20130405 Firefox/22.0'},

{'User-Agent': 'Mozilla/5.0 (Windows NT 6.1; rv:14.0) Gecko/20100101 Firefox/18.0.1'},

{'User-Agent': 'Mozilla/5.0 (Windows NT 5.1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/35.0.2309.372 Safari/537.36'},

{'User-Agent': 'Mozilla/5.0 (Windows NT 6.1; WOW64; rv:21.0) Gecko/20130331 Firefox/21.0'}

]

3.使用random.choice(list)隨機獲取列表中的一個UA

headers = {'User-Agent':random.choice(list)}

第二種

調用python中的模塊,useragent

1.安裝fake-useragent

pip install fake-useragent

2.導包

# from fake_useragent import UserAgent

# import random

#

# ua = UserAgent()

# headers = {'User-Agent':ua.random}

# print(headers)

看這裡!教你如何用python爬蟲獲取User-Agent!

更多精彩內容詳細瞭解尚學堂哦!另外,大家如果喜歡的話……求關注求收藏啊!


分享到:


相關文章: