程序員8分鐘教你快速掌握Python爬蟲核心技術,批量爬取網絡圖片

在日常生活中,當我們上網瀏覽網頁的時候,經常會看到一些好看的圖片,我們就希望把這些圖片保存下載,或者用戶用來做桌面壁紙,或者用來做設計的素材。我們最常規的做法就是通過鼠標右鍵,選擇另存為。但有些圖片鼠標右鍵的時候並沒有另存為選項,還有辦法就通過就是通過截圖工具截取下來,但這樣就降低圖片的清晰度。好吧~!其實你很厲害的,右鍵查看頁面源代碼。

作為一位合格的碼農,我們可以通過python編程來實現這樣一個簡單的爬蟲功能,把我們想要的代碼爬取到本地。下面就看看如何使用python來實現這樣一個功能吧~

程序員8分鐘教你快速掌握Python爬蟲核心技術,批量爬取網絡圖片

一,獲取整個頁面數據

首先我們可以先獲取要下載圖片的整個頁面信息。

getjpg.py

程序員8分鐘教你快速掌握Python爬蟲核心技術,批量爬取網絡圖片

Urllib模塊提供了讀取web頁面數據的接口,我們可以像讀取本地文件一樣讀取www和ftp上的數據。首先,我們定義了一個getHtml()函數:

urllib.urlopen()方法用於打開一個URL地址。

read()方法用於讀取URL上的數據,向getHtml()函數傳遞一個網址,並把整個頁面下載下來。執行程序就會把整個網頁打印輸出。

二,篩選頁面中想要的數據

Python提供了非常強大的正則表達式,我們需要先要了解一點python正則表達式的知識才行(PS:不瞭解的小夥伴可以自行百度喲~)

假如我們百度貼吧找到了幾張漂亮的壁紙,通過到前段查看工具。找到了圖片的地址,如:class="lazy" data-original=”
http://imgsrc.baidu.com/forum......jpg”pic_ext=”jpeg”

程序員8分鐘教你快速掌握Python爬蟲核心技術,批量爬取網絡圖片

修改代碼如下:

程序員8分鐘教你快速掌握Python爬蟲核心技術,批量爬取網絡圖片

我們又創建了getImg()函數,用於在獲取的整個頁面中篩選需要的圖片連接。re模塊主要包含了正則表達式:

re.compile() 可以把正則表達式編譯成一個正則表達式對象.

re.findall()方法讀取html 中包含 imgre(正則表達式)的數據。

運行腳本將得到整個頁面中包含圖片的URL地址。

三,將頁面篩選的數據保存到本地

把篩選的圖片地址通過for循環遍歷並保存到本地,代碼如下:

程序員8分鐘教你快速掌握Python爬蟲核心技術,批量爬取網絡圖片

這裡的核心是用到了urllib.urlretrieve()方法,直接將遠程數據下載到本地。

通過一個for循環對獲取的圖片連接進行遍歷,為了使圖片的文件名看上去更規範,對其進行重命名,命名規則通過x變量加1。保存的位置默認為程序的存放目錄。

程序運行完成,將在目錄下看到下載到本地的文件。

程序員8分鐘教你快速掌握Python爬蟲核心技術,批量爬取網絡圖片

最後,如果你想學python編程可以私信小編“01”獲取素材資料與開發工具和聽課權限!

程序員8分鐘教你快速掌握Python爬蟲核心技術,批量爬取網絡圖片

聲明:本文內容來源於網絡,如有侵權請聯繫刪除


分享到:


相關文章: