如何手把手教你把爬取到的數據插入到execl中!牛皮不~

我們已經把數據爬到本地並已經插入execl,上效果圖


如何手把手教你把爬取到的數據插入到execl中!牛皮不~


操作Execl其實裡面很多東西要去了解,但這裡我講常用的讀寫,滿足我們的一般需求,感興趣的朋友可以自己去深入。

1. 讀execl文件

需要安裝 xlrd庫,老辦法,直接在setting中安裝,然後導入放可使用python讀取execl

操作這樣的execl列表

如何手把手教你把爬取到的數據插入到execl中!牛皮不~


<code># coding=utf-8

import xlrd

data = xlrd.open_workbook('execl_file.xlsx')
table = data.sheets()[0]    #通過索引順序獲取table, 一個execl文件一般都至少有一個table
print table.nrows   #行數
print table.ncols   #列數

for k in range(table.nrows):    #遍歷行數據
   print table.row_values(k)

for i in range(table.ncols):    #便利列數據
   print table.col_values(i)

print table.cell(2,2).value     #獲取單元格數據,前一個是行數,從0開始,後一個是列數,且列數從0開始

for a in range(1,table.nrows):        #行數據,我正好要去掉第1行標題
   for b in range(table.ncols):
         print table.cell(a,b).value  
   print '----------------------'

得到結果:

6
4
[u'\\\\u54c1\\\\u724c', u'size', u'\\\\u4ef7\\\\u683c', u'\\\\u6027\\\\u522b']
[u'Nike', 90.0, 1033.0, u'\\\\u7537']
[u'addida', 88.0, 444.0, u'\\\\u5973']
[u'zara', 87.0, 333.0, u'\\\\u7537']
[u'Lining', 33.0, 22.0, u'\\\\u7537']
[u'kappa', 33.0, 222.0, u'\\\\u7537']
[u'\\\\u54c1\\\\u724c', u'Nike', u'addida', u'zara', u'Lining', u'kappa']
[u'size', 90.0, 88.0, 87.0, 33.0, 33.0]
[u'\\\\u4ef7\\\\u683c', 1033.0, 444.0, 333.0, 22.0, 222.0]
[u'\\\\u6027\\\\u522b', u'\\\\u7537', u'\\\\u5973', u'\\\\u7537', u'\\\\u7537', u'\\\\u7537']
444.0

Nike
90.0
1033.0

----------------------
addida
88.0
444.0

----------------------
zara
87.0
333.0

----------------------
Lining
33.0
22.0

----------------------
kappa
33.0
222.0

----------------------/<code>

很簡單沒有什麼要解釋的了

2. 複習一下range函數

<code># >>> range(1,5) #代表從1到5(不包含5)
# [1, 2, 3, 4]
# >>> range(1,5,2) #代表從1到5,間隔2(不包含5)
# [1, 3]
# >>> range(5) #代表從0到5(不包含5)
# [0, 1, 2, 3, 4]/<code>

3. 寫入execl

需要安裝xlwt庫,老辦法自己先安裝,不多說了,需要導入xlwt然後放可使用python寫入數據

<code>workbook = xlwt.Workbook(encoding='utf-8')#創建workbook 其實就是execl, 

worksheet = workbook.add_sheet('my_worksheet') #創建表,如果想創建多個,直接在後面再add_sheet
worksheet.write(0,0,label ='Row 0,Column 0 Value')         #3個參數,第一個參數表示行,從0開始,第二個參數表示列從0開始,第三個參數表示插入的數值
workbook.save('execl_liu.xlsx')        #寫完記得一定要保存/<code>

完整實例代碼

<code>f = xlwt.Workbook() #創建工作薄
#創建個人信息表
sheet1 = f.add_sheet(u'個人信息',cell_overwrite_ok=True)
rowTitle = [u'編號',u'姓名',u'性別',u'年齡']
rowDatas = [[u'張一',u'男',u'18'],[u'李二',u'女',u'20'],[u'黃三',u'男',u'38'],[u'劉四',u'男',u'88']]


for i in range(0,len(rowTitle)):
   sheet1.write(0,i,rowTitle[i],set_style('Times new Roman',220,True)) 後面是設置樣式

for k in range(0,len(rowDatas)):    #先遍歷外層的集合,即每行數據
   rowDatas[k].insert(0,k+1)   #每一行數據插上編號即為每一個人插上編號
   for j in range(0,len(rowDatas[k])): #再遍歷內層集合
       sheet1.write(k+1,j,rowDatas[k][j])          #寫入數據,k+1表示先去掉標題行,另外每一行數據也會變化,j正好表示第一列數據的變化,rowdatas[k][j] 插入數據


#創建個人收入表
sheet1 = f.add_sheet(u'個人收入表',cell_overwrite_ok=True)
rowTitle2 = [u'編號',u'姓名',u'學歷',u'工資']
rowDatas2 = [[u'張一',u'本科',u'8000'],[u'李二',u'碩士',u'10000'],[u'黃三',u'博士',u'20000'],[u'劉四',u'教授',u'50000']]

for i in range(0,len(rowTitle2)):
   sheet1.write(0,i,rowTitle2[i])

for k in range(0,len(rowDatas2)):    #先遍歷外層的集合
   rowDatas2[k].insert(0,k+1)   #每一行數據插上編號即為每一個人插上編號
   for j in range(0,len(rowDatas2[k])): #再遍歷內層集合
       sheet1.write(k+1,j,rowDatas2[k][j])          #寫入數據,k+1表示先去掉標題行,另外每一行數據也會變化,j正好表示第一列數據的變化,rowdatas[k][j] 插入數據

f.save('info.xlsx')/<code>

最後得到的效果圖

如何手把手教你把爬取到的數據插入到execl中!牛皮不~

如何手把手教你把爬取到的數據插入到execl中!牛皮不~


3. 把爬取的豬八戒數據插入到execl中

這裡直接上代碼了,相關的註釋都在代碼裡

<code># coding=utf-8

import requests
import time
import xlwt
import xlrd
from lxml import etree

class ZbjData(object):

def __init__(self):
    self.f = xlwt.Workbook()   #創建工作薄
    self.sheet1 = self.f.add_sheet(u'任務列表',cell_overwrite_ok=True)
    self.rowsTitle = [u'編號',u'標題',u'簡介',u'價格',u'截止時間',u'鏈接']
    for i in range(0, len(self.rowsTitle)):
       self.sheet1.write(0, i, self.rowsTitle[i], self.set_style('Times new Roman', 220, True))

    self.f.save('zbj.xlsx')

def set_style(self,name, height, bold=False):
       style = xlwt.XFStyle()  # 初始化樣式
       font = xlwt.Font()  # 為樣式創建字體
       font.name = name
       font.bold = bold
       font.colour_index = 2
       font.height = height
       style.font = font
       return style

def getUrl(self):
   for i in range(33):
       url = 'http://task.zbj.com/t-ppsj/p{}s5.html'.format(i+1)
       self.spiderPage(url)

def spiderPage(self,url):
   if url is None:
       return None

   try:
       data = xlrd.open_workbook('zbj.xlsx')
       table = data.sheets()[0]  # 通過索引順序獲取table, 一個execl文件一般都至少有一個table
       rowCount = table.nrows      #獲取行數   ,下次從這一行開始
       proxies = {
           'http': 'http://221.202.248.52:80',
       }
       user_agent = 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/53.0.2785.104 Safari/537.36 Core/1.53.4295.400'

       headers = {'User-Agent': user_agent}
       htmlText = requests.get(url, headers=headers,proxies=proxies).text

       selector = etree.HTML(htmlText)
       tds = selector.xpath('//*[@class="tab-switch tab-progress"]/table/tr')

       m = 0
       for td in tds:
            data = []
            price = td.xpath('./td/p/em/text()')
            href = td.xpath('./td/p/a/@href')
            title = td.xpath('./td/p/a/text()')
            subTitle = td.xpath('./td/p/text()')
            deadline = td.xpath('./td/span/text()')
            price = price[0] if len(price)>0 else ''    # python的三目運算 :為真時的結果 if 判定條件 else 為假時的結果
            title = title[0] if len(title)>0 else ''
            href = href[0] if len(href)>0 else ''
            subTitle = subTitle[0] if len(subTitle)>0 else ''
            deadline = deadline[0] if len(deadline)>0 else ''

           #拼裝成一個集合
            data.append(rowCount+m)    #加個序號
            data.append(title)
            data.append(subTitle)
            data.append(price)
            data.append(deadline)
            data.append(href)

            for i in range(len(data)):
                self.sheet1.write(rowCount+m,i,data[i])    #寫入數據到execl中

            m+=1   #記錄行數增量
            print m
            print price, title, href, subTitle, deadline

   except Exception,e:
       print '出錯',e.message

   finally:
       self.f.save('zbj.xlsx')


if '_main_':
   zbj = ZbjData()
   zbj.getUrl()/<code>


最後的效果圖是:

如何手把手教你把爬取到的數據插入到execl中!牛皮不~

注意這裡爬取數據的時候,有的代理ip還是被禁用了,所以獲取數據有失敗的情況,所以這裡需要有異常處理..

當然數據還應該存入到數據庫中,所以下一篇我們會來講講如何把數據插入到數據庫中。

源碼打包,需要私信小編01 獲取呢


分享到:


相關文章: