用Python脚本自动爬取Bilibili视频,你学会了吗?

B站在小视频功能处提供了 API 接口,今天的任务爬取Bilibili视频~

B 站视频网址:https://vc.bilibili.com/p/eden/rank#/?tab=全部

用Python脚本自动爬取Bilibili视频,你学会了吗?

此次爬取视频,我们爬取前100个~

我们做好前期准备~

  • Chrome 浏览器 (能使用开发者模式的浏览器都行)
  • Vim (编辑器任选,老实人比较喜欢Vim界面,所以才用这个啦)
  • Python3 开发环境
  • Kali Linux (其实随便一个操作系统都行啦)
  • API 寻找 && 提取

    我们通过 F12 打开开发者模式,然后在 Networking -> Name 字段下找到这个链接:

    http://api.vc.bilibili.com/board/v1/ranking/top?page_size=10&next_offset=&tag=%E4%BB%8A%E6%97%A5%E7%83%AD%E9%97%A8&platform=pc

    我们查看一下 Headers 属性

    用Python脚本自动爬取Bilibili视频,你学会了吗?

    非诚勿扰:正在学习python的小伙伴或者打算学习的,可以私信小编“01”领取资料!

    我们可以看到Request URL这个属性值,我们向下滑动加载视频的过程中,发现只有这段url是不变的。

    http://api.vc.bilibili.com/board/v1/ranking/top?

    next_offset 会一直变化,我们可以猜测,这个可能就是获取下一个视频序号,我们只需要把这部分参数取出来,把 next_offset 写成变量值,用 JSON 的格式返回到目标网页即可。

    用Python脚本自动爬取Bilibili视频,你学会了吗?

    代码实现

    我们通过上面的尝试写了段代码,发现 B 站在一定程度上做了反爬虫操作,所以我们需要先获取 headers 信息,否则下载下来的视频是空的,然后定义 params 参数存储 JSON 数据,然后通过 requests.get 去获取其参数值信息,用 JSON 的格式返回到目标网页即可,实现代码如下:

    def get_json(url):
    headers = {
    'User-Agent':
    'Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36'
    }

    params = {
    'page_size': 10,
    'next_offset': str(num),
    'tag': '今日热门',
    'platform': 'pc'
    }

    try:
    html = requests.get(url,params=params,headers=headers)
    return html.json()

    except BaseException:
    print('request error')
    pass

    为了能够清楚的看到我们下载的情况,我们折腾了一个下载器上去,实现代码如下:

    def download(url,path):
    start = time.time() # 开始时间
    size = 0
    headers = {
    'User-Agent':
    'Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36'

    }

    response = requests.get(url,headers=headers,stream=True) # stream属性必须带上
    chunk_size = 1024 # 每次下载的数据大小
    content_size = int(response.headers['content-length']) # 总大小
    if response.status_code == 200:
    print('[文件大小]:%0.2f MB' %(content_size / chunk_size / 1024)) # 换算单位
    with open(path,'wb') as file:
    for data in response.iter_content(chunk_size=chunk_size):
    file.write(data)
    size += len(data) # 已下载的文件大小

    效果如下:

    用Python脚本自动爬取Bilibili视频,你学会了吗?

    将上面的代码进行汇总,整个实现过程如下:

    #!/usr/bin/env python#-*-coding:utf-8-*-import requestsimport randomimport timedef get_json(url):
    headers = {
    'User-Agent':
    'Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36'
    }

    params = {
    'page_size': 10,
    'next_offset': str(num),
    'tag': '今日热门',
    'platform': 'pc'
    }

    try:
    html = requests.get(url,params=params,headers=headers)
    return html.json()

    except BaseException:
    print('request error')
    passdef download(url,path):
    start = time.time() # 开始时间
    size = 0
    headers = {
    'User-Agent':
    'Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36'
    }

    response = requests.get(url,headers=headers,stream=True) # stream属性必须带上
    chunk_size = 1024 # 每次下载的数据大小
    content_size = int(response.headers['content-length']) # 总大小
    if response.status_code == 200:
    print('[文件大小]:%0.2f MB' %(content_size / chunk_size / 1024)) # 换算单位
    with open(path,'wb') as file:
    for data in response.iter_content(chunk_size=chunk_size):
    file.write(data)
    size += len(data) # 已下载的文件大小

    if __name__ == '__main__':
    for i in range(10):
    url = 'http://api.vc.bilibili.com/board/v1/ranking/top?'
    num = i*10 + 1
    html = get_json(url)
    infos = html['data']['items']
    for info in infos:
    title = info['item']['description'] # 小视频的标题

    video_url = info['item']['video_playurl'] # 小视频的下载链接
    print(title)

    # 为了防止有些视频没有提供下载链接的情况
    try:
    download(video_url,path='%s.mp4' %title)
    print('成功下载一个!')

    except BaseException:
    print('凉凉,下载失败')
    pass

    time.sleep(int(format(random.randint(2,8)))) # 设置随机等待时间

    爬取效果图如下:

    用Python脚本自动爬取Bilibili视频,你学会了吗?

    结果:

    用Python脚本自动爬取Bilibili视频,你学会了吗?

    似乎爬取的效果还可以,当然喜欢的朋友不要忘记点赞分享转发哦。

    最后多说一句,小编是一名python开发工程师,这里有我自己整理了一套最新的python系统学习教程,包括从基础的python脚本到web开发、爬虫、数据分析、数据可视化、机器学习等。想要这些资料的可以关注小编,并在后台私信小编:“01”即可领取。

    链接:https://www.imooc.com/article/253157


    分享到:


    相關文章: