Python网络爬虫

迷南。 2022-03-15 15:40 361阅读 0赞

给大家分享一个网络爬虫的代码，可以作为我们学习Python的入门实例。

### 代码： ###

#coding=utf-8
    #!/usr/bin/python
    # 导入requests库
    import requests
    # 导入文件操作库
    import os
    import bs4
    from bs4 import BeautifulSoup
    import sys
    import importlib
    importlib.reload(sys)
    
    
    # 给请求指定一个请求头来模拟chrome浏览器
    global headers
    headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/54.0.2840.99 Safari/537.36'}
    # 爬图地址
    mziTu = 'http://www.mzitu.com/'
    # 定义存储位置
    global save_path
    save_path = 'D:\BeautifulPictures'
    
    
    # 创建文件夹
    def createFile(file_path):
        if os.path.exists(file_path) is False:
            os.makedirs(file_path)
        # 切换路径至上面创建的文件夹
        os.chdir(file_path)
    
    
    # 下载文件
    def download(page_no, file_path):
        global headers
        res_sub = requests.get(page_no, headers=headers)
        # 解析html
        soup_sub = BeautifulSoup(res_sub.text, 'html.parser')
        # 获取页面的栏目地址
        all_a = soup_sub.find('div',class_='postlist').find_all('a',target='_blank')
        count = 0
        for a in all_a:
            count = count + 1
            if (count % 2) == 0:
                print("内页第几页：" + str(count))
                # 提取href
                href = a.attrs['href']
                print("套图地址：" + href)
                res_sub_1 = requests.get(href, headers=headers)
                soup_sub_1 = BeautifulSoup(res_sub_1.text, 'html.parser')
                # ------ 这里最好使用异常处理 ------
                try:
                    # 获取套图的最大数量
                    pic_max = soup_sub_1.find('div',class_='pagenavi').find_all('span')[6].text
                    print("套图数量：" + pic_max)
                    for j in range(1, int(pic_max) + 1):
                        # print("子内页第几页：" + str(j))
                        # j int类型需要转字符串
                        href_sub = href + "/" + str(j)
                        print(href_sub)
                        res_sub_2 = requests.get(href_sub, headers=headers)
                        soup_sub_2 = BeautifulSoup(res_sub_2.text, "html.parser")
                        img = soup_sub_2.find('div', class_='main-image').find('img')
                        if isinstance(img, bs4.element.Tag):
                            # 提取src
                            url = img.attrs['src']
                            array = url.split('/')
                            file_name = array[len(array)-1]
                            # print(file_name)
                            # 防盗链加入Referer
                            headers = {'Referer': href}
                            img = requests.get(url, headers=headers)
                            # print('开始保存图片')
                            f = open(file_name, 'ab')
                            f.write(img.content)
                            # print(file_name, '图片保存成功！')
                            f.close()
                except Exception as e:
                    print(e)
    
    
    # 主方法
    def main():
        res = requests.get(mziTu, headers=headers)
        # 使用自带的html.parser解析
        soup = BeautifulSoup(res.text, 'html.parser')
        # 创建文件夹
        createFile(save_path)
        # 获取首页总页数
        img_max = soup.find('div', class_='nav-links').find_all('a')[3].text
        # print("总页数:"+img_max)
        for i in range(1, int(img_max) + 1):
            # 获取每页的URL地址
            if i == 1:
                page = mziTu
            else:
                page = mziTu + 'page/' + str(i)
            file = save_path + '\\' + str(i)
            createFile(file)
            # 下载每页的图片
            print("套图页码：" + page)
            download(page, file)
    
    
    if __name__ == '__main__':
        main()

### 注意事项： ###

1）导库，其实就类似于Java中框架或者是工具类，底层都被封装好了

安装第三方库：

# Win下直接装的 python3
    pip install bs4
    pip install requests
    # Linux python2 python3 共存
    pip3 install bs4
    pip3 install requests

导入第三方库：

# 导入requests库
    import requests
    # 导入文件操作库
    import os
    # bs4全名BeautifulSoup，是编写python爬虫常用库之一，主要用来解析html标签。
    import bs4
    from bs4 import BeautifulSoup
    # 基础类库
    import sys
    # Python 3.x 解决中文编码问题
    import importlib
    importlib.reload(sys)

2）定义方法函数，一个爬虫可能会几百行，所以尽量不要写成一坨

def download(page_no, file_path):
        # 这里写代码逻辑

3）定义全局变量

# 给请求指定一个请求头来模拟chrome浏览器
    global headers # 告诉编译器这是全局变量 headers 
    headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/54.0.2840.99 Safari/537.36'}
    
    # 函数内使用之前需要
    # 告诉编译器我在这个方法中使用的a是刚才定义的全局变量 headers ，而不是方法内部的局部变量。
    global headers

4）防盗链

有些网站加入了防盗链，无所不能的 python 解决方案：

headers = {'Referer': href}
    img = requests.get(url, headers=headers)

5）异常捕获

在爬取的过程中可能存在异常页面，这里我们进行捕获，不影响后续操作：

try:
        # 业务逻辑
    except Exception as e:
       print(e)

### 执行脚本： ###

python3 mzitu.py 
    
    # 或者后台执行
    
    nohup python3 -u mzitu.py > mzitu.log 2>&1 &