使用Python爬虫下载某网站图片

忘是亡心i 2024-03-03 00:46 36阅读 0赞

Python爬虫是一种自动化获取网页数据的技术，可以用于各种数据采集任务。本文将探讨如何使用Python爬虫下载某网站的图片。通过以下几个方面进行详细阐述。

### 一、准备工作 ###

1、安装所需库

首先，我们需要安装Python的requests库和BeautifulSoup库，用于发送HTTP请求和解析HTML页面。

pip install requests
    pip install beautifulsoup4

2、分析网页结构

在爬取特定网站的图片之前，我们需要查看网页的源代码，了解网页结构和图片的位置。

可以通过浏览器的开发者工具(F12)或者使用Python的requests库获取网页源代码。

### 二、爬取图片链接 ###

1、发送HTTP请求并获取网页源代码

import requests
    
    url = "https://www.10zhan.com"
    headers = {
        "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/88.0.4324.96 Safari/537.36"
    }
    
    response = requests.get(url, headers=headers)
    html = response.text

2、解析HTML页面

from bs4 import BeautifulSoup
    
    soup = BeautifulSoup(html, "html.parser")

3、获取图片链接

image_links = []
    
    # 根据网页结构和图片位置提取图片链接
    for img_tag in soup.find_all("img"):
        image_links.append(img_tag["src"])

### 三、下载图片 ###

1、创建保存图片的文件夹

import os
    
    # 创建保存图片的文件夹
    if not os.path.exists("images"):
        os.makedirs("images")

2、下载图片并保存到文件夹

for i, image_link in enumerate(image_links):
        response = requests.get(image_link, headers=headers)
        with open(f"images/image{i+1}.jpg", "wb") as file:
            file.write(response.content)

### 四、完整代码示例 ###

import os
    import requests
    from bs4 import BeautifulSoup
    
    url = "http://www.example.com"
    headers = {
        "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/88.0.4324.96 Safari/537.36"
    }
    
    # 发送HTTP请求并获取网页源代码
    response = requests.get(url, headers=headers)
    html = response.text
    
    # 解析HTML页面
    soup = BeautifulSoup(html, "html.parser")
    
    # 获取图片链接
    image_links = []
    for img_tag in soup.find_all("img"):
        image_links.append(img_tag["src"])
    
    # 创建保存图片的文件夹
    if not os.path.exists("images"):
        os.makedirs("images")
    
    # 下载图片并保存到文件夹
    for i, image_link in enumerate(image_links):
        response = requests.get(image_link, headers=headers)
        with open(f"images/image{i+1}.jpg", "wb") as file:
            file.write(response.content)

以上就是使用Python爬虫下载某网站图片的完整代码示例。通过发送HTTP请求获取网页源代码，解析HTML页面并提取图片链接，然后下载图片并保存到本地文件夹中。