Python爬虫案例教学：selenium自动化框架爬取数据，太实用了

r囧r小猫 2022-08-31 10:00 149阅读 0赞

### **Python爬虫、数据分析、网站开发等案例教程视频免费在线观看** ###

https://space.bilibili.com/523606542

# 完整代码请加[Python学习交流群：1039649593][Python_1039649593]找管理员免费领取 #

# 前言 #

现在电商平台有很多商品数据，采集到的数据对电商价格战很有优势

今天带大家采集京东这个电商平台的数据

# 环境介绍： #

python 3.6  
pycharm  
selenium  
csv  
time

# 首先配置好开发环境 #

先要找到你Google浏览器的版本

![c3cc723ec3555938406be528d0ff77d4.png][]

复制地址，随便在一个文件夹内粘贴打开

![0b0e575427f9ceaef18c08f4b3faee71.png][]

然后就可以看见你Google浏览器的版本

![49dd4f4fb0f63a389aa8505777cf063b.png][]

在百度上搜索浏览器驱动，第一个就是

![50a5f22db4d6060785675c6badfdded4.png][]

找一个和你版本一样或者差不多的版本下载

![7fced8d1fa0d305adee07e1882108889.png][]

# 现在可以敲代码了 #

安装selenium模块

pip install selenium

再导入模块，创建浏览器对象

# 浏览器功能
    from selenium import webdriver   
    
    driver = webdriver.Chrome()
    driver.get('https://www.jd.com/')

运行代码，可以操控浏览器自动打开你输入的网址

![740a150972c56669be81223bd229a426.gif][]

既然能自动的打开网页，那干脆来个全自动的搜索商品好了

def get_product(key):
        """商品搜索"""
        driver.find_element_by_css_selector('#key').send_keys(key)
        driver.find_element_by_css_selector('#search > div > div.form > button').click()
    
    keyword = input('请输入商品搜索的关键字:')

解析搜索商品的网页数据

def parse_data():
        """页面的数据解析"""
        lis = driver.find_elements_by_css_selector('.gl-item')  # 所有li标签
    
        for li in lis:
            try:
                name = li.find_element_by_css_selector('div.p-name a em').text  # 商品的名字
                name = name.replace('京东超市', "").replace('"', '').replace('\n', '')
                price = li.find_element_by_css_selector('div.p-price strong i').text + '元'  # 商品的价格
                deal = li.find_element_by_css_selector('div.p-commit strong a').text  # 商品的评价数量
                title = li.find_element_by_css_selector('span.J_im_icon a').get_attribute('title')  # 商品的店铺名字
                print(name, price, deal, title, sep=' | ')

最后一步，就是保存数据了

import csv # 数据保存模块, 内置
    
    with open('京东数据.csv', mode='a', encoding='utf-8', newline='') as f:
        csv_write = csv.writer(f)
        csv_write.writerow([name, price, deal, title])

运行代码，效果如下图

![a302648d0ff5a98a5ddd0fe15c818895.gif][]

[Python_1039649593]: https://jq.qq.com/?_wv=1027&k=SBLaYU2c
[c3cc723ec3555938406be528d0ff77d4.png]: /images/20220829/8bc0e1ec46334e48b49841ad2ed5172d.png
[0b0e575427f9ceaef18c08f4b3faee71.png]: /images/20220829/4f8f748dda6d4165b1fce9ec26ef8785.png
[49dd4f4fb0f63a389aa8505777cf063b.png]: /images/20220829/435bdeb358094fd691a4dafd5f4a405d.png
[50a5f22db4d6060785675c6badfdded4.png]: /images/20220829/e96595bdf9544425b5b53b18e49116fd.png
[7fced8d1fa0d305adee07e1882108889.png]: /images/20220829/26629595dfe24eca8dd7937089a84874.png
[740a150972c56669be81223bd229a426.gif]: /images/20220829/39d60745e25641ccbdbd1614bba080f2.png
[a302648d0ff5a98a5ddd0fe15c818895.gif]: /images/20220829/f92e14af2d774f69bfb9bc10818f6744.png