scrapy 新建项目 以及项目结构介绍

矫情吗;* 2022-05-30 02:35 311阅读 0赞

使用命令 scrapy 命令行 来创建项目
startproject projectName

项目结构如下图:
新建项目

各个文件功能介绍

scrapy.cfg: 项目的配置文件
items.py: 这个文件就类似于 orm 你可以定义一些字段在里面,比如我们做爬虫时要取html的标题, 链接,描述信息
就可以这样定义:
import scrapy class DmozItem(scrapy.Item): title = scrapy.Field() link = scrapy.Field() desc = scrapy.Field()
middlewares.py: 自定义的中间件,一般可以用来设置代理,加请求header
pipelines.py :当我们的scrapy 取得数据返回之后,这个在这里处理,比如存储到数据库
settings.py: 项目的配置
其中spider 目录就是以后我们的爬虫要写在那个目录下面的

发表评论

表情:
评论列表 (有 0 条评论,311人围观)

还没有评论,来说两句吧...

相关阅读

    相关 scrapy项目组件介绍

    最近开始研究scrapy框架的使用,第一步就是通过命令创建项目后生成的各个组件,首先要了解的就是它们的作用以及是如何进行运作的。 一、工作流程 1、引擎从调度器中取出一