Thinkphp5与QueryList，实现采集(爬虫)页面功能

今天药忘吃喽~ 2022-01-26 18:37 346阅读 0赞

## **QueryList 是什么** ##

QueryList是一套用于内容采集的PHP工具，它使用更加现代化的开发思想，语法简洁、优雅，可扩展性强。相比传统的使用晦涩的正则表达式来做采集，QueryList使用了更加强大而优雅的CSS选择器来做采集，大大降低了PHP做采集的门槛，同时也让采集代码易读易维护，让你从此告别晦涩难懂且不易维护的正则表达式?。

## **QueryList 提供的一整套内容采集解决方案** ##

*  DOM内容选择：CSS选择器
 *  HTTP客户端：GuzzleHTTP
 *  内容过滤：CSS选择器
 *  解决乱码：内置多套乱码解决方案
 *  额外功能：丰富的扩展插件

**前提**

项目主要用thinkphp5框架，主要会用到\`QueryList.php\`和\`phpQuery.php\`这两个文件。我们可以切换到项目目录，extend里新建QL，然后在QL目录执行composer命令安装QueryList:

composer require jaeger/querylist

然后在需要使用的控制器中加入 use QL\\QueryList; 接下来就在控制器里编写代码了，以下是一个实例

//需要采集的目标页面
    $page = 'http://cms.querylist.cc/news/566.html';
    //采集规则
    $reg = array(
       //采集文章标题
       'title' => array('h1','text'),
       //采集文章发布日期,这里用到了QueryList的过滤功能，过滤掉span标签和a标签
       'date' => array('.pt_info','text','-span -a',function($content){
           //用回调函数进一步过滤出日期
           $arr = explode(' ',$content);
           return $arr[0];
       }),
       //采集文章正文内容,利用过滤功能去掉文章中的超链接，但保留超链接的文字，并去掉版权、JS代码等无用信息
       'content' => array('.post_content','html','a -.content_copyright -script',function($content){
           //利用回调函数下载文章中的图片并替换图片路径为本地路径
           //使用本例请确保当前目录下有image文件夹，并有写入权限
           //由于QueryList是基于phpQuery的，所以可以随时随地使用phpQuery，当然在这里也可以使用正则或者其它方式达到同样的目的
    
           $doc=\phpQuery::newDocumentHTML($content);
           $imgs = pq($doc)->find('img');
           foreach ($imgs as $img) {
               $src = 'http://cms.querylist.cc'.pq($img)->attr('src');
               $localSrc = md5($src).'.jpg';
               $stream = file_get_contents($src);
               file_put_contents($localSrc,$stream);
               pq($img)->attr('src',$localSrc);
           }
           return $doc->htmlOuter();
       })
    );
    $rang = '.content';
    $ql = QueryList::Query($page,$reg,$rang);
    $data = $ql->getData();
    //打印结果
    print_r($data);

**注意：在使用phpQuery类时需要在前面加上\\，因为phpQuery.php中没有使用命名空间，因为使用命名空间后，QueryList.php无法使用****phpQuery类****。**

以上是一个简单的例子，已经实现了采集网页数据，更多详细语法与实例可以移步到官网文档，细细查看

**QueryList参考文档：https://doc.querylist.cc/**

来源：https://www.cnblogs.com/jcydd/p/7299672.html