webscraper 爬取二级网页_用Python爬取在线文档转成PDF,随时可阅读!

秒速五厘米 2023-01-05 12:48 220阅读 0赞

a72c6f4fb28801e40176f8f3a0ffe015.png

作为一名程序员,经常要搜一些教程,有的教程是在线的,不提供离线版本,这就有些局限了。那么同样作为一名程序员,遇到问题就应该解决它,今天就来将在线教程保存为PDF以供查阅。

1、网站介绍

2、准备工作

2.1 软件安装

2.2 库安装

3、爬取内容

3.1 获取教程名称

3.2 获取目录及对应网址

3.3 获取章节内容

3.4 保存pdf

3.5 合并pdf

1、网站介绍

之前再搜资料的时候经常会跳转到如下图所示的在线教程:

84bdb2291ddc5a200363f257819c5a74.png

包括一些github的项目也纷纷将教程链接指向这个网站。经过一番查找,该网站是一个可以创建、托管和浏览文档的网站,其网址为:https://readthedocs.org 。在上面可以找到很多优质的资源。

该网站虽然提供了下载功能,但是有些教程并没有提供PDF格式文件的下载,如图:

9320a609c50493391c881cae0fb545d6.png

该教程只提供了 HTML格式文件的下载,还是不太方便查阅,那就让我们动手将其转成PDF吧!

2、准备工作

2.1 软件安装

由于我们是要把html转为pdf,所以需要手动wkhtmltopdf 。Windows平台直接在 http://wkhtmltopdf.org/downloads.html 下载稳定版的 wkhtmltopdf 进行安装,安装完成之后把该程序的执行路径加入到系统环境 $PATH 变量中,否则 pdfkit 找不到 wkhtmltopdf 就出现错误 “No wkhtmltopdf executable found”。Ubuntu 和 CentOS 可以直接用命令行进行安装

  1. $ sudo apt-get install wkhtmltopdf # ubuntu
  2. $ sudo yum intsall wkhtmltopdf # centos

2.2 库安装

  • pip install requests # 用于网络请求
  • pip install beautifulsoup4 # 用于操作html
  • pip install pdfkit # wkhtmltopdf 的Python封装包
  • pip install PyPDF2 # 用于合并pdf

3、爬取内容

本文的目标网址为:http://python3-cookbook.readthedocs.io/zh\_CN/latest/ 。

3.1 获取教程名称

页面的左边一栏为目录,按F12调出开发者工具并按以下步骤定位到目录元素:

① 点击开发者工具左上角”选取页面元素“按钮;

② 用鼠标点击左上角教程名称处。

通过以上步骤即可定位到目录元素,用图说明:

6a46a2579d433c34c6f8d7dea66bc3f1.png

从图看到我们需要的教程名称包含在<div class="wy-side-nav-search"></div>之间的a标签里。假设我们已经获取到了网页内容为html,可以使用以下代码获取该内容:

  1. book_name = soup.find('div', class_='wy-side-nav-search').a.text

3.2 获取目录及对应网址

使用与 2.1 相同的步骤来获取:

ca612b8f945614b2eaaa5007e524b0a1.png

从图看到我们需要的目录包含在<div class="section"></div>之间,<li class="toctree-l1"></li>标签里为一级目录及网址;<li class="toctree-l2"></li>标签里为二级目录及网址。当然这个url是相对的url,前面还要拼接http://python3-cookbook.readthedocs.io/zh_CN/latest/

使用BeautifulSoup进行数据的提取:

  1. # 全局变量
  2. base_url = 'http://python3-cookbook.readthedocs.io/zh_CN/latest/'
  3. book_name = ''
  4. chapter_info = []
  5. def parse_title_and_url(html):
  6. """
  7. 解析全部章节的标题和url
  8. :param html: 需要解析的网页内容
  9. :return None
  10. """
  11. soup = BeautifulSoup(html, 'html.parser')
  12. # 获取书名
  13. book_name = soup.find('div', class_='wy-side-nav-search').a.text
  14. menu = soup.find_all('div', class_='section')
  15. chapters = menu[0].div.ul.find_all('li', class_='toctree-l1')
  16. for chapter in chapters:
  17. info = {}
  18. # 获取一级标题和url
  19. # 标题中含有'/'和'*'会保存失败
  20. info['title'] = chapter.a.text.replace('/', '').replace('*', '')
  21. info['url'] = base_url + chapter.a.get('href')
  22. info['child_chapters'] = []
  23. # 获取二级标题和url
  24. if chapter.ul is not None:
  25. child_chapters = chapter.ul.find_all('li')
  26. for child in child_chapters:
  27. url = child.a.get('href')
  28. # 如果在url中存在'#',则此url为页面内链接,不会跳转到其他页面
  29. # 所以不需要保存
  30. if '#' not in url:
  31. info['child_chapters'].append({
  32. 'title': child.a.text.replace('/', '').replace('*', ''),
  33. 'url': base_url + child.a.get('href'),
  34. })
  35. chapter_info.append(info)

代码中定义了两个全局变量来保存信息。章节内容保存在chapter_info列表里,里面包含了层级结构,大致结构为:

  1. [
  2. {
  3. 'title': 'first_level_chapter',
  4. 'url': 'www.xxxxxx.com',
  5. 'child_chapters': [
  6. {
  7. 'title': 'second_level_chapter',
  8. 'url': 'www.xxxxxx.com',
  9. }
  10. ...
  11. ]
  12. }
  13. ...
  14. ]

3.3 获取章节内容

还是同样的方法定位章节内容:

8809433f4fd43202e8a36f93e40e92e9.png

代码中我们通过itemprop这个属性来定位,好在一级目录内容的元素位置和二级目录内容的元素位置相同,省去了不少麻烦。

  1. html_template = """
  2. <!DOCTYPE html>
  3. <html lang="en">
  4. <head>
  5. <meta charset="UTF-8">
  6. </head>
  7. <body>
  8. {content}
  9. </body>
  10. </html>
  11. """
  12. def get_content(url):
  13. """
  14. 解析URL,获取需要的html内容
  15. :param url: 目标网址
  16. :return: html
  17. """
  18. html = get_one_page(url)
  19. soup = BeautifulSoup(html, 'html.parser')
  20. content = soup.find('div', attrs={'itemprop': 'articleBody'})
  21. html = html_template.format(content=content)
  22. return html

3.4 保存pdf

  1. def save_pdf(html, filename):
  2. """
  3. 把所有html文件保存到pdf文件
  4. :param html: html内容
  5. :param file_name: pdf文件名
  6. :return:
  7. """
  8. options = {
  9. 'page-size': 'Letter',
  10. 'margin-top': '0.75in',
  11. 'margin-right': '0.75in',
  12. 'margin-bottom': '0.75in',
  13. 'margin-left': '0.75in',
  14. 'encoding': "UTF-8",
  15. 'custom-header': [
  16. ('Accept-Encoding', 'gzip')
  17. ],
  18. 'cookie': [
  19. ('cookie-name1', 'cookie-value1'),
  20. ('cookie-name2', 'cookie-value2'),
  21. ],
  22. 'outline-depth': 10,
  23. }
  24. pdfkit.from_string(html, filename, options=options)
  25. def parse_html_to_pdf():
  26. """
  27. 解析URL,获取html,保存成pdf文件
  28. :return: None
  29. """
  30. try:
  31. for chapter in chapter_info:
  32. ctitle = chapter['title']
  33. url = chapter['url']
  34. # 文件夹不存在则创建(多级目录)
  35. dir_name = os.path.join(os.path.dirname(__file__), 'gen', ctitle)
  36. if not os.path.exists(dir_name):
  37. os.makedirs(dir_name)
  38. html = get_content(url)
  39. padf_path = os.path.join(dir_name, ctitle + '.pdf')
  40. save_pdf(html, os.path.join(dir_name, ctitle + '.pdf'))
  41. children = chapter['child_chapters']
  42. if children:
  43. for child in children:
  44. html = get_content(child['url'])
  45. pdf_path = os.path.join(dir_name, child['title'] + '.pdf')
  46. save_pdf(html, pdf_path)
  47. except Exception as e:
  48. print(e)

3.5 合并pdf

经过上一步,所有章节的pdf都保存下来了,最后我们希望留一个pdf,就需要合并所有pdf并删除单个章节pdf。

  1. from PyPDF2 import PdfFileReader, PdfFileWriter
  2. def merge_pdf(infnList, outfn):
  3. """
  4. 合并pdf
  5. :param infnList: 要合并的PDF文件路径列表
  6. :param outfn: 保存的PDF文件名
  7. :return: None
  8. """
  9. pagenum = 0
  10. pdf_output = PdfFileWriter()
  11. for pdf in infnList:
  12. # 先合并一级目录的内容
  13. first_level_title = pdf['title']
  14. dir_name = os.path.join(os.path.dirname(
  15. __file__), 'gen', first_level_title)
  16. padf_path = os.path.join(dir_name, first_level_title + '.pdf')
  17. pdf_input = PdfFileReader(open(padf_path, 'rb'))
  18. # 获取 pdf 共用多少页
  19. page_count = pdf_input.getNumPages()
  20. for i in range(page_count):
  21. pdf_output.addPage(pdf_input.getPage(i))
  22. # 添加书签
  23. parent_bookmark = pdf_output.addBookmark(
  24. first_level_title, pagenum=pagenum)
  25. # 页数增加
  26. pagenum += page_count
  27. # 存在子章节
  28. if pdf['child_chapters']:
  29. for child in pdf['child_chapters']:
  30. second_level_title = child['title']
  31. padf_path = os.path.join(dir_name, second_level_title + '.pdf')
  32. pdf_input = PdfFileReader(open(padf_path, 'rb'))
  33. # 获取 pdf 共用多少页
  34. page_count = pdf_input.getNumPages()
  35. for i in range(page_count):
  36. pdf_output.addPage(pdf_input.getPage(i))
  37. # 添加书签
  38. pdf_output.addBookmark(
  39. second_level_title, pagenum=pagenum, parent=parent_bookmark)
  40. # 增加页数
  41. pagenum += page_count
  42. # 合并
  43. pdf_output.write(open(outfn, 'wb'))
  44. # 删除所有章节文件
  45. shutil.rmtree(os.path.join(os.path.dirname(__file__), 'gen'))

本来PyPDF2库中有一个类PdfFileMerger专门用来合并pdf,但是在合并过程中会抛出异常,网上有人也遇到同样的问题,解决办法是修改库源码,本着“不动库源码”的理念,毅然选择了上面这种比较笨的办法,代码还是比较好理解的。

经过以上几个步骤,我们想要的pdf文件已经生成,一起来欣赏一下劳动成果:

2e297d0978775d892865bb24414edced.png

发表评论

表情:
评论列表 (有 0 条评论,220人围观)

还没有评论,来说两句吧...

相关阅读