Python 简单爬虫程序以及 urllib.urlretrieve()方法改变文件存放文件位置

浅浅的花香味﹌ 2022-06-16 02:41 379阅读 0赞

把筛选的图片地址通过for循环遍历并保存到本地，代码如下：

![复制代码][copycode.gif]

#coding=utf-8
    import urllib import re def getHtml(url): page = urllib.urlopen(url) html = page.read() return html def getImg(html): reg = r'src="(.+?\.jpg)" pic_ext' imgre = re.compile(reg) imglist = re.findall(imgre,html) x = 0 for imgurl in imglist: urllib.urlretrieve(imgurl,'%s.jpg' % x) x+=1 html = getHtml("http://tieba.baidu.com/p/2460150866") print getImg(html)

![复制代码][copycode.gif]

这里的核心是用到了urllib.urlretrieve()方法，直接将远程数据下载到本地。

通过一个for循环对获取的图片连接进行遍历，为了使图片的文件名看上去更规范，对其进行重命名，命名规则通过x变量加1。保存的位置默认为程序的存放目录。

程序运行完成，将在目录下看到下载到本地的文件。

其中

urlretrieve(url, filename=None, reporthook=None, data=None)

1.  参数 finename 指定了保存本地路径(如果参数未指定，urllib会生成一个临时文件保存数据。)
2.  参数 reporthook 是一个回调函数，当连接上服务器、以及相应的数据块传输完毕时会触发该回调，我们可以利用这个回调函数来显示当前的下载进度。
3.  参数 data 指 post 到服务器的数据，该方法返回一个包含两个元素的(filename, headers)元组，filename 表示保存到本地的路径，header 表示服务器的响应头。

比如我想把保存的文件命名为LALA1 LALA2 LALA3 。。。保存在 C:\\ImageSave\\ 文件夹内

将

urllib.urlretrieve(imgurl,'%s.jpg' % x) x+=1

改成

urllib.urlretrieve(imgurl,'C:\ImageSave\LALA%s.jpg' % x) x+=1即可

参考：http://www.cnblogs.com/fnng/p/3576154.html

[copycode.gif]: /images/20220616/f6fc6febddc449a298943d08f7c0a31b.png