最近做的一个目标检测模型需要使用大量图像进行训练,最方便的图像获取方式就是通过搜索引擎获取,而Google的搜索结果更适合。
github上有不少开源的Google图像爬取工具,其中star数最多功能最强的就属google-image-download,其安装方式pip安装与编译安装,我为了省事,直接用pip安装
>>> pip3 install google_images_download
安装完成后就可以使用了
有非常多的参数供你使用,具体可以看:https://google-images-download.readthedocs.io/en/latest/arguments.html
但是!!
你会发现不管怎么修改参数,都会报错
Item no.: 1 --> Item name = 2020-02-16 11_28_03
Evaluating...
https://thethaiger.com/wp-content/uploads/2020/01/china-hong-kong-coronavirus.jpg
Starting Download...
Unfortunately all 20 could not be downloaded because some images were not downloadable. 0 is all we got for this search filter!
Errors: 0
Everything downloaded!
Total errors: 0
Total time taken: 3.1959006786346436 Seconds
经过一番搜索,发现是由于Google修改了一些策略,导致链接获取出问题了。有大神修改了代码,但是还没有合并到master,因而就需要我们自己手动修改
首先,找到你的google-image-download文件地址
我的在~/.local/lib/python3.6/site-packages/google_images_download/
用修改后的google_images_download.py,替换原来的google_images_download.py
再进行下载,就没问题了。
当然了,正常下载的前提是需要科学上网,这个我就不细说了
最后不得不吐槽一下数据标注真心累。。。