Python爬取三国演义的实现方法
本文的爬虫教程分为四部：
1.从哪爬 where
2.爬什么 what
3.怎么爬 how
4.爬了之后信息如何保存 save
一、从哪爬
三国演义
二、爬什么
三国演义全文
三、怎么爬
在Chrome页面打开F12，就可以发现文章内容在节点
<div id="con" class="bookyuanjiao">
只要找到这个节点，然后把内容写入到一个html文件即可。
content = soup.find("div", {"class": "bookyuanjiao", "id": "con"})
四、爬了之后如何保存
主要就是拿到内容，拼接到一个html文件，然后保存下来就可以了。
#!usr/bin/env # -*-coding:utf-8 -*- import urllib2 import os from bs4 import BeautifulSoup as BS import locale import sys from lxml import etree import re reload(sys) sys.setdefaultencoding('gbk') sub_folder = os.path.join(os.getcwd(), "sanguoyanyi") if not os.path.exists(sub_folder): os.mkdir(sub_folder) path = sub_folder # customize html as head of the articles input = open(r'0.html', 'r') head = input.read() domain = 'http://www.shicimingju.com/book/sanguoyanyi.html' t = domain.find(r'.html') new_domain = '/'.join(domain.split("/")[:-2]) first_chapter_url = domain[:t] + "/" + str(1) + '.html' print first_chapter_url # Get url if chapter lists req = urllib2.Request(url=domain) resp = urllib2.urlopen(req) html = resp.read() soup = BS(html, 'lxml') chapter_list = soup.find("div", {"class": "bookyuanjiao", "id": "mulu"}) sel = etree.HTML(str(chapter_list)) result = sel.xpath('//li/a/@href') for each_link in result: each_chapter_link = new_domain + "/" + each_link print each_chapter_link req = urllib2.Request(url=each_chapter_link) resp = urllib2.urlopen(req) html = resp.read() soup = BS(html, 'lxml') content = soup.find("div", {"class": "bookyuanjiao", "id": "con"}) title = soup.title.text title = title.split(u'_《三国演义》_诗词名句网')[0] html = str(content) html = head + html + "</body></html>" filename = path + "\\" + title + ".html" print filename # write file output = open(filename, 'w') output.write(html) output.close()
0.html的内容如下
<html><head><meta http-equiv="Content-Type" content="text/html; charset=utf-8"></head><body>
总结
以上就是利用Python爬取三国演义的实现方法，希望对大家学习python能有所帮助，如果有疑问大家可以留言交流。
-
本文向大家介绍python爬虫之爬取百度音乐的实现方法，包括了python爬虫之爬取百度音乐的实现方法的使用技巧和注意事项，需要的朋友参考一下 在上次的爬虫中，抓取的数据主要用到的是第三方的Beautifulsoup库，然后对每一个具体的数据在网页中的selecter来找到它，每一个类别便有一个select方法。对网页有过接触的都知道很多有用的数据都放在一个共同的父节点上，只是其子节点不同。在上次
-
本文向大家介绍Python实现爬取逐浪小说的方法，包括了Python实现爬取逐浪小说的方法的使用技巧和注意事项，需要的朋友参考一下 本文实例讲述了Python实现爬取逐浪小说的方法。分享给大家供大家参考。具体分析如下： 本人喜欢在网上看小说，一直使用的是小说下载阅读器，可以自动从网上下载想看的小说到本地，比较方便。最近在学习Python的爬虫，受此启发，突然就想到写一个爬取小说内容的脚本玩玩。于是
-
本文向大家介绍Python爬取国外天气预报网站的方法，包括了Python爬取国外天气预报网站的方法的使用技巧和注意事项，需要的朋友参考一下 本文实例讲述了Python爬取国外天气预报网站的方法。分享给大家供大家参考。具体如下： crawl_weather.py如下： FetchLocation.py如下： 希望本文所述对大家的python程序设计有所帮助。
-
本文向大家介绍python脚本爬取字体文件的实现方法，包括了python脚本爬取字体文件的实现方法的使用技巧和注意事项，需要的朋友参考一下 前言 大家应该都有所体会，为了提高验证码的识别准确率，我们当然要首先得到足够多的测试数据。验证码下载下来容易，但是需要人脑手工识别着实让人受不了，于是我就想了个折衷的办法——自己造验证码。 为了保证多样性，首先当然需要不同的字模了，直接用类似ttf格式的字体文
-
本文向大家介绍Python爬虫爬取美剧网站的实现代码，包括了Python爬虫爬取美剧网站的实现代码的使用技巧和注意事项，需要的朋友参考一下 一直有爱看美剧的习惯，一方面锻炼一下英语听力，一方面打发一下时间。之前是能在视频网站上面在线看的，可是自从广电总局的限制令之后，进口的美剧英剧等貌似就不在像以前一样同步更新了。但是，作为一个宅diao的我又怎甘心没剧追呢，所以网上随便查了一下就找到一个能用迅雷
-
本文向大家介绍python实现三维拟合的方法，包括了python实现三维拟合的方法的使用技巧和注意事项，需要的朋友参考一下 如下所示： 以上这篇python实现三维拟合的方法就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持呐喊教程。