当前位置: 首页 > 编程笔记 >

python采用requests库模拟登录和抓取数据的简单示例

杨飞语
2023-03-14
本文向大家介绍python采用requests库模拟登录和抓取数据的简单示例,包括了python采用requests库模拟登录和抓取数据的简单示例的使用技巧和注意事项,需要的朋友参考一下

如果你还在为python的各种urllib和urlibs,cookielib 头疼,或者还还在为python模拟登录和抓取数据而抓狂,那么来看看我们推荐的requests,python采集数据模拟登录必备利器!

这也是python推荐的HTTP客户端库:

本文就以一个模拟登录的例子来加以说明,至于采集大家就请自行发挥吧。

代码很简单,主要是展现python的requests库的简单至极,代码如下:

s = requests.session()
data = {'user':'用户名','passdw':'密码'}
#post 换成登录的地址,
res=s.post('http://www.xxx.net/index.php?action=login',data);
#换成抓取的地址
s.get('http://www.xxx.net/archives/155/');

看!仅仅4行代码,即可模拟登录。

 类似资料:
  • 本文向大家介绍Java 模拟cookie登陆简单操作示例,包括了Java 模拟cookie登陆简单操作示例的使用技巧和注意事项,需要的朋友参考一下 本文实例讲述了Java 模拟cookie登陆简单操作。分享给大家供大家参考,具体如下: 最近在做将禅道上的功能接口做到手机端,在做登陆的时候,看了禅道的源码,是由cookie来登陆,所以要做一个模拟cookie登陆的接口,将拿到的cookie放到每次接

  • 本文向大家介绍Python操作CouchDB数据库简单示例,包括了Python操作CouchDB数据库简单示例的使用技巧和注意事项,需要的朋友参考一下 安装python couchDb库: https://pypi.python.org/pypi/CouchDB/0.10 连接服务器 创建数据库 创建文档并插入到数据库: save()方法会返回'_id','_rev'字段 通过id查询数据库 更新

  • 本文向大家介绍Python 网络爬虫--关于简单的模拟登录实例讲解,包括了Python 网络爬虫--关于简单的模拟登录实例讲解的使用技巧和注意事项,需要的朋友参考一下 和获取网页上的信息不同,想要进行模拟登录还需要向服务器发送一些信息,如账号、密码等等。 模拟登录一个网站大致分为这么几步: 1.先将登录网站的隐藏信息找到,并将其内容先进行保存(由于我这里登录的网站并没有额外信息,所以这里没有进行信

  • 本文向大家介绍PHP中使用CURL模拟登录并获取数据实例,包括了PHP中使用CURL模拟登录并获取数据实例的使用技巧和注意事项,需要的朋友参考一下 cURL 是一个功能强大的PHP库,使用PHP的cURL库可以简单和有效地抓取网页并采集内容,设置cookie完成模拟登录网页,curl提供了丰富的函数,开发者可以从PHP手册中获取更多关于cURL信息。本文以模拟登录开源中国(oschina)为例,和

  • 本文向大家介绍对python抓取需要登录网站数据的方法详解,包括了对python抓取需要登录网站数据的方法详解的使用技巧和注意事项,需要的朋友参考一下 scrapy.FormRequest login.py selenium登录获取cookie get_cookie_by_selenium.py 获取浏览器cookie(以Ubuntu的Firefox为例) get_cookie_by_firefo

  • 本文向大家介绍python数据抓取分析的示例代码(python + mongodb),包括了python数据抓取分析的示例代码(python + mongodb)的使用技巧和注意事项,需要的朋友参考一下 本文介绍了Python数据抓取分析,分享给大家,具体如下: 编程模块:requests,lxml,pymongo,time,BeautifulSoup 首先获取所有产品的分类网址: 我们在产品分类