首页 > 编程 > Python > 正文

Python requests发送post请求的一些疑点

2020-02-23 00:10:04
字体:
来源:转载
供稿:网友

前言

在Python爬虫中,使用requests发送请求,访问指定网站,是常见的做法。一般是发送GET请求或者POST请求,对于GET请求没有什么好说的,而发送POST请求,有很多朋友不是很清楚,主要是因为容易混淆 POST提交的方式 。今天在微信交流群里,就有朋友遇到了这种问题,特地讲解一下。

在HTTP协议中,post提交的数据必须放在消息主体中,但是协议中并没有规定必须使用什么编码方式,从而导致了 提交方式 的不同。服务端根据请求头中的 Content-Type 字段来获知请求中的消息主体是用何种方式进行编码,再对消息主体进行解析。具体的编码方式包括如下:

    application/x-www-form-urlencoded:以form表单形式提交数据,最常见也是大家最熟悉的  application/json :以json串提交数据。

下面使用requests来发送上述三种编码的POST请求。

1.提交Form表单

requests提交Form表单,一般存在于网站的登录,用来提交用户名和密码。以http://httpbin.org/post 为例,在requests中,以form表单形式发送post请求,只需要将请求的参数构造成一个字典,然后传给requests.post()的data参数即可。代码如下:

url = 'http://httpbin.org/post'd = {'key1': 'value1', 'key2': 'value2'}r = requests.post(url, data=d)print r.text

输出效果如下:

{
"args":{},
"data":"",
"files":{},
"form":{"key1":"value1","key2":"value2"},
"headers":{"Accept":"*/*","Accept-Encoding":"gzip, deflate",
"Connection":"close",
"Content-Length":"23",
"Content-Type":"application/x-www-form-urlencoded",
"Host":"httpbin.org",
"User-Agent":"python-requests/2.12.3"},
"json":null,
"origin":"113.140.11.122",
"url":http://httpbin.org/post}

httpbin.org网站可以显示你提交请求的内容,大家注意一下输出的"Content-Type":"application/x-www-form-urlencoded",证明这是提交Form的方式。大家在登录一个网站时,可以观察一下Content-Type是什么。

2.提交json串

对于提交json串,主要是用于发送ajax请求中,动态加载数据。以拼多多网站为例,加载商品的方式为ajax,商品的内容在响应中。

下面把请求头和请求实体列举一下:

 

一些初学者根据请求头写爬虫,就会犯requests的使用错误。

错误写法

import requests__author__ = 'qiye'__date__ = '2018/5/19 21:59'url = "http://jinbao.pinduoduo.com/network/api/common/goodsList"data ={"pageSize":60,"pageNumber":1,"withCoupon":0,"sortType":0}headers = {  'Content-Type':'application/json; charset=UTF-8',  'Host':'jinbao.pinduoduo.com',  'Origin':'http://jinbao.pinduoduo.com',  'Referer':'http://jinbao.pinduoduo.com/',  'User-Agent':'Mozilla/5.0 (Linux; Android 6.0; Nexus 5 Build/MRA58N) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/66.0.3359.181 Mobile Safari/537.36',  'Accept': 'application/json, text/javascript, */*; q=0.01',}r = requests.post(url=url,data =data,headers=headers)print(r.text)            
发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表