1.cookie的作用
cookie 是指某些网站为了辨别用户身份、进行session跟踪而储存在用户本地终端上的数据,就像有些网站上的一些数据是需要登录后才能看得到,那么想抓取某个页面内容,就需要用到cookie来模拟登陆了。
在用cookie模拟登陆的时候,需要用到python中的CookieJar
,CookieJar中有一些子类,例如:
MozillaCookieJar
和LWPCookieJar
类都是FileCookieJar
的子类。实现了具体的把cookie内容保存为文件的方法。只是这两个类对应的标准不同而已。
2 获取cookie
from http.cookiejar import CookieJar,LWPCookieJarfrom urllib.request import Request,urlopen,HTTPCookieProcessor,build_openerfrom urllib.parse import urlencodeimport ssl# ----------------------------------------获取cookie---------------------------# 生成一个管理cookie的对象cookie_obj = CookieJar()# 创建一个支持cookie的对象,对象属于HTTPCookieProcessorcookie_handler = HTTPCookieProcessor(cookie_obj) #创建一个openeropener = build_opener(cookie_handler) response = opener.open('http://www.baidu.com')print(response)#打印cookiefor cookie in cookie_obj: print('key:',cookie.name) print('value:',cookie.value)
3 保存cookie的文件
from http.cookiejar import CookieJar,LWPCookieJarfrom urllib.request import Request,urlopen,HTTPCookieProcessor,build_openerfilename = 'neihan.txt'# 设置cookie保存的文件cookie_obj = LWPCookieJar(filename=filename)# 创建一个支持cookie的对象,对象属于HTTPCookieProcessorcookie_handler = HTTPCookieProcessor(cookie_obj)#创建一个openeropener = build_opener(cookie_handler)#请求网页response = opener.open('http://www.neihanshequ.com')# 保存cookie到指定的文件当中去# ignore_expires=True 即便目标cookie已经在文件中存在,仍然对其写入# ignore_discard=True 即便cookie将要/已经过期,仍然写入cookie_obj.save(ignore_expires=True,ignore_discard=True)
4 使用本地的cookie进行请求
from http.cookiejar import CookieJar,LWPCookieJarfrom urllib.request import Request,urlopen,HTTPCookieProcessor,build_openercookie = LWPCookieJar()#从文件中读取cookie到变量cookie.load('neihan.txt')request = Request('http://www.neihanshequ.com')# 创建一个支持cookie的对象,对象属于HTTPCookieProcessorcookie_handler = HTTPCookieProcessor(cookie)#创建一个openeropener = build_opener(cookie_handler)#请求网页response = opener.open(request)# print(response.read().decode())
5 使用cookie进行模拟登陆
from http.cookiejar import CookieJar,LWPCookieJarfrom urllib.request import Request,urlopen,HTTPCookieProcessor,build_openerfrom urllib.parse import urlencodeimport sslcookie = LWPCookieJar(filename='meishi.txt')cookie_handler = HTTPCookieProcessor(cookie)opener = build_opener(cookie_handler)headers={ 'User-Agent':'Mozilla/5.0 (Windows NT 6.1; Win64; x64; rv:61.0) Gecko/20100101 Firefox/61.0'}post_url = 'https://i.meishi.cc/login.php?redirect=https%3A%2F%2Fi.meishi.cc%2Flogin.php%3Fac%3Dzhuce'# urlencode对url当中的参数进行编码# urlencode()编码的对象为字典类型post_data = urlencode({ 'username':'***********', #自己的登陆账号 'password':'************' #自己的登陆密码})# 请求url 并传参,设置编码方式request = Request(post_url,bytes(post_data,encoding='utf-8'))# 解决证书问题ssl._create_default_https_context = ssl._create_unverified_contextresponse = opener.open(request)print(response.read().decode())cookie.save(ignore_discard=True,ignore_expires=True)
新闻热点
疑难解答