python爬虫之模拟登陆csdn的实例代码

python模拟登陆网页主要使用到urllib、urllib2、cookielib及BeautifulSoup等基本模块，当然进阶阶段我们还可以使用像requests等更高级一点的模块。其中BeautifulSoup模块在匹配html方面，可以很好的代替re，使用起来更方便，对于不会使用正则的人来说是福音。

本文使用python2.7

原理

模拟登陆前，我们需要先知道csdn是如何登陆的。我们通过google chrome浏览器先来分析下：

1.chrome浏览器用F12或ctrl+shift+I启动开发者工具，并访问csdn登陆页面，在开发者工具中对”Preserver log”选项打勾，表示跳转时不清楚之前的访问记录。

2.输入用户名密码后，网页进行跳转，此时我们查看访问记录中Method为POST的链接的headers，可以看到

Request header：

Cache-Control:no-cacheCache-Control:no-storeConnection:keep-aliveContent-Encoding:gzipContent-Type:text/html;charset=UTF-8Date:Fri, 05 Aug 2016 03:51:56 GMTExpires:Thu, 01 Jan 1970 00:00:00 GMTKeep-Alive:timeout=20Pragma:no-cacheServer:openrestySet-Cookie:UD=%E4%BB%8A%E5%A4%A9%E4%B8%8D%E8%B5%B0%EF%BC%8C%E6%98%8E%E5%A4%A9%E5%8D%B3%E4%BD%BF%E8%B7%91%E4%B9%9F%E4%B8%8D%E4%B8%80%E5%AE%9A%E8%B7%9F%E5%BE%97%E4%B8%8A%EF%BC%81; Domain=.csdn.net; Path=/Set-Cookie:UserName=yanggd1987; Domain=.csdn.net; Path=/Set-Cookie:UserInfo=RjXwn4OfICh68ZVTzEjJxlcez5O%2B8RMsVvAiTV6uo4n4q1orcuBFZz29qx%2BUZ7JPFQQivvFGwFaC97NpT%2FKhtcZ2U%2B%2BzivoNtu5nTyg717xzimpeHcoutwnMg%2F5S8ZlARzA8H48TOftvUJUB0mxylQ%3D%3D; Domain=.csdn.net; Path=/Set-Cookie:UserNick=man8er; Domain=.csdn.net; Path=/Set-Cookie:AU=A3E; Domain=.csdn.net; Path=/Set-Cookie:CASTGC=TGT-63516-e4e600adR5WiJAFintPeHqNCpGRvO9w7nHBYtY5XUCc2BPCCcG-passport.csdn.net; Path=/; SecureSet-Cookie:UN=yanggd1987; Domain=.csdn.net; Expires=Sat, 05-Aug-2017 03:51:55 GMT; Path=/Set-Cookie:UE="yanggd1987@163.com"; Version=1; Domain=.csdn.net; Max-Age=31536000; Expires=Sat, 05-Aug-2017 03:51:55 GMT; Path=/Set-Cookie:BT=1470369115868; Domain=.csdn.net; Expires=Sat, 05-Aug-2017 03:51:55 GMT; Path=/Set-Cookie:access-token=0bd99cf6-c5bf-4683-89b8-9d8678bebff9; Domain=.csdn.net; Path=/Transfer-Encoding:chunkedVary:Accept-Encoding

有以上可以看出登陆过程中有cookie

POST提交的数据：

username:XXXXXXXXXpassword:XXXXXXXXXlt:LT-52961-eMo02Bz4tlj3wQz4QMuO173GCIdsqEexecution:e15s1_eventId:submit

其中username和password表示我们登陆的账户和密码，那lt、execution表示什么呢？不要急，我们看看登陆页面网站的源代码：

<form id="fm1" action="/account/login?from=http%3A%2F%2Fmy.csdn.net%2Fmy%2Fmycsdn" method="post">   <input id="password" name="password" tabindex="2" placeholder="输入密码" class="pass-word" type="password" value="" autocomplete="off">   <div class="row forget-password">   <span class="col-xs-6 col-sm-6 col-md-6 col-lg-6">    <input type="checkbox" name="rememberMe" id="rememberMe" value="true" class="auto-login" tabindex="4">    <label for="rememberMe">下次自动登录</label>   </span>   <span class="col-xs-6 col-sm-6 col-md-6 col-lg-6 forget tracking-ad" data-mod="popu_26">    <a href="/account/fpwd?action=forgotpassword&service=http%3A%2F%2Fmy.csdn.net%2Fmy%2Fmycsdn" rel="external nofollow" tabindex="5" target="_blank">忘记密码</a>   </span>   </div>   <!-- 该参数可以理解成每个需要登录的用户都有一个流水号。只有有了webflow发放的有效的流水号，用户才可以说明是已经进入了webflow流程。否则，没有流水号的情况下，webflow会认为用户还没有进入webflow流程，从而会重新进入一次webflow流程，从而会重新出现登录界面。 -->   <input type="hidden" name="lt" value="LT-53452-VLvC2gjfxdj4jheoUJQRkIXgoDZfc3">   <input type="hidden" name="execution" value="e16s1">    <input id="username" name="username" tabindex="1" placeholder="输入用户名/邮箱/手机号" value="用户名" class="user-name" type="text"><input type="hidden" name="_eventId" value="submit">    <input class="logging" accesskey="l" value="登 录" tabindex="6" type="button">   </form>