如何使用python爬虫爬取要登陆的网站
作者：千锋Python唐唐君 发布时间：2022-09-07 08:04:46
标签：python,爬虫,爬取,登陆,网站
你好
由于你是游客
无法查看本文
请你登录再进
谢谢合作。。。。。
当你在爬某些网站的时候
需要你登录才可以获取数据
咋整？
莫慌
把这几招传授给你
让你以后从容应对
登录的常见方法无非是这两种
1、让你输入帐号和密码登录
2、让你输入帐号密码+验证码登录
今天
先跟你说说第一种
需要验证码的咱们下一篇再讲
第一招
Cookie *
你平常在上某个不为人知的网站的时候
是不是发现你只要登录一次
就可以一直看到你想要的内容
过了一阵子才需要再次登录
这就是因为 Cookie 在做怪
简单来说
就是每一个使用这个网站的人
服务器都会给他一个 Cookie
那么下次你再请求数据的时候
你顺带把这个 Cookie 传过去
服务器一看
诶，小伙子是老客户啊
有登录过
直接返回数据给他吧
在服务中还可以设置 Cookie 的有效时间
也就是说
当你下次携带一个过期了的 Cookie 给服务器的时候
服务器虽然知道你是老客户
但是还是需要你重新再登录一次
然后再给你一个有效的 Cookie
Cookie 的时长周期是服务器那边定的
ok
了解了这一点之后
我们就来玩一下吧
我们以「逼乎」为例
https://biihu.cc/account/login/
输入地址之后
按一下 F12
点击 network 标签
然后登录你的帐号
然后点击其中一个
你就可以看到在 Request Headers 有你的 Cookie
有了 Cookie 之后
我们在代码中直接获取我的个人信息
import requests
headers = {
# 假装自己是浏览器
'User-Agent': 'Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Ubuntu Chromium/73.0.3683.75 Chrome/73.0.3683.75 Safari/537.36',
# 把你刚刚拿到的Cookie塞进来
'Cookie': 'eda38d470a662ef3606390ac3b84b86f9; Hm_lvt_f1d3b035c559e31c390733e79e080736=1553503899; biihu__user_login=omvZVatKKSlcXbJGmXXew9BmqediJ4lzNoYGzLQjTR％2Fjw1wOz3o4lIacanmcNncX1PsRne5tXpE9r1sqrkdhAYQrugGVfaBICYp8BAQ7yBKnMpAwicq7pZgQ2pg38ZzFyEZVUvOvFHYj3cChZFEWqQ％3D％3D; Hm_lpvt_f1d3b035c559e31c390733e79e080736=1553505597',
}
session = requests.Session()
response = session.get('https://biihu.cc/people/wistbean％E7％9C％9F％E7％89％B9％E4％B9％88％E5％B8％85', headers=headers)
print(response.text)
运行后可以发现不用登录就可以直接拿到自己的个人信息了
<!DOCTYPE html>
<html>
<head>
<meta content="text/html;charset=utf-8" http-equiv="Content-Type" />
<meta content="width=device-width, initial-scale=1.0, maximum-scale=1.0, user-scalable=no" name="viewport" />
<meta http-equiv="X-UA-Compatible" content="IE=edge,Chrome=1" />
<meta name="renderer" content="webkit" />
<title>小帅b真特么帅 的个人主页 - 逼乎</title>
<meta name="keywords" content="逼乎,问答,装逼,逼乎网站" />
<meta name="description" content="逼乎 ，与世界分享你的装逼技巧与见解" />
<base href="https://biihu.cc/" rel="external nofollow" /><!--[if IE]></base><![endif]-->
<link rel="stylesheet" type="text/css" href="https://biihu.cc/static/css/bootstrap.css" rel="external nofollow" />
<link rel="stylesheet" type="text/css" href="https://biihu.cc/static/css/icon.css" rel="external nofollow" />
<link href="https://biihu.cc/static/css/default/common.css?v=20180831" rel="external nofollow" rel="stylesheet" type="text/css" />
<link href="https://biihu.cc/static/css/default/link.css?v=20180831" rel="external nofollow" rel="stylesheet" type="text/css" />
<link href="https://biihu.cc/static/js/plug_module/style.css?v=20180831" rel="external nofollow" rel="stylesheet" type="text/css" />
<link href="https://biihu.cc/static/css/default/user.css?v=20180831" rel="external nofollow" rel="stylesheet" type="text/css" />
<link href="https://biihu.cc/static/css/mood/mood.css" rel="external nofollow" rel="stylesheet" type="text/css" />
<script type="text/javascript">
var _02AEC94D5CA08B39FC0E1F7CC220F9B4="a5359326797de302bfc9aa6302c001b8";
var G_POST_HASH=_02AEC94D5CA08B39FC0E1F7CC220F9B4;
var G_INDEX_SCRIPT = "";
var G_SITE_NAME = "逼乎";
var G_BASE_URL = "https://biihu.cc";
var G_STATIC_URL = "https://biihu.cc/static";
var G_UPLOAD_URL = "/uploads";
var G_USER_ID = "188";
var G_USER_NAME = "666";
var G_UPLOAD_ENABLE = "Y";
var G_UNREAD_NOTIFICATION = 0;
var G_NOTIFICATION_INTERVAL = 100000;
var G_CAN_CREATE_TOPIC = "1";
var G_ADVANCED_EDITOR_ENABLE = "Y";
var FILE_TYPES = "jpg,jpeg,png,gif,zip,doc,docx,rar,pdf,psd";
</script>
<script src="https://biihu.cc/static/js/jquery.2.js?v=20180831" type="text/javascript"></script>
第二招
表单请求 *
很简单
就是通过抓包
获取请求登录的时候需要用到的用户名密码参数
然后以表单的形式请求服务器
如果你细心一点的话应该会知道之前说过拉
具体在这
去看下
我就不多说了
第三招
Selenium 自动登录法
获取到两个输入框的元素
再获取到登录按钮
往输入框写你的帐号密码
然后自动点击一下登录
username = WAIT.until(EC.presence_of_element_located((By.CSS_SELECTOR, "帐号的selector")))
password = WAIT.until(EC.presence_of_element_located((By.CSS_SELECTOR, "密码的selector")))
submit = WAIT.until(EC.element_to_be_clickable((By.XPATH, '按钮的xpath')))
username.send_keys('你的帐号')
password.send_keys('你的密码')
submit.click()
登录完之后拿到 Cookie
cookies = webdriver.get_cookies()
有了 Cookie 你就可以拿到你想要的数据了，希望对你有帮助
来源：https://www.cnblogs.com/cherry-tang/p/11040968.html
0
投稿猜你喜欢
- 废话少说，直接上代码：<?php/** * Note:for octet-stream upload * 这个是流式上传PHP文件 *
- python修改FTP服务器上的文件名，具体代码如下所示：#-*- coding:utf-8 -*-#修改ftp服务器上的文件名from f
- 阅读上一篇：[译]Javascript风格要素（一） 我们使用习惯用法可以使我们的意图更加的清晰和简洁。使用==时，当心强制转换考虑下面函数
- 大家在使用ASP设计用户提交表单的时候，如果涉及到网址输入框，那么相信都有可能会用到这个效果，使用正则表达式验证网址合法性。代码如下：<
- 本文实例讲述了php中debug_backtrace、debug_print_backtrace和匿名函数用法。分享给大家供大家参考。具体分
- 目的: 从数据库读取二进制位图图形数据资料, 透过 ImageMagickObject 组件即时制作缩略图,并显示在网页上 (ge
目的临床数据的记录时间和对应标签（逗号后面的数字）记录在txt文件里，要把标签转换为3类标签，并且计算出每个标签的分别持续时间，然后绘制成柱- 概述在JavaScript前端开发中，函数与对其状态即词法环境（lexical environment）的引用共同构成闭包（closure）
- 很久之前就对jQuery.animate的实现非常感兴趣，不过前段时间很忙，直到前几天端午假期才有时间去研究。jQuery.animate的
- 在使用Python的过程中难免会遇到不同的项目使用不通同的Python环境，这就引出Python环境的切换问题这篇文章以3.11.0与3.1
- 本文实例为大家分享了js实现酷炫倒计时动画的具体代码，供大家参考，具体内容如下前段时间和朋友去音乐餐厅吃饭，中间有个活动，然后看到他们软件公
- 0.目录1.前言2.安装python3.使用pip下载、安装包3.1 安装Scrapy3.2 安装PyQt3.3 同时安装多个包3.4 pi
- 前言相信大家都玩过斗地主，规则就不再介绍了。直接上一张朋友圈看到的残局图：这道题我刚看到时，曾尝试用手工来破解，每次都以为找到了农民的必胜策
- 本文实例为大家分享了JSP学生信息管理系统源码，JSP+Servlet+Javabean+JDBC+MySQL，供大家参考，具体内容如下1.
- 前言具有名字的插槽slot使用 中的 "name" 属性绑定元素注意：1，如果没有匹配到 则放到匿名的插槽中2，具名插槽
- 一、创建虚拟环境python -m venv env通过执行命令，创建一个名为env的虚拟环境，命令执行完毕后会出现一个env文件夹，这是一
- Memcached是一种高性能的分布式内存对象缓存系统，常用于加速动态Web应用程序。在本文中，我们将使用Python和PyQt5来制作一个
- 前言以下是我对python中编写脚本最重要的库之一pyautogui的学习整理，分享给大家希望有所帮助提示：我在初步使用pyautogui的
- 在python的时间使用时，我们无非就是输出字符串的形式，又或者是其他的形式跟字符串之间的来回转换。时间数组对于我们获取具体的年或是天数，都
- 如下所示：#os.listdir() 方法用于返回指定的文件夹包含的文件或文件夹的名字的列表。这个列表以字母顺序。 它不包括 '.&
