手把手带你用python爬取小姐姐私房照
作者:退休的龙叔 发布时间:2022-04-09 16:02:04
如何用Python搞到小姐姐私房照
本文纯技术角度出发,教你如何用Python爬虫获取百度图库海量照片——技术无罪。
学会获取小姐姐私房照同理可得也能获取其他的照片,技术原理是一致的。
目标站点
百度图片使用关键字搜索 小姐姐私房照
https://image.baidu.com/
开发环境
系统:Windows10 64位
Python版本:Python3.6.5(Python3以上版本即可)
IDE:Pycharm(非必须,其实你完全可以记事本写代码)
第三方库:requests、jsonpath
效果预览
网页私房照
代码爬取效果
正式教程
一、第三方库安装
在确保你正确安装了Python解释器之后,我们还需要安装几个第三方库,命令如下**[在终端中安装即可]**:
HTTP请求库:
pip3 install requests
JSON数据解析库:
pip3 install jsonpath
二、爬虫的基本套路
不管是爬取哪类网站,在爬虫中基本都遵循以下的基本套路:
请求数据 → 获取响应内容 → 解析内容 → 保存数据
当然,以上步骤是代码的编写思路,实际操作中应该还要添加一个前置步骤,所以完整流程如下:
分析目标站点 → 请求网站获取数据 → 解析内容 → 保存数据
分析目标站点
快速的分析目标站点就很容易发现百度图库的图片资源是通过AJAX加载的,所以我们要请求的链接并非浏览器地址栏链接,而是ajax加载的数据包的资源路径,如图:
那么问题来了,如何获取到这些数据包的地址?其实很简单,如图所示:
请求网站获取数据
编写代码请求资源,这里有一点需要注意:请求头必须携带,否则有可能请求失败导致报错。
import requests # 导包
# 构建请求头,把爬虫程序伪装成正常的浏览器用户
headers = {
'sec-fetch-dest': 'image',
'Host': 'image.baidu.com',
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/89.0.4389.82 Safari/537.36 Edg/89.0.774.50',
}
# 资源包的url链接
url = 'https://image.baidu.com/search/acjson?tn=resultjson_com&logid=10913526997707526921&ipn=rj&ct=201326592&is=&fp=result&queryWord=%E5%B0%8F%E5%A7%90%E5%A7%90%E7%A7%81%E6%88%BF%E7%85%A7&cl=2&lm=-1&ie=utf-8&oe=utf-8&adpicid=&st=-1&z=&ic=&hd=&latest=©right=&word=%E5%B0%8F%E5%A7%90%E5%A7%90%E7%A7%81%E6%88%BF%E7%85%A7&s=&se=&tab=&width=&height=&face=0&istype=2&qc=&nc=1&fr=&expermode=&force=&pn=210&rn=30&gsm=d2&1616553658252='
# 构建请求
response = requests.get(url,headers=headers)
# 查看状态码
print(response.status_code)
# 获取原始数据
response.json()
解析数据
上述代码最终获取到的数据是json数据,也就是我们Python中常说的字典,它长这样:
{
"queryEnc":"%D0%A1%BD%E3%BD%E3%CB%BD%B7%BF%D5%D5",
"queryExt":"小姐姐私房照",
"listNum":758,
"displayNum":8392,
"gsm":"f0",
"bdFmtDispNum":"约8,390",
"bdSearchTime":"",
"isNeedAsyncRequest":0,
"bdIsClustered":"1",
"data":[
Object{...}, # 没张私房照对应的详细信息,其中就有图片的URL
Object{...},
···
}
既然它是一个字典,我们当然是可以使用Python中的键值索引方式获取到想要的数据,但是此方法太笨,这里介绍一种更加高明的方式,使用jsonpath解析数据
# 这一行代码便可以获取到所有图片的URL,返回的是一个列表,遍历即可拿到每一个URL
imgs = jsonpath.jsonpath(json_data, '$..middleURL')
使用requests请求图片URL,获取图片数据
image_data = requests.get(page_url).content
保存数据
使用Python中的文件对象,保存图片,图片名字使用时间戳命名,避免图片重名
with open('imgs/' + datetime.now().strftime("%Y%m%d%H%M%S%f") + '.jpg', 'wb') as f:
f.write(image_data)
写在最后
到这整个儿爬虫程序就写完了。
当然,当前的这个只能爬取一个资源包中的数据,要爬取多个资源包或者说全部资源包的数据也是很简单的,只需要分析分析资源包的URL变化规律就不难发现其中的某个关键字变化,灵活改变该关键字就可以不断爬取。
文章正文到这里已经结束了,只是想感谢一些阅读我文章的人。
我退休后一直在学习如何写文章,说实在的,每次我在后台看到一些读者的回应就会觉得很欣慰,于是我想把我收藏的一些编程干货贡献给大家,回馈每一个读者,希望能帮到你们。
来源:https://blog.csdn.net/zhiguigu/article/details/115917010


猜你喜欢
- 一、基本介绍在编程中,程序员会经常使用到日期相关的函数,比如:统计某段代码执行花费的时间等等。在 Go 中,开发者为我们提供了 time 包
- 最新的CentOS8已经内置了Python2和Python3,出入Python2和Python3两个命令可以分别进入Python2和Pyth
- 本文实例讲述了javascript格式化json显示方法。分享给大家供大家参考。具体分析如下:将json对象或者json字符串格式化方便在网
- this 的定义表示当前执行代码的环境对象 因此可将 this 的剖析分为“全局环境” 和 “函数环境” 两种类型的环境对象全局环
- 原理介绍keras是一种基于模块的高级深度学习开发框架,它并没有仅依赖于某一种高速底层张量库,而是对各种底层张量库进行高层模块封装,让底层库
- 每位SQL Server开发员都有自己的首选操作方法。我的方法叫做分子查询。这些是由原子查询组合起来的查询,通过它们我可以处理一个表格。将原
- web框架是什么?web开发框架是一组工具,同时也提供了非常多的资源,供软件开发人员构建和管理网站、提供web服务、编写web应用程序。它是
- 终端输出彩色文字开发工具:Mac,Goland,Mac自带shell。这是基于Mac的测试结果,根据读者留言,在Windows上不生效,标识
- 1、词表映射无论是深度学习还是传统的统计机器学习方法处理自然语言,都需要先将输入的语言符号(通常为标记Token),映射为大于等于0、小于词
- pandas中有时需要按行依次对.csv文件读取内容,那么如何进行呢?我们来完整操作一遍,假设我们已经有了一个.csv文件。# 1.导入包i
- 前言有时候字符串匹配解决不了问题,这个时候就需要正则表达式来处理。因为每一次匹配(比如找以什么开头的,以什么结尾的字符串要写好多个函数)都要
- 一、下载1、官网下载2、某度网盘下载链接: https://pan.baidu.com/s/1BgbZH-aFaJ1nwm2PpDeOSQ?
- 原始生成对抗网络Generative Adversarial Networks GAN包含生成器Generator和判别器Discrimin
- 一、将对象转为json字符串json.dumps:将 Python 对象编码成 JSON 字符串json.loads:将已编码的 JSON
- <HTML> <HEAD> <meta http-equiv="Conten
- Numpy中的数组整体处理赋值操作一直让我有点迷糊,很多时候理解的不深入。今天单独列写相关的知识点,进行总结一下。先看两个代码片小例子:例子
- 口罩佩戴检测一 题目背景1.1 实验介绍今年一场席卷全球的新型冠状病毒给人们带来了沉重的生命财产的损失。有效防御这种传染病毒的方法就是积极佩
- Go流程控制1、条件语句IF1、简单格式(不支持三目运算符)if 布尔表达式 { // 执行语句}2、if里面包含多个表达式的时
- 本文实例讲述了django框架创建应用操作。分享给大家供大家参考,具体如下:18.1.5 安装Django安装Djangonod
- flask是我学习的第一个python的web框架,在应用flask写完一个应用后,当然是把它部署到我们的服务器上了。首先,准备我们部署项目