Python使用Selenium爬取淘宝异步加载的数据方法
作者:jingxian 发布时间:2021-05-17 05:31:57
标签:Python,Selenium,异步,加载
淘宝的页面很复杂,如果使用分析ajax或者js的方式,很麻烦
抓取淘宝‘美食'上面的所有食品信息
spider.py
#encoding:utf8
import re
from selenium import webdriver
from selenium.common.exceptions import TimeoutException
from selenium.webdriver.common.by import By
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC
from bs4 import BeautifulSoup
from config import *
import pymongo
client=pymongo.MongoClient(MONGODB_URL)
db=client[MONGODB_DB]
##这里使用PhantomJS,并配置了一些参数
browser=webdriver.PhantomJS(service_args=SERVICE_ArGS)
##窗口的大小,不设置的话,默认太小,会有问题
browser.set_window_size(1400,900)
wait=WebDriverWait(browser, 10)
def search():
print('正在搜索')
##容易出现超时的错误
try:
##等待这两个模块都加载好
browser.get("https://www.taobao.com")
input = wait.until(
EC.presence_of_element_located((By.CSS_SELECTOR, '#q'))
)
submit=wait.until(
EC.element_to_be_clickable((By.CSS_SELECTOR, '#J_TSearchForm > div.search-button > button'))
)
######这块python2搞得鬼
#input.send_keys('\u7f8e\u98df'.decode("unicode-escape"))
input.send_keys(KEYWORD.decode("unicode-escape"))
submit.click()
total = wait.until(
EC.presence_of_element_located((By.CSS_SELECTOR, '#mainsrp-pager > div > div > div > div.total'))
)
get_product()
return total.text
except TimeoutException:
return search()
def next_page(page_number):
print('翻页'+str(page_number))
try:
input = wait.until(
EC.presence_of_element_located((By.CSS_SELECTOR, '#mainsrp-pager > div > div > div > div.form > input'))
)
submit=wait.until(
EC.element_to_be_clickable((By.CSS_SELECTOR, '#mainsrp-pager > div > div > div > div.form > span.btn.J_Submit'))
)
input.clear()
input.send_keys(page_number)
submit.click()
##判断是否翻页成功 高亮的是不是输入的值,直接加在后面即可
wait.until(EC.text_to_be_present_in_element((By.CSS_SELECTOR,'#mainsrp-pager > div > div > div > ul > li.item.active > span'),str(page_number)))
get_product()
except TimeoutException:
return next_page(page_number)
#获取产品信息
def get_product():
products = wait.until(
EC.presence_of_element_located((By.CSS_SELECTOR, '#mainsrp-itemlist .m-itemlist .items'))
)
##拿到网页
html = browser.page_source
soup = BeautifulSoup(html,'lxml')
items = soup.select('#mainsrp-itemlist .m-itemlist .items .item.J_MouserOnverReq')#
print('*************************到此*************')
for item in items:
img = item.select('.J_ItemPic.img')[0].get('src')
price = item.select('.price.g_price.g_price-highlight > strong')[0].get_text()
deal = item.select('.deal-cnt')[0].get_text()
title= item.select('.row.row-2.title > a ')[0].get_text().strip() #:nth-of-type(3)
shop = item.select('.row.row-3.g-clearfix > .shop > a > span:nth-of-type(2)')[0].get_text()
location = item.select('.location')[0].get_text()
product={
'img':img,
'price':price,
'deal':deal,
'title':title,
'shop':shop,
'location':location
}
#打印一下
import json
j = json.dumps(product)
dict2 = j.decode("unicode-escape")
print dict2
save_to_mongo(product)
def save_to_mongo(product):
try:
if db[MONGODB_TABLE].insert(product):
print('存储到mongodb成功'+str(product))
except Exception:
print("存储到mongodb失败"+str(product))
def main():
try:
total=search()
##搜寻 re正则表达式
s=re.compile('(\d+)')
total=int(s.search(total).group(1))
for i in range(2,total+1):
next_page(i)
except Exception:
print('出错')
finally:
browser.close()
if __name__ == '__main__':
main()
config.py
MONGODB_URL='localhost'
MONGODB_DB='taobao'
MONGODB_TABLE='meishi'
SERVICE_ArGS=['--load-images=false','--disk-cache=true']
##就是美食这两个字,直接用汉字会报错
KEYWORD='\u7f8e\u98df'
来源:https://blog.csdn.net/wqh_jingsong/article/details/66472106


猜你喜欢
- 一、数据导入是所有数模编程的第一步编程求解一个数模问题,问题总会涉及一些数据。有些数据是在题目的文字描述中给出的,有些数据是通过题目的附件文
- 看代码: HTML: <!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transi
- 一、脚本说明1、linux系统版本EL6, EL7, EL8, and EL9-based platforms (for example,
- 1.安装PHP脚本运行环境yum install -y php php-mysql2.加载官方percona模板[root@cat /]#
- odeJs 微信公众号功能开发,移动端 H5页面调用微信的支付功能。这几天根据公司的需要使用 node 和 h5页面调用微信的支付功能完成支
- 本文介绍基于Python中ArcPy模块,对大量不同时相的栅格遥感影像按照其成像时间依次执行批量拼接的方法。在前期的文章Python arc
- 这是一款简单,方便,功能齐全的分页类,可以根据自己的需要更改CSS样式文件以实现分页颜色的控制,利用p
- 实现思路是用深度遍历,对图片进行二值化处理,先找到一个黑色像素,然后对这个像素的周围8个像素进行判断,如果没有访问过,就保存起来,然后最后这
- 之前服务器上配置测试用的服务环境,我偷懒顺手用网上现成的脚本进行安装,结果MySQL启动不了,于是我只有老老实实的重新安装MySQL Ser
- auth模块简介auth模块是对登录认证方法的一种封装,之前我们获取用户输入的用户名及密码后需要自己从user表里查询有没有用户名和密码符合
- 我们在 Bitcoin SV 上实现了一个数独游戏智能合约,利用之前介绍过的一种合约范式可以将游戏中寻找解题方案的过程外包上链。因为求解数独
- 引言什么是数据结构?数据结构是指相互之间存在着一种或多种关系的数据元素的集合和该集合中数据元素之间的关系组成。简单来说,数据结构就是设计数据
- 大家可以在Github上clone全部源码。Github:https://github.com/williamzxl/Scrapy_Craw
- 一、什么是进程进程是执行中的程序,是资源分配的最小单位:操作系统以进程为单位分配存储空间,进程拥有独立地址空间、内存、数据栈等操作系统管理所
- 本文对于先前系列文章中实现的C/Python代码统计工具(CPLineCounter),通过C扩展接口重写核心算法加以优化,并与网上常见的统
- 数据准备: 需要准备两个stl文件、Python需要安装vtk库步骤一:数据读取 首先通过vtk.vtkSTLReade
- 使用Appium在移动端抓取微博数据Appium是移动端的自动化测试工具,读者可以类比为PC端的selenium。通过它,我们可以驱动App
- 前面的话分页导航几乎在每个网站都可见,好的分页能给用户带来好的用户体验。本文将详细介绍Bootstrap分页概述在Bootstrap框架中提
- Math对象Math对象是在高中数学课就学过的内置对象。它知道解决最复杂的数学问题的所有公式,如果给它要处理的数字,即能计算出结果。Math
- 前言Golang 提供了database/sql包用于对SQL数据库的访问, 作为操作数据库的入口对象sql.DB, 主要为我们提供了两个重