MySQL分表实现上百万上千万记录分布存储的批量查询设计模式详解
发布时间：2024-01-17 18:20:01
我们知道可以将一个海量记录的 MySQL 大表根据主键、时间字段，条件字段等分成若干个表甚至保存在若干服务器中。
唯一的问题就是跨服务器批量查询麻烦，只能通过应用程序来解决。谈谈在Java中的解决思路。其他语言原理类似。
这里说的分表不是 MySQL 5.1 的 partition，而是人为把一个表分开存在若干表或不同的服务器。
1. 应用程序级别实现
见示意图
electThreadManager 分表数据查询管理器
它为分表的每个database or server 建立一个 thread pool
addTask() - 添加任务
stopTask() - 停止任务
getResult() - 获取执行结果
最快的执行时间 = 最慢的 MySQL 节点查询消耗时间
最慢的执行时间 = 超时时间
某个 ThreadPool 忙时候处理流程
1. 假如 ThreadPoolN 非常忙，(也意味 DB N 非常忙)；
2. 新的查询任务到来，addTask(), 新的任务的一个thread加到ThreadPoolN任务排队中
3. 外层应用已经获得其他 thread 返回结果，继续等待
4. 外层应用等待超时的时间到，调用 stopTask() 设置该任务全部 thread 中的停止标志, 外层应用返回。
5. 若干时间后，ThreadPoolN取到该排队 Thread, 因为设置了停止位，线程直接运行完成。
2. JDBC 层实现
做一个 JDBC Driver 的包装，拦截 PreparedStatement, Statement 的 executeQuery()
然后调用 SelectThreadManager 完成
3. MySQL partition
MySQL 5.1 的 partition 功能由于单张表的数据跨文件，批量查询时候同样存在上述问题，不过它是在 MySQL 内部实现的，不需要外部调用者关心。其查询实现的原理应该大致类似。
但 partition 只解决了 IO 的瓶颈，并不能解决 CPU 计算的瓶颈，因此无法代替传统的手工分表方式。
0
投稿猜你喜欢
<img :onerror="errpic" class="customerHead" :sr- 本文实例讲述了Python使用sort和class实现的多级排序功能。分享给大家供大家参考，具体如下：# -*- coding:utf-8
- 可以利用in运算符来进行判断，如果在指定的序列中找到值返回True，否则返回False。运算符not in表示如果在指定的序列中没有找到值返
- 本文给大家介绍PHP中Http协议post请求参数，具体内容如下所示：WEB开发中信息基本全是在POST与GET请求与响应中进行，GET因其
- Python 3.x 起始版本是Python 3.0,目前的最新版本是 3.3.3Python之父Guido van Rossum谈到了Py
- MySQL 5.7.9版本sql_mode=only_full_group_by问题用到GROUP BY 语句查询时com.MySQL.jd
- 【内容】： 最近python挺火，空闲时间看了几个python视频，觉得简单易懂，开发效
- 数据库优化包含以下三部分，数据库自身的优化，数据库表优化，程序操作优化.此文为第二部分 优化①：设计规范化表，消除数据冗余 数据库
- 目录1.随机取小数：2.整数的随机选取:3.随机列表取数,元素打乱:总结1.随机取小数：import randomprint(random.
- 最近工作需要把单片机读取的传感器电压数据实时在PC上通过曲线显示出来，刚好在看python, 就试着用了python 与uart端口通讯，并
- MySQL 8 带来了全新的体验，比如支持 NoSQL、JSON 等，拥有比 MySQL 5.7 两倍以上的性能提升。本文讲解如何在 Win
- 函数名:FenYe(url,pageCount,recordCount,curPage,cssstyle)
- GIL(Global Interpreter Lock,即全局解释器锁)1.为什么有GIL设计者为了规避类似于内存管理这样的复杂的竞争风险问
- TFTP文件传输功能：1、获取文件列表2、上传文件3、下载文件4、退出第一部分，TftpServer部分。①导入相关模块from socke
- 引入函数既可以嵌套定义也可以嵌套调用。嵌套定义指的是在定义一个函数时在该函数内部定义另一个函数；嵌套调用指的是在调用一个函数的过程中函数内部
- 本文实例讲述了PHP学习记录之面向对象（Object-oriented programming，OOP）基础。分享给大家供大家参考，具体如下
- 微信小程序一出，立马炸开了锅，都去搭建自己的开发环境，我这里也来尝尝先，之前发了一篇文章，有人问Demo怎么导入？Demo源代码（来自网络）
- django-pagination这是一个python包，来自github上的一个项目，很容易用。不过这是一个懒人工具，好吧（工具理性）。不
- 今天跟大家分享一下，如何通过Python实现一个轻量级的库来获取电脑上连接的Android设备信息，为什么说轻量呢因为整个库也就4KB，相比
- 一、tag简介tag是git版本库的一个标记，指向某个commit的指针。tag主要用于发布版本的管理，一个版本发布之后，我们可以为git打
