MySQL高效导入多个.sql文件方法详解
作者:wdc 发布时间:2024-01-20 19:10:44
MySQL有多种方法导入多个.sql文件(里面是sql语句),常用的有两个命令:mysql和source。
但是这两个命令的导入效率差别很大,具体请看最后的比较。
(还有sqlimport和LOAD DATA INFILE等导入方法,不过它们主要用于导入.csv或.xml文件数据,不是.sql文件)
假设我们有一个 users.sql 大文件,为方便我们将其拆分成:user1.sql、user2.sql、user3.sql 三个独立的小sql文件。
1、mysql命令导入
mysql命令导入多个sql文件方法:
$ for SQL in *.sql; do mysql -uroot -p"123456" mydb < $SQL; done
2、source命令导入
source命令需要首先进入MySQL命令行:
$ mysql -uroot -p"123456"
导入多个sql文件需要先创建一个额外的文件,名字随意,这里我们取:all.sql,内容:
source user1.sql
source user2.sql
source user3.sql
注意,这里每行一条,必须以source命令开头。
然后用source命令执行该文件:
mysql > use mydb;
mysql > source /home/gary/all.sql
3、如何提高导入速度?
对于百M级以上文件,如果光这样导入,速度是极其缓慢的,
根据MySQL官方建议,我们有几个措施可以极大提高导入的速度,如下:
对于MyISAM,调整系统参数:bulk_insert_buffer_size(至少单个文件大小的2倍以上)
对于InnoDB,调整系统参数:innodb_log_buffer_size(至少单个文件大小的2倍以上,导入完成后可以改回默认的8M,注意不是innodb_buffer_pool_size。)
除主键外,删除其他索引,导入完成后重建索引。
关闭自动提交:autocommit=0。(请勿用set global autocommit=1;命令来关闭,否则整个MySQL系统都会停止自动commit,innodb log buffer很快就会爆满,5和6项也请仅在会话中有效,正确做法请往下看)
关闭唯一索引检查:unique_checks=0。(关闭了这一项会影响on duplicate key update的效果)
关闭外键检查:foreign_key_checks=0。
insert值写在一条语句内,如:INSERT INTO yourtable VALUES (1,2), (5,5), ...;
有自增列的,设置:innodb_autoinc_lock_mode的值为2,
其中,第1-2、8条在修改my.cnf文件,然后重启MySQL:
bulk_insert_buffer_size=2G;
innodb_log_buffer_size=2G;
innodb_autoinc_lock_mode=2;
第3条用到的命令:
#删除索引
DROP INDEX index_name ON talbe_name
ALTER TABLE table_name DROP INDEX index_name
ALTER TABLE table_name DROP PRIMARY KEY
#添加索引
ALTER TABLE table_name ADD INDEX index_name (column_list)
ALTER TABLE table_name ADD UNIQUE (column_list)
ALTER TABLE table_name ADD PRIMARY KEY (column_list)
第4-6条写在.sql中,批量bash脚本如下:
for SQL in *.sql;
do
echo $SQL;
sed -i '1i\SET autocommit=0;\nSET unique_checks=0;\nSET foreign_key_checks=0;' $SQL
sed -i '$a\COMMIT;\nSET autocommit=1;\nSET unique_checks=1;\nSET foreign_key_checks=1;' $SQL
done
按照以上几个步骤调整后,插入速度必会有大幅度的提高。
4、mysql和source效率比较
在sql文件较小的情况下,source速度比mysql高,
在实际测试导入时,5个合计25M的sql文件,mysql命令的速度比source要快2秒(我自己的测试,不代表普遍的结果),
可以粗略得出,在导入大的sql文件时,建议使用mysql命令。
以上既是MySQL高效导入多个.sql文件的方法,希望能帮助到大家
来源:https://www.awaimai.com/2382.html


猜你喜欢
- 安装文件准备:安装文件下载地址python-2.6.2.msihttp://www.python.org/download/wxPython
- 本文实例总结了MySQL数据库优化技术的索引用法。分享给大家供大家参考,具体如下:这里紧接上一篇《MySQL数据库优化技术之配置技巧总结》,
- 一、类的定义和使用python定义一个类的基本语法是:class classname([基类一,基类二...]): &
- 例如输入:['adam', 'LISA', 'barT'],输出:['Adam
- 本文实例讲述了MySQL触发器简单用法。分享给大家供大家参考,具体如下:mysql触发器和存储过程一样,是嵌入到mysql的一段程序,触发器
- 一. 通过 ConfigProto 设置多线程 (具体参数功能及描述见 tensorflow/core/protobuf/config.pr
- <!DOCTYPE HTML PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN&
- 1、爬取目标网站:业绩预告_数据中心_同花顺财经(ps:headers不会设置的可以看这篇:Python 用requests.get获取网页
- 如果电脑是第一次安装MySQL,一般不会出现这样的报错。如下图所示。starting the server失败,通常是因为上次安装的该软件未
- 本文实例讲述了Oracle例外用法。分享给大家供大家参考,具体如下:一、例外分类oracle将例外分为预定义例外、非预定义例外和自定义例外三
- 在 Python 2.5 中, with 关键字被加入。它将常用的 try ... except ... finally ... 模式很方便
- 本文实例讲述了python实现比较两段文本不同之处的方法。分享给大家供大家参考。具体实现方法如下:# find the difference
- 项目中要对短文本进行相似度估计,word2vec是一个很火的工具。本文就word2vec的训练以及加载进行了总结。word2vec的原理就不
- 一、环境pip install opencv-pythonpython3.9pycharm2020人狠话不多,直接上代码,注释在代码里面,不
- 项目演示:一、输入金额二、跳转到支付宝付款三、支付成功四、跳转回自己网站在使用支付宝接口的前期准备:1、支付宝公钥2、应用公钥3、应用私钥4
- 复合主键:create table index_test( a int not null, &nbs
- 根据网上的一些说法,在python里获取ms级系统时间可以通过以下方式获取:import datetimeprint(datetime.da
- 一、创建多对多1.学生表create table students ( id int not null primary
- 学习前言……又看了很久的SSD算法,今天讲解一下训练部分的代码。预测部分的代码可以参照https
- 谈到“登录”,大多数人脑海中会立刻浮现出那个“两小框:一用户名,一密码,外加一按钮”的经典豆腐块, 这样的功能模块在互联网上屡见不鲜, 成为