mysql 批量insert效率_ＭySQL批量insert效率对比

以你之姓@ 2023-01-11 13:15 150阅读 0赞

ＭySQL批量insert效率对比

事例如下:

\[root@BDMYSQL-200-104 dumpdir\]\# more phone\_area\_new.sql

INSERT INTO \`phone\_area\_new\` VALUES ('1302357', '江苏省', '江苏-南通', '南通');

INSERT INTO \`phone\_area\_new\` VALUES ('1302358', '江苏省', '江苏-南通', '南通');

INSERT INTO \`phone\_area\_new\` VALUES ('1302359', '江苏省', '江苏-南通', '南通');

INSERT INTO \`phone\_area\_new\` VALUES ('1302360', '浙江省', '浙江杭州', '杭州');

INSERT INTO \`phone\_area\_new\` VALUES ('1302361', '浙江省', '浙江杭州', '杭州');

INSERT INTO \`phone\_area\_new\` VALUES ('1302362', '浙江省', '浙江杭州', '杭州');

INSERT INTO \`phone\_area\_new\` VALUES ('1302363', '浙江省', '浙江杭州', '杭州');

INSERT INTO \`phone\_area\_new\` VALUES ('1302364', '浙江省', '浙江杭州', '杭州');

INSERT INTO \`phone\_area\_new\` VALUES ('1302365', '浙江省', '浙江杭州', '杭州');

INSERT INTO \`phone\_area\_new\` VALUES ('1302366', '浙江省', '浙江杭州', '杭州');

INSERT INTO \`phone\_area\_new\` VALUES ('1301743', '贵州省', '贵州-贵阳', '贵阳');

INSERT INTO \`phone\_area\_new\` VALUES ('1301744', '贵州省', '贵州-安顺', '安顺');

INSERT INTO \`phone\_area\_new\` VALUES ('1301745', '贵州省', '贵州-贵阳', '贵阳');

INSERT INTO \`phone\_area\_new\` VALUES ('1301746', '贵州省', '贵州-贵阳', '贵阳');

INSERT INTO \`phone\_area\_new\` VALUES ('1301747', '贵州省', '贵州-贵阳', '贵阳');

INSERT INTO \`phone\_area\_new\` VALUES ('1301748', '贵州省', '贵州-贵阳', '贵阳');

INSERT INTO \`phone\_area\_new\` VALUES ('1301749', '贵州省', '贵州-遵义', '遵义');

INSERT INTO \`phone\_area\_new\` VALUES ('1301750', '河南省', '河南-焦作', '焦作');

\--More--(0%)

行数大概有271255行:

\[root@BDMYSQL-200-104 dumpdir\]\# wc -l phone\_area\_new.sql

271255 phone\_area\_new.sql

如果不合并insert大概需要３个小时左右才导入完,这样很悲剧，现在我们针对合并数量进行对比

1. 全并1000条数据

首先进行文本处理

\[root@BDMYSQL-200-104 dumpdir\]\# sed ':a;N;s/;\\r\\?\\n\[^(\]\*/,/;0~1000!ba' phone\_area\_new.sql >mm.sql

清除表中数据

system@localhost 21:01: \[netdata\]> truncate table phone\_area\_new;

Query OK, 0 rows affected (0.20 sec)

测试导入数据

\[root@BDMYSQL-200-104 dumpdir\]\# time mysql netdata

real 0m19.028s

user 0m0.155s

sys 0m0.008s

速度惊人,尽然只需要19S

2. 全并5000条数据

操作之前需要清理数据

system@localhost 21:01: \[netdata\]> truncate table phone\_area\_new;

Query OK, 0 rows affected (0.20 sec)

合并数据

\[root@BDMYSQL-200-104 dumpdir\]\# sed ':a;N;s/;\\r\\?\\n\[^(\]\*/,/;0~5000!ba' phone\_area\_new.sql >mm.sql

测试导入数据

\[root@BDMYSQL-200-104 dumpdir\]\# time mysql netdata

real 0m8.634s

user 0m0.151s

sys 0m0.008s

竟然只要8S，还能不能更快

2. 全并7000条数据

操作之前需要清理数据

system@localhost 22:16: \[netdata\]> truncate table phone\_area\_new;

Query OK, 0 rows affected (0.24 sec)

合并数据

\[root@BDMYSQL-200-104 dumpdir\]\# sed ':a;N;s/;\\r\\?\\n\[^(\]\*/,/;0~7000!ba' phone\_area\_new.sql >mm.sql

注释这里做合并花了十几秒

导入数据

\[root@BDMYSQL-200-104 dumpdir\]\# time mysql netdata

real 0m7.290s

user 0m0.146s

sys 0m0.011s

7S，还能不能更快

2. 全并8000条数据

操作之前需要清理数据

system@localhost 22:20: \[netdata\]> truncate table phone\_area\_new;

Query OK, 0 rows affected (0.20 sec)

合并数据

\[root@BDMYSQL-200-104 dumpdir\]\# sed ':a;N;s/;\\r\\?\\n\[^(\]\*/,/;0~8000!ba' phone\_area\_new.sql >mm.sql

导入数据

\[root@BDMYSQL-200-104 dumpdir\]\# time mysql netdata

real 0m7.477s

user 0m0.144s

sys 0m0.012s

总结：批量提交数跟硬件IO性能有很大关系，硬件ＩＯ越好批量提交数可以设置高点

mysql 批量insert效率_ＭySQL批量insert效率对比

发表评论取消回复

还没有评论，来说两句吧...

相关阅读

相关 MySQL提高批量insert的性能

相关 mysql 批量insert效率_ＭySQL批量insert效率对比

相关 mybatis批量更新数据三种方法效率对比【Mysql】

相关 Mybatis 批量insert

相关 MongoDB批量操作及与MySQL效率对比

相关 Mysql批量insert重复数据的处理

相关 mybatis 批量insert

相关 mybatis批量insert(Oracle+Mysql)

相关 Mysql千万级别数据批量插入insert

相关 mybatis批量新增和批量更新的效率对比