美团面试题：MySql批量插入时，如何不插入重复的数据？

淩亂°似流年 2022-10-09 14:30 141阅读 0赞

业务很简单：需要批量插入一些数据，数据来源可能是其他数据库的表，也可能是一个外部excel的导入

那么问题来了，是不是每次插入之前都要查一遍，看看重不重复，在代码里筛选一下数据，重复的就过滤掉呢？

向大数据数据库中插入值时，还要判断插入是否重复，然后插入。如何提高效率看来这个问题不止我一个人苦恼过。

解决的办法有很多种，不同的场景解决方案也不一样，数据量很小的情况下，怎么搞都行，但是数据量很大的时候，这就不是一个简单的问题了。

几百万的数据，不可能查出来，做去重处理

说一下我Google到的解决方案

### 1、insert ignore into ###

当插入数据时，如出现错误时，如重复数据，将不返回错误，只以警告形式返回。所以使用ignore请确保语句本身没有问题，否则也会被忽略掉。例如：

INSERT IGNORE INTO user (name) VALUES (‘telami’)  
这种方法很简便，但是有一种可能，就是插入不是因为重复数据报错，而是因为其他原因报错的，也同样被忽略了～

### 2、on duplicate key update ###

当primary或者unique重复时，则执行update语句，如update后为无用语句，如id=id，则同1功能相同，但错误不会被忽略掉。

例如，为了实现name重复的数据插入不报错，可使用一下语句：

INSERT INTO user (name) VALUES (‘telami’) ON duplicate KEY UPDATE id = id

这种方法有个前提条件，就是，需要插入的约束，需要是主键或者唯一约束（在你的业务中那个要作为唯一的判断就将那个字段设置为唯一约束也就是unique key）。

### 3、insert … select … where not exist ###

根据select的条件判断是否插入，可以不光通过primary 和unique来判断，也可通过其它条件。例如：

INSERT INTO user (name) SELECT ‘telami’ FROM dual WHERE NOT EXISTS (SELECT id FROM user WHERE id = 1)

这种方法其实就是使用了mysql的一个临时表的方式，但是里面使用到了子查询，效率也会有一点点影响，如果能使用上面的就不使用这个。

### 4、replace into ###

如果存在primary or unique相同的记录，则先删除掉。再插入新记录。

REPLACE INTO user SELECT 1, ‘telami’ FROM books

这种方法就是不管原来有没有相同的记录，都会先删除掉然后再插入。

实践

选择的是第二种方式

<insert id="batchSaveUser" parameterType="list">        insert into user (id,username,mobile_number)        values        <foreach collection="list" item="item" index="index" separator=",">            (                #{item.id},                #{item.username},                #{item.mobileNumber}            )        </foreach>        ON duplicate KEY UPDATE id = id    </insert>

这里用的是Mybatis，批量插入的一个操作，mobile\_number已经加了唯一约束。这样在批量插入时，如果存在手机号相同的话，是不会再插入了的。

了解更多数据库知识，点击全文链接：[www.shulanxt.com/doc/mysqldoc/mtmst][www.shulanxt.com_doc_mysqldoc_mtmst]

[www.shulanxt.com_doc_mysqldoc_mtmst]: https://www.shulanxt.com/doc/mysqldoc/mtmst

发表评论取消回复

表情：

评论列表（有 0 条评论，141人围观）

还没有评论，来说两句吧...

相关阅读

相关 MySQL 批量插入，如何不插入重复数据？根据条件 MyBatis不插入重复数据

目录前言解决方案 1、insert ignore into 2、on duplicate key update 3、insert … select … where

小灰灰/ 2024年03月31日 13:03/ 0 赞/ 73 阅读

相关常见数据库批量插入，如何不插入重复数据？Mysql 4 种方式避免重复插入数据！

最常见的方式就是为字段设置主键或唯一索引，当插入重复数据时，抛出错误，程序终止，但这会给后续处理带来麻烦，因此需要对插入语句做特殊处理，尽量避开或忽略异常，下面我简单介绍一下，

冷不防/ 2023年10月14日 17:21/ 0 赞/ 38 阅读

相关 MySQL批量插入不一样的数据

DELIMITER // CREATE PROCEDURE callback() begin declare num int;

Love The Way You Lie/ 2022年12月27日 14:17/ 0 赞/ 137 阅读

相关插入不重复的数据

insert into user (name, phone) select from (select '张三', 13088888888) a

╰半夏微凉°/ 2022年12月08日 14:26/ 0 赞/ 184 阅读

相关 mysql插入数据写法_mysql 批量插入数据

MySQL使用INSERT插入多条记录，应该如何操作呢？下面就为您详细介绍MySQL使用INSERT插入多条记录的实现方法，供您参考。看到这个标题也许大家会问，这有什么好说

谁践踏了优雅/ 2022年10月24日 11:50/ 0 赞/ 261 阅读

相关 MySQL 批量插入，如何不插入重复数据？

![0D5F937FE12312312D81F17F.jpg][] 程序员的成长之路互联网/程序员/技术/资料共享 [关注][Link 1] 阅读本文大概需要 2.

淩亂°似流年/ 2022年10月16日 11:27/ 0 赞/ 240 阅读

相关 SQL批量插入—针对重复数据插入的总结

文章目录 1. 需求分析 2. on duplicate key update （1）说明（2）示例

一时失言乱红尘/ 2022年10月10日 01:45/ 0 赞/ 403 阅读

相关美团面试题：MySql批量插入时，如何不插入重复的数据？

业务很简单：需要批量插入一些数据，数据来源可能是其他数据库的表，也可能是一个外部excel的导入那么问题来了，是不是每次插入之前都要查一遍，看看重不重复，在代码里筛选一下数

淩亂°似流年/ 2022年10月09日 14:30/ 0 赞/ 142 阅读

相关 MySQL 批量插入：如何不插入重复数据？

> 向大数据数据库中插入值时，还要判断插入是否重复，然后插入。如何提高效率 1、insert ignore into > 当插入数据时，如出现错误时，如重复数据，将不返

绝地灬酷狼/ 2022年09月09日 09:16/ 0 赞/ 268 阅读

相关 MySQL 批量插入：如何不插入重复数据？

知识这个东西，看来真的要温故而知新，一直不用，都要忘记了???? 业务很简单：需要批量插入一些数据，数据来源可能是其他数据库的表，也可能是一个外部excel的导入那

不念不忘少年蓝@/ 2021年09月08日 13:30/ 0 赞/ 590 阅读