MySQL 중복 데이터 처리

일부 MySQL 데이터 테이블에는 중복 기록이 있을 수 있습니다. 일부 경우에서는 중복 데이터가 존재할 수 있지만, 때로는 이러한 중복 데이터를 제거해야 할 필요가 있습니다.

이 장에서는 데이터 테이블에 중복 데이터가 발생하지 않도록 방지하고, 데이터 테이블에서 중복 데이터를 지우는 방법을 소개하겠습니다.

테이블에 중복 데이터가 발생하지 않도록 방지합니다.

MySQL 데이터베이스에서 특정 필드를 설정할 수 있습니다. PRIMARY KEY(주키) 또는 UNIQUE(유일) 인덱스를 통해 데이터의 유일성을 보장합니다.

다음 테이블은 인덱스 및 주키가 없기 때문에, 여러 중복 기록이 나타날 수 있습니다.

CREATE TABLE person_tbl
(
　　　　first_name CHAR(20),
　　　　last_name CHAR(20),
　　　　sex CHAR(10)
);

表中의 first_name, last_name 데이터가 중복되지 않도록 설정하려면, 데이터의 유일성을 설정하기 위해 양측 주키 모드를 설정할 수 있습니다. 양측 주키를 설정하면, 해당 키의 기본 값은 NULL이 될 수 없으며 NOT NULL로 설정할 수 있습니다. 다음과 같이 보입니다:

CREATE TABLE person_tbl
(
　　　first_name CHAR(20) NOT NULL,
　　　last_name CHAR(20) NOT NULL,
　　　sex CHAR(10),
　　　PRIMARY KEY (last_name, first_name)
);

유일한 인덱스를 설정하면, 중복 데이터를 삽입할 때 SQL 문이 성공적으로 실행되지 않고 오류가 발생합니다.

INSERT IGNORE INTO와 INSERT INTO의 차이는 INSERT IGNORE INTO가 데이터베이스에 이미 존재하는 데이터를 무시하는 것입니다. 데이터베이스에 데이터가 없으면 새로운 데이터를 삽입하고, 데이터가 있으면 이 데이터를 건너뜁니다. 이렇게 하면 데이터베이스에 이미 존재하는 데이터를 유지하고 데이터 간의 간격에 데이터를 삽입하는 목적을 달성할 수 있습니다.

以下示例使用了 INSERT IGNORE INTO，执行后不会出错，也不会向数据表中插入重复数据：

mysql> INSERT IGNORE INTO person_tbl (last_name, first_name)
　　　　-> VALUES('Jay', 'Thomas');
Query OK,　1　row affected (0.00 sec)
mysql> INSERT IGNORE INTO person_tbl (last_name, first_name)
　　　　-> VALUES('Jay', 'Thomas');
Query OK, 0 rows affected (0.00 sec)

INSERT IGNORE INTO 当插入数据时，在设置了记录的唯一性后，如果插入重复数据，将不返回错误，只以警告形式返回。 而 REPLACE INTO 如果存在 primary 或 unique 相同的记录，则先删除掉。再插入新记录。

另一种设置数据的唯一性方法是添加一个 UNIQUE 索引，如下所示：

CREATE TABLE person_tbl
(
　　　first_name CHAR(20) NOT NULL,
　　　last_name CHAR(20) NOT NULL,
　　　sex CHAR(10),
　　　UNIQUE (last_name, first_name)
);

统计重复数据

以下我们将统计表中 first_name 和 last_name的重复记录数：

mysql> SELECT COUNT(*) as repetitions, last_name, first_name
　　　　-> FROM person_tbl
　　　　-> GROUP BY last_name, first_name
　　　　-> HAVING repetitions >　1;

以上查询语句将返回 person_tbl 表中重复的记录数。 一般情况下，查询重复的值，请执行以下操作：

• 确定哪一列包含的值可能会重复。

• 在列选择列表使用COUNT(*)列出的那些列。

• 在GROUP BY子句中列出的列。

• HAVING子句设置重复数大于1。

过滤重复数据

如果你需要读取不重复的数据可以在 SELECT 语句中使用 DISTINCT 关键字来过滤重复数据。

mysql> SELECT DISTINCT last_name, first_name
　　　　-> FROM person_tbl;

你还可以使用 GROUP BY 来读取数据表中不重复的数据：

mysql> SELECT last_name, first_name
　　　　-> FROM person_tbl
　　　　-> GROUP BY (last_name, first_name);

중복 데이터 제거

데이터 테이블에서 중복 데이터를 제거하려면 다음과 같은 SQL 문을 사용할 수 있습니다:

mysql> CREATE TABLE tmp SELECT last_name, first_name, sex FROM person_tbl GROUP BY (last_name, first_name, sex);
mysql> DROP TABLE person_tbl;
mysql> ALTER TABLE tmp RENAME TO person_tbl;

물론 데이터 테이블에서 중복 데이터를 제거하기 위해 INDEX(인덱스)와 PRIMAY KEY(주키)를 추가하는 이렇게 간단한 방법도 있습니다. 방법은 다음과 같습니다:

mysql> ALTER IGNORE TABLE person_tbl;
　　　　-> ADD PRIMARY KEY (last_name, first_name);