问题:
xxx@3023 14:51:26>insert into test_tmp_log_node_10445__01 select * from test;
error 1062 (23000): duplicate entry ‘taobao|维西v’ for key ‘idx_nodetemp_10445_01’
查看表结构:
create table `test` (
`user_id` varchar(64) character set utf8 collate utf8_bin not null comment ‘主键。客户全局统一id,由客户统一id生成规则生成’,
`control_group_type` int(2) not null default ‘0’
) engine=innodb default charset=utf8;
create table `test_tmp_log_node_10445__01` (
`user_id` varchar(64) default null,
`control_group_type` tinyint(4) default null,
unique key `idx_nodetemp_10445_01` (`user_id`)
bakdb_jwswg888@3023 15:49:38>select count(user_id),count(*),count(distinct user_id) from test;
+—————-+———-+————————-+
| count(user_id) | count(*) | count(distinct user_id) |
| 1700241 | 1700241 | 1700241 |
可以看到对user_id做统计,user_id的数据是唯一,但是为什么在插入到test_tmp_log_node_10445__01中报主键冲突喃?
我们来看看test表中类似‘维西v’的数据:
bakdb_jwswg888@3023 15:31:28>select * from t1 where user_id like ‘%维西%’;
+———————+——————–+
| user_id | control_group_type |
| taobao|vici维西 | -1 |
| taobao|化雨维西 | -1 |
| taobao|维西v | -1 |
| taobao|胡维西 | -1 |
可以看到test表确实有两条’taobao|维西v’的数据,所以插入到test_tmp_log_node_10445__01中报主键冲突了,那为什么user_id distinct值和sum是相同的?对test表添加唯一索引验证一下:
bakdb_jwswg888@3023 15:56:22>alter table test add unique key uk_userid(user_id);
query ok, 0 rows affected (20.38 sec)
records: 0 duplicates: 0 warnings: 0
可以看到test表示是可以在user_id上面添加唯一索引的,则证明在test中user_id的确是唯一的,但在插入到test_tmp_log_node_10445__01中就冲突,那里出了问题?
这里看到test中user_id字段的字符集有些异常:character set utf8 collate utf8_bin,而test_tmp_log_node_10445__01中user_id字段的字符集则没有明显指定,难道是这里有问题?
bakdb_jwswg888@3023 15:29:48>create table t1 (user_id varchar(64),control_group_type int);
query ok, 0 rows affected (0.05 sec)
bakdb_jwswg888@3023 15:30:35>insert into t1 select * from test;
query ok, 1700241 rows affected (17.39 sec)
records: 1700241 duplicates: 0 warnings: 0
bakdb_jwswg888@3023 15:31:02>select count(user_id),count(*),count(distinct user_id) from t1;
| 1700241 | 1700241 | 1700240 |
哇哦,可以看到新创建的t1表中user_id已经出现了重复数据了,在仔细发现:
可以看到一个是“v”,一个是小“v”,原来是大小写的问题,在test表中指定了utf8_bin字符集 ,该字符集是区分大小写的:
utf8_general_ci 不区分大小写
utf8_general_cs 区分大小写
utf8_bin: 将字符串每个字符串用二进制数据编译存储, 区分大小写,而且可以存二进制的内容
所以在创建test_tmp_log_node_10445__01表的时候指定一下user_id列的属性为:user_id varchar(64) binary则可以区分大小写。