MySQL数据库中数据库移植中的乱码问题
时间：2008-04-01 来源：剑心通明
mysql移植含有中文的数据时，很容易出现乱码问题。很多是在从mysql4.x向mysql5.x移植的时候出现。mysql的缺省字符集是latin1，在使用mysql4.x的时候，很多人都是用的latin1字符集。而当使用mysql5时往往愿意使用utf8。那么我们的任务是不是要把数据中的字符从latin1转为utf8呢？ e}[G1*!Q
不是的。 s>)O38
用一句不大准确，但又比较形象的说法是，在之前的系统中，我们是用latin1保存了使用gb系列字符集（gbk、gb2312等）的汉字。怎么这样说呢？ WK#y{6lWi
C'hk?rW
mysql> show create table test\G #7s<?6pu
*************************** 1. row *************************** -{<[
Table: test 8 h% 0=O{
Create Table: CREATE TABLE `test` ( ' ,(:c
`a` varchar(100) default NULL ?>`A7 K
) ENGINE=InnoDB DEFAULT CHARSET=utf8 !b7KQGmWx
1 row in set (0.00 sec) _ 1B$#
"kVbfv,F
mysql> show create table testlatin1\G /sL\dN1h;y
*************************** 1. row *************************** Uf| lIlH
Table: testlatin1 H(}#bd$
Create Table: CREATE TABLE `testlatin1` ( Zl"H};)V
`a` varchar(100) default NULL s5|XfL5
) ENGINE=InnoDB DEFAULT CHARSET=latin1 PRGQ;$s7
1 row in set (0.01 sec) IHXt< *
n%,17;o{
我们看到这两个表有不同的缺省字符集。此字符集是告诉我们，如果没有特别指定列的字符集，那么字符类型列的字符集与表的缺省字符集一样。 s#P3lgmu^
< M B-X6
列的字符集是要告诉mysql，这里面保存的字符所使用的字符集是什么。但到底保存的是什么字符集的字符，不由mysql决定，mysql也不进行检查。 /Ze7*=Ho
! '1r^U U
在utf8广泛使用之前，我们使用的汉字都是GB系列的字符集，比如GB2312、GBK、GB18030等等。 A,Ta2Bh
lW}"S3Q
在缺省字符集为latin1的mysql中，我们通常就把GB字符集的汉字保存到数据库中，但是却告诉mysql那是latin1字符集。而GB字符集是一个汉字占两个字节，latin1是一个字符占一个字节。也就是说一个GB汉字被当成两个latin1字符来保存了。这让我想起了当初的iso8859_1，也是类似的情况。只要我们保存和读取时都当作latin1，不进行转换，然后在显示时当作gb字符集，就能够正确使用。 @WNO_B#j
<q6rLB`1b
那么怎么把latin1保存的汉字正确地导到utf8字符集的数据库中呢？ `6$Z%
\Sm)Q(B;p
首先，新的数据库中的列，要使用utf8字符集。一种办法是创建database时指定缺省字符集，这样在建表时如果不指定字符集则使用database的缺省字符集。 D38dS`p8
t(J =+XE
导出的数据要以latin1字符集导出，实际上就是告诉mysql导出时不做转换（因为原有的表都是latin1字符集的）。 zB60
V5n#&H=b
mysqldump出来以后，再用mysql进行导入时，还要告诉mysql，当前的数据是gb系列的字符集，比如gbk。这样，mysql负责把数据由gbk转换为utf8，保存到数据库中。 LRc3'!
mE"=SJKzW
如何告诉mysql导入的SQL是什么字符集呢，一种方法是用--default-character-set，但有时会起不到实际作用。这是因为mysqldump出来的文件里有set names语句。比如： otI'N;-<
E98`x=f
head EA192.060913.sql e|hiD
s72G#6K
-- MySQL dump 10.10 tX +i.\
-- hql/x{=
-- Host: localhost Database: EA192 O$^!Y|$HU
-- ------------------------------------------------------ oc+A,axi
-- Server version 5.0.16-standard-log 8B3x@/K Q3
P\Q!}L#%
/*!40101 SET @OLD_CHARACTER_SET_CLIENT=@@CHARACTER_SET_CLIENT */; 0&SO?~vc
/*!40101 SET @OLD_CHARACTER_SET_RESULTS=@@CHARACTER_SET_RESULTS */; j^T6;V=
/*!40101 SET @OLD_COLLATION_CONNECTION=@@COLLATION_CONNECTION */; 6J|+lwYy
/*!40101 SET NAMES latin1 */; Lx yKB<
=+:kTT
/*! */是mysql特有有句法，在其他数据库会被当成注释忽略掉。/*!后面的 40101是表示版本，在4.1.1及以上版才执行该条语句。 !>)h|rT,v
-Xf&?RTA
这里看到有一条SET NAMES latin1。它的一个作用是告诉mysql，客户端传过去的数据是latin1字符集。因为有这样一条SET NAMES，--default-character-set也就起不到作用了。如果不幸有这样一条SQL，那么需要把它去掉或者改成SET NAMES gbk。修改或者删除的办法，当数据量比较大的时候，可以用head和tail来配合。比如还是上面的那个文件： ,{3n<jZ
%]y!C#VX
先用head看一下SET NAMES在第几行（数一下），上面看到是第10行。 [sR*Ib`fw
( 'a>%4[
wc -l EA192.060913.sql OAj 4`}I!
1987 EA192.060913.sql EObDD 68M
得到总行数是1987 M qtK`^
K}| o9R
head -9 EA192.060913.sql > final.sql Sy =%YSM
brum@brum-laptop:~$ tail -1977 EA192.060913.sql >> final.sql n"* @]vju
brum@brum-laptop:~$ 3uX jo
head -9是取前9行，tail -1977是取后1977行，这样就把第10行隔过去了。 BoT}7Wxw
>? n(U7;c
得到final.sql再用mysql运行时，就可以使用--default-character-set=gbk了。 ;rB|?H
CEE%orT7
还有一种办法是mysqldump时使用--set-charset=false，这样就不会出现SET NAMES了。 ) Z `_
AfbEM+YT
目前为止，还可能有问题，出在create table的SQL中，比如： C/ i7xT^`
%W C4Wj
DROP TABLE IF EXISTS `test`; wro|"M\5e
CREATE TABLE `test` ( ~ ].8s
`a` varchar(100) default NULL P p ( 7p]
) ENGINE=InnoDB DEFAULT CHARSET=latin1; Wx%cpn6
OhN VgQ
这里仍然有个CHARSET=latin1，它将导致新创建的表的缺省字符集是latin1，而不是我们想要的utf8。 m# 2[ t
jc}; \k^
怎么办呢，如果数据量不大的话，可以考虑用编辑器把它去掉或者改成utf8，如果数据量大的话可以考虑用sed，但可能仍然时间比较长。 B r=kLIKM
wJZ-h]#
还有一种办法就是mysqldump，使用--create-options=false，不导出表的创建属性。但如果导出的表的存储引擎不同的话就有问题了，因为引擎类型（innodb、myisam等）都被忽略了。 az|jJ~*Eg
\kF [
此外，mysqldump导出时，不要使用-B，而是直接指定一个database名字，目的是不出现CREATE DATABASE语句，因为其中也可能会有缺省字符集的子句，会影响那些未在CREATE TABLE中指定字符集的表。如果你导出的SQL中有CREATE DATABASE，那么需要注意一下有没有字符集的子句，如果有的话，也需要修改。 j^`o>0#
L?)fWJ(
好了，通过上述方法导出或者处理过的导出文件可以使用mysql --default-character-set=gbk来导入了。 "2|~b<$DKS
&#W?\y/U
今天有一哥们并没有碰到如此复杂的情况，只是用mysqldump从4.1中导出，再在5.0中导入，导入的时候指定--default-character-set=gb2312就行了。我想那是因为导出的文件中没有我前面说那些问题。 P7@B*t S
kWj2#zK,
是不是有几十个G或者更多的数据等着你移植，而且恰巧有字符集问题？祝你好运吧！
不是的。 s>)O38
用一句不大准确，但又比较形象的说法是，在之前的系统中，我们是用latin1保存了使用gb系列字符集（gbk、gb2312等）的汉字。怎么这样说呢？ WK#y{6lWi
C'hk?rW
mysql> show create table test\G #7s<?6pu
*************************** 1. row *************************** -{<[
Table: test 8 h% 0=O{
Create Table: CREATE TABLE `test` ( ' ,(:c
`a` varchar(100) default NULL ?>`A7 K
) ENGINE=InnoDB DEFAULT CHARSET=utf8 !b7KQGmWx
1 row in set (0.00 sec) _ 1B$#
"kVbfv,F
mysql> show create table testlatin1\G /sL\dN1h;y
*************************** 1. row *************************** Uf| lIlH
Table: testlatin1 H(}#bd$
Create Table: CREATE TABLE `testlatin1` ( Zl"H};)V
`a` varchar(100) default NULL s5|XfL5
) ENGINE=InnoDB DEFAULT CHARSET=latin1 PRGQ;$s7
1 row in set (0.01 sec) IHXt< *
n%,17;o{
我们看到这两个表有不同的缺省字符集。此字符集是告诉我们，如果没有特别指定列的字符集，那么字符类型列的字符集与表的缺省字符集一样。 s#P3lgmu^
< M B-X6
列的字符集是要告诉mysql，这里面保存的字符所使用的字符集是什么。但到底保存的是什么字符集的字符，不由mysql决定，mysql也不进行检查。 /Ze7*=Ho
! '1r^U U
在utf8广泛使用之前，我们使用的汉字都是GB系列的字符集，比如GB2312、GBK、GB18030等等。 A,Ta2Bh
lW}"S3Q
在缺省字符集为latin1的mysql中，我们通常就把GB字符集的汉字保存到数据库中，但是却告诉mysql那是latin1字符集。而GB字符集是一个汉字占两个字节，latin1是一个字符占一个字节。也就是说一个GB汉字被当成两个latin1字符来保存了。这让我想起了当初的iso8859_1，也是类似的情况。只要我们保存和读取时都当作latin1，不进行转换，然后在显示时当作gb字符集，就能够正确使用。 @WNO_B#j
<q6rLB`1b
那么怎么把latin1保存的汉字正确地导到utf8字符集的数据库中呢？ `6$Z%
\Sm)Q(B;p
首先，新的数据库中的列，要使用utf8字符集。一种办法是创建database时指定缺省字符集，这样在建表时如果不指定字符集则使用database的缺省字符集。 D38dS`p8
t(J =+XE
导出的数据要以latin1字符集导出，实际上就是告诉mysql导出时不做转换（因为原有的表都是latin1字符集的）。 zB60
V5n#&H=b
mysqldump出来以后，再用mysql进行导入时，还要告诉mysql，当前的数据是gb系列的字符集，比如gbk。这样，mysql负责把数据由gbk转换为utf8，保存到数据库中。 LRc3'!
mE"=SJKzW
如何告诉mysql导入的SQL是什么字符集呢，一种方法是用--default-character-set，但有时会起不到实际作用。这是因为mysqldump出来的文件里有set names语句。比如： otI'N;-<
E98`x=f
head EA192.060913.sql e|hiD
s72G#6K
-- MySQL dump 10.10 tX +i.\
-- hql/x{=
-- Host: localhost Database: EA192 O$^!Y|$HU
-- ------------------------------------------------------ oc+A,axi
-- Server version 5.0.16-standard-log 8B3x@/K Q3
P\Q!}L#%
/*!40101 SET @OLD_CHARACTER_SET_CLIENT=@@CHARACTER_SET_CLIENT */; 0&SO?~vc
/*!40101 SET @OLD_CHARACTER_SET_RESULTS=@@CHARACTER_SET_RESULTS */; j^T6;V=
/*!40101 SET @OLD_COLLATION_CONNECTION=@@COLLATION_CONNECTION */; 6J|+lwYy
/*!40101 SET NAMES latin1 */; Lx yKB<
=+:kTT
/*! */是mysql特有有句法，在其他数据库会被当成注释忽略掉。/*!后面的 40101是表示版本，在4.1.1及以上版才执行该条语句。 !>)h|rT,v
-Xf&?RTA
这里看到有一条SET NAMES latin1。它的一个作用是告诉mysql，客户端传过去的数据是latin1字符集。因为有这样一条SET NAMES，--default-character-set也就起不到作用了。如果不幸有这样一条SQL，那么需要把它去掉或者改成SET NAMES gbk。修改或者删除的办法，当数据量比较大的时候，可以用head和tail来配合。比如还是上面的那个文件： ,{3n<jZ
%]y!C#VX
先用head看一下SET NAMES在第几行（数一下），上面看到是第10行。 [sR*Ib`fw
( 'a>%4[
wc -l EA192.060913.sql OAj 4`}I!
1987 EA192.060913.sql EObDD 68M
得到总行数是1987 M qtK`^
K}| o9R
head -9 EA192.060913.sql > final.sql Sy =%YSM
brum@brum-laptop:~$ tail -1977 EA192.060913.sql >> final.sql n"* @]vju
brum@brum-laptop:~$ 3uX jo
head -9是取前9行，tail -1977是取后1977行，这样就把第10行隔过去了。 BoT}7Wxw
>? n(U7;c
得到final.sql再用mysql运行时，就可以使用--default-character-set=gbk了。 ;rB|?H
CEE%orT7
还有一种办法是mysqldump时使用--set-charset=false，这样就不会出现SET NAMES了。 ) Z `_
AfbEM+YT
目前为止，还可能有问题，出在create table的SQL中，比如： C/ i7xT^`
%W C4Wj
DROP TABLE IF EXISTS `test`; wro|"M\5e
CREATE TABLE `test` ( ~ ].8s
`a` varchar(100) default NULL P p ( 7p]
) ENGINE=InnoDB DEFAULT CHARSET=latin1; Wx%cpn6
OhN VgQ
这里仍然有个CHARSET=latin1，它将导致新创建的表的缺省字符集是latin1，而不是我们想要的utf8。 m# 2[ t
jc}; \k^
怎么办呢，如果数据量不大的话，可以考虑用编辑器把它去掉或者改成utf8，如果数据量大的话可以考虑用sed，但可能仍然时间比较长。 B r=kLIKM
wJZ-h]#
还有一种办法就是mysqldump，使用--create-options=false，不导出表的创建属性。但如果导出的表的存储引擎不同的话就有问题了，因为引擎类型（innodb、myisam等）都被忽略了。 az|jJ~*Eg
\kF [
此外，mysqldump导出时，不要使用-B，而是直接指定一个database名字，目的是不出现CREATE DATABASE语句，因为其中也可能会有缺省字符集的子句，会影响那些未在CREATE TABLE中指定字符集的表。如果你导出的SQL中有CREATE DATABASE，那么需要注意一下有没有字符集的子句，如果有的话，也需要修改。 j^`o>0#
L?)fWJ(
好了，通过上述方法导出或者处理过的导出文件可以使用mysql --default-character-set=gbk来导入了。 "2|~b<$DKS
&#W?\y/U
今天有一哥们并没有碰到如此复杂的情况，只是用mysqldump从4.1中导出，再在5.0中导入，导入的时候指定--default-character-set=gb2312就行了。我想那是因为导出的文件中没有我前面说那些问题。 P7@B*t S
kWj2#zK,
是不是有几十个G或者更多的数据等着你移植，而且恰巧有字符集问题？祝你好运吧！
相关阅读 更多 +
