10分钟教你解决MySQL乱码问题
Vivian 2018-06-22 来源 : 阅读 828 评论 0

摘要:要了解为什么会出现乱码,我们就先要理解:从客户端发起请求,到MySQL存储数据,再到下次从表取回客户端的过程中,哪些环节会有编码/解码的行为,希望对大家学习MySQL有所帮助。

要了解为什么会出现乱码,我们就先要理解:从客户端发起请求,到MySQL存储数据,再到下次从表取回客户端的过程中,哪些环节会有编码/解码的行为,希望对大家学习MySQL有所帮助。。

  造成MySQL乱码的原因

  1. 存入和取出时对应环节的编码不一致

  这个会造成乱码是显而易见的。我们把存入阶段的三次编解码使用的字符集编号为C1,C2,C3(图一从左到右);取出时的三个字符集依次编号为C1’,C2’,C3’(从左到右)。那么存入的时候bash C1用的是UTF-8编码,取出的时候,C1'我们却使用了windows终端(默认是GBK编码),那么结果几乎一定是乱码。又或者存入MySQL的时候set names utf8(C2),而取出的时候却使用了set names gbk(C2'),那么结果也必然是乱码

  2. 单个流程中三步的编码不一致

  即上面任意一幅图中的同方向的三步中,只要两步或者两部以上的编码有不一致就有可能出现编解码错误。如果差异的两个字符集之间无法进行无损编码转换(下文会详细介绍),那么就一定会出现乱码。例如:我们的shell是UTF8编码,MySQL的character-set-client配置成了GBK,而表结构却又是charset=utf8,那么毫无疑问的一定会出现乱码。

  这里我们就简单演示下这种情况

  master [localhost] {msandbox} (test) > create table charset_test_utf8 (id int primary key auto_increment, char_col varchar(50)) charset = utf8; 

  Query OK, 0 rows affected (0.04 sec)

  master [localhost] {msandbox} (test) > set names gbk;

  Query OK, 0 rows affected (0.00 sec)

  master [localhost] {msandbox} (test) > insert into charset_test_utf8 (char_col) values ('中文');

  Query OK, 1 row affected, 1 warning (0.01 sec)

  master [localhost] {msandbox} (test) > show warnings; +---------+------+---------------------------------------------------------------------------+

  | Level | Code | Message |

  +---------+------+---------------------------------------------------------------------------+

  | Warning | 1366 | Incorrect string value: '\xAD\xE6\x96\x87' for column 'char_col' at row 1 |

  +---------+------+---------------------------------------------------------------------------+

  1 row in set (0.00 sec)

  master [localhost] {msandbox} (test) > select id,hex(char_col),char_col from charset_test_utf8;

  +----+----------------+----------+

  | id | hex(char_col) | char_col |

  +----+----------------+----------+ 

  | 1 | E6B6933FE69E83 | ???? |

  +----+----------------+----------+

  1 row in set (0.01 sec)

  关于MySQL的编/解码

  既然系统之间是按照二进制流进行传输的,那直接把这串二进制流直接存入表文件就好啦。为什么在存储之前还要进行两次编解码的操作呢?

  ·Client to Server的编解码的原因是MySQL需要对传来的二进制流做语法和词法解析。如果不做编码解析和校验,我们甚至没法知道传来的一串二进制流是insert还是update。

  ·File to Engine的编解码是为知道二进制流内的分词情况。举个简单的例子:我们想要从表里取出某个字段的前两个字符,执行了一句形如select left(col,2) from table的语句,存储引擎从文件读入该column的值是E4B8ADE69687。那么这个时候如果我们按照GBK把这个值分割成E4B8,ADE6,9687三个字,并那么返回客户端的值就应该是E4B8ADE6;如果按照UTF8分割成E4B8AD,E69687,那么就应该返回E4B8ADE69687两个字。可见,如果在从数据文件读入数据后,不进行编解码的话在存储引擎内部是无法进行字符级别的操作的。

  关于错进错出

  在MySQL中最常见的乱码问题的起因就是把错进错出神话。所谓的错进错出就是,客户端(web或shell)的字符编码和最终表的字符编码格式不同,但是只要保证存和取两次的字符集编码一致就仍然能够获得没有乱码的输出的这种现象。但是,错进错出并不是对于任意两种字符集编码的组合都是有效的。我们假设客户端的编码是C,MySQL表的字符集编码是S。那么为了能够错进错出,需要满足以下两个条件

  MySQL接收请求时,从C编码后的二进制流在被S解码时能够无损

  MySQL返回数据是,从S编码后的二进制流在被C解码时能够无损

  编码无损转换

  那么什么是有损转换,什么是无损转换呢?假设我们要把用编码A表示的字符X,转化为编码B的表示形式,而编码B的字形集中并没有X这个字符,那么此时我们就称这个转换是有损的。那么,为什么会出现两个编码所能表示字符集合的差异呢?如果大家看过博主之前的那篇 十分钟搞清字符集和字符编码,或者对字符编码有基础理解的话,就应该知道每个字符集所支持的字符数量是有限的,并且各个字符集涵盖的文字之间存在差异。UTF8和GBK所能表示的字符数量范围如下

  ·GBK单个字符编码后的取值范围是:8140 - FEFE 其中不包括**7E,总共字符数在27000左右

  在MySQL中存储的具体情况如下:

   master [localhost] {msandbox} (test) > create table charset_test_gbk (id int primary key auto_increment, char_col varchar(50)) charset = gbk;

   Query OK, 0 rows affected (0.00 sec)

   master [localhost] {msandbox} (test) > set names utf8;

   Query OK, 0 rows affected (0.00 sec)

   master [localhost] {msandbox} (test) > insert into charset_test_gbk (char_col) values ('?');

   Query OK, 1 row affected, 1 warning (0.01 sec)

   master [localhost] {msandbox} (test) > show warnings;

   +---------+------+-----------------------------------------------------------------------+

   | Level | Code | Message |

   +---------+------+-----------------------------------------------------------------------+

   | Warning | 1366 | Incorrect string value: '\xE0\xA8\x85' for column 'char_col' at row 1 |

   +---------+------+-----------------------------------------------------------------------+

   1 row in set (0.00 sec)

   master [localhost] {msandbox} (test) > select id,hex(char_col),char_col,char_length(char_col) from charset_test_gbk;

   +----+---------------+----------+-----------------------+

   | id | hex(char_col) | char_col | char_length(char_col) |

   +----+---------------+----------+-----------------------+

   | 1 | 3F | ? | 1 | 

   +----+---------------+----------+-----------------------+

   1 row in set (0.00 sec)

  可见MySQL内部如果无法找到一个UTF8字符所对应的GBK字符时,就会转换成一个错误mark(这里是问号)。而每个字符集在程序实现的时候内部都约定了当出现这种情况时的行为和转换规则。例如:UTF8中无法找到对应字符时,如果不抛错那么就将该字符替换成? (U+FFFD)

  那么是不是任何两种字符集编码之间的转换都是有损的呢?并非这样,转换是否有损取决于以下几点:

  ·被转换的字符是否同时在两个字符集中

  ·目标字符集是否能够对不支持字符,保留其原有表达形式

  关于第一点,刚才已经通过实验来解释过了。这里来解释下造成有损转换的第二个因素。从刚才的例子我们可以看到由于GBK在处理自己无法表示的字符时的行为是:用错误标识替代,即0x3F。而有些字符集(例如latin1)在遇到自己无法表示的字符时,会保留原字符集的编码数据,并跳过忽略该字符进而处理后面的数据。如果目标字符集具有这样的特性,那么就能够实现这节最开始提到的错进错出的效果。

  我们来看下面这个例子

   master [localhost] {msandbox} (test) > create table charset_test (id int primary key auto_increment, char_col varchar(50)) charset = latin1;

   Query OK, 0 rows affected (0.03 sec)

   master [localhost] {msandbox} (test) > set names latin1;

   Query OK, 0 rows affected (0.00 sec)

   master [localhost] {msandbox} (test) > insert into charset_test (char_col) values ('中文');

   Query OK, 1 row affected (0.01 sec)

   master [localhost] {msandbox} (test) > select id,hex(char_col),char_col from charset_test;

   +----+---------------+----------+

   | id | hex(char_col) | char_col |

   +----+---------------+----------+ 

   | 2 | E4B8ADE69687 | 中文 

   +----+---------------+----------+

   2 rows in set (0.00 sec)

  如何避免乱码

  理解了上面的内容,要避免乱码就显得很容易了。只要做到“三位一体”,即客户端,MySQL character-set-client,table charset三个字符集完全一致就可以保证一定不会有乱码出现了。而对于已经出现乱码,或者已经遭受有损转码的数据,如何修复相对来说就会有些困难。下一节我们详细介绍具体方法。

  如何修复已经编码损坏的数据

  在介绍正确方法前,我们先科普一下那些网上流传的所谓的“正确方法”可能会造成的严重后果。

  错误方法一

  无论从语法还是字面意思来看:ALTER TABLE ... CHARSET=xxx 无疑是最像包治乱码的良药了!而事实上,他对于你已经损坏的数据一点帮助也没有,甚至连已经该表已经创建列的默认字符集都无法改变。我们看下面这个例子

   master [localhost] {msandbox} (test) > show create table charset_test;

    +--------------+--------------------------------+ 

    | Table | Create Table |

    +--------------+--------------------------------+ 

    | charset_test | CREATE TABLE `charset_test` ( 

    `id` int(11) NOT NULL AUTO_INCREMENT, 

    `char_col` varchar(50) DEFAULT NULL, 

    PRIMARY KEY (`id`)

    ) ENGINE=InnoDB AUTO_INCREMENT=3 DEFAULT CHARSET=latin1 |

    +--------------+--------------------------------+ 

    1 row in set (0.00 sec)

    master [localhost] {msandbox} (test) > alter table charset_test charset=gbk;

    Query OK, 0 rows affected (0.03 sec)

    Records: 0 Duplicates: 0 Warnings: 0

    master [localhost] {msandbox} (test) > show create table charset_test;

    +--------------+--------------------------------+

    | Table | Create Table |

    +--------------+--------------------------------+

    | charset_test | CREATE TABLE `charset_test` (

    `id` int(11) NOT NULL AUTO_INCREMENT,

    `char_col` varchar(50) CHARACTER SET latin1 DEFAULT NULL,

    PRIMARY KEY (`id`) 

    ) ENGINE=InnoDB AUTO_INCREMENT=3 DEFAULT CHARSET=gbk |

    +--------------+--------------------------------+ 1 row in set (0.00 sec)

  可见该语法紧紧修改了表的默认字符集,即只对以后创建的列的默认字符集产生影响,而对已经存在的列和数据没有变化。

  错误方法二

  ALTER TABLE … CONVERT TO CHARACTER SET … 的相较于方法一来说杀伤力更大,因为从 官方文档的解释 他的作用就是用于对一个表的数据进行编码转换。下面是文档的一小段摘录:

  To change the table default character set and all character columns (CHAR, VARCHAR, TEXT) to a new character set, use a statement like this:

  ALTER TABLE tbl_name

  CONVERT TO CHARACTER SET charset_name [COLLATE collation_name];

  而实际上,这句语法只适用于当前并没有乱码,并且不是通过错进错出的方法保存的表。。而对于已经因为错进错出而产生编码错误的表,则会带来更糟的结果。我们用一个实际例子来解释下,这句SQL实际做了什么和他会造成的结果。假设我们有一张编码是latin1的表,且之前通过错进错出存入了UTF-8的数据,但是因为通过terminal仍然能够正常显示。即上文错进错出章节中举例的情况。一段时间使用后我们发现了这个错误,并打算把表的字符集编码改成UTF-8并且不影响原有数据的正常显示。这种情况下使用alter table convert to character set会有这样的后果:

   master [localhost] {msandbox} (test) > create table charset_test_latin1 (id int primary key auto_increment, char_col varchar(50)) charset = latin1;

   Query OK, 0 rows affected (0.01 sec)

   master [localhost] {msandbox} (test) > set names latin1;

   Query OK, 0 rows affected (0.00 sec)

   master [localhost] {msandbox} (test) > insert into charset_test_latin1 (char_col) values ('这是中文');

   Query OK, 1 row affected (0.01 sec)

   master [localhost] {msandbox} (test) > select id,hex(char_col),char_col,char_length(char_col) from charset_test_latin1;

   +----+--------------------------+--------------+-----------------------+

   | id | hex(char_col) | char_col | char_length(char_col) |

   +----+--------------------------+--------------+-----------------------+

   | 1 | E8BF99E698AFE4B8ADE69687 | 这是中文 | 12 |

   +----+--------------------------+--------------+-----------------------+

   1 row in set (0.01 sec)

   master [localhost] {msandbox} (test) > alter table charset_test_latin1 convert to character set utf8;

   Query OK, 1 row affected (0.04 sec)

   Records: 1 Duplicates: 0 Warnings: 0

   master [localhost] {msandbox} (test) > set names utf8;

   Query OK, 0 rows affected (0.00 sec) 

   master [localhost] {msandbox} (test) > select id,hex(char_col),char_col,char_length(char_col) from charset_test_latin1;

   +----+--------------------------------------------------------+-----------------------------+-----------------------+ 

   | id | hex(char_col) | char_col | char_length(char_col) |

   +----+--------------------------------------------------------+-----------------------------+-----------------------+

   | 1 | C3A8C2BFE284A2C3A6CB9CC2AFC3A4C2B8C2ADC3A6E28093E280A1 | è????ˉ??-?–? | 12 |

   +----+--------------------------------------------------------+-----------------------------+-----------------------+

   1 row in set (0.00 sec)

  从这个例子我们可以看出,对于已经错进错出的数据表,这个命令不但没有起到“拨乱反正”的效果,还会彻底将数据糟蹋,连数据的二进制编码都改变了。

  正确的方法一 Dump & Reload

  这个方法比较笨,但也比较好操作和理解。简单的说分为以下三步:

  通过错进错出的方法,导出到文件

  用正确的字符集修改新表

  将之前导出的文件导回到新表中

  还是用上面那个例子举例,我们用UTF-8将数据“错进”到latin1编码的表中。现在需要将表编码修改为UTF-8可以使用以下命令

   shell> mysqldump -u root -p -d --skip-set-charset --default-character-set=utf8 test charset_test_latin1 > data.sql 

   #确保导出的文件用文本编辑器在UTF-8编码下查看没有乱码 

   shell> mysql -uroot -p -e 'create table charset_test_latin1 (id int primary key auto_increment, char_col varchar(50)) charset = utf8' test

   shell> mysql -uroot -p --default-character-set=utf8 test < data.sql

  正确的方法二 Convert to Binary & Convert Back

  这种方法比较取巧,用的是将二进制数据作为中间数据的做法来实现的。由于,MySQL再将有编码意义的数据流,转换为无编码意义的二进制数据的时候并不做实际的数据转换。而从二进制数据准换为带编码的数据时,又会用目标编码做一次编码转换校验。通过这两个特性就相当于在MySQL内部模拟了一次“错出”,将乱码“拨乱反正”了。

  还是用上面那个例子举例,我们用UTF-8将数据“错进”到latin1编码的表中。现在需要将表编码修改为UTF-8可以使用以下命令

   mysql> ALTER TABLE charset_test_latin1 MODIFY COLUMN char_col VARBINARY(50); 

   mysql> ALTER TABLE charset_test_latin1 MODIFY COLUMN char_col varchar(50) character set utf8;

    本文由职坐标整理并发布,希望对同学们学习MySQL有所帮助,更多内容请关注职坐标数据库MySQL数据库频道!

本文由 @Vivian 发布于职坐标。未经许可,禁止转载。
喜欢 | 0 不喜欢 | 0
看完这篇文章有何感觉?已经有0人表态,0%的人喜欢 快给朋友分享吧~
评论(0)
后参与评论

您输入的评论内容中包含违禁敏感词

我知道了

助您圆梦职场 匹配合适岗位
验证码手机号,获得海同独家IT培训资料
选择就业方向:
人工智能物联网
大数据开发/分析
人工智能Python
Java全栈开发
WEB前端+H5

请输入正确的手机号码

请输入正确的验证码

获取验证码

您今天的短信下发次数太多了,明天再试试吧!

提交

我们会在第一时间安排职业规划师联系您!

您也可以联系我们的职业规划师咨询:

小职老师的微信号:z_zhizuobiao
小职老师的微信号:z_zhizuobiao

版权所有 职坐标-一站式IT培训就业服务领导者 沪ICP备13042190号-4
上海海同信息科技有限公司 Copyright ©2015 www.zhizuobiao.com,All Rights Reserved.
 沪公网安备 31011502005948号    

©2015 www.zhizuobiao.com All Rights Reserved

208小时内训课程