JSP/Servlet 中的汉字编码问题

jsp/servlet 中的汉字编码问题 网上就 jsp/servlet 中 dbcs 字符编码问题有许多优秀的文章和讨论，本文对它们作一些整理，并结合 ibm websphere application server 3.5（was）的解决方法作一些说明，希望它不是多余的。
内容：


问题的起源
??????-80，gbk，gb18030-2000 汉字字符集及 encoding
中文转码时'?'、乱码的由来
jsp/servlet 汉字编码问题及在 was 中的解决办法
结束语
参考文章

1. 问题的起源

每个国家（或区域）都规定了计算机信息交换用的字符编码集，如美国的扩展 ascii码, 中国的 ??????-80，日本的 jis 等，作为该国家/区域内信息处理的基础，有着统一编码的重要作用。字符编码集按长度分为 sbcs（单字节字符集），dbcs（双字节字符集）两大类。早期的软件（尤其是操作系统），为了解决本地字符信息的计算机处理，出现了各种本地化版本（l10n），为了区分，引进了 lang, codepage 等概念。但是由于各个本地字符集代码范围重叠，相互间信息交换困难；软件各个本地化版本独立维护成本较高。因此有必要将本地化工作中的共性抽取出来，作一致处理，将特别的本地化处理内容降低到最少。这也就是所谓的国际化（i18n）。各种语言信息被进一步规范为 locale 信息。处理的底层字符集变成了几乎包含了所有字形的 unicode。

现在大部分具有国际化特征的软件核心字符处理都是以 unicode 为基础的，在软件运行时根据当时的 locale/lang/codepage 设置确定相应的本地字符编码设置，并依此处理本地字符。在处理过程中需要实现 unicode 和本地字符集的相互转换，甚或以 unicode 为中间的两个不同本地字符集的相互转换。这种方式在网络环境下被进一步延伸，任何网络两端的字符信息也需要根据字符集的设置转换成可接受的内容。

java 语言内部是用 unicode 表示字符的，遵守 unicode v2.0。java 程序无论是从/往文件系统以字符流读/写文件，还是往 url 连接写 html 信息，或从 url 连接读取参数值，都会有字符编码的转换。这样做虽然增加了编程的复杂度，容易引起混淆，但却是符合国际化的思想的。

从理论上来说，这些根据字符集设置而进行的字符转换不应该产生太多问题。而事实是由于应用程序的实际运行环境不同，unicode 和各个本地字符集的补充、完善，以及系统或应用程序实现的不规范，转码时出现的问题时时困扰着程序员和用户。

2. ??????-80，gbk，gb18030-2000 汉字字符集及 encoding

其实解决 java 程序中的汉字编码问题的方法往往很简单，但理解其背后的原因，定位问题，还需要了解现有的汉字编码和编码转换。

??????-80 是在国内计算机汉字信息技术发展初始阶段制定的，其中包含了大部分常用的一、二级汉字，和 9 区的符号。该字符集是几乎所有的中文系统和国际化的软件都支持的中文字符集，这也是最基本的中文字符集。其编码范围是高位0xa1－0xfe，低位也是 0xa1-0xfe；汉字从 0xb0a1 开始，结束于 0xf7fe；

gbk 是 ??????-80 的扩展，是向上兼容的。它包含了 20902 个汉字，其编码范围是 0x8140-0xfefe，剔除高位 0x80 的字位。其所有字符都可以一对一映射到 unicode 2.0，也就是说 java 实际上提供了 gbk 字符集的支持。这是现阶段 windows 和其它一些中文操作系统的缺省字符集，但并不是所有的国际化软件都支持该字符集，感觉是他们并不完全知道 gbk 是怎么回事。值得注意的是它不是国家标准，而只是规范。随着 gb18030-2000国标的发布，它将在不久的将来完成它的历史使命。

gb18030-2000(gbk2k) 在 gbk 的基础上进一步扩展了汉字，增加了藏、蒙等少数民族的字形。gbk2k 从根本上解决了字位不够，字形不足的问题。它有几个特点，

它并没有确定所有的字形，只是规定了编码范围，留待以后扩充。
编码是变长的，其二字节部分与 gbk 兼容；四字节部分是扩充的字形、字位，其编码范围是首字节 0x81-0xfe、二字节0x30-0x39、三字节 0x81-0xfe、四字节0x30-0x39。
它的推广是分阶段的，首先要求实现的是能够完全映射到 unicode 3.0 标准的所有字形。
它是国家标准，是强制性的。
现在还没有任何一个操作系统或软件实现了 gbk2k 的支持，这是现阶段和将来汉化的工作内容。
unicode 的介绍......就免了吧。

java 支持的encoding中与中文编程相关的有：(有几个在jdk文档中未列出)

ascii 7-bit, 同 ascii7
iso8859-1 8-bit, 同 8859_1,iso-8859-1,iso_8859-1,latin1...
??????-80 同??????,??????-1980,euc_cn,euccn,1381,cp1381, 1383, cp1383, iso2022cn,iso2022cn_gb......
gbk (注意大小写),同ms936
utf8 utf-8
gb18030 (现在只有ibm jdk1.3.?有支持), 同cp1392,1392

java 语言采用unicode处理字符. 但从另一个角度来说，在java程序中也可以采用非unicode的转码，重要的是保证程序入口和出口的汉字信息不失真。如完全采用iso-8859-1来处理汉字也能达到正确的结果。网络上流行的许多解决方法，都属于这种类型。为了不致引起混淆，本文不对这种方法作讨论。

3. 中文转码时'?'、乱码的由来

两个方向转换都有可能得到错误的结果：

unicode-->byte, 如果目标代码集不存在对应的代码，则得到的结果是0x3f.
如：
"\u00d6\u00ec\u00e9\u0046\u00bb\u00f9".getbytes("gbk") 的结果是 "?ìéf?ù", hex 值是3fa8aca8a6463fa8b4.
仔细看一下上面的结果，你会发现\u00ec被转换为0xa8ac, \u00e9被转换为\xa8a6... 它的实际有效位变长了！这是因为??????符号区中的一些符号被映射到一些公共的符号编码，由于这些符号出现在iso-8859-1或其它一些sbcs字符集中，故它们在unicode中编码比较靠前，有一些其有效位只有8位，和汉字的编码重叠(其实这种映射只是编码的映射，在显示时仔细不是一样的。unicode 中的符号是单字节宽，汉字中的符号是双字节宽) . 在unicode\u00a0--\u00ff 之间这样的符号有20个。了解这个特征非常重要！由此就不难理解为什么java编程中，汉字编码的错误结果中常常会出现一些乱码(其实是符号字符), 而不全是'?'字符, 就比如上面的例子。

byte-->unicode, 如果byte标识的字符在源代码集不存在，则得到的结果是0xfffd.
如：
byte ba[] = {(byte)0x81,(byte)0x40,(byte)0xb0,(byte)0xa1}; new string(ba,"??????");
结果是"?啊", hex 值是"\ufffd\u554a". 0x8140 是gbk字符，按??????转换表没有对应的值，取\ufffd. (请注意：在显示该unicode时，因为没有对应的本地字符，所以也适用上一种情况，显示为一个"?".)

实际编程中，jsp/servlet 程序得到错误的汉字信息，往往是这两个过程的叠加，有时甚至是两个过程叠加后反复作用的结果.

4. jsp/servlet 汉字编码问题及在 was 中的解决办法

4.1 常见的 encoding 问题的现象
网上常出现的 jsp/servlet encoding 问题一般都表现在 browser 或应用程序端，如:
浏览器中看到的 jsp/servlet 页面中的汉字怎么都成了 '?' ?
浏览器中看到的 servlet 页面中的汉字怎么都成了乱码？
java 应用程序界面中的汉字怎么都成了方块？
jsp/servlet 页面无法显示 gbk 汉字。
jsp 页面中内嵌在<%...%>,<%=...%>等tag包含的 java code 中的中文成了乱码，但页面的其它汉字是对的。
jsp/servlet 不能接收 form 提交的汉字。
jsp/servlet 数据库读写无法获得正确的内容。
隐藏在这些问题后面的是各种错误的字符转换和处理（除第3个外，是因为 java font 设置错误引起的）。解决类似的字符 encoding 问题，需要了解 jsp/servlet 的运行过程，检查可能出现问题的各个点。

4.2 jsp/servlet web 编程时的 encoding 问题
运行于java 应用服务器的 jsp/servlet 为 browser 提供 html 内容，其过程如下图所示：



其中有字符编码转换的地方有:

jsp 编译。java 应用服务器将根据 jvm 的 file.encoding 值读取 jsp 源文件，编译生成 java 源文件，再根据 file.encoding 值写回文件系统。如果当前系统语言支持 gbk，那么这时候不会出现 encoding 问题。如果是英文的系统，如 lang 是 en_us 的 linux, aix 或 solaris，则要将 jvm 的 file.encoding 值置成 gbk 。系统语言如果是 ??????，则根据需要，确定要不要设置 file.encoding，将 file.encoding 设为 gbk 可以解决潜在的 gbk 字符乱码问题


java 需要被编译为 .class 才能在 jvm 中执行，这个过程存在与a.同样的 file.encoding 问题。从这里开始 servlet 和 jsp 的运行就类似了，只不过 servlet 的编译不是自动进行的。对于jsp程序, 对产生的java 中间文件的编译是自动进行的(在程序中直接调用sun.tools.javac.main类). 因此如果在这一步出现问题的话, 也要检查encoding和os的语言环境，或者将内嵌在jsp java code 中的静态汉字转为 unicode, 要么静态文本输出不要放在 java code 中。对于servlet, javac 编译时手工指定-encoding 参数就可以了。


servlet 需要将 html 页面内容转换为 browser 可接受的 encoding 内容发送出去。依赖于各 java app server 的实现方式，有的将查询 browser 的 accept-charset 和 accept-language 参数或以其它猜的方式确定 encoding 值，有的则不管。因此采用固定encoding 也许是最好的解决方法。对于中文网页，可在 jsp 或 servlet 中设置 contenttype="text/html; charset=??????"；如果页面中有gbk字符，则设置为contenttype="text/html; charset=gbk"，由于ie 和 netscape对gbk的支持程度不一样，作这种设置时需要测试一下。
因为16位 java char在网络传送时高8位会被丢弃，也为了确保servlet页面中的汉字（包括内嵌的和servlet运行过程中得到的）是期望的内码，可以用 printwriter out=res.getwriter() 取代 servletoutputstream out=res.getoutputstream(). printerwriter 将根据contenttype中指定的charset作转换 (contenttype需在此之前指定！); 也可以用outputstreamwriter封装 servletoutputstream 类并用write(string)输出汉字字符串。
对于 jsp，java application server 应当能够确保在这个阶段将嵌入的汉字正确传送出去。


这是解释 url 字符 encoding 问题。如果通过 get/post 方式从 browser 返回的参数值中包含汉字信息， servlet 将无法得到正确的值。sun的 j2sdk 中，httputils.parsename 在解析参数时根本没有考虑 browser 的语言设置，而是将得到的值按 byte 方式解析。这是网上讨论得最多的 encoding 问题。因为这是设计缺陷，只能以 bin 方式重新解析得到的字符串；或者以 hack httputils 类的方式解决。参考文章 2 均有介绍，不过最好将其中的中文 encoding ??????、 cp1381 都改为 gbk，否则遇到 gbk 汉字时，还是会有问题。
servlet api 2.3 提供一个新的函数 httpserveletrequest.setcharacterencoding 用于在调用 request.getparameter(“param_name”) 前指定应用程序希望的 encoding，这将有助于彻底解决这个问题。
4.3 ibm websphere application server 中的解决方法

websphere application server 对标准的 servlet api 2.x 作了扩展，提供较好的多语言支持。运行在中文的操作系统中，可以不作任何设置就可以很好地处理汉字。下面的说明只是对was是运行在英文的系统中，或者需要有gbk支持时有效。

上述c,d情况，was 都要查询 browser 的语言设置，在缺省状况下， zh, zh-cn 等均被映射为 java encoding cp1381（注意： cp1381 只是等同于 ?????? 的一个 codepage，没有 gbk 支持）。这样做我想是因为无法确认 browser 运行的操作系统是支持??????, 还是 gbk，所以取其小。但是实际的应用系统还是要求页面中出现 gbk 汉字，最著名的是朱总理名字中的“镕"(rong2 ，0xe946，\u9555)，所以有时还是需要将 encoding/charset 指定为 gbk。当然 was 中变更缺省的 encoding 没有上面说的那么麻烦，针对 a,b，参考文章 5，在 application server 的命令行参数中指定 -dfile.encoding=gbk 即可； 针对 d，在 application server 的命令行参数中指定-ddefault.client.encoding=gbk。如果指定了-ddefault.client.encoding=gbk，那么c情况下可以不再指定charset。

上面列出的问题中还有一个关于tag<%...%>,<%=...%>中的 java 代码里包含的静态文本未能正确显示的问题，在was中的解决方法是除了设置正确的file.encoding, 还需要以相同方法设置-duser.language=zh -duser.region=cn。这与java locale的设置有关。

4.4 数据库读写时的 encoding 问题

jsp/servlet 编程中经常出现 encoding 问题的另一个地方是读写数据库中的数据。

流行的关系数据库系统都支持数据库 encoding，也就是说在创建数据库时可以指定它自己的字符集设置，数据库的数据以指定的编码形式存储。当应用程序访问数据时，在入口和出口处都会有 encoding 转换。对于中文数据，数据库字符编码的设置应当保证数据的完整性. ??????，gbk，utf-8 等都是可选的数据库 encoding；也可以选择 iso8859-1 (8-bit)，那么应用程序在写数据之前须将 16bit 的一个汉字或 unicode 拆分成两个 8-bit 的字符，读数据之后则需将两个字节合并起来，同时还要判别其中的 sbcs 字符。没有充分利用数据库 encoding 的作用，反而增加了编程的复杂度，iso8859-1不是推荐的数据库 encoding。jsp/servlet编程时，可以先用数据库管理系统提供的管理功能检查其中的中文数据是否正确。

然后应当注意的是读出来的数据的 encoding，java 程序中一般得到的是 unicode。写数据时则相反。

4.5 定位问题时常用的技巧

定位中文encoding问题通常采用最笨的也是最有效的办法——在你认为有嫌疑的程序处理后打印字符串的内码。通过打印字符串的内码，你可以发现什么时候中文字符被转换成unicode，什么时候unicode被转回中文内码，什么时候一个中文字成了两个 unicode 字符，什么时候中文字符串被转成了一串问号，什么时候中文字符串的高位被截掉了……

取用合适的样本字符串也有助于区分问题的类型。如：”aa啊aa丂aa” 等中英相间、gb、gbk特征字符均有的字符串。一般来说，英文字符无论怎么转换或处理，都不会失真（如果遇到了，可以尝试着增加连续的英文字母长度）。

5. 结束语

其实 jsp/servlet 的中文encoding 并没有想像的那么复杂，虽然定位和解决问题没有定规，各种运行环境也各不尽然，但后面的原理是一样的。了解字符集的知识是解决字符问题的基础。不过，随着中文字符集的变化，不仅仅是 java 编程，中文信息处理中的问题还是会存在一段时间的。

6. 参考文章
character problem review
java 编程技术中汉字问题的分析及解决
gb18030
setting language encoding in web applications: websphere applications server