Java字符编码根本原理之乱码问题...gbk to utf-8 javacharset字符
程序员文章站
2024-02-24 20:12:28
...
Java开发中,常常会遇到乱码的问题,一旦遇到这种问题,常常就很扯蛋,每个人都不愿意承认是自己的代码有问题。其实编码问题并没有那么神秘,那么不可捉摸,搞清Java的编码本质过程就真相大白了。
先看个图:
其实,编码问题存在两个方面:JVM之内和JVM之外。
1、Java文件编译后形成class
这里Java文件的编码可能有多种多样,但Java编译器会自动将这些编码按照Java文件的编码格式正确读取后产生class文件,这里的class文件编码是Unicode编码(具体说是UTF-16编码)。
因此,在Java代码中定义一个字符串:
String s="汉字";
不管在编译前java文件使用何种编码,在编译后成class后,他们都是一样的----Unicode编码表示。
2、JVM中的编码
JVM加载class文件读取时候使用Unicode编码方式正确读取class文件,那么原来定义的String s="汉字";在内存中的表现形式是Unicode编码。
当调用String.getBytes()的时候,其实已经为乱码买下了祸根。因为此方法使用平台默认的字符集来获取字符串对应的字节数组。在WindowsXP中文版中,使用的默认编码是GBK,不信运行下:
public class Test {
public static void main(String[] args) {
System.out.println("当前JRE:" + System.getProperty("java.version"));
System.out.println("当前JVM的默认字符集:" + Charset.defaultCharset());
}
}
public static void main(String[] args) {
System.out.println("当前JRE:" + System.getProperty("java.version"));
System.out.println("当前JVM的默认字符集:" + Charset.defaultCharset());
}
}
当前JRE:1.6.0_16
当前JVM的默认字符集:GBK
当前JVM的默认字符集:GBK
当 不同的系统、数据库经过多次编码后,如果对其中的原理不理解,就容易导致乱码。因此,在一个系统中,有必要对字符串的编码做一个统一,这个统一模糊点说, 就是对外统一。比如方法字符串参数,IO流,在中文系统中,可以统一使用GBK、GB13080、UTF-8、UTF-16等等都可以,只是要选择有些更 大字符集,以保证任何可能用到的字符都可以正常显示,避免乱码的问题。(假设对所有的文件都用ASCII码)那么就无法实现双向转换了。
要 特别注意的是,UTF-8并非能容纳了所有的中文字符集编码,因此,在特殊情况下,UTF-8转GB18030可能会出现乱码,然而一群傻B常常在做中文 系统喜欢用UTF-8编码而不说不出个所以然出来!最傻B的是,一个系统多个人做,源代码文件有的人用GBK编码,有人用UTF-8,还有人用 GB18030。FK,都是中国人,也不是外包项目,用什么UTF-8啊,神经!源代码统统都用GBK18030就OK了,免得ANT脚本编译时候提示不 可认的字符编码。
因此,对于中文系统来说,最好选择GBK或GB18030编码(其实GBK是GB18030的子集),以便最大限度的避免乱码现象。
3、内存中字符串的编码
内存中的字符串不仅仅局限于从class代码中直接加载而来的字符串,还有一些字符串是从文本文件中读取的,还有的是通过数据库读取的,还有可能是从字节数组构建的,然而他们基本上都不是Unicode编码的,原因很简单,存储优化。
因 此就需要处理各种各样的编码问题,在处理之前,必须明确“源”的编码,然后用指定的编码方式正确读取到内存中。如果是一个方法的参数,实际上必须明确该字 符串参数的编码,因为这个参数可能是另外一个日文系统传递过来的。当明确了字符串编码时候,就可以按照要求正确处理字符串,以避免乱码。
在对字符串进行解码编码的时候,应该调用下面的方法:
getBytes(String charsetName)
String(byte[] bytes, String charsetName)
String(byte[] bytes, String charsetName)
而不要使用那些不带字符集名称的方法签名,通过上面两个方法,可以对内存中的字符进行重新编码。
Java代码
- package com.elmer.c;
- import java.io.UnsupportedEncodingException;
- public class GbktoUtf8 {
- public String convertString(String gbk){
- String utf8 = "";
- try {
- utf8 = new String(gbk2utf8(gbk),"UTF-8");
- } catch (UnsupportedEncodingException e) {
- e.printStackTrace();
- }
- return utf8;
- }
- public byte[] gbk2utf8(String chenese) {
- char c[] = chenese.toCharArray();
- byte[] fullByte = new byte[3 * c.length];
- for (int i = 0; i < c.length; i++) {
- int m = (int) c[i];
- String word = Integer.toBinaryString(m);
- StringBuffer sb = new StringBuffer();
- int len = 16 - word.length();
- for (int j = 0; j < len; j++) {
- sb.append("0");
- }
- sb.append(word);
- sb.insert(0, "1110");
- sb.insert(8, "10");
- sb.insert(16, "10");
- String s1 = sb.substring(0, 8);
- String s2 = sb.substring(8, 16);
- String s3 = sb.substring(16);
- byte b0 = Integer.valueOf(s1, 2).byteValue();
- byte b1 = Integer.valueOf(s2, 2).byteValue();
- byte b2 = Integer.valueOf(s3, 2).byteValue();
- byte[] bf = new byte[3];
- bf[0] = b0;
- fullByte[i * 3] = bf[0];
- bf[1] = b1;
- fullByte[i * 3 + 1] = bf[1];
- bf[2] = b2;
- fullByte[i * 3 + 2] = bf[2];
- }
- return fullByte;
- }
- public static void main(String[] args) {
- GbktoUtf8 gtu = new GbktoUtf8();
- System.out.println(gtu.convertString("我是q !"));
- }
- }
核心是找的资料,还没放到web里试过
二.
Java代码
- public class TranCharset {
- private static final String PRE_FIX_UTF = "&#x";
- private static final String POS_FIX_UTF = ";";
- public TranCharset() {
- }
- /**
- * Translate charset encoding to unicode
- *
- * @param sTemp
- * charset encoding is gb2312
- * @return charset encoding is unicode
- */
- public static String XmlFormalize(String sTemp) {
- StringBuffer sb = new StringBuffer();
- if (sTemp == null || sTemp.equals("")) {
- return "";
- }
- String s = TranCharset.TranEncodeTOGB(sTemp);
- for (int i = 0; i < s.length(); i++) {
- char cChar = s.charAt(i);
- if (TranCharset.isGB2312(cChar)) {
- sb.append(PRE_FIX_UTF);
- sb.append(Integer.toHexString(cChar));
- sb.append(POS_FIX_UTF);
- } else {
- switch ((int) cChar) {
- case 32:
- sb.append(" ");
- break;
- case 34:
- sb.append(""");
- break;
- case 38:
- sb.append("&");
- break;
- case 60:
- sb.append("<");
- break;
- case 62:
- sb.append(">");
- break;
- default:
- sb.append(cChar);
- }
- }
- }
- return sb.toString();
- }
- /**
- * 将字符串编码格式转成GB2312
- *
- * @param str
- * @return
- */
- public static String TranEncodeTOGB(String str) {
- try {
- String strEncode = TranCharset.getEncoding(str);
- String temp = new String(str.getBytes(strEncode), "GB2312");
- return temp;
- } catch (java.io.IOException ex) {
- return null;
- }
- }
- /**
- * 判断输入字符是否为gb2312的编码格式
- *
- * @param c
- * 输入字符
- * @return 如果是gb2312返回真,否则返回假
- */
- public static boolean isGB2312(char c) {
- Character ch = new Character(c);
- String sCh = ch.toString();
- try {
- byte[] bb = sCh.getBytes("gb2312");
- if (bb.length > 1) {
- return true;
- }
- } catch (java.io.UnsupportedEncodingException ex) {
- return false;
- }
- return false;
- }
- /**
- * 判断字符串的编码
- *
- * @param str
- * @return
- */
- public static String getEncoding(String str) {
- String encode = "GB2312";
- try {
- if (str.equals(new String(str.getBytes(encode), encode))) {
- String s = encode;
- return s;
- }
- } catch (Exception exception) {
- }
- encode = "ISO-8859-1";
- try {
- if (str.equals(new String(str.getBytes(encode), encode))) {
- String s1 = encode;
- return s1;
- }
- } catch (Exception exception1) {
- }
- encode = "UTF-8";
- try {
- if (str.equals(new String(str.getBytes(encode), encode))) {
- String s2 = encode;
- return s2;
- }
- } catch (Exception exception2) {
- }
- encode = "GBK";
- try {
- if (str.equals(new String(str.getBytes(encode), encode))) {
- String s3 = encode;
- return s3;
- }
- } catch (Exception exception3) {
- }
- encode = "BIG5";
- try {
- if (str.equals(new String(str.getBytes(encode), encode))) {
- String s4 = encode;
- return s4;
- }
- } catch (Exception exception3) {
- }
- return "";
- }
- public static void main(String args[]) {
- System.out.println(XmlFormalize("下载"));
- }
- }
Java代码
- package com.lang.string;
- public class ConverFromGBKToUTF8 {
- public static void main(String[] args){
- try {
- ConverFromGBKToUTF8 convert = new ConverFromGBKToUTF8();
- String chenese = "我是我我们";
- byte [] fullByte = convert.gbk2utf8(chenese);
- String fullStr = new String(fullByte, "UTF-8");
- System.out.println("string from GBK to UTF-8 byte: " + fullStr);
- } catch (Exception e) {
- e.printStackTrace();
- }
- }
- public byte[] gbk2utf8(String chenese){
- char c[] = chenese.toCharArray();
- byte [] fullByte =new byte[3*c.length];
- for(int i=0; i<c.length; i++){
- int m = (int)c[i];
- String word = Integer.toBinaryString(m);
- // System.out.println(word);
- StringBuffer sb = new StringBuffer();
- int len = 16 - word.length();
- //补零
- for(int j=0; j<len; j++){
- sb.append("0");
- }
- sb.append(word);
- sb.insert(0, "1110");
- sb.insert(8, "10");
- sb.insert(16, "10");
- // System.out.println(sb.toString());
- String s1 = sb.substring(0, 8);
- String s2 = sb.substring(8, 16);
- String s3 = sb.substring(16);
- byte b0 = Integer.valueOf(s1, 2).byteValue();
- byte b1 = Integer.valueOf(s2, 2).byteValue();
- byte b2 = Integer.valueOf(s3, 2).byteValue();
- byte[] bf = new byte[3];
- bf[0] = b0;
- fullByte[i*3] = bf[0];
- bf[1] = b1;
- fullByte[i*3+1] = bf[1];
- bf[2] = b2;
- fullByte[i*3+2] = bf[2];
- }
- return fullByte;
- }
- }
JAVA字符编码系列二:Unicode,ISO-8859-1,GBK,UTF-8编码及相互转换
1、函数介绍
在Java中,字符串用统一的Unicode编码,每个字符占用两个字节,与编码有关的两个主要函数为:
1)将字符串用指定的编码集合解析成字节数组,完成Unicode-〉charsetName转换
public byte[] getBytes(String charsetName) throws UnsupportedEncodingException
2)将字节数组以指定的编码集合构造成字符串,完成charsetName-〉Unicode转换
public String(byte[] bytes, String charsetName) throws UnsupportedEncodingException
2、Unicode与各编码之间的直接转换
下面以对中文字符串"a中文"的编码转换为例,来了解各种编码之间的转换
1)Unicode和GBK
测试结果如下,每个汉字转换为两个字节,且是可逆的,即通过字节可以转换回字符串
String-GBK〉ByteArray:\u0061\u4E2D\u6587(a中文)-〉0x61 0xD6 0xD0 0xCE 0xC4
ByteArray-GBK〉String:0x61 0xD6 0xD0 0xCE 0xC4-〉\u0061\u4E2D\u6587(a中文)
2)Unicode和UTF-8
测试结果如下,每个汉字转换为三个字节,且是可逆的,即通过字节可以转换回字符串
String-UTF-8〉ByteArray:\u0061\u4E2D\u6587(a中文)-〉0x61 0xE4 0xB8 0xAD 0xE6%0x96 0x87
ByteArray-UTF-8〉String:0x61 0xE4 0xB8 0xAD 0xE6%0x96 0x87-〉\u0061\u4E2D\u6587(a中文)
3)Unicode和ISO-8859-1
测试结果如下,当存在汉字时转换失败,非可逆,即通过字节不能再转换回字符串
String-ISO-8859-1〉ByteArray:\u0061\u4E2D\u6587(a中文)-〉0x61 0x3F 0x3F
ByteArray-ISO-8859-1〉String:0x61 0x3F 0x3F-〉\u0061\u003F\u003F(a??)
3、Unicode与各编码之间的交叉转换
在上面直接转换中,由字符串(Unicode)生成的字节数组,在构造回字符串时,使用的是正确的编码集合,如果使用的不是正确的编码集合会怎样呢?会正确构造吗?如果不能正确构造能有办法恢复吗?会信息丢失吗?
下面我们就来看看这种情况,这部分可以说明在某些情况下虽然我们最终正确显示了结果,但其间仍然进行了不正确的转换。
1)能够正确显示的中间不正确转换
我们知道String-GBK〉ByteArray-GBK〉String是正确的,但如果我们采用String-GBK〉ByteArray-ISO-8859-1〉String呢?通过测试结果如下:
String-GBK〉ByteArray-ISO-8859-1〉String:\u0061\u4E2D\u6587(a中文)-〉0x61 0xD6 0xD0 0xCE 0xC4-〉\u0061\u00D6\u00D0\u00CE\u00C4(a????)
这时我们得到的字符串为?乱码“a????”,但是通过继续转换我们仍然可以复原回正确的字符串“a中文”,过程如下:
String-GBK〉ByteArray-ISO-8859-1〉String-ISO-8859-1〉ByteArray-GBK〉String
对 应:\u0061\u4E2D\u6587(a中文)-〉0x61 0xD6 0xD0 0xCE 0xC4-〉\u0061\u00D6\u00D0\u00CE\u00C4(a????)-〉0x61 0xD6 0xD0 0xCE 0xC4-〉\u0061\u4E2D\u6587(a中文)
也 就是我们在首次构造字符串时,我们用了错误的编码集合得到了错误的乱码,但是我们通过错上加错,再用错误的编码集合获取字节数组,然后再用正确的编码集合 构造,就又恢复了正确的字符串。这时就属于是“能够正确显示的中间不正确转换”。在Jsp页面提交数据处理时常常发生这种情况。
此外能够正确显示的中间不正确转换还有:
String-UTF-8〉ByteArray-ISO-8859-1〉String-ISO-8859-1〉ByteArray-UTF-8〉String
和
String-UTF-8〉ByteArray-GBK〉String-GBK〉ByteArray-UTF-8〉String
对 应:\u0061\u4E2D\u6587(a中文)-〉0x61 0xE4 0xB8 0xAD 0xE6%0x96 0x87-〉\u0061\u6D93\uE15F\u6783(a涓枃)-〉0x61 0xE4 0xB8 0xAD 0xE6%0x96 0x87-〉\u0061\u4E2D\u6587(a中文)
4、编码过程中错误诊断参考
1)一个汉字对应一个问号
在通过ISO-8859-1从字符串获取字节数组时,由于一个Unicode转换成一个byte,当遇到不认识的Unicode时,转换为0x3F,这样无论用哪种编码构造时都会产生一个?乱码。
2)一个汉字对应两个问号
在通过GBK从字符串获取字节数组时,由于一个Unicode转换成两个byte,如果此时用ISO-8859-1或用UTF-8构造字符串就会出现两个问号。
若是通过ISO-8859-1构造可以再通过上面所说的错上加错恢复(即再通过从ISO-8859-1解析,用GBK构造);
若是通过UTF-8构造则会产生Unicode字符"\uFFFD",不能恢复,若再通过String-UTF-8〉ByteArray-GBK〉String,则会出现杂码,如a锟斤拷锟斤拷
3)一个汉字对应三个问号
在通过UTF-8从字符串获取字节数组时,由于一个Unicode转换成三个byte,如果此时用ISO-8859-1构造字符串就会出现三个问号;用GBK构造字符串就会出现杂码,如a涓枃。