欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页

Java字符编码根本原理之乱码问题...gbk to utf-8 javacharset字符

程序员文章站 2024-02-24 20:12:28
...

 

 

 

Java开发中,常常会遇到乱码的问题,一旦遇到这种问题,常常就很扯蛋,每个人都不愿意承认是自己的代码有问题。其实编码问题并没有那么神秘,那么不可捉摸,搞清Java的编码本质过程就真相大白了。
 
先看个图:
Java字符编码根本原理之乱码问题...gbk to utf-8  
            
    
    
        javacharset字符
 
 
 
其实,编码问题存在两个方面:JVM之内和JVM之外。
 
 
1、Java文件编译后形成class
这里Java文件的编码可能有多种多样,但Java编译器会自动将这些编码按照Java文件的编码格式正确读取后产生class文件,这里的class文件编码是Unicode编码(具体说是UTF-16编码)。
 
因此,在Java代码中定义一个字符串:
String s="汉字";
不管在编译前java文件使用何种编码,在编译后成class后,他们都是一样的----Unicode编码表示。
 
2、JVM中的编码
JVM加载class文件读取时候使用Unicode编码方式正确读取class文件,那么原来定义的String s="汉字";在内存中的表现形式是Unicode编码。
 
当调用String.getBytes()的时候,其实已经为乱码买下了祸根。因为此方法使用平台默认的字符集来获取字符串对应的字节数组。在WindowsXP中文版中,使用的默认编码是GBK,不信运行下:
public class Test { 
        public static void main(String[] args) { 
                System.out.println("当前JRE:" + System.getProperty("java.version")); 
                System.out.println("当前JVM的默认字符集:" + Charset.defaultCharset()); 
        } 
}
 
当前JRE:1.6.0_16 
当前JVM的默认字符集:GBK
 
当 不同的系统、数据库经过多次编码后,如果对其中的原理不理解,就容易导致乱码。因此,在一个系统中,有必要对字符串的编码做一个统一,这个统一模糊点说, 就是对外统一。比如方法字符串参数,IO流,在中文系统中,可以统一使用GBK、GB13080、UTF-8、UTF-16等等都可以,只是要选择有些更 大字符集,以保证任何可能用到的字符都可以正常显示,避免乱码的问题。(假设对所有的文件都用ASCII码)那么就无法实现双向转换了。
 
要 特别注意的是,UTF-8并非能容纳了所有的中文字符集编码,因此,在特殊情况下,UTF-8转GB18030可能会出现乱码,然而一群傻B常常在做中文 系统喜欢用UTF-8编码而不说不出个所以然出来!最傻B的是,一个系统多个人做,源代码文件有的人用GBK编码,有人用UTF-8,还有人用 GB18030。FK,都是中国人,也不是外包项目,用什么UTF-8啊,神经!源代码统统都用GBK18030就OK了,免得ANT脚本编译时候提示不 可认的字符编码。
 
因此,对于中文系统来说,最好选择GBK或GB18030编码(其实GBK是GB18030的子集),以便最大限度的避免乱码现象。
 
3、内存中字符串的编码
内存中的字符串不仅仅局限于从class代码中直接加载而来的字符串,还有一些字符串是从文本文件中读取的,还有的是通过数据库读取的,还有可能是从字节数组构建的,然而他们基本上都不是Unicode编码的,原因很简单,存储优化。
 
因 此就需要处理各种各样的编码问题,在处理之前,必须明确“源”的编码,然后用指定的编码方式正确读取到内存中。如果是一个方法的参数,实际上必须明确该字 符串参数的编码,因为这个参数可能是另外一个日文系统传递过来的。当明确了字符串编码时候,就可以按照要求正确处理字符串,以避免乱码。
在对字符串进行解码编码的时候,应该调用下面的方法:
getBytes(String charsetName)    
String(byte[] bytes, String charsetName)
 
而不要使用那些不带字符集名称的方法签名,通过上面两个方法,可以对内存中的字符进行重新编码。
 
Java代码 
  1. package com.elmer.c;  
  2.   
  3. import java.io.UnsupportedEncodingException;  
  4.   
  5. public class GbktoUtf8 {  
  6.       
  7.        public String convertString(String gbk){  
  8.             String utf8 = "";  
  9.             try {  
  10.                 utf8 = new String(gbk2utf8(gbk),"UTF-8");  
  11.             } catch (UnsupportedEncodingException e) {  
  12.                 e.printStackTrace();  
  13.             }  
  14.             return utf8;  
  15.         }  
  16.   
  17.         public byte[] gbk2utf8(String chenese) {  
  18.             char c[] = chenese.toCharArray();  
  19.             byte[] fullByte = new byte[3 * c.length];  
  20.             for (int i = 0; i < c.length; i++) {  
  21.                 int m = (int) c[i];  
  22.                 String word = Integer.toBinaryString(m);  
  23.   
  24.                 StringBuffer sb = new StringBuffer();  
  25.                 int len = 16 - word.length();  
  26.                 for (int j = 0; j < len; j++) {  
  27.                     sb.append("0");  
  28.                 }  
  29.                 sb.append(word);  
  30.                 sb.insert(0"1110");  
  31.                 sb.insert(8"10");  
  32.                 sb.insert(16"10");  
  33.   
  34.                 String s1 = sb.substring(08);  
  35.                 String s2 = sb.substring(816);  
  36.                 String s3 = sb.substring(16);  
  37.   
  38.                 byte b0 = Integer.valueOf(s1, 2).byteValue();  
  39.                 byte b1 = Integer.valueOf(s2, 2).byteValue();  
  40.                 byte b2 = Integer.valueOf(s3, 2).byteValue();  
  41.                 byte[] bf = new byte[3];  
  42.                 bf[0] = b0;  
  43.                 fullByte[i * 3] = bf[0];  
  44.                 bf[1] = b1;  
  45.                 fullByte[i * 3 + 1] = bf[1];  
  46.                 bf[2] = b2;  
  47.                 fullByte[i * 3 + 2] = bf[2];  
  48.   
  49.             }  
  50.             return fullByte;  
  51.         }  
  52.   
  53.         public static void main(String[] args) {  
  54.             GbktoUtf8 gtu = new GbktoUtf8();  
  55.             System.out.println(gtu.convertString("我是q !"));  
  56.         }  
  57.   
  58. }  

核心是找的资料,还没放到web里试过 
二. 
Java代码 
  1. public class TranCharset {  
  2.   
  3.     private static final String PRE_FIX_UTF = "&#x";  
  4.   
  5.     private static final String POS_FIX_UTF = ";";  
  6.   
  7.     public TranCharset() {  
  8.     }  
  9.   
  10.     /** 
  11.      * Translate charset encoding to unicode 
  12.      *  
  13.      * @param sTemp 
  14.      *            charset encoding is gb2312 
  15.      * @return charset encoding is unicode 
  16.      */  
  17.     public static String XmlFormalize(String sTemp) {  
  18.         StringBuffer sb = new StringBuffer();  
  19.   
  20.         if (sTemp == null || sTemp.equals("")) {  
  21.             return "";  
  22.         }  
  23.         String s = TranCharset.TranEncodeTOGB(sTemp);  
  24.         for (int i = 0; i < s.length(); i++) {  
  25.             char cChar = s.charAt(i);  
  26.             if (TranCharset.isGB2312(cChar)) {  
  27.                 sb.append(PRE_FIX_UTF);  
  28.                 sb.append(Integer.toHexString(cChar));  
  29.                 sb.append(POS_FIX_UTF);  
  30.             } else {  
  31.                 switch ((int) cChar) {  
  32.                 case 32:  
  33.                     sb.append("&#32;");  
  34.                     break;  
  35.                 case 34:  
  36.                     sb.append("&quot;");  
  37.                     break;  
  38.                 case 38:  
  39.                     sb.append("&amp;");  
  40.                     break;  
  41.                 case 60:  
  42.                     sb.append("&lt;");  
  43.                     break;  
  44.                 case 62:  
  45.                     sb.append("&gt;");  
  46.                     break;  
  47.                 default:  
  48.                     sb.append(cChar);  
  49.                 }  
  50.             }  
  51.         }  
  52.         return sb.toString();  
  53.     }  
  54.   
  55.     /** 
  56.      * 将字符串编码格式转成GB2312 
  57.      *  
  58.      * @param str 
  59.      * @return 
  60.      */  
  61.     public static String TranEncodeTOGB(String str) {  
  62.         try {  
  63.             String strEncode = TranCharset.getEncoding(str);  
  64.             String temp = new String(str.getBytes(strEncode), "GB2312");  
  65.             return temp;  
  66.         } catch (java.io.IOException ex) {  
  67.   
  68.             return null;  
  69.         }  
  70.     }  
  71.   
  72.     /** 
  73.      * 判断输入字符是否为gb2312的编码格式 
  74.      *  
  75.      * @param c 
  76.      *            输入字符 
  77.      * @return 如果是gb2312返回真,否则返回假 
  78.      */  
  79.     public static boolean isGB2312(char c) {  
  80.         Character ch = new Character(c);  
  81.         String sCh = ch.toString();  
  82.         try {  
  83.             byte[] bb = sCh.getBytes("gb2312");  
  84.             if (bb.length > 1) {  
  85.                 return true;  
  86.             }  
  87.         } catch (java.io.UnsupportedEncodingException ex) {  
  88.             return false;  
  89.         }  
  90.         return false;  
  91.     }  
  92.   
  93.     /** 
  94.      * 判断字符串的编码 
  95.      *  
  96.      * @param str 
  97.      * @return 
  98.      */  
  99.     public static String getEncoding(String str) {  
  100.         String encode = "GB2312";  
  101.         try {  
  102.             if (str.equals(new String(str.getBytes(encode), encode))) {  
  103.                 String s = encode;  
  104.                 return s;  
  105.             }  
  106.         } catch (Exception exception) {  
  107.         }  
  108.         encode = "ISO-8859-1";  
  109.         try {  
  110.             if (str.equals(new String(str.getBytes(encode), encode))) {  
  111.                 String s1 = encode;  
  112.                 return s1;  
  113.             }  
  114.         } catch (Exception exception1) {  
  115.         }  
  116.         encode = "UTF-8";  
  117.         try {  
  118.             if (str.equals(new String(str.getBytes(encode), encode))) {  
  119.                 String s2 = encode;  
  120.                 return s2;  
  121.             }  
  122.         } catch (Exception exception2) {  
  123.         }  
  124.         encode = "GBK";  
  125.         try {  
  126.             if (str.equals(new String(str.getBytes(encode), encode))) {  
  127.                 String s3 = encode;  
  128.                 return s3;  
  129.             }  
  130.         } catch (Exception exception3) {  
  131.         }  
  132.         encode = "BIG5";  
  133.         try {  
  134.             if (str.equals(new String(str.getBytes(encode), encode))) {  
  135.                 String s4 = encode;  
  136.                 return s4;  
  137.             }  
  138.         } catch (Exception exception3) {  
  139.         }  
  140.         return "";  
  141.     }  
  142.   
  143.     public static void main(String args[]) {  
  144.         System.out.println(XmlFormalize("下载"));  
  145.     }  
  146. }  


Java代码 
  1. package com.lang.string;  
  2.   
  3.   
  4. public class ConverFromGBKToUTF8 {  
  5.  public static void main(String[] args){  
  6.     
  7.   try {  
  8.      
  9.          ConverFromGBKToUTF8 convert = new ConverFromGBKToUTF8();  
  10.          String chenese = "我是我我们";  
  11.         byte [] fullByte = convert.gbk2utf8(chenese);  
  12.          String fullStr = new String(fullByte, "UTF-8");  
  13.          System.out.println("string from GBK to UTF-8 byte:  " + fullStr);  
  14.   
  15.   
  16.      } catch (Exception e) {  
  17.       e.printStackTrace();  
  18.      }  
  19.  }  
  20.    
  21.  public byte[] gbk2utf8(String chenese){  
  22.   char c[] = chenese.toCharArray();  
  23.         byte [] fullByte =new byte[3*c.length];  
  24.         for(int i=0; i<c.length; i++){  
  25.          int m = (int)c[i];  
  26.          String word = Integer.toBinaryString(m);  
  27. //         System.out.println(word);  
  28.           
  29.          StringBuffer sb = new StringBuffer();  
  30.          int len = 16 - word.length();  
  31.          //补零  
  32.          for(int j=0; j<len; j++){  
  33.           sb.append("0");  
  34.          }  
  35.          sb.append(word);  
  36.          sb.insert(0"1110");  
  37.          sb.insert(8"10");  
  38.          sb.insert(16"10");  
  39.            
  40. //         System.out.println(sb.toString());  
  41.            
  42.          String s1 = sb.substring(08);            
  43.          String s2 = sb.substring(816);            
  44.          String s3 = sb.substring(16);  
  45.            
  46.          byte b0 = Integer.valueOf(s1, 2).byteValue();  
  47.          byte b1 = Integer.valueOf(s2, 2).byteValue();  
  48.          byte b2 = Integer.valueOf(s3, 2).byteValue();  
  49.          byte[] bf = new byte[3];  
  50.          bf[0] = b0;  
  51.          fullByte[i*3] = bf[0];  
  52.          bf[1] = b1;  
  53.          fullByte[i*3+1] = bf[1];  
  54.          bf[2] = b2;  
  55.          fullByte[i*3+2] = bf[2];  
  56.            
  57.         }  
  58.         return fullByte;  
  59.  }  
  60. }  



JAVA字符编码系列二:Unicode,ISO-8859-1,GBK,UTF-8编码及相互转换 

1、函数介绍 
在Java中,字符串用统一的Unicode编码,每个字符占用两个字节,与编码有关的两个主要函数为: 
1)将字符串用指定的编码集合解析成字节数组,完成Unicode-〉charsetName转换 
public byte[] getBytes(String charsetName) throws UnsupportedEncodingException  

2)将字节数组以指定的编码集合构造成字符串,完成charsetName-〉Unicode转换 
public String(byte[] bytes, String charsetName) throws UnsupportedEncodingException 

2、Unicode与各编码之间的直接转换 
下面以对中文字符串"a中文"的编码转换为例,来了解各种编码之间的转换 
1)Unicode和GBK 
测试结果如下,每个汉字转换为两个字节,且是可逆的,即通过字节可以转换回字符串 
String-GBK〉ByteArray:\u0061\u4E2D\u6587(a中文)-〉0x61 0xD6 0xD0 0xCE 0xC4 
ByteArray-GBK〉String:0x61 0xD6 0xD0 0xCE 0xC4-〉\u0061\u4E2D\u6587(a中文) 

2)Unicode和UTF-8 
测试结果如下,每个汉字转换为三个字节,且是可逆的,即通过字节可以转换回字符串 
String-UTF-8〉ByteArray:\u0061\u4E2D\u6587(a中文)-〉0x61 0xE4 0xB8 0xAD 0xE6%0x96 0x87 
ByteArray-UTF-8〉String:0x61 0xE4 0xB8 0xAD 0xE6%0x96 0x87-〉\u0061\u4E2D\u6587(a中文) 
3)Unicode和ISO-8859-1 
测试结果如下,当存在汉字时转换失败,非可逆,即通过字节不能再转换回字符串 
String-ISO-8859-1〉ByteArray:\u0061\u4E2D\u6587(a中文)-〉0x61 0x3F 0x3F 
ByteArray-ISO-8859-1〉String:0x61 0x3F 0x3F-〉\u0061\u003F\u003F(a??) 
3、Unicode与各编码之间的交叉转换 
在上面直接转换中,由字符串(Unicode)生成的字节数组,在构造回字符串时,使用的是正确的编码集合,如果使用的不是正确的编码集合会怎样呢?会正确构造吗?如果不能正确构造能有办法恢复吗?会信息丢失吗? 

下面我们就来看看这种情况,这部分可以说明在某些情况下虽然我们最终正确显示了结果,但其间仍然进行了不正确的转换。 

1)能够正确显示的中间不正确转换 
我们知道String-GBK〉ByteArray-GBK〉String是正确的,但如果我们采用String-GBK〉ByteArray-ISO-8859-1〉String呢?通过测试结果如下: 
String-GBK〉ByteArray-ISO-8859-1〉String:\u0061\u4E2D\u6587(a中文)-〉0x61 0xD6 0xD0 0xCE 0xC4-〉\u0061\u00D6\u00D0\u00CE\u00C4(a????) 

这时我们得到的字符串为?乱码“a????”,但是通过继续转换我们仍然可以复原回正确的字符串“a中文”,过程如下: 
String-GBK〉ByteArray-ISO-8859-1〉String-ISO-8859-1〉ByteArray-GBK〉String 
对 应:\u0061\u4E2D\u6587(a中文)-〉0x61 0xD6 0xD0 0xCE 0xC4-〉\u0061\u00D6\u00D0\u00CE\u00C4(a????)-〉0x61 0xD6 0xD0 0xCE 0xC4-〉\u0061\u4E2D\u6587(a中文) 

也 就是我们在首次构造字符串时,我们用了错误的编码集合得到了错误的乱码,但是我们通过错上加错,再用错误的编码集合获取字节数组,然后再用正确的编码集合 构造,就又恢复了正确的字符串。这时就属于是“能够正确显示的中间不正确转换”。在Jsp页面提交数据处理时常常发生这种情况。 

此外能够正确显示的中间不正确转换还有: 
String-UTF-8〉ByteArray-ISO-8859-1〉String-ISO-8859-1〉ByteArray-UTF-8〉String 
和 
String-UTF-8〉ByteArray-GBK〉String-GBK〉ByteArray-UTF-8〉String 
对 应:\u0061\u4E2D\u6587(a中文)-〉0x61 0xE4 0xB8 0xAD 0xE6%0x96 0x87-〉\u0061\u6D93\uE15F\u6783(a涓枃)-〉0x61 0xE4 0xB8 0xAD 0xE6%0x96 0x87-〉\u0061\u4E2D\u6587(a中文) 

4、编码过程中错误诊断参考 
1)一个汉字对应一个问号 
在通过ISO-8859-1从字符串获取字节数组时,由于一个Unicode转换成一个byte,当遇到不认识的Unicode时,转换为0x3F,这样无论用哪种编码构造时都会产生一个?乱码。 
2)一个汉字对应两个问号 
在通过GBK从字符串获取字节数组时,由于一个Unicode转换成两个byte,如果此时用ISO-8859-1或用UTF-8构造字符串就会出现两个问号。 
若是通过ISO-8859-1构造可以再通过上面所说的错上加错恢复(即再通过从ISO-8859-1解析,用GBK构造); 
若是通过UTF-8构造则会产生Unicode字符"\uFFFD",不能恢复,若再通过String-UTF-8〉ByteArray-GBK〉String,则会出现杂码,如a锟斤拷锟斤拷 
3)一个汉字对应三个问号 
在通过UTF-8从字符串获取字节数组时,由于一个Unicode转换成三个byte,如果此时用ISO-8859-1构造字符串就会出现三个问号;用GBK构造字符串就会出现杂码,如a涓枃。