详谈PHP编码转换问题
最近恰好要用到unicode编码的转换,就去查了一下php的库函数,居然没找到一个函数可以对字符串进行unicode的编码和解码!也罢,找不到的话就自己实现一下了。。。
unicode和utf-8编码的区别
unicode是一个字符集,而utf-8是unicode的其中一种,unicode是定长的都为双字节,而utf-8是可变的,对于汉字来说unicode占有的字节比utf-8占用的字节少1个字节。unicode为双字节,而utf-8中汉字占三个字节。
utf-8编码字符理论上可以最多到6个字节长,然而16位bmp(basic multilingual plane)字符最多只用到3字节长。下面看一下
utf-8编码表:
u-00000000 - u-0000007f: 0xxxxxxx u-00000080 - u-000007ff: 110xxxxx 10xxxxxx u-00000800 - u-0000ffff: 1110xxxx 10xxxxxx 10xxxxxx u-00010000 - u-001fffff: 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx u-00200000 - u-03ffffff: 111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx u-04000000 - u-7fffffff: 1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
xxx 的位置由字符编码数的二进制表示的位填入, 越靠右的 x 具有越少的特殊意义,只用最短的那个足够表达一个字符编码数的多字节串。 注意在多字节串中, 第一个字节的开头"1"的数目就是整个串中字节的数目。而第一行中以0开头,是为了兼容ascii编码,为一个字节,第二行就为双字节字符串,第三行为3字节,如汉字就属于这种,以此类推。(个人认为:其实我们可以简单的把前面的1的个数看成字节数)
unicode怎么转换成utf-8呢
为了要将unicode转换为utf-8,当然要知道他们的区别到底在什么地方。下面来看一下,在unicode中的编码是怎样转换成utf-8的,在utf-8中,如果一个字符的字节小于0x80(128)则为ascii字符,占一个字节,可以不用转换,因为utf-8兼容ascii编码。假如在unicode中汉字“你”的编码为“u4f60”,把它转换为二进制为100111101100000,然后按照utf-8的方法进行转换。可以将unicode二进制从低位往高位取出二进制数字,每次取6位,如上述的二进制就可以分别取出为如下所示的格式,前面按格式填补,不足8位用0填补。
utf-8: 11100100,10111101,10100000 e4bda0
从上面就可以很直观的看出unicode到utf-8之间的转换,当然知道了utf-8的格式后,就可以进行逆运算,就是按照格式把它在二进制中的相应位置上取出,然后在转换就是所得到的unicode字符了(这个运算可以通过“位移”来完成)。如上述的“你”的转换,由于其值大于0x800小于0x10000,因此可以判断为三字节存储,则最高位需要向右移“12”位再根据三字节格式的最高位为11100000(0xe0)求或(|)就可以得到最高位的值了。同理第二位则是右移“6”位,则还剩下最高位和第二位的二进制值,可以通过与111111(0x3f)求按位于(&)操作,再和11000000(0x80)求或(|)。第三位就不用移位了,只要直接取最后六位(与111111(ox3f)取&),在与11000000(0x80)求或(|)。
utf-8怎么逆转回unicode呢
当然在utf-8到unicode的转换也是通过移位等来完成的,就是把utf-8那些格式相应的位置的二进制数给揪出来。在上述例子中“你”为三个字节,因此要每个字节进行处理,有高位到低位进行处理。在utf-8中“你”为11100100,10111101,10100000。从高位起即第一个字节11100100就是把其中的"0100"给取出来,这个很简单只要和11111(0x1f)取与(&),由三字节可以得知最到位肯定位于12位之前,因为每次取六位。所以还要将得到的结果左移12位,最高位也就这样完成了0100,000000,000000。而第二位则是要把“111101”给取出来,则只需将第二字节10111101和111111(0x3f)取与(&)。在将所得到的结果左移6位与最高字节所得的结果取或(|),第二位就这样完成了,得到的结果为0100,111101,000000。以此类推最后一位直接与111111(0x3f)取与(&),再与前面所得的结果取或(|)即可得到结果0100,111101,100000。
php代码实现
/** * utf8字符转换成unicode字符 * @param [type] $utf8_str utf-8字符 * @return [type] unicode字符 */ function utf8_str_to_unicode($utf8_str) { $unicode = 0; $unicode = (ord($utf8_str[0]) & 0x1f) << 12; $unicode |= (ord($utf8_str[1]) & 0x3f) << 6; $unicode |= (ord($utf8_str[2]) & 0x3f); return dechex($unicode); } /** * unicode字符转换成utf8字符 * @param [type] $unicode_str unicode字符 * @return [type] utf-8字符 */ function unicode_to_utf8($unicode_str) { $utf8_str = ''; $code = intval(hexdec($unicode_str)); //这里注意转换出来的code一定得是整形,这样才会正确的按位操作 $ord_1 = decbin(0xe0 | ($code >> 12)); $ord_2 = decbin(0x80 | (($code >> 6) & 0x3f)); $ord_3 = decbin(0x80 | ($code & 0x3f)); $utf8_str = chr(bindec($ord_1)) . chr(bindec($ord_2)) . chr(bindec($ord_3)); return $utf8_str; }
测试一下了
$utf8_str = '我'; //这是汉字“你”的unicode编码 $unicode_str = '4f6b'; //输出 6211 echo utf8_str_to_unicode($utf8_str) . "<br/>"; //输出汉字“你” echo unicode_str_to_utf8($unicode_str);
以上这些转换是针对中文汉字【往大了说是非ascii】的测试,因为如果是ascii的话,转来转去都是一样的,也用不着费那么大工夫。
还有就是这两个函数只是简单的实现了一下,只支持单个字符【一个完整的utf8字符或是一个完整的unicode字符】互相转换,大家如果明白了得话就可以尽情去扩展了。。。
以上所述就是本文的全部内容了,希望大家能够喜欢。
上一篇: PHP利用imagick生成组合缩略图