GB码和BIG5码的互换技术
中文与英文用ascii码一个字节表示不同,它使用两个字节来表示。事实上,在文本文件中保存的就是每个汉字对应的两个字节编码,而显示问题由中文操作自动解决。
汉字编码并不统一,我们使用的是gb码,而*地区使用的是big5码。big5码文件中保存的是汉字相应的big5编码,gb码文件中保存的是汉字相应的gb编码。所以转换工作的关键是有一个记录每个big5编码对应gb编码的码表文件。
gb码编码规则是这样的:每个汉字由两个字节构成,第一个字节的范围从0xa1-0xfe,共96种。第二个字节的范围分别为0xa1-0xfe,共96种。利用这两个字节共可定义出 96 * 96=8836种汉字。实际共有6763个汉字。
big5码编码规则是这样的:每个汉字由两个字节构成,第一个字节的范围从0x81-0xfe,共126种。第二个字节的范围分别为0x40-0x7e,0xa1-0xfe,共157种。也就是说,利用这两个字节共可定义出 126 * 157=19782种汉字。这些汉字的一部分是我们常用到的,如一、丁,这些字我们称为常用字,其big5码的范围为0xa440-0xc671,共5401个。较不常用的字,如滥、调,我们称为次常用字,范围为 0xc940-0xf9fe,共7652个,剩下的便是一些特殊字符。
制作码表文件的原理是这样的:首先将所有的gb编码写入一个文件,然后,使用具有gb码到big5码转换功能的软件,如ucdos下的convert.exe,将文件转换为big5码文件,即得到码表文件。
下面的程序可将全部国标码写入文件gb.txt(以下全部程序用foxpro书写,可很容易的转换成其他语言)
fp = fopen("gb.txt",2)
for i=161 to 247
for j=161 to 254
=fwrite(fp,chr(i)+chr(j))
next
=fwrite(fp,chr(13)+chr(10))
next
=fwrite(fp,chr(26))
=fclose(fp)
文件的组织形式:行对应编码的第一字节,列对应编码的第二字节。使用时请注意编码的偏移量,如汉字“啊”gb编码0xb1a1第一字节0xb1(177)第二字节0xa1(161)所以他应该在文件的第(177-161=16)行第((161-161)*2=0)列。
运行convert.exe将gb.txt转换成big5码的文件,这样就可得到按gb码组织的big5码表文件big5.txt。反之亦可得到按big5码组织的gb码表文件。
转换的思路是这样的:(用foxpro书写)
首先将码表文件装入数组
fp = fopen("big5.txt")
i = 0
do while feof(fp)
i = i+1
dime dict[i]
dict[i] = fgets(fp)
enddo
=fclose(fp)
其次将待转换的文本装入变量
create cursor temp (mm m)
append blank
append memo mm from textfilename
text = mm
然后扫描文本,替换所有的gb编码
temp = ""
i = 1
do while i < len(text)
ch = substr(text,i,1)
if isascii(ch) && 若是ascii码
temp = temp+ch
i = i+1
else
ch1 = substr(text,i+1,1)
big5 = substr(dict[asc(ch)-161+1],(asc(ch1)-161)*2+1,2)
temp = temp+big5
i = i+2
endif
enddo
最后将在temp中得到转换后的文本
需要注意的是,在foxpro中数组指针是以1开始,substr函数的起始位>=1。
foxpro大家应该都会,看得懂的。转换好的big5.txt(17k)无法张贴。如有需要,请与我联系。email: czjsz_ah@stats.gov.cn
上一篇: gorm系列-查询