欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  科技

Linux下将UTF8编码批量转换成GB2312编码的方法

程序员文章站 2023-11-10 09:59:46
在sqlplus中导入UTF8编码的sql脚本就会出现乱码错误,这时就需要将UTF8编码转换成GB2312编码,下面为大家介绍下在Linux下如何进行转换... 14-12-12...

  utf8编码和gb2312编码是有区别的,在sqlplus中导入utf8编码的sql脚本就会出现乱码错误,这时就需要将utf8编码转换成gb2312编码,可是一个个的转换十分麻烦,下面小编就教你如何在linux下将utf8编码批量转换成gb2312编码。

Linux下将UTF8编码批量转换成GB2312编码的方法

  背景

  本人在使用oracle的sqlplus批量导入utf8编码的sql脚本时,由于不了解如何设置让sqlplus识别utf8格式,导致出现乱码、错行等错误,而使工作无法继续,在google无果的情况下只好想办法转换编码。

  由于文件较多,手动转换太麻烦,于是想到用脚本批量转换,幸好网上相关脚本比较多,实现起来唯一的麻烦是utf8的bom标记。

  内容:

  代码如下:

  #!/bin/bash

  for loop in `find 。 -type f -name “*.sql” -print`do

  echo $loop

  mv -f $loop $loop.tmp

  dos2unix $loop.tmp

  file_check_utf8=‘file_check_utf8.log’

  sed -n ‘1l’ $loop.tmp 》$file_check_utf810. if grep ‘^\\357\\273\\277’ $file_check_utf8 》/dev/null 2》&111. then

  echo ‘utf-8 bom’

  sed -n -e ‘1s/^.。。//’ -e ‘w intermediate.txt’ $loop.tmp14. iconv -f utf-8 -t gb2312 -o $loop intermediate.txt15. rm -rf intermediate.txt

  rm -rf $loop.tmp

  elif iconv -f utf-8 -t gb2312 $loop.tmp 》/dev/null 2》&118. then

  echo ‘utf-8’

  iconv -f utf-8 -t gb2312 -o $loop $loop.tmp21. rm -rf $loop.tmp

  else

  echo ‘ansi’

  mv -f $loop.tmp $loop

  fi

  rm -rf $file_check_utf8

  #模拟unix2dos,要求文本文件最后一行必须有换行符28. sed -n -e ‘s/$/\r/g’ -e ‘w ’$loop.tmp $loop29. mv -f $loop.tmp $loop

  done

  #!/bin/bash

  for loop in `find 。 -type f -name “*.sql” -print`do

  echo $loop

  mv -f $loop $loop.tmp

  dos2unix $loop.tmp

  file_check_utf8=‘file_check_utf8.log’

  sed -n ‘1l’ $loop.tmp 》$file_check_utf810. if grep ‘^\\357\\273\\277’ $file_check_utf8 》/dev/null 2》&111. then

  echo ‘utf-8 bom’

  sed -n -e ‘1s/^.。。//’ -e ‘w intermediate.txt’ $loop.tmp14. iconv -f utf-8 -t gb2312 -o $loop intermediate.txt15. rm -rf intermediate.txt

  rm -rf $loop.tmp

  elif iconv -f utf-8 -t gb2312 $loop.tmp 》/dev/null 2》&118. then

  echo ‘utf-8’

  iconv -f utf-8 -t gb2312 -o $loop $loop.tmp21. rm -rf $loop.tmp

  else

  echo ‘ansi’

  mv -f $loop.tmp $loop

  fi

  rm -rf $file_check_utf8

  #模拟unix2dos,要求文本文件最后一行必须有换行符28. sed -n -e ‘s/$/\r/g’ -e ‘w ’$loop.tmp $loop29. mv -f $loop.tmp $loop

  done

  解释

  1.处理utf8的bom,本人没有找到好的办法,最后用sed+grep判断了一下,如果前三个字节是\\357\\273\\277,则文件必定是utf8,用sed去掉这三个字节再转换

  2.为了避免重复或者遗漏,脚本中用iconv对没有bom的文件尝试转换了一把,转换成功说明文件是utf8,否则说明是ansi也就是gb2312

  3.关于最后的sed命令,那是因为本人的系统上没有unix2dos命令,所以进行了模拟,目的是为了方便自己在windows下查看和编辑

  以上就是linux下将utf8编码批量转换成gb2312编码的方法介绍了,转换后就能解决乱码等问题,可使用命令镜像批量转换,你学会了吗?