php使用iconv中文截断问题的解决方法_PHP
今天做了一个采集程序,原理很简单,使用curl方法把对方页面的html获取分析,然后正则提取需要的数据并保存在数据库。
由于对方页面是GB2312编码,而本地使用的是UTF-8编码。因此在采集后需要进行编码转换。
使用了iconv方法进行编码转换
iconv — 字符串按要求的字符编码来转换
string iconv ( string $in_charset , string $out_charset , string $str )
将字符串 str 从 in_charset 转换编码到 out_charset 。
转换的方法很简单,直接使用iconv方法就可以了
试验了几个页面,都能正常采集。但在之后的采集中,有几个页面采集不完整。
一开始考虑是否正则有错,检查后排除此问题。经过排查,发现经过iconv转码后的内容比采集的内容少了一大段。
查看apache log,看到提示:Notice: iconv(): Detected an illegal character in input string。
翻查手册,看到以下说明
如果你在 out_charset 后添加了字符串 //TRANSLIT,将启用转写(transliteration)功能。这个意思是,当一个字符不能被目标字符集所表示时,它可以通过一个或多个形似的字符来近似表达。
如果你添加了字符串 //IGNORE,不能以目标字符集表达的字符将被默默丢弃。 否则, str 从第一个无效字符开始截断并导致一个 E_NOTICE 。
原来iconv遇到不能识别的内容,会从第一个不能识别的字符开始截断,并生成一个E_NOTICE。因此后边的内容被丢弃了。
而在输出字符集后加上//IGNORE则只丢弃不能识别的内容,而不会截断和丢弃后面的内容。
修改程序后一切正常
Tips:使用iconv时,如果要使用UTF-8编码的,请使用UTF-8而不要使用UTF8,因为UTF8有些服务器会有问题。
希望本文所述对大家的php程序设计有所帮助。
上一篇: python爬虫防止IP被封的方法
下一篇: Excel文件读取的两种方式
推荐阅读
-
php使用mysql_query查询超大结果集超内存的解决方法,phpmysql_query_PHP教程
-
mysql - php上传含中文名的图片失败问题
-
PHP兑现中文字符的无乱码截断
-
php上传文件中文文件名乱码的解决方法
-
php中使用addslashes函数报错问题的解决方法_PHP
-
php警告Creating default object from empty value 问题的解决方法
-
php插入中文到sqlserver 2008里出现乱码的解决方法
-
使用Yii框架中遇到的三个相关问题_PHP教程
-
解析使用substr截取UTF-8中文字符串出现乱码的问题_PHP
-
PHP连接MSSQL时nvarchar字段长度被截断为255的解决方法