欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

txt文档乱码怎么修复(手机txt文件打开乱码修复方法)

程序员文章站 2023-11-13 21:34:04
web 开发过程中,相信大家都遇到过附件下载的场景,其中,各浏览器下载后的文件名中文乱码问题或许一度让你苦恼不已。网上搜索一下,大部分都是通过request headers中的useragent字段来...

web 开发过程中,相信大家都遇到过附件下载的场景,其中,各浏览器下载后的文件名中文乱码问题或许一度让你苦恼不已。

网上搜索一下,大部分都是通过request headers中的useragent字段来判断浏览器类型,根据不同的浏览器做不同的处理,类似下面的代码:

// microsoft browser
if (agent.contains("msie") || agent.contains("trident") || agent.contains("edge")) {
  // filename 特殊处理
}
// firefox
else if (agent.contains("firefox")) {
  // filename 特殊处理
}
// safari
else if (agent.contains("safari")) {
  // filename 特殊处理
}
// chrome
else if (agent.contains("chrome")) {
  // filename 特殊处理
}
// 其他
else{
 // filename 特殊处理
}
//最后把特殊处理后的文件名放到head里
response.setheader("content-disposition",
                    "attachment;filename=" + filename);

不过,这样的代码看起来很魔幻,为什么每个浏览器的处理方式都不一样?难道每次新出一个浏览器都要做兼容吗?就没有一个统一标准来约束一下这帮浏览器吗?

带着这个疑惑,我翻阅了 rfc 文档,最终得出了一个优雅的解决方案:

// percentencodedfilename 为百分号编码后的文件名
response.setheader("content-disposition",
        "attachment;filename=" + percentencodedfilename +
        ";filename*=utf-8''" + percentencodedfilename);

经过测试,这段响应头可以兼容市面上所有主流浏览器,由于是 http 协议范畴,所以语言无关。只要按这个规则设置响应头,就能一劳永逸地解决恼人的附件名中文乱码问题。

接下来课代表带大家抽丝剥茧,通过阅读 rfc 文档,还原一下这个响应头的产出过程。

1. content-disposition

一切要从 rfc 6266 开始,在这份文档中,介绍了content-disposition响应头,其实它并不属于http标准,但是因为使用广泛,所以在该文档中进行了约束。它的语法格式如下:

content-disposition = "content-disposition" ":"
                            disposition-type *( ";" disposition-parm )

     disposition-type    = "inline" | "attachment" | disp-ext-type
                         ; case-insensitive
     disp-ext-type       = token

     disposition-parm    = filename-parm | disp-ext-parm

     filename-parm       = "filename" "=" value
                         | "filename*" "=" ext-value

其中的disposition-type有两种:

  • inline 代表默认处理,一般会在页面展示
  • attachment 代表应该被保存到本地,需要配合设置filename或filename*

注意到disposition-parm中的filename和filename*,文档规定:这里的信息可以用于保存的文件名。

它俩的区别在于,filename 的 value 不进行编码,而filename*遵从 rfc 5987中定义的编码规则:

producers must use either the "utf-8" ([rfc3629]) or the "iso-8859-1" ([iso-8859-1]) character set.

由于filename*是后来才定义的,许多老的浏览器并不支持,所以文档规定,当二者同时出现在头字段中时,需要采用filename*,忽略filename。

至此,响应头的骨架已经呼之欲出了,摘录 [rfc 6266] 中的示例如下:

 content-disposition: attachment;
                      filename="euro rates";
                      filename*=utf-8''%e2%82%ac%20rates

这里对filename*=utf-8”%e2%82%ac%20rates做一下说明,这个写法乍一看可能会觉得很奇怪,它其实是用单引号作为分隔符,将等号右边分成了三部分:第一部分是字符集(utf-8),中间部分是语言(未填写),最后的%e2%82%ac%20rates代表了实际值。对于这部分的组成,在rfc 2231.section 4 中有详细说明:

 a single quote is used to
   separate the character set, language, and actual value information in
   the parameter value string, and an percent sign is used to flag
   octets encoded in hexadecimal.

2.percentencode

percentencode 又叫 percent-encoding 或 url encoding.

正如前文所述,filename*遵守的是[rfc 5987] 中定义的编码规则,在[rfc 5987] 3.2中定义了必须支持的字符集:

recipients implementing this specification
must support the character sets "iso-8859-1" and "utf-8".

并且在[rfc 5987] 3.2.1规定,百分号编码遵从 rfc 3986.section 2.1中的定义,摘录如下:

a percent-encoding mechanism is used to represent a data octet in a
component when that octet's corresponding character is outside the
allowed set or is being used as a delimiter of, or within, the
component.  a percent-encoded octet is encoded as a character
triplet, consisting of the percent character "%" followed by the two
hexadecimal digits representing that octet's numeric value.  for
example, "%20" is the percent-encoding for the binary octet
"00100000" (abnf: %x20), which in us-ascii corresponds to the space
character (sp).  section 2.4 describes when percent-encoding and
decoding is applied.

注意了,[rfc 3986] 明确规定了空格 会被百分号编码为%20

而在另一份文档 rfc 1866.section 8.2.1 the form-urlencoded media type 中却规定:

the default encoding for all forms is `application/x-www-form-
   urlencoded'. a form data set is represented in this media type as
   follows:

        1. the form field names and values are escaped: space
        characters are replaced by `+', and then reserved characters
        are escaped as per [url]

这里要求
application/x-www-form-urlencoded类型的消息中,空格要被替换为+,其他字符按照[url]中的定义来转义,其中的[url]指向的是rfc 1738 而它的修订版中和 url 有关的最新文档恰恰就是 [rfc 3986]

这也就是为什么很多文档中描述空格(white space)的百分号编码结果都是 +或%20,如:

w3schools:url encoding normally replaces a space with a plus (+) sign or with %20.

mdn:depending on the context, the character ‘ ‘ is translated to a ‘+’ (like in the percent-encoding version used in an application/x-www-form-urlencoded message), or in ‘%20’ like on urls.

那么问题来了,开发过程中,对于空格符的百分号编码我们应该怎么处理?

课代表建议大家遵循最新文档,因为 [rfc 1866] 中定义的情况仅适用于
application/x-www-form-urlencoded类型, 就百分号编码的定义来说,我们应该以 [rfc 3986] 为准,所以,任何需要百分号编码的地方,都应该将空格符 百分号编码为%20,* 上也有支持此观点的答案:when to encode space to plus (+) or %20?

3. 代码实践

有了理论基础,代码写起来就水到渠成了,直接上代码:

@getmapping("/downloadfile")
public string download(string serverfilename, httpservletrequest request, httpservletresponse response) throws ioexception {

    request.setcharacterencoding("utf-8");
    response.setcontenttype("application/octet-stream");

    string clientfilename = fileservice.getclientfilename(serverfilename);
    // 对真实文件名进行百分号编码
    string percentencodedfilename = urlencoder.encode(clientfilename, "utf-8")
            .replaceall("\+", "%20");

    // 组装contentdisposition的值
    stringbuilder contentdispositionvalue = new stringbuilder();
    contentdispositionvalue.append("attachment; filename=")
            .append(percentencodedfilename)
            .append(";")
            .append("filename*=")
            .append("utf-8''")
            .append(percentencodedfilename);
    response.setheader("content-disposition",
            contentdispositionvalue.tostring());
    
    // 将文件流写到response中
    try (inputstream inputstream = fileservice.getinputstream(serverfilename);
         outputstream outputstream = response.getoutputstream()
    ) {
        ioutils.copy(inputstream, outputstream);
    }

    return "ok!";
}

代码很简单,其中有两点需要说明一下:

  1. urlencoder.encode(clientfilename, “utf-8”)方法之后,为什么还要.replaceall(“\+”, “%20″)。正如前文所述,我们已经明确,任何需要百分号编码的地方,都应该把 空格符编码为 %20,而urlencoder这个类的说明上明确标注其会将空格符转换为+:the space character ” ” is converted into a plus sign “{@code +}”.其实这并不怪 jdk,因为它的备注里说明了其遵循的是application/x-www-form-urlencoded( php 中也有这么一个函数,也是这么个套路)translates a string into {@code application/x-www-form-urlencoded} format using a specific encoding scheme. this method uses the所以这里我们用.replaceall(“\+”, “%20”) 把+号处理一下,使其完全符合 [rfc 3986] 的百分号编码规范。这里为了方便说明问题,把所有操作都展现出来了。当然,你完全可以自己实现一个percentencoder类,丰俭由人。
  2. [rfc 6266] 标准中filename=的value是不需要编码的,这里的filename=后面的 value 为什么要百分号编码?回顾 [rfc 6266] 文档, filename和filename*同时出现时取后者,浏览器太老不支持新标准时取前者。目前主流的浏览器都采用自升级策略,所以大部分都支持新标准——除了老版本ie。老版本的ie对 value 的处理策略是 进行百分号解码 并使用。所以这里专门把filename=的value进行百分号编码,用来兼容老版本 ie。ps:课代表实测 ie11 及 edge 已经支持新标准了。

4. 浏览器测试

根据下图 statcounter 统计的 2019 年中国市场浏览器占有率,课代表设计了一个包含中文,英文,空格的文件名 下载-down test .txt用来测试

txt文档乱码怎么修复(手机txt文件打开乱码修复方法)

测试结果:

browser version pass
chrome 84.0.4147.125 true
uc v6.2.4098.3 true
safari 13.1.2 true
qq browser 10.6.1(4208) true
ie 7-11 true
firefox 79.0 true
edge 44.18362.449.0 true
360安全浏览器12 12.2.1.362.0 true
edge(chromium) 84.0.522.59 true

根据测试结果可知:基本已经能够兼容市面上所有主流浏览器了。

5.总结

回顾本文内容,其实就是浏览器兼容性问题引发的附件名乱码,为了解决这个问题,查阅了两类标准文档:

  1. http 响应头相关标准[rfc 6266]、[rfc 1866]
  2. 编码标准[rfc 5987]、[rfc 2231]、[3986]、[1738]

我们以 [rfc 6266] 为切入点,全文总共引用了 6 个 [rfc] 相关文档,引用都标明了出处,感兴趣的同学可以跟着文章思路阅读一下原文档,相信你会对这个问题有更深入的理解。文中代码已上传 github

最后不禁要感叹一下:规范真是个好东西,它就像 java 语言中的 interface,只制定标准,具体实现留给大家各自发挥。