mysql/Java服务端对emoji的支持与问题解决方法详解

本文实例讲述了mysql java服务端对emoji的支持与问题解决方法。分享给大家供大家参考，具体如下：

问题描述

将底层抓取的微博数据存入mysql，有些数据存入失败，查看tomcat后，核心错误信息如下：

// 抛出字符集不支持的异常
sql.sqlexception: incorrect string value: '\xf0\x9f\x98\x97\xf0\x9f...' for column 'content' at row 1

原因分析

• mysql 5.5 之前， utf8 编码只支持1~3个字节，即bmp这部分的unicode编码区(基本就是0000~ffff这一区)。
• emoji表情是4个字节，而mysql的utf8编码最多3个字节，所以导致数据插不进去
• 5.5之后，mysql加入utf8mb4编码，可支持4个字节，即一个字符最多能有4字符，因此utf8mb4编码可支持更多的字符集。
• 因此，如果项目要存储移动产品的用户文本，必须将db字符集从utf8/gbk等传统字符集升级到utf8mb4

【注】

• utf8mb4兼容utf8，且比utf8能表示更多的字符。所以将db字符集从utf8或gbk等传统字符集升级到utf8mb4时不用担心字符的兼容性问题

解决方法

过滤特殊的表情符

content = content.replaceall("[\\x{10000}-\\x{10ffff}]", "");// 简单粗暴，不人性化

升级数据库字符集

1、utf8mb4支持的mysql版本为5.5.3+,若mysql低于该版本请先升级

2、修改database、table和column字符集

3、修改mysql配置文件my.cnf(windows为my.ini)，my.cnf一般在etc/mysql/目录下，找到后在以下三部分里添加如下内容：

[client] default-character-set = utf8mb4

[mysql] default-character-set = utf8mb4

[mysqld]
character-set-client-handshake = false
character-set-server = utf8mb4
collation-server = utf8mb4_unicode_ci
init_connect='set names utf8mb4'

4、重启mysql并查看字符集

在mysql命令行输入：

show variables where variable_name like 'character_set_%' or variable_name like 'collation%';

重启之前的字符集

重启之后的字符集

【注】

• 必须保证以下字段为utf8mb4
  • character_set_client
  • character_set_connection
  • character_set_database
  • character_set_results
  • character_set_server

以上4步完成后，利用mysql客户端navicat在表中手动加入emoji表情⛄，若能保存成功说明数据库已升级成功。

这些字符集配置的具体区别参考 深入mysql字符集设置

5、检查服务器端db配置文件

// 配置spring时使用的链接如下：
url="jdbc:mysql://localhost:3306/gzhou?allowmultiqueries=true&useunicode=true&zerodatetimebehavior=converttonull&transformedbitisboolean=true&autoreconnect=true&autoreconnectforpools=true&failoverreadonly=false&maxreconnects=10"
// 若characterencoding=utf8mb4，插入数据时报错caused by: java.sql.sqlexception: unsupported character encoding 'utf8mb4'
// 去掉characterencoding或characterencoding=utf8

emoji表情

android系统中，搜狗、百度输入法自带emoji表情。

【注】

如果系统之间emoji表情符号不兼容，只能看到方块；