如何用redis实现“搜索历史”和“自动补全”搜索框
搜索框的附加功能
在日常的web开发中,经常有搜索框功--在一批数据中检索自己需要的数据。现在的百度以及各大电商的搜索框都做得很人性化,主要体现在两个方面:
一、搜索框的“搜索历史”:为了方便用户下次搜索,搜索框通常会提供“搜索历史”功能 即:记录下用户的搜索历史,用户下次点击搜索框就会立即展示你最近的搜索记录列表。如果用户经常搜索的关键字,下次不用手动输入,直接选择即可。
用户的搜索历史相当关键,这是电商网站做“智能推荐”的基石。比如上述搜索列表,反映出三类信息:羽毛球相关、java、汽车周边。根据一系列智能算法 很快就能推算出该用户喜欢的商品。
这个功能即可以方便用户减少输入,又可以衍生出一些新服务,可谓一箭双雕。
二、搜索框的“自动匹配”:当用户输入关键词的头一个或几个字 就会出现一个自动匹配列表,用户直接选择自己想要搜索的关键字即可,不用输入完整的关键词。
上面这个截图来自百度搜索框的“自动匹配”,同时整合了“搜索历史”的功能,其中蓝色的关键词是用户的“搜索历史”。
“搜索历史”和“自动匹配”功能的本质是向前面页面返回一个“关键字列表”, 要实现一个体验好的搜索框,关键就是快速响应页面的获取“关键字列表”请求;否则如果太慢 用户都输入完成了,“关键字列表”还没有刷新出来,这个功能就没有意义了。
百度搜索框 把这两个功能都做到了极致,而且的用户量很庞大,关键词的存储量就更庞大了。百度的具体实现笔者不是很清楚,猜测是通过ES+各种Hash分组实现的。庆幸的是我们不必去实现一个百度,在一个普通的系统里没有太大的用户量和关键词(相对于百度),要实现这两个功能 使用redis就可以完全满足需求了。
采用redis的list实现“搜索历史”
采用redis的list存储每个用户的“搜索历史”列表,存储规则:最近搜索过的关键词的放在最前面(这里有两层含义:最近搜索新关键词、最近搜索老关键词),并且每个用户只保留最近访问过的5个关键词(5个太少,这里只是举例,可以根据自己业务调整)。List对应的key规则为:recent_search_{userId},在redis中存储示意图如下:
本示例采用java的Jedis进行代码实现,要实现这个功能只需要两个方法即可:一个是更新“搜索历史”方法(对应下列updateList方法);一个是匹配“搜索历史”方法(对应下列getAutoMatchs),具体实现如下:
/** * Created by gantianxing on 2017/11/16. */ @Component public class RecentSearchService { @Resource private Jedis redis; /** * 更新搜索历史列表 * @param userId 用户id * @param searchkey 本次搜索关键词 */ public void updateList(Integer userId,String searchkey){ String key = "recent_search_"+userId; //为了保证事务和性能,采用pipeline Pipeline pipeline = redis.pipelined(); pipeline.lrem(key,1,searchkey);//如果该关键词已存在先删除 pipeline.lpush(key, searchkey);//把该关键词放在最顶部(左边) pipeline.ltrim(key, 0, 4);//裁剪list 保留最近的5个关键词 pipeline.sync();//批量提交命令 } /** * 从搜索历史列表中获取匹配的列表 * @param userId * @param pre * @return */ public List<String> getAutoMatchs(Integer userId,String pre){ String key = "recent_search_"+userId; List<String> all = redis.lrange(key,0,-1);//获取该用户对应的“搜索历史列表” if(all == null){ return null; } if(pre!=null && pre.length()>0){ List<String> matchList = new ArrayList<>(); for(String one:all){ //前缀匹配 if(one.startsWith(pre)){ matchList.add(one); } } return matchList;//返回匹配到的“搜索历史列表” }else { return all;//用户还没有输入,就返回所有的“搜索历史列表” } } }
可以看到整个存储和查询都是在redis中进行,性能和效率是mysql等传统数据库无法比拟的。
采用redis的list实现“自动匹配”
在“搜索历史”的实现过程中已经实现了“自动匹配”, 即getAutoMatchs方法,这里只需把每个用户的“搜索历史”列表替换成“关键词词库”。“关键词词库”怎么来,通过一些分词工具分词,然后再归类后通过hash规则放到不同的服务器,百度词库的实现应该采用类似的技术手段。
如果只是一个普通的一个小系统,可以通过手动导入一些与自己系统相关的词库到redis即可。假设现在我们已经把词库导入到redis的list中了(对应key为all_key_words),稍微更下getAutoMatchs方法 就可以实现默认的“自动匹配”:
/** * 从词库列表中获取匹配的列表 * @param pre * @return */ public List<String> getDefaultAutoMatchs(String pre){ String key = "all_key_words"; List<String> all = redis.lrange(key,0,-1);//获取“关键词词库列表” if(all == null){ return null; } if(pre!=null && pre.length()>0){ List<String> matchList = new ArrayList<>(); for(String one:all){ //前缀匹配 if(one.startsWith(pre)){ matchList.add(one); } } return matchList;//返回匹配到的“关键词词库列表” }else { return all;//用户还没有输入,就返回所有的“关键词词库列表” } }
实现起来很简单,但是如果采用list存储“关键词词库列表”,需要注意的是all_key_words对应的“关键词词库列表”中的关键词数量不能太多(如果采用这种方式,建议词库中的数量不要超过100)。如果太多会导致匹配过程相当缓慢,严重影响该功能的性能。
如何优化呢?有两种办法:一、对词库进行分组,把一个list变为多个list,在匹配之前首先确定“关键词”所在的分组;二、采用redis的zset数据结构存储“关键词词库”,zset中每项成员名的存储内容为“关键词”,成员值 score都设置为0,此时zset的排序会按照成员名进行。其实还可以把两种方案合并使用,效果会更好一些 即:首先对词库进行分组,每个分组采用redis的zset数据结构存储。
为什么要使用zset数据结构,因为zset采用了“跳表”结构设计,可以快速的进行范围查询检索。但实用zset存储在进行检索时想对比较复杂:
1、先生成“前缀关键字”对应的起始值。
2、通过zadd命令把起始值插入到zset中。
3、通过zrank命令计算这两个位置的index:start_index、end_index。
4、通过zrem删除步骤2中插入的起始值(它们的作用仅仅为了找到start_index、end_index)。
5、最后通过zrange命令取出这个start_index、 end_index之间的所有 关键字即可。
这里就不再展示但实现,可以根据这个逻辑自行编码。
小结
现在的各大电商网站都有搜索框,而且“搜索历史”和“自动匹配功能”几乎都是标配。另外由于redis中会对搜索记录进行裁剪,一般会在用户搜索时还会进行日志上报,把用户的搜索记录流水全部记录到日志服务器,再通过日志整理汇集到hadoop等大数据平台。最后通过各种算法计算,为用户进行精准推荐,这些数据都是“智能推荐”的基础。
为自己的系统做一个好的搜索框,在增加用户体验的同时,还可以做一些附件的推荐类产品。建议有类似场景的系统,都可以尝试下。
上一篇: 微服务化之----熔断和隔离