如何让搜索引擎抓取AJAX内容解决方案
越来越多的网站,开始采用"单页面结构"(single-page application)。
整个网站只有一张网页,采用ajax技术,根据用户的输入,加载不同的内容。
这种做法的好处是用户体验好、节省流量,缺点是ajax内容无法被搜索引擎抓取。举例来说,你有一个网站。
http://example.com
用户通过井号结构的url,看到不同的内容。
http://example.com#1 http://example.com#2 http://example.com#3
但是,搜索引擎只抓取example.com,不会理会井号,因此也就无法索引内容。
为了解决这个问题,google提出了"井号+感叹号"的结构。
http://example.com#!1
当google发现上面这样的url,就自动抓取另一个网址:
http://example.com/?_escaped_fragment_=1
只要你把ajax内容放在这个网址,google就会收录。但是问题是,"井号+感叹号"非常难看且烦琐。twitter曾经采用这种结构,它把
http://twitter.com/ruanyf
改成
http://twitter.com/#!/ruanyf
结果用户抱怨连连,只用了半年就废除了。
那么,有没有什么方法,可以在保持比较直观的url的同时,还让搜索引擎能够抓取ajax内容?
我一直以为没有办法做到,直到前两天看到了discourse创始人之一的robin ward的解决方法,不禁拍案叫绝。
discourse是一个论坛程序,严重依赖ajax,但是又必须让google收录内容。它的解决方法就是放弃井号结构,采用 history api。
所谓 history api,指的是不刷新页面的情况下,改变浏览器地址栏显示的url(准确说,是改变网页的当前状态)。这里有一个例子,你点击上方的按钮,开始播放音乐。然后,再点击下面的链接,看看发生了什么事?
地址栏的url变了,但是音乐播放没有中断!
history api 的详细介绍,超出这篇文章的范围。这里只简单说,它的作用就是在浏览器的history对象中,添加一条记录。
window.history.pushstate(state object, title, url);
上面这行命令,可以让地址栏出现新的url。history对象的pushstate方法接受三个参数,新的url就是第三个参数,前两个参数都可以是null。
window.history.pushstate(null, null, newurl);
目前,各大浏览器都支持这个方法:chrome(26.0+),firefox(20.0+),ie(10.0+),safari(5.1+),opera(12.1+)。
下面就是robin ward的方法。
首先,用history api替代井号结构,让每个井号都变成正常路径的url,这样搜索引擎就会抓取每一个网页。
example.com/1 example.com/2 example.com/3
然后,定义一个javascript函数,处理ajax部分,根据网址抓取内容(假定使用jquery)。
function anchorclick(link) {
var linksplit = link.split('/').pop();
$.get('api/' + linksplit, function(data) {
$('#content').html(data);
});
}
再定义鼠标的click事件。
$('#container').on('click', 'a', function(e) {
window.history.pushstate(null, null, $(this).attr('href'));
anchorclick($(this).attr('href'));
e.preventdefault();
});
还要考虑到用户点击浏览器的"前进 / 后退"按钮。这时会触发history对象的popstate事件。
window.addeventlistener('popstate', function(e) {
anchorclick(location.pathname);
});
定义完上面三段代码,就能在不刷新页面的情况下,显示正常路径url和ajax内容。
最后,设置服务器端。
因为不使用井号结构,每个url都是一个不同的请求。所以,要求服务器端对所有这些请求,都返回如下结构的网页,防止出现404错误。
<html>
<body>
<section id='container'></section>
<noscript>
... ...
</noscript>
</body>
</html>
仔细看上面这段代码,你会发现有一个noscript标签,这就是奥妙所在。
我们把所有要让搜索引擎收录的内容,都放在noscript标签之中。这样的话,用户依然可以执行ajax操作,不用刷新页面,但是搜索引擎会收录每个网页的主要内容!
上一篇: 黑客怎样入侵Linux系统
下一篇: Linux DHCP协议实现过程