关于如何设置robots.txt文件浅谈

一个合格的网站，有必要在根目录下包括一下robots.txt文件，这个文件的效果对悉数运营网站的朋友来说并不陌生，网上也供应了很多制作 robots.txt文件的方法和软件，可谓恰当便当。可是，你真的知道网站的robots.txt文件设置是不是合理，哪些文件或许目录需要屏蔽、哪些设 置方法对网站运营有利益?

那下面带着这些疑问，笔者会进行具体的答复，希望对菜鸟站长朋友们有所帮忙，老鸟勿喷。

一、啥是robots.txt

笔者引证baidu站长东西中后段话来阐明。查找引擎运用spider程序自动访问互联网上的页面并获取页面信息。spider在访问一个网站时，会首先会 查看该网站的根域下是不是有一个叫做 robots.txt的纯文本文件，这个文件用于指定spider在您网站上的抓取计划。您可以在您的网站中创立一个robots.txt，在文件中声明 该网站中不想被查找引擎录入的有些或许指定查找引擎只录入特定的有些。

二、robots.txt文件对网站有啥利益

1、快速添加网站权重和访问量;

2、阻遏某些文件被查找引擎索引，可以节省服务器带宽和网站访问速度;

3、为查找引擎供应一个简洁明了的索引环境

三、哪些网站的目录需要运用robots.txt文件阻遏抓取

1)、图画目录

图画是构成网站的首要构成元素。跟着现在搭站越来越便当，很多cms的出现，真实做到了会打字就会建网站，而恰是因为如此便当，网上出现了很多的同质 化模板网站，被重复运用，这么的网站查找引擎是一定不喜爱的，就算是你的网站被录入了，那你的效果也是很差的。假定你非要用这种网站的话，建议你应当在 robots.txt文件中进行屏蔽，通常的网站图画目录是：imags 或许 img;

2)、网站模板目录

如上面 图画目录 中所说，cms的强大和活络，也致使了很多同质化的网站模板的出现和乱用，高度的重复性模板在查找引擎中构成了一种冗余，且模板文件常常与生成文件高度相 似，一样易构成一样内容的出现。对查找引擎很不友善，严峻的直接被查找引擎打入冷宫，不得翻身，很多cms有具有独立的模板存放目录，因而，应当进行模板 目录的屏蔽。通常模板目录的文件目录是：templets

3)、css、js目录的屏蔽

css目录文件在查找引擎的抓取中没有用处，也无法供应有价值的信息。所以剧烈建议站长朋友们在robots.txt文件中将其进行屏蔽，以跋涉查找 引擎的索引质量。为查找引擎供应一个简洁明了的索引环境更易行进网站友善性。css样式的目录通常情况下是：css 或许 style

js文件在查找引擎中无法进行辨认，这儿只是建议，可以对其进行屏蔽，这么做也有一个利益：为查找引擎供应一个简洁明了的索引环境;

4)、屏蔽双页面的内容

这儿拿dedecms来举例吧。咱们都知道dedecms可以运用静态和动态url进行同一篇内容的访问，假定你生成全站静态了，那你有必要屏蔽动态地 址的url衔接。这儿有两个利益：1、查找引擎对静态的url比动态的url更友善、更简略录入;2、避免静态、动态url能访问同一篇文章而被查找引擎 判为重复内容。这么做对查找引擎友善性来说是有益无害的。

5)、模板缓存目录

很多cms程序都有缓存目录，这种缓存目录的利益我想不用说咱们也了解了吧，可以十分有用的行进网站的访问速度，减少网站带宽，对用户体会也是极好 的。不过，这么的缓存目录也有一定的缺点，那就是会让查找引擎进行重复的抓取，一个网站中内容重复也是大祭，对网站百害而无一利。很多运用cms搭站的朋 友都没有留心到，有必要要致使注重。

6)被删去的目录

死链过多，对查找引擎优化来说，是丧身的。不能不致使站长的高度注重，。在网站的打开过程中，目录的删去和调整是不行避免的，假定你的网站其时目录不 存在了，那有必要对此目录进行robots屏蔽，并回来精确的404过错页面(留心：在iis中，有的朋友在设置404过错的时分，设置存在疑问，在自定义 过错页面一项中，404过错的精确设置应当是挑选：默认值 或许 文件，而不应该是：url，以避免查找引擎回来200的状况码。至于怎么设置，网上教程很多，咱们要吧查找一下)

这儿有一个争议性的疑问，关于网站后台处理目录是不是需要进行屏蔽，正本这个可有可无。在能确保网站安全的情况下，假定你的网站运营计划较小，就算网站 处理目录出现在robots.txt文件中，也没有多大疑问，这个我也见过很多网站这么设置的;但假定你的网站运营计划较大，竞争夺手过多，剧烈建议千万 别出现任何你网站后台处理目录的信息，以防被存心不良的人运用，损害你的利益;正本查找引擎越来越智能，关于网站的处理目录仍是能极好的辨认，并扔掉索引 的。其他，咱们在做网站后台的时分，也可以在页面元标签中添加：进行查找引擎的屏蔽抓取。

究竟，需要阐明一点，很多站长朋友喜爱把站点地图地址放在robots.txt文件中，当然这儿并不是去屏蔽查找引擎，而是让查找引擎在初度索引网 站的时分便能通过站点地图快速的抓取网站内容。这儿需要留心一下：1、站点地图的制作一定要规范;2、网站一定要有高质量的内容。

本文来自-资产之家www.zichanzhijia.com