随便撸(www.suibianlu.com)精品网站源码,织梦建站模版,游戏源代码分享平台
当前位置:网站首页 文章资讯 优化推广 正文

关于如何设置robots.txt文件浅谈

时间:2015-11-28 [优化推广]作者:A5站长网

  一个合格的网站,有必要在根目录下包括一下robots.txt文件,这个文件的效果对悉数运营网站的朋友来说并不陌生,网上也供应了很多制作 robots.txt文件的方法和软件,可谓恰当便当。可是,你真的知道网站的robots.txt文件设置是不是合理,哪些文件或许目录需要屏蔽、哪些设 置方法对网站运营有利益?

  那下面带着这些疑问,笔者会进行具体的答复,希望对菜鸟站长朋友们有所帮忙,老鸟勿喷。

  一、啥是robots.txt

  笔者引证baidu站长东西中后段话来阐明。查找引擎运用spider程序自动访问互联网上的页面并获取页面信息。spider在访问一个网站时,会首先会 查看该网站的根域下是不是有一个叫做 robots.txt的纯文本文件,这个文件用于指定spider在您网站上的抓取计划。您可以在您的网站中创立一个robots.txt,在文件中声明 该网站中不想被查找引擎录入的有些或许指定查找引擎只录入特定的有些。

  二、robots.txt文件对网站有啥利益

  1、快速添加网站权重和访问量;

  2、阻遏某些文件被查找引擎索引,可以节省服务器带宽和网站访问速度;

  3、为查找引擎供应一个简洁明了的索引环境

  三、哪些网站的目录需要运用robots.txt文件阻遏抓取

  1)、图画目录

  图画是构成网站的首要构成元素。跟着现在搭站越来越便当,很多CMS的出现,真实做到了会打字就会建网站,而恰是因为如此便当,网上出现了很多的同质 化模板网站,被重复运用,这么的网站查找引擎是一定不喜爱的,就算是你的网站被录入了,那你的效果也是很差的。假定你非要用这种网站的话,建议你应当在 robots.txt文件中进行屏蔽,通常的网站图画目录是:imags 或许 img;

  2)、网站模板目录

  如上面 图画目录 中所说,CMS的强大和活络,也致使了很多同质化的网站模板的出现和乱用,高度的重复性模板在查找引擎中构成了一种冗余,且模板文件常常与生成文件高度相 似,一样易构成一样内容的出现。对查找引擎很不友善,严峻的直接被查找引擎打入冷宫,不得翻身,很多CMS有具有独立的模板存放目录,因而,应当进行模板 目录的屏蔽。通常模板目录的文件目录是:templets

  3)、CSS、JS目录的屏蔽

  CSS目录文件在查找引擎的抓取中没有用处,也无法供应有价值的信息。所以剧烈建议站长朋友们在Robots.txt文件中将其进行屏蔽,以跋涉查找 引擎的索引质量。为查找引擎供应一个简洁明了的索引环境更易行进网站友善性。CSS样式的目录通常情况下是:CSS 或许 style

  JS文件在查找引擎中无法进行辨认,这儿只是建议,可以对其进行屏蔽,这么做也有一个利益:为查找引擎供应一个简洁明了的索引环境;

  4)、屏蔽双页面的内容

  这儿拿DEDECMS来举例吧。咱们都知道DEDECMS可以运用静态和动态URL进行同一篇内容的访问,假定你生成全站静态了,那你有必要屏蔽动态地 址的URL衔接。这儿有两个利益:1、查找引擎对静态的URL比动态的URL更友善、更简略录入;2、避免静态、动态URL能访问同一篇文章而被查找引擎 判为重复内容。这么做对查找引擎友善性来说是有益无害的。

  5)、模板缓存目录

  很多CMS程序都有缓存目录,这种缓存目录的利益我想不用说咱们也了解了吧,可以十分有用的行进网站的访问速度,减少网站带宽,对用户体会也是极好 的。不过,这么的缓存目录也有一定的缺点,那就是会让查找引擎进行重复的抓取,一个网站中内容重复也是大祭,对网站百害而无一利。很多运用CMS搭站的朋 友都没有留心到,有必要要致使注重。

  6)被删去的目录

  死链过多,对查找引擎优化来说,是丧身的。不能不致使站长的高度注重,。在网站的打开过程中,目录的删去和调整是不行避免的,假定你的网站其时目录不 存在了,那有必要对此目录进行robots屏蔽,并回来精确的404过错页面(留心:在IIS中,有的朋友在设置404过错的时分,设置存在疑问,在自定义 过错页面一项中,404过错的精确设置应当是挑选:默认值 或许 文件,而不应该是:URL,以避免查找引擎回来200的状况码。至于怎么设置,网上教程很多,咱们要吧查找一下)

  这儿有一个争议性的疑问,关于网站后台处理目录是不是需要进行屏蔽,正本这个可有可无。在能确保网站安全的情况下,假定你的网站运营计划较小,就算网站 处理目录出现在robots.txt文件中,也没有多大疑问,这个我也见过很多网站这么设置的;但假定你的网站运营计划较大,竞争夺手过多,剧烈建议千万 别出现任何你网站后台处理目录的信息,以防被存心不良的人运用,损害你的利益;正本查找引擎越来越智能,关于网站的处理目录仍是能极好的辨认,并扔掉索引 的。其他,咱们在做网站后台的时分,也可以在页面元标签中添加:进行查找引擎的屏蔽抓取。

  究竟,需要阐明一点,很多站长朋友喜爱把站点地图地址放在robots.txt文件中,当然这儿并不是去屏蔽查找引擎,而是让查找引擎在初度索引网 站的时分便能通过站点地图快速的抓取网站内容。这儿需要留心一下:

1、站点地图的制作一定要规范;

2、网站一定要有高质量的内容。

转载请注明来源:关于如何设置robots.txt文件浅谈

本文永久链接地址:http://www.suibianlu.com/1191.html

郑重声明:
本站所有内容均由互联网收集整理、网友上传,并且以计算机技术研究交流为目的,仅供大家参考、学习,不存在任何商业目的与商业用途。
若您需要商业运营或用于其他商业活动,请您购买正版授权并合法使用。 我们不承担任何技术及版权问题,且不对任何资源负法律责任。
如无法链接失效或侵犯版权,请给我们来信:admin@suibianlu.com

栏目导航
最新文章
热门文章
  • 你必须知道的22个QQ营销技巧

    你必须知道的22个QQ营销技巧

    网络营销没有永远都有效的方法,网络营销没有永远都不衰败的项目、网络营销没有永远都能使用的软件、网络营销并不存在永远都不被修补的漏洞、也没有永远都能依赖的所谓“数...

  • 2016百度搜索引擎最新算法规则大揭密

    2016百度搜索引擎最新算法规则大揭密

    内容:1、百度进一步提高了自身产物关头字排名的挨次,搜索百度百科、百度地图、百度知道、百度贴吧等属于百度自己的产品。还有就是和百度自己合作的上网站权重也提高了...

  • 二维码推广,有人扫么?给用户一个扫码的理由!

    二维码推广,有人扫么?给用户一个扫码的理由!

    二维码推广,有人扫么?给用户一个扫码的理由!不是所有的二维码都有人扫!呵呵哒。  如何让用户点击自己的网站,对于传统企业网站推广来说...

  • QQ群排名自动吸粉,高手们是这样玩群的

    QQ群排名自动吸粉,高手们是这样玩群的

    为什么别人都可以做成功,我却做不好?其实,无论是在网上还是在线下,不管是在哪个细分领域,二八定律总是存在的,简单的说就是,总会有人做得成功,做得很好,赚大钱,也...

  • 三分钟教你挖掘出9个亿的5位数QQ号,QQ大数据的神秘技能

    三分钟教你挖掘出9个亿的5位数QQ号,QQ大数据的神秘技能

    几天前,一个朋友来聊天,表示很羡慕我的6位QQ号,我说有啥好羡慕的,还有那么多5位号呢!他感叹道:“一个5位号现在值好几万,早知道当初注册个百八十个的话,现在...

Top