SEO教程:实操演示教你如何写好网站robots

前言

写好网站robots,有助于网页的的快速收录,其次能节省网站的资源。在网站上线之前,就规划好我们要重点收录的页面,对应写好robots。

目录

01.前提:规划栏目

02.robots的针对性

03.实操演示

最后的话

01 前提:规划栏目

在网站上线之前,我们要进行关键词分析,确定我们的主词,短语词,长尾词。

然后建立词库规划栏目开始布局这些词。布局好以后,下一步就是撰写网站抓爬协议robots。

但在书写robots之前,必须有明确的目标。这个目标就是栏目规划。当我们规划好栏目以后,自然就明白,哪些栏目是要蜘蛛抓取的,哪些是不要蜘蛛抓取的。

02 robots的针对性

写robots必须针对性书写,不能乱写。乱写会给站内SEO优化带来一些小麻烦,得不偿失。

那么如何针对性的书写robots呢?我们以一个传统企业的官网:【鹰吉派】举例。

鹰吉派官网

SEO教程:实操演示教你如何写好网站robots

这个网站首页中布局了9个关键词,前6个都与业务相关没有任何问题。后面3个就有问题了,问题出在哪里呢?我们看它的网站地图。这样写在一定程度上影响了排名。并且存在2个问题

鹰吉派官网robots.txt

SEO教程:实操演示教你如何写好网站robots

抓取对象多会非常耗费蜘蛛与服务器资源

SEO教程:实操演示教你如何写好网站robots

1.抓取对象太多,且权重易分散

2.没有明确抓取的重心

那么如何书写呢?我们第03节细讲。

要明确抓取重心

SEO教程:实操演示教你如何写好网站robots

03 实操演示

1、减少抓取对象

前面讲到栏目规划,这里我们看到了9个栏目,最后的三个栏目是废物,必须要屏蔽掉。让蜘蛛明确抓取前6个栏目即可,正确书写如下。

屏蔽后面三个栏目

SEO教程:实操演示教你如何写好网站robots

2、没有明确收录的重心

蜘蛛抓取网站数据有一个特殊爱好。它的抓取方式是:从左往右,从上到下。

因此把你最想收录的页面给它做一个抓取提示,它看到你的提示,它就有了大致的抓取方向,抓起来就更高效,更快捷。

提示让它抓这6个页面

SEO教程:实操演示教你如何写好网站robots

最后修改robots如下,检查完毕上传网站根目录即可。

修改后的官网robots.txt

SEO教程:实操演示教你如何写好网站robots

上图中,我明确写出了6个页面是给蜘蛛6个建议。但在这里我建议你根据自己业务的实际情况只写一个。

这个页面可以是网站中最核心的那个页面,它可以是单页面,也可以是栏目页,也可以是聚合页。具体请以实际情况为主,不要生搬硬套。

SEO教程:实操演示教你如何写好网站robots

最后的话

网站robots与站内SEO优化的关系比较特别。它并不直接影响SEO优化,但会间接产生副作用。

在网站上线以前,就要处理好它与站内SEO之间的关系。书写规范是必须的,一定要写好。

由于互联网数据的缓存关系,robots上传以后的生效期是1-3天左右。并不是立刻生效。

在1-3天内,蜘蛛不会按照robots协议进行抓取。当1-3天缓存更新以后,蜘蛛才会按照协议去抓取。

其次每个搜索引擎的生效时间各有不同,存在差异。这点请在实战中仔细观测。

做一个有趣的人,再见巴郎!

-END-

文章标题:SEO教程:实操演示教你如何写好网站robots

文章链接:http://www.tanglang360.com/2021022014574964276.html

转载声明:本文内容,来自于网络,不代表【螳个里个螂】立场,分享目的仅供大家学习和参考,本站不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证或承诺,请读者仅作参考。

免责声明:如有侵权,请邮件80164590@qq.com,予以删除。

发表评论

登录后才能评论