前言
写好网站robots，有助于网页的的快速收录，其次能节省网站的资源。在网站上线之前，就规划好我们要重点收录的页面，对应写好robots。
目录(文1038字)
01.前提：规划栏目
02.robots的针对性
03.实操演示最后的话
01前提：规划栏目
在网站上线之前，我们要进行关键词分析，确定我们的主词，短语词，长尾词。
然后建立词库规划栏目开始布局这些词。布局好以后，下一步就是撰写网站抓爬协议robots。
在《SEO教程：我叫若波茨(robots)，初次见面请多多关照》一文中重点说明了robots的重要性与意义。没读过的朋友，一定先读一下。
但在书写robots之前，必须有明确的目标。这个目标就是栏目规划。当我们规划好栏目以后，自然就明白，哪些栏目是要蜘蛛抓取的，哪些是不要蜘蛛抓取的。
02robots的针对性
写robots必须针对性书写，不能乱写。乱写会给站内SEO优化带来一些小麻烦，得不偿失。
那么如何针对性的书写robots呢？我们以一个传统企业的官网：【鹰吉派】举例。
鹰吉派官网
这个网站首页中布局了9个关键词，前6个都与业务相关没有任何问题。后面3个就有问题了，问题出在哪里呢？我们看它的网站地图。这样写在一定程度上影响了排名。并且存在2个问题
鹰吉派官网robots.txt
抓取对象多会非常耗费蜘蛛与服务器资源
1.抓取对象太多，且权重易分散
2.没有明确抓取的重心
那么如何书写呢？我们第03节细讲。
要明确抓取重心
03实操演示
—01—
减少抓取对象
前面讲到栏目规划，这里我们看到了9个栏目，最后的三个栏目是废物，必须要屏蔽掉。让蜘蛛明确抓取前6个栏目即可，正确书写如下。
屏蔽后面三个栏目
—02—
没有明确收录的重心
蜘蛛抓取网站数据有一个特殊爱好。它的抓取方式是：从左往右，从上到下。
因此把你最想收录的页面给它做一个抓取提示，它看到你的提示，它就有了大致的抓取方向，抓起来就更高效，更快捷。
提示让它抓这6个页面
最后修改robots如下，检查完毕上传网站根目录即可。
修改后的官网robots.txt
上图中，我明确写出了6个页面是给蜘蛛6个建议。但在这里我建议你根据自己业务的实际情况只写一个。
这个页面可以是网站中最核心的那个页面，它可以是单页面，也可以是栏目页，也可以是聚合页。具体请以实际情况为主，不要生搬硬套。
最后的话
网站robots与站内SEO优化的关系比较特别。它并不直接影响SEO优化，但会间接产生副作用。
在网站上线以前，就要处理好它与站内SEO之间的关系。书写规范是必须的，一定要写好。
由于互联网数据的缓存关系，robots上传以后的生效期是1-3天左右。并不是立刻生效。
在1-3天内，蜘蛛不会按照robots协议进行抓取。当1-3天缓存更新以后，蜘蛛才会按照协议去抓取。
其次每个搜索引擎的生效时间各有不同，存在差异。这点请在实战中仔细观测。
做一个有趣的人，再见巴郎！
作者：巴郎
首发：巴郎小站
-END-
作者简介
巴郎:一个有趣的90后小哥哥，传统销售结缘SEO入行互联网，现自由职业佛系青年。
写文不易，觉得不错！
点个“在看”，转给朋友！
欢迎你“关注”，感谢！
长按下图识别二维码关注
做一个有趣的人
由 dawei
【声明】：毕节站长网内容转载自互联网，其相关言论仅代表作者个人观点绝非权威，不代表本站立场。如您发现内容存在版权问题，请提交相关链接至邮箱：bqsm@foxmail.com，我们将及时予以处理。