利用 Robots.txt 优化WordPress站点收录

Robots 协议(也称为爬虫协议、机器人协议等)的全称是“网络爬虫排除标准”(Robots Exclusion Protocol),网站通过 Robots 协议告诉搜索引擎哪些页面可以抓取,哪些页面不能抓取。

搜索引擎机器人访问网站时,首先会寻找站点根目录有没有 robots.txt 文件,如果有这个文件就根据文件的内容确定收录范围,如果没有就按默认访问以及收录所有页面。另外,当搜索蜘蛛发现不存在 robots.txt 文件时,会产生一个404错误日志在服务器上,从而增加服务器的负担,因此为站点添加一个 robots.txt 文件还是很重要的。

知道 Robots 协议的作用后,下面具体说一下 WordPress 站点如何编写 robots.txt 文件。

WordPress 站点默认在浏览器中输入:http://你的域名/robots.txt ,

会显示如下内容:

User-agent: *
Disallow: /wp-admin/
Disallow: /wp-includes/

这是由 WordPress 自动生成的,意思是告诉搜索引擎不要抓取后台程序文件。

但这是远远不够的,比较完整的 WordPress 站点 robots.txt 文件内容如下:

User-agent: *
Disallow: /wp-admin/
Disallow: /wp-content/
Disallow: /wp-includes/
Disallow: /*/comment-page-*
Disallow: /*?replytocom=*
Disallow: /category/*/page/
Disallow: /tag/*/page/
Disallow: /*/trackback
Disallow: /feed
Disallow: /*/feed
Disallow: /comments/feed
Disallow: /?s=*
Disallow: /*/?s=*\
Disallow: /attachment/

Sitemap: https://www.77388.cn/wp-sitemap.xml

使用方法:新建一个名称为 robots.txt 文本文件,将上面的内容放进去,然后上传到网站根目录即可。

下面分别解释一下各项的作用:

利用 Robots.txt 优化WordPress站点收录
利用 Robots.txt 优化WordPress站点收录

星球话题

利用 Robots.txt 优化WordPress站点收录

 

免责说明

本站资源部分来自网友投稿,如有侵犯你的权益请联系管理员或给邮箱发送邮件PubwinSoft@foxmail.com 我们会第一时间进行审核删除。
站内资源为网友个人学习或测试研究使用,未经原版权作者许可,禁止用于任何商业途径!请在下载24小时内删除!


如果遇到评论下载的文章,评论后刷新页面点击对应的蓝字按钮即可跳转到下载页面
本站资源少部分采用7z压缩,为防止有人压缩软件不支持7z格式,7z解压,建议下载7-zip,zip、rar解压,建议下载WinRAR

温馨提示:本站部分付费下载资源收取的费用为资源收集整理费用,并非资源费用,不对下载的资源提供任何技术支持及售后服务。

给TA打赏
共{{data.count}}人
人已打赏
WordPress教程

WordPress使用代码给你的博客添加一个随机看看的功能

2023-5-17 14:21:11

WordPress教程

WordPress代码实现一键获取网站全部链接

2023-5-17 14:57:36

3 条回复 A文章作者 M管理员
  1. u9942202321848019

    你陪我走过的那条街,拥有你的那些时光,都是我现在不敢触及的伤。

  2. u1000707789525313

    我把心都给你了,可是你却把他撕碎,任由风吹散。

  3. Joyable

    开头打动人心,具有真情实感

个人中心
购物车
优惠劵
有新私信 私信列表
搜索