SEO细节robots该屏蔽哪些文件

SEO细节robots该屏蔽哪些文件,第1张

要根据你的网站源代码来确定,屏蔽哪些文件。以dz为例。我的网站是用dz建的。

这个是我的robots.txt设置。更具体的,你直接点击,网址,看。谢谢。

User-agent:

*

Disallow:

/api/

Disallow:

/data/

Disallow:

/source/

Disallow:

/install/

Disallow:

/template/

Disallow:

/config/

Disallow:

/uc_client/

Disallow:

/uc_server/

Disallow:

/static/

Disallow:

/admin.php

Disallow:

/search.php

Disallow:

/member.php

Disallow:

/api.php

Disallow:

/misc.php

Disallow:

/connect.php

Disallow:

/forum.php?mod=redirect*

Disallow:

/forum.php?mod=post*

Disallow:

/home.php?mod=spacecp*

Disallow:

/userapp.php?mod=app&*

Disallow:

/*?mod=misc*

Disallow:

/*?mod=attachment*

Disallow:

/*mobile=yes*

Disallow:

/*home.php*

网页链接

蜘蛛访问任何一个网站时,都会先访问网站根目录下的robots.txt文件。如果robots.txt文件禁止搜索引擎抓取某些文件或目录,蜘蛛将遵守协议,不抓取被禁止的网址

都不抓取,肯定是不会被采集存进百度数据库的


欢迎分享,转载请注明来源:夏雨云

原文地址:https://www.xiayuyun.com/zonghe/544840.html

(0)
打赏 微信扫一扫微信扫一扫 支付宝扫一扫支付宝扫一扫
上一篇 2023-06-27
下一篇2023-06-27

发表评论

登录后才能评论

评论列表(0条)

    保存