这个是我的robots.txt设置。更具体的,你直接点击,网址,看。谢谢。
User-agent:
*
Disallow:
/api/
Disallow:
/data/
Disallow:
/source/
Disallow:
/install/
Disallow:
/template/
Disallow:
/config/
Disallow:
/uc_client/
Disallow:
/uc_server/
Disallow:
/static/
Disallow:
/admin.php
Disallow:
/search.php
Disallow:
/member.php
Disallow:
/api.php
Disallow:
/misc.php
Disallow:
/connect.php
Disallow:
/forum.php?mod=redirect*
Disallow:
/forum.php?mod=post*
Disallow:
/home.php?mod=spacecp*
Disallow:
/userapp.php?mod=app&*
Disallow:
/*?mod=misc*
Disallow:
/*?mod=attachment*
Disallow:
/*mobile=yes*
Disallow:
/*home.php*
网页链接
蜘蛛访问任何一个网站时,都会先访问网站根目录下的robots.txt文件。如果robots.txt文件禁止搜索引擎抓取某些文件或目录,蜘蛛将遵守协议,不抓取被禁止的网址都不抓取,肯定是不会被采集存进百度数据库的
欢迎分享,转载请注明来源:夏雨云
评论列表(0条)