一.robots:网站和搜索引擎的一个协议
1. 有无robots文件不影响网站程序正常打开;无robots文件影响网站优化;
2. robots生效时间约2个月;
3. 搜索引擎到我们的网站,首先抓取robots.txt
二.robots文件说明
1. 告诉搜索引擎抓取或不抓取我们网站某些内容;
不需要抓取的:主程序、小图标、用户的账号、程序模板等,
2. 告诉搜索引擎我们的网站优化的完善程度;
3. 告诉搜索引擎通过哪个文件来索引我们的网站(逻辑路径);
三. 以上小结是今天的课程(技能特训)
评论前必须登录!
注册