robots.txt 使用技巧--松江网站建设，松江企业网站建设，松江网站制作，松江企业网站制作，松江网站改版，松江企业网站改版，松江网站制作维护，松江企业网站制作维护，松江网站建设公司,松江企业网站建设公司

建站动态

我们提供的服务内容有

松江网站建设
松江企业网站
团购网站建设
营销网站建设
网站建设公司
网站建设
企业网站建设
动态网站建设
网站建设服务
网站建设专家
购物网站建设
专业网站优化

robots.txt 使用技巧
1. 每当用户试图访问某个不存在的URL 时，服务器都会在日志中记录404 错误（无法找到文件）。每当搜索蜘蛛来寻找并不存在的robots.txt 文件时，服务器也将在日志中记录一条404 错误，所以你应该在网站中添加一个robots.txt。 2. 网站管理员必须使蜘蛛程序远离某些服务器上的目录——保证服务器性能。比如：大多数网站服务器都有程序储存在“cgi-bin”目录下，因此在 robots.txt 文件中加入“Disallow: /cgi-bin”是个好主意，这样能够避免将所有程序文件被蜘蛛索引，可以节省服务器资源。一般网站中不需要蜘蛛抓取的文件有：后台管理文件、程序脚本、附件、数据库文件、编码文件、样式表文件、模板文件、导航图片和背景图片等等。下面是VeryCMS 里的robots.txt 文件： User-agent: * Disallow: /admin/ 后台管理文件 Disallow: /require/ 程序文件 Disallow: /attachment/ 附件 Disallow: /images/ 图片 Disallow: /data/ 数据库文件 Disallow: /template/ 模板文件 Disallow: /css/ 样式表文件 Disallow: /lang/ 编码文件 Disallow: /script/ 脚本文件 3. 如果你的网站是动态网页，并且你为这些动态网页创建了静态副本，以供搜索蜘蛛更容易抓取。那么你需要在robots.txt 文件里设置避免动态网页被蜘蛛索引，以保证这些网页不会被视为含重复内容。 4. robots.txt 文件里还可以直接包括在sitemap 文件的链接。就像这样： Sitemap: http://www.shwebseo.com/sitemap.xml 目前对此表示支持的搜索引擎公司有Google, Yahoo, Ask and MSN。而中文搜索引擎公司，显然不在这个圈子内。这样做的好处就是，站长不用到每个搜索引擎的站长工具或者相似的站长部分，去提交自己的sitemap 文件，搜索引擎的蜘蛛自己就会抓取robots.txt 文件，读取其中的sitemap 路径，接着抓取其中相链接的网页。 5. 合理使用robots.txt 文件还能避免访问时出错。比如，不能让搜索者直接进入购物车页面。因为没有理由使购物车被收录，所以你可以在robots.txt 文件里设置来阻止搜索者直接进入购物车页面。
上一篇： robots.txt 的语法格式下一篇： robots.txt 用法举例