# http://www.hc360.com # 按照robots.txt的标准写法,规定一些不允许爬虫爬的页面或目录。 # robots.txt 的写法参照 # ----------------------------------------------------------------------------- User-agent: * Disallow: /indextest/ Disallow: /test/ Disallow: /index4.htm Disallow: /ReviewHC/