【发布时间】:2017-05-14 23:34:27
【问题描述】:
我正在制作我的 robots.txt 文件。但我对如何禁用 Googlebot-Image 有点不安全。我想允许谷歌机器人抓取我的网站,除了我在下面做出的禁止。这是我做的:
User-agent: Googlebot
Disallow:
Disallow: /courses/
Disallow: /portfolio/portfolio-template.php/
User-agent: Googlebot-Image
Disallow:
/images/graphics/erhvervserfaring/
/images/graphics/uddannelse/
sitemap: http://www.example.com/sitemap.xml
User-agent:Googlebot和User-agent: Googlebot-Image是否应该写在一起,所以改成这个?:
用户代理:Googlebot-Image 用户代理:Googlebot 禁止:
Disallow: /courses/
/portfolio/portfolio-template.php/
/images/graphics/erhvervserfaring/
/images/graphics/uddannelse/
【问题讨论】:
-
为什么这个问题我会得到一个减分?
标签: seo web-crawler robots.txt