【发布时间】:2020-08-25 11:46:37
【问题描述】:
我有一个网站www.example.com。所以当我访问www.example.com/robots.txt 之类的 robots.txt 文件时,它会显示由 SEO 团队创建/准备的多行文本。
所以有一个子域assets.example.com 指向 CloudFront。当我通过 CloudFront URL(如 https://assets.example.com/robtos.txt)访问 robots.txt 文件时,它会在浏览器中显示以下结果。
User-agent: *
Disallow: /
因此存在更新 AWS CloudFront 中的 robots.txt 文件内容的请求,因此 https://assets.example.com/robtos.txt 和 https://www.example.com/robtos.txt 应该显示相同的文本。我没有找到 robots.txt 放置在云端的任何地方。
是否可以在云端更新 robots.txt? CloudFront 在这里有什么作用吗?或者我们需要更新 assets.example.com 的 robots.txt 与为 example.com 配置的相同?
请帮帮我。我在这里很困惑。
【问题讨论】:
-
assets.example.com的出处是什么? -
在 route53 中,
assets.example.com指向 CloudFront,而 CloudFront 指向 S3 存储桶。所以 S3 将是源服务器。其实我没有这个设置我是当前组织的新人。
标签: amazon-web-services web-crawler amazon-cloudfront google-search robots.txt