【问题标题】:How do I tell search engines not to index content via secondary domain names?如何告诉搜索引擎不要通过二级域名索引内容?
【发布时间】:2011-03-30 17:38:32
【问题描述】:

我在 a.com 上有一个网站(例如)。我还有几个其他域名,我没有用于任何用途:b.com 和 c.com。他们目前转发到 a.com。我注意到 Google 正在使用 b.com/stuff 和 c.com/stuff 来索引我网站上的内容,而不仅仅是 a.com/stuff。告诉 Google 仅通过 a.com 而不是 b.com 和 c.com 索引内容的正确方法是什么?

似乎通过 htaccess 进行 301 重定向是最好的解决方案,但我不知道该怎么做。只有一个 htaccess 文件(每个域没有自己的 htaccess 文件)。

b.com 和 c.com 并不是 a.com 的别名,它们只是我为未来可能的项目保留的其他域名。

【问题讨论】:

    标签: .htaccess redirect dns search-engine google-index


    【解决方案1】:

    robots.txt 是告诉蜘蛛爬什么和不爬什么的方式。如果您将以下内容放在您网站的根目录 /robots.txt:

    User-agent: *
    Disallow: /
    

    行为良好的蜘蛛不会搜索您网站的任何部分。大多数大型网站都有 robots.txt,例如 google

    User-agent: *
    Disallow: /search
    Disallow: /groups
    Disallow: /images
    Disallow: /news
    #and so on ...
    

    【讨论】:

    • 如果所有域都指向同一个网站,这将不起作用。 a.com 的 robots.txt 与 b.com 的相同。所以他将拒绝所有机器人访问不仅b.com和c.com。还有a.com.
    • 谢谢,但是没有办法在 b.com 上放任何东西 - 它只是一个我保留的域名,它转发到 a.com。
    • @WoLpH,您可以使用 PHP、ASP.NET 等生成 robots.txt 文件,其中它在同一个网站上有两个域,但在这种情况下,shipshape 的最佳选择可能是按照 301另一个答案。
    • 在这一点上,我将把它留给 cmets。 @Jon Hanna,好点。
    • 值得放弃。虽然由于他们稍后详述的原因,另一个答案更适合询问者,但这完全可能是某人救命的谷歌答案:)
    【解决方案2】:

    您可以像这样使用.htaccess 文件简单地创建重定向:

    RewriteEngine on
    RewriteCond %{HTTP_HOST} \.b\.com$ [OR]
    RewriteCond %{HTTP_HOST} \.c\.com$
    RewriteRule ^(.*)$ http://a.com/$1 [R=301,L]
    

    【讨论】:

    • 谢谢,效果很好。我删除了“\。”在 b\.com 和 c\.com 之前,因为我正在重定向到 www.a.com,这样它既适用于 www.b.com,也适用于 b.com。
    【解决方案3】:

    这在很大程度上取决于您想要实现的目标。 301会说内容是永久移动的(而且是正确的PR转移方式),这是你想要达到的吗?

    您希望 Google 表现良好吗?比你可能使用 robots.txt,但请记住有一个缺点:这个文件可以从外部读取,并且每次都位于同一个地方,所以你基本上放弃了你可能想要保护的目录和文件的位置。所以只有在没有什么值得保护的情况下才使用 robots.txt。

    如果有什么值得保护的东西比你应该用密码保护目录,这将是正确的方法。 Google 不会索引受密码保护的目录。

    http://support.google.com/webmasters/bin/answer.py?hl=en&answer=93708

    对于最后一种方法,这取决于您是要使用 httpd.conf 文件还是 .htaccess。最好的方法是使用 httpd.conf,即使 .htaccess 看起来更容易。

    http://httpd.apache.org/docs/2.0/howto/auth.html

    【讨论】:

      【解决方案4】:

      让您的服务器端代码生成一个规范引用,该引用指向被视为“源”的页面。示例 =

      参考: http://googlewebmastercentral.blogspot.com/2009/02/specify-your-canonical.html - 更新:目前 Ask.com、Microsoft Live Search 和 Yahoo! 也支持此链接标签。

      【讨论】:

        猜你喜欢
        • 1970-01-01
        • 2014-06-16
        • 1970-01-01
        • 1970-01-01
        • 2018-04-15
        • 1970-01-01
        • 2015-09-30
        • 1970-01-01
        • 1970-01-01
        相关资源
        最近更新 更多