【问题标题】:15 million static files shared via NFS通过 NFS 共享 1500 万个静态文件
【发布时间】:2013-04-24 22:54:36
【问题描述】:

从同事那里得到了一个建议的解决方案,为永远(几乎永远不会)更新的文件设置缓存层。目前,Ruby 应用程序必须从数据库中获取内容、呈现页面并为每个请求提供服务,但在 Akamai CDN 中缓存图像/css/js 除外。

当网站上有 5K 用户时,性能很差。

建议的解决方案是一次生成 1500 万个静态页面 (4T),存储在 NFS 服务器上的单个目录中,然后在 9 个 Apache/Phusion-Passenger 服务器之间共享,并将 Apache 设置为从挂载的 NFS 共享中提供静态内容。

除了最初的 1500 万个文件外,每天还会生成 8K 个静态文件并添加到 NFS 中

虽然,我不认为这是一个好的解决方案,并且不喜欢实施此解决方案并查看 Varnish 以缓存大多数访问的文章,但我想知道其他人对提议的解决方案与 varnish 的看法。

问题:

  • 在 Linux (CentOS) 的单个目录中可以存储 1500 万个文件 (4T)
  • 这么大的目录可以通过 NFS 共享吗?会稳定吗
  • 可以将 1500 万个文件存储在散列目录中吗?还是坏主意?
  • NFS 共享是否有最大文件限制?

提前感谢您的建议。

【问题讨论】:

标签: html caching static varnish nfs


【解决方案1】:

你可以试试 GlusterFS。

首先按类别划分您的文章。然后将它们存储到 GlusterFS 目录,例如: /mnt/articles/category1/201304/20130424/{a lot of files}

我有一个 6 节点的 GlusteFS 集群来存储日志文件。目前它有8T+文件,每天增加30G+没有任何问题。

【讨论】:

    猜你喜欢
    • 2012-05-09
    • 1970-01-01
    • 1970-01-01
    • 2018-08-22
    • 2017-01-20
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多