【问题标题】:When is data erased from the OLAP DB?什么时候从 OLAP DB 中删除数据?
【发布时间】:2010-01-21 15:14:41
【问题描述】:

我是 OLAP 新手。

我了解表结构和 ETL 过程。

我不明白什么时候应该从事实表中删除数据。 假设我正在为事件创建一个报告应用程序。每个事件都有完成所需的持续时间、退出代码和读取的总字节数。有几个维度,例如时间和地点。

假设我每天为我的事实表准备 100 万条新记录,总共 1 GB。 如果我的 ETL 过程只将数据添加到我的事实表中,它会无限增长。 我应该什么时候从我的事实表中删除数据?我应该将数据分成几个事实表(例如月表)吗?

有什么经验法则吗?

谢谢

【问题讨论】:

    标签: data-warehouse olap etl


    【解决方案1】:

    历史不应该被删除。

    期间。

    但是,有些人担心每天 1Gb 可能每 3 年变成 1Tb。这实际上并不重要,但有些人仍然喜欢担心存储价格。

    您花在设计数据清除上的时间可能比您试图节省的存储空间更昂贵。

    [我发现 3 个 DBA 和 2 个程序员在讨论如何节省几百 MB。我说我会把他们都开到百思买买一个 500Mb 的磁盘驱动器,把零钱放在我车的地板上。 5位顾问仅仅走进房间讨论的价格已经超过了他们试图“节省”的存储价格。]

    “我们可以总结一下吗?”的问题完全取决于用户。有时你不能有用地总结,所以你也不能轻易删除任何东西。

    有些人会说商业周期是 20 年或类似的时间,并且想要前 20 年的详细信息(在 7Tb 上),然后是之前时间段的摘要。

    【讨论】:

    • “历史永远不应该被删除”amazon.com/Delete-Virtue-Forgetting-Digital-Age/dp/0691138613Delete 着眼于数字时代完美记忆的惊人现象,并揭示了为什么我们必须重新引入我们的遗忘能力。数字技术以前所未有的方式赋予我们力量,但它也产生了无法预料的后果。 Facebook 上可能羞辱的内容被载入网络空间,供未来的雇主看到。 Google 会记住我们搜索过的所有内容以及搜索时间。数字领域会记住有时最好忘记的东西,这具有深远的意义
    • 我认为这个 OLAP 无法与 Facebook 上醉酒的大学照片相提并论。
    【解决方案2】:

    从来没有。您可以使用分区来处理旧记录并将分区移动到不同的驱动器。如果您按日期(月、季度、年)对事实表进行分区,那么出于所有实际目的,您大部分时间都会访问几个最新的分区。

    请记住,DW 属于业务用户而非 IT。不要限制(不要试图假设)业务分析师可能想问的问题——查询 DW。

    【讨论】:

      猜你喜欢
      • 2011-10-16
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2014-10-06
      • 2018-08-06
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多