【问题标题】:Advantages of keeping to a protocol for a data model遵守数据模型协议的优势
【发布时间】:2010-11-03 04:45:32
【问题描述】:

问题标题可能不正确,因为我的部分问题是尝试对问题有更多了解。

我正在寻找确保导入数据库的数据(简单示例:Excel 表到 Access 数据库)应该使用相同的架构并且也应该对业务需求有效的优势。

我有一个不包含规范化数据的 Excel 表和一个包含规范化表的 Access 数据库。

Excel 表格来自多个第三方,没有一个与彼此或数据库保持相同的格式。

一些来源也没有提供所有相关数据。

可以提供的示例

contact_key、date、contact_title、reject_name、reject_cost、count_of_unique_contact

count_of_unique_contact 源自不同的contact_title,不应导入。 有时不提供contact_key。 标题有时是未知的,并以“n/a”、“name = ??1342”、“#N/A”等方式传入,相当随机。 reject_name 经常拼写错误。 有时甚至不提供这些字段,例如date 和 contact_key 丢失。

我正在尝试查找信息来帮助解释上述问题。 仅与不正确的数据或字段相关的问题使得数据库中难以获得有用的数据,例如在未提供日期的情况下无法报告一个月内拒绝成本的趋势。规范化 excel 文件对我来说不是一个可用的选项。

要求 Excel 文件中的值和字段与业务需求相匹配,并且每个发送它们的第三方的格式都相同是我想要做的,但该请求被置若罔闻。

我想向客户解释,输入虚假数据并一直检查无效/现有的拒绝/联系是错误的,如果没有持续维护糟糕的系统,这样做会失败,或者充其量是困难的。

有人知道这个问题的任何信息吗?

谢谢

【问题讨论】:

    标签: database excel protocols relational datamodel


    【解决方案1】:

    这是一个常见的问题;这在数据处理圈中被称为“垃圾进,垃圾出”。从本质上讲,您遇到的问题是给定的数据质量很差;您正确地认识到问题在于很难(如果不是不可能的话)使用这些数据来提取任何有用的信息。

    某种程度上,这是一个应该从源头上解决的问题;无论您的数据来源是什么,他们都需要确信数据质量必须提高。在短期内,您可以清理您的数据;该术语是指删除或清理坏条目以使其余数据(“好”数据)可导入数据库。根据您的数据有多少百分比是坏的,您可能会也可能无法在导入后对已清理的数据做有用的事情。

    在某些时候,由于您没有得到管理层关于数据质量的关注,您只需向他们表明系统没有按预期运行,因为数据质量很差。他们需要在那时改进他们的流程,以提高您在那时获得的数据的质量。不过,在那之前,请继续争取更好的数据;调查清理数据的过程,看看你能用剩下的数据做什么。祝你好运!

    【讨论】:

    • 生成我们过去称为“编辑报告”的内容,说明哪些数据未通过验证,这是 IT 中一种常见且长期存在的做法。一定要让管理层清楚哪些数据是坏的,然后一定不要使用坏数据。如果您还可以保存仅包含错误数据的文件,并将其附加到发送给管理层的电子邮件中,那么这可能会有所帮助。
    • 非常好;编辑报告是一个特别好的主意,可以向管理层传达数据实际上有多糟糕......
    • 感谢您的回复,很好地使用了关键字来帮助我。我认为我的问题也会因为数据源是随机的,它们的值无效。我实际上已经进入了为无效值添加表格的步骤,其中表格中的每个项目都与有效表格有关系。然后编写了一个宏,以便将无效值替换为正确值。这是一个手动过程,当他们与每个月的错误内容不一致时,就会变得很困难。
    • 我面临的另一个问题是客户希望我通过检查没有放入重复的联系人来清理这些数据。但是当一些第三方没有发送联系人密钥或姓名时,他们希望这会起作用。我正在处理每个文件中的 10 列数据和平均 15000 行,因此即使 10% 不正确,也可以快速完成大量工作。
    • @Pricey:我建议询问客户他们希望您如何检查重复的联系人,并继续深入了解细节,直到他们为您布置了整个算法;一旦你掌握了它,它要么很容易实现,要么会非常复杂,以至于他们会理解为什么以良好的形式获取数据很重要。
    猜你喜欢
    • 1970-01-01
    • 2014-08-18
    • 1970-01-01
    • 1970-01-01
    • 2022-12-18
    • 2017-10-16
    • 1970-01-01
    • 2022-08-21
    • 1970-01-01
    相关资源
    最近更新 更多