【发布时间】:2020-11-06 15:21:25
【问题描述】:
我正在用 pandas 准备一个数据分析程序。用户将数据从 excel 文件传输到程序。从 Excel 文件中提取的列名不断变化。因此,我不知道我将在数据库中记录的列名和数据类型。数据库中如何保存不熟悉类型的数据。我使用的数据库是postqresql。只有理解了逻辑,我才能继续前进。非常感谢。
【问题讨论】:
-
您基本上是在寻找阅读模式。传统的 RDBMS 是写入模式。
-
所以事情的顺序是 Excel --> Pandas --> Postgres,对吗? Pandas 部分正在做什么? Postgres 部分正在做什么?您打算使用
CSV和/或pandas.to_sql进行转移吗? -
可以是任何文件类型。我也可以从数据库中获取数据
-
作为从
CSV到SQL的工具示例,请参见csvsql。它将进行类型推断。 -
如果没有数据来自哪里和去向的流程图,这个问题不会得到任何有用的答案。特别是关于从数据本身推断数据类型的部分。只能说它可以在某种程度上完成,因为
ETL(en.wikipedia.org/wiki/Extract,_transform,_load) 正是基于此。这归结为适当的计划。
标签: python sql pandas postgresql dataframe