【问题标题】:Writing to Oracle: TypeError: expecting string or bytes object写入 Oracle:TypeError:期望字符串或字节对象
【发布时间】:2022-01-07 22:58:09
【问题描述】:

我一直对此感到头疼。我正在尝试将 51 列的 65000+ 行推送到 oracle DB,但我最终收到类型错误。有没有办法可以找出这个错误来自哪一列,以便我可以调试。

另一个问题 - python 数据框中的数据类型“对象”可以在 Oracle 中读取为“数字”Dtype 吗?

Traceback (most recent call last):

  File "c:\users\so-go- activating strategic people capability - deliverable files\ finance\codes-to_use\s1_3_supply_forecasting_input_revamped.py", line 160, in <module>
    hcar.to_sql('HISTORICAL_HCAR', engine, if_exists='append', index=False,schema='HIM_PA_EXTERN_PROD_FIN',dtype=dtyp)

  File "C:\ProgramData\Anaconda3-2020.11\lib\site-packages\pandas\core\generic.py", line 2605, in to_sql
    sql.to_sql(

  File "C:\ProgramData\Anaconda3-2020.11\lib\site-packages\pandas\io\sql.py", line 589, in to_sql
    pandas_sql.to_sql(

  File "C:\ProgramData\Anaconda3-2020.11\lib\site-packages\pandas\io\sql.py", line 1398, in to_sql
    table.insert(chunksize, method=method)

  File "C:\ProgramData\Anaconda3-2020.11\lib\site-packages\pandas\io\sql.py", line 830, in insert
    exec_insert(conn, keys, chunk_iter)

  File "C:\ProgramData\Anaconda3-2020.11\lib\site-packages\pandas\io\sql.py", line 747, in _execute_insert
    conn.execute(self.table.insert(), data)

  File "C:\ProgramData\Anaconda3-2020.11\lib\site-packages\sqlalchemy\engine\base.py", line 1011, in execute
    return meth(self, multiparams, params)

  File "C:\ProgramData\Anaconda3-2020.11\lib\site-packages\sqlalchemy\sql\elements.py", line 298, in _execute_on_connection
    return connection._execute_clauseelement(self, multiparams, params)

  File "C:\ProgramData\Anaconda3-2020.11\lib\site-packages\sqlalchemy\engine\base.py", line 1124, in _execute_clauseelement
    ret = self._execute_context(

  File "C:\ProgramData\Anaconda3-2020.11\lib\site-packages\sqlalchemy\engine\base.py", line 1316, in _execute_context
    self._handle_dbapi_exception(

  File "C:\ProgramData\Anaconda3-2020.11\lib\site-packages\sqlalchemy\engine\base.py", line 1514, in _handle_dbapi_exception
    util.raise_(exc_info[1], with_traceback=exc_info[2])

  File "C:\ProgramData\Anaconda3-2020.11\lib\site-packages\sqlalchemy\util\compat.py", line 182, in raise_
    raise exception

  File "C:\ProgramData\Anaconda3-2020.11\lib\site-packages\sqlalchemy\engine\base.py", line 1256, in _execute_context
    self.dialect.do_executemany(

  File "C:\ProgramData\Anaconda3-2020.11\lib\site-packages\sqlalchemy\dialects\oracle\cx_oracle.py", line 1182, in do_executemany
    cursor.executemany(statement, parameters)

TypeError: expecting string or bytes object

【问题讨论】:

  • 请注意,您的有责任将其从 65K 行 * 51 列归结为 2 * 2,同时得到相同的错误。将其发布为可重现的示例

标签: python pandas oracle sqlalchemy cx-oracle


【解决方案1】:

很遗憾,Oracle 不会告诉您是哪一列导致了错误。所以这是一个 Python / cx_Oracle 问题,而不是真正的 Oracle 问题。我假设当您说“数据框”时,您的意思是 Pandas 数据框,而不是 PySpark/Dask/Veux/etc。

several similar questions 关于 Pandas 数据帧的此错误。问题通常是 Pandas 数据框列有一个 dtype,但行不必都匹配该类型 - object 列将允许每行中有不同的类型。

# example - an int, a float, and a str in the same column
pd.DataFrame([12, np.NaN, 'hi'], columns=['ABC'])

当您(或 sqlalchemy)使用 executemany() 时,所有行都必须具有相同的匹配列类型集。

You can check the types in a single column 使用:

df['ABC'].map(type)

因此,您可以通过以下方式一次检查数据框中的所有列:

df.applymap(type).nunique()

其中显示每列包含的类型数量。任何 > 1 的列都可能会导致此错误。在发送到 Oracle 之前使用 df['ABC'].astype(str)df['ABC'].fillna('') 修复它。

【讨论】:

  • 这正是我所需要的,知道从哪里开始以及如何开始。感谢您提供详细信息。我能够在 python 数据框中找到数据类型问题。问题是一列中有 2 种不同类型的数据类型
猜你喜欢
  • 2019-01-27
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2017-04-18
  • 2022-01-04
  • 2019-10-31
  • 1970-01-01
  • 1970-01-01
相关资源
最近更新 更多