Python/psycopg2 中的优雅主键错误处理

Question

使用 Python 2.7 和

在 [150] 中：psycopg2.版本 Out[150]: '2.4.2 (dt dec pq3 ext)'

我有一个简单的 python 脚本来处理事务并将数据写入数据库。偶尔会有一个违反我的主键的插入。这很好，我只是希望它忽略该记录并继续愉快地前进。我遇到的问题是 psycopg2 主键错误正在中止整个事务块，并且错误后的所有插入都失败了。这是一个示例错误

ERROR: duplicate key value violates unique constraint "encounter_id_pkey"
DETAIL:  Key (encounter_id)=(9012235) already exists.

这是在下一个插入。不违规。

Inserting: 0163168~9024065
ERROR: current transaction is aborted, commands ignored until end of transaction block

每次插入都会重复第二个错误。这是一个简化的循环。我正在循环遍历 pandas 数据框，但它可以是任何循环。

conn = psycopg2.connect("dbname='XXXX' user='XXXXX' host='XXXX' password='XXXXX'")

cur = conn.cursor()

for i, val in df2.iteritems():
    try:
        cur = conn.cursor()
        cur.execute("""insert into encounter_id_table (
        encounter_id,current_date  )
        values       
        (%(create_date)s, %(encounter_id)s ) ;""",
        'encounter_id':i.split('~')[1],  
        'create_date': datetime.date.today() })           
        cur.commit()
        cur.close() 
    except Exception , e:
        print 'ERROR:', e[0]
        cur.close()
 conn.close()   

同样，基本思想是优雅地处理错误。在皇家海军纳尔逊上将的格言中：“该死的演习直接针对他们”。或者在我们的例子中，该死的错误直接指向他们。”我想通过在每个插入上打开一个光标，我将重置事务块。我不想仅仅因为主键错误而不得不重置连接。是有什么我遗漏的吗？

感谢您抽出宝贵时间。

约翰

Answer 1

首先：CURRENT_DATE 是每个 SQL 标准以及 PostgreSQL 中的保留字。如果没有双引号，就不能将其用作标识符。我强烈建议不要使用它。在我的示例中，我将该列重命名为 curdate

接下来，我不是 python 语法方面的专家，但您似乎颠倒了插入列的顺序：

(%(create_date)s, %(encounter_id)s )

应该是：

( %(encounter_id)s, %(create_date)s)

对于您的主要问题：您可以通过在插入命令中使用密钥之前检查密钥是否已经在表中来完全避免该问题：

INSERT INTO encounter_id_table (encounter_id, curdate)
SELECT 1234, now()::date
WHERE  NOT EXISTS (SELECT * FROM encounter_id_table t
                   WHERE t.encounter_id = 1234);

在 Python 语法中，应该是：

cur.execute("""INSERT INTO encounter_id_table (encounter_id, curdate)
    SELECT %(encounter_id)s, %(create_date)s,
    WHERE  NOT EXISTS (
           SELECT * FROM encounter_id_table t
           WHERE t.encounter_id = %(encounter_id)s);""",
  {'encounter_id':i.split('~')[1],  
  'create_date': datetime.date.today()})       

Answer 2

您应该在出错时回滚事务。

我在下面的代码中又添加了一个try..except..else 构造，以显示发生异常的确切位置。

try:
    cur = conn.cursor()

    try:
        cur.execute("""insert into encounter_id_table (
            encounter_id,current_date  )
            values       
            (%(create_date)s, %(encounter_id)s ) ;""",
            'encounter_id':i.split('~')[1],  
            'create_date': datetime.date.today() })
    except psycopg2.IntegrityError:
        conn.rollback()
    else:
        conn.commit()

    cur.close() 
except Exception , e:
    print 'ERROR:', e[0]