psycopg2.ThreadConnectionPool、uWSGI 和 Flask 的并发问题答案

【问题标题】：Concurrrency issue with psycopg2.ThreadConnectionPool, uWSGI and Flaskpsycopg2.ThreadConnectionPool、uWSGI 和 Flask 的并发问题
【发布时间】：2014-12-08 10:24:18
【问题描述】：

我正在使用 Flask、psycopg2 和 uWSGI。我使用psycopg2.ThreadConnectionPool 进行数据库连接池，只有cursor.callproc 用于查询数据库。

问题：有时，在并发请求期间，过程调用结果会混淆，代码正在查询procedure_1，但正在获取procedure_2 的结果（反之亦然另一个并发客户端）。即使在uwsgi.ini 中有threads=1，也只有processes 用于并发。将psycopg2.ThreadConnectionPool 的maxconn 设置为1。如果在uwsgi.ini 中将processes 设置为1，问题就消失了

什么会导致问题？

这是重现问题的简化代码：

Flask 应用：

#!/usr/bin/env python
# -*- coding: utf-8 -*-
import contextlib

import flask
import psycopg2
import psycopg2.pool


app = flask.Flask(__name__)


class ThreadConnectionPool(psycopg2.pool.ThreadedConnectionPool):

    @contextlib.contextmanager
    def item(self):
    close = True
    connection = self.getconn()
    connection.autocommit = True
    try:
        yield connection
        close = False
    finally:
        self.putconn(connection, close=close or connection.closed)


pool = ThreadConnectionPool(maxconn=1, minconn=1, **kwargs)  # kwargs are omitted here 

# sp_1 always returns 1, sp_2 always returns 2
EXPECTED = {'sp_1': 1, 'sp_2': 2}


@app.route('/main/', methods=['GET'])
def main_handler():
    procname = flask.request.args['procname']

    with pool.item() as connection:
        cursor = connection.cursor()
        cursor.callproc(procname)

        rows = cursor.fetchall()

        if rows[0][0] == EXPECTED[procname]:
            return 'OK\n'
        else:
            # procedure returned something that it shouldn't return
            return 'ERROR\n'


if __name__ == '__main__':
    app.run()

uwsgi.ini：

[uwsgi]
callable=app
chdir=/path/to/my/project/
module=mymodule
master=True
processes=4 ; if 1, there is no problem
socket=127.0.0.1:9000
threads=1

程序：

-- sp_1
BEGIN
    Return 1;
END;


-- sp_2
BEGIN
    Return 2;
END;

复制（不是每个请求都会发生，而是经常发生）：

curl 'http://mymodule.local/main/?procname=sp_1' & curl 'http://mymodule.local/main/?procname=sp_2'
[1] 10636
ERROR
ERROR
[1]+  Done                    curl 'http://mymodule.local/main/?procname=sp_1'

提前致谢！

【问题讨论】：

标签： python concurrency flask uwsgi psycopg2

【解决方案1】：

您正在初始化 master 中的线程池，在它调用 fork() （生成工人）之后，一切都会被搞砸（除非您管理它）。确保为每个工作人员初始化一次池，或者在 uWSGI 中使用lazy-apps = true 来为每个工作人员加载一次应用程序。

【讨论】：