从另一个线程关闭“Python 请求”连接

Question

为了尽快关闭应用程序，我可以中断来自另一个线程的 requests.post 调用并让它立即终止连接吗？

我玩过适配器，但到目前为止没有运气：

for ad in self.client.session.adapters.values():
    ad.close()

Answer 1

正确的方法是使用消息传递到另一个线程。我们可以通过使用共享全局变量来做一个穷人版本。例如，您可以尝试运行此脚本：

#!/usr/bin/env python
# A test script to verify that you can abort streaming downloads of large
# files.
import threading
import time
import requests

stop_download = False

def download(url):
    r = requests.get(url, stream=True)
    data = ''
    content_gen = r.iter_content()

    while (stop_download == False):
        try:
            data = r.iter_content(1024)
        except StopIteration:
            break

    if (stop_download == True):
        print 'Killed from other thread!'
        r.close()

if __name__ == '__main__':
    t = threading.Thread(target=download, 
                         args=('http://ftp.freebsd.org/pub/FreeBSD/ISO-IMAGES-amd64/9.1/FreeBSD-9.1-RELEASE-amd64-dvd1.iso',)
                        ).start()
    time.sleep(5)
    stop_download = True
    time.sleep(5) # Just to make sure you believe that the message actually stopped the other thread.

在生产环境中执行此操作时，尤其是在您没有 GIL 保护的情况下，您需要更加谨慎地处理消息传递状态，以避免出现尴尬的多线程错误。我将把它留给实施者。

Answer 2

我找到了方法，这里是中断连接的方法

def close():
    time.sleep(5)
    r.raw._fp.close()

t = threading.Thread(target=close).start()
print "getting"
s = requests.Session()
r = s.get("http://download.thinkbroadband.com/1GB.zip", stream = True)
for line in r.iter_content(1024):
    log.debug("got it: %s", len(line))
print "done"

不过这是一个hack，我不喜欢它，私人成员将来可以改变，我回到urllib2

Answer 3

因此，如果您从交互式 shell 执行以下操作，您会发现关闭适配器似乎并没有达到您想要的效果。

import requests
s = requests.session()
s.close()
s.get('http://httpbin.org/get')
<Response [200]>
for _, adapter in s.adapters.items():
    adapter.close()

s.get('http://httpbin.org/get')
<Response [200]>
s.get('https://httpbin.org/get')
<Response [200]>

这看起来可能是请求中的错误，但总的来说，关闭适配器应该会阻止您发出进一步的请求，但我不完全确定它会中断当前正在运行的请求。

查看 HTTPAdapter（它支持标准的 'http://' 和 'https://' 适配器），对其调用 close 将在底层 urrllib3 PoolManager 上调用 clear。从 urllib3 的该方法的文档中您可以看到：

This will not affect in-flight connections, but they will not be
re-used after completion.

因此，从本质上讲，您会看到您无法影响尚未完成的连接。