请求 - 如何流式上传 - 部分文件

Question

我的目标是使用请求对文件的一部分进行 PUT 并流式传输文件（即，不将其加载到内存中然后执行 PUT）。

This page 解释了如何对整个文件执行此操作：

Requests 支持流式上传，允许您发送大量 流或文件而不将它们读入内存。流式传输和 上传，只需为您的 body 提供一个类似文件的对象：

with open('massive-body', 'rb') as f:
    requests.post('http://some.url/streamed', data=f)

但是，就我而言，我只想发送文件的一部分。有没有办法做到这一点？

在概念上，类似于：

with open('massive-body', 'rb') as f:
    requests.post('http://some.url/streamed', data=f.read(chunksize))

Answer 1

根据 Greg 对我的问题的回答，我认为以下方法效果最好：

首先，您需要一些东西来包装打开的文件，以限制可以读取的数据量：

class FileLimiter(object):
    def __init__(self, file_obj, read_limit):
        self.read_limit = read_limit
        self.amount_seen = 0
        self.file_obj = file_obj

        # So that requests doesn't try to chunk the upload but will instead stream it:
        self.len = read_limit

    def read(self, amount=-1):
        if self.amount_seen >= self.read_limit:
            return b''
        remaining_amount = self.read_limit - self.amount_seen
        data = self.file_obj.read(min(amount, remaining_amount))
        self.amount_seen += len(data)
        return data

这应该大致可以作为一个好的包装对象。然后你会像这样使用它：

 with open('my_large_file', 'rb') as file_obj:
     file_obj.seek(my_offset)
     upload = FileLimiter(file_obj, my_chunk_limit)
     r = requests.post(url, data=upload, headers={'Content-Type': 'application/octet-stream'})

标头显然是可选的，但是当将数据流式传输到服务器时，作为一个体贴的用户并告诉服务器您要发送的内容的类型是一个好主意。

Answer 2

我只是将其他 2 个答案放在一起，所以如果它不能开箱即用，请耐心等待 - 我无法测试这个：

Lazy Method for Reading Big File in Python?

http://docs.python-requests.org/en/latest/user/advanced/#chunk-encoded-requests

def read_in_chunks(file_object, blocksize=1024, chunks=-1):
    """Lazy function (generator) to read a file piece by piece.
    Default chunk size: 1k."""
    while chunks:
        data = file_object.read(blocksize)
        if not data:
            break
         yield data
         chunks -= 1

requests.post('http://some.url/chunked', data=read_in_chunks(f))