【发布时间】:2016-04-06 19:56:00
【问题描述】:
我想将大型视频文件从 AWS S3 传输到 Popen 的 stdin,从 Python 的角度来看,这是一个“类文件对象”。此代码作为 AWS Lambda 函数运行,因此这些文件不适合内存或本地文件系统。另外,我不想将这些巨大的文件复制到任何地方,我只想流式传输输入,即时处理并流式传输输出。我已经让处理和流输出位工作了。问题是如何获取Popen pipe的输入流。
更新:我整理了一个 short program,它根据评论调用 StreamingBody.read(amt=chunk_size)。程序读取了一些输入文件(一个 mp4 视频)并卡住了,可能是因为数据的使用者 (ffmpeg) 没有实际运行,或者它的 STDIN 缓冲区已填满,整个混乱停止了?
我可以访问 S3 存储桶中的文件:
import boto3
s3 = boto3.resource('s3')
response = s3.Object(bucket_name=bucket, key=key).get()
body = response['Body']
body 是一个botocore.response.StreamingBody,如下所示:
{
u'Body': <botocore.response.StreamingBody object at 0x00000000042EDAC8>,
u'AcceptRanges': 'bytes',
u'ContentType': 'video/mp4',
'ResponseMetadata': {
'HTTPStatusCode': 200,
'HostId': 'aAUs3IdkXP6vPGwauv6/USEBUWfxxVeueNnQVAm4odTkPABKUx1EbZO/iLcrBWb+ZiyqmQln4XU=',
'RequestId': '6B306488F6DFEEE9'
},
u'LastModified': datetime.datetime(2015, 3, 1, 1, 32, 58, tzinfo=tzutc()),
u'ContentLength': 393476644,
u'ETag': '"71079d637e9f14a152170efdf73df679"',
u'Metadata': {'cb-modifiedtime': 'Sun, 01 Mar 2015 01:27:52 GMT'}}
我打算像这样使用body:
from subprocess import Popen, PIPE
Popen(cmd, stdin=PIPE, stdout=PIPE).communicate(input=body)[0]
当然body 需要转换成文件类对象。问题是如何?
【问题讨论】:
标签: python python-2.7 stdin boto3