【问题标题】:How do I read the entire body of a Tokio-based Hyper request?如何阅读基于 Tokio 的 Hyper 请求的整个正文?
【发布时间】:2017-09-11 05:04:35
【问题描述】:

我想使用 Hyper 的当前 master 分支编写一个服务器,它保存由 POST 请求传递的消息并将该消息发送到每个传入的 GET 请求。

我有这个,主要是从 Hyper 示例目录中复制的:

extern crate futures;
extern crate hyper;
extern crate pretty_env_logger;

use futures::future::FutureResult;

use hyper::{Get, Post, StatusCode};
use hyper::header::{ContentLength};
use hyper::server::{Http, Service, Request, Response};
use futures::Stream;

struct Echo {
    data: Vec<u8>,
}

impl Echo {
    fn new() -> Self {
        Echo {
            data: "text".into(),
        }
    }
}

impl Service for Echo {
    type Request = Request;
    type Response = Response;
    type Error = hyper::Error;
    type Future = FutureResult<Response, hyper::Error>;

    fn call(&self, req: Self::Request) -> Self::Future {
        let resp = match (req.method(), req.path()) {
            (&Get, "/") | (&Get, "/echo") => {
                Response::new()
                    .with_header(ContentLength(self.data.len() as u64))
                    .with_body(self.data.clone())
            },
            (&Post, "/") => {
                //self.data.clear(); // argh. &self is not mutable :(
                // even if it was mutable... how to put the entire body into it?
                //req.body().fold(...) ?
                let mut res = Response::new();
                if let Some(len) = req.headers().get::<ContentLength>() {
                    res.headers_mut().set(ContentLength(0));
                }
                res.with_body(req.body())
            },
            _ => {
                Response::new()
                    .with_status(StatusCode::NotFound)
            }
        };
        futures::future::ok(resp)
    }

}


fn main() {
    pretty_env_logger::init().unwrap();
    let addr = "127.0.0.1:12346".parse().unwrap();

    let server = Http::new().bind(&addr, || Ok(Echo::new())).unwrap();
    println!("Listening on http://{} with 1 thread.", server.local_addr().unwrap());
    server.run().unwrap();
}

如何将req.body()(似乎是Chunks 的Stream)变成Vec&lt;u8&gt;?我假设我必须以某种方式返回一个消耗Stream 的Future 并将其转换为单个Vec&lt;u8&gt;,也许还有fold()。但我不知道该怎么做。

【问题讨论】:

  • How to share mutable state for a Hyper handler? 回答了你一半的问题,所以我重新措辞了你的问题,以专注于独特的方面并帮助避免投票。
  • 感谢您的第一次编辑@Shepmaster。在那之后,它看起来真的很精致。但是,我不喜欢您的第二次编辑。我看不到链接的问题如何回答我的问题。他们甚至没有实现特征服务。
  • 您始终可以从revision list 回滚您不同意的任何编辑或执行进一步的编辑。
  • 好的,那我就为第一个问题开一个新问题。谢谢。
  • 听起来不错。在这种情况下,我还建议您创建一个minimal reproducible example 并使用 Hyper 的发布版本。链接到我上面建议的问题并说明为什么它对您的案例无效也将大有帮助!

标签: rust hyper rust-tokio


【解决方案1】:

我将简化问题,只返回总字节数,而不是回显整个流。

期货 0.3

超 0.13 + TryStreamExt::try_fold

如果您只想将所有数据作为一个巨大的 blob,请参阅 euclio's answer 关于 hyper::body::to_bytes。

访问流允许更细粒度的控制:

use futures::TryStreamExt; // 0.3.7
use hyper::{server::Server, service, Body, Method, Request, Response}; // 0.13.9
use std::convert::Infallible;
use tokio; // 0.2.22

#[tokio::main]
async fn main() {
    let addr = "127.0.0.1:12346".parse().expect("Unable to parse address");

    let server = Server::bind(&addr).serve(service::make_service_fn(|_conn| async {
        Ok::<_, Infallible>(service::service_fn(echo))
    }));

    println!("Listening on http://{}.", server.local_addr());

    if let Err(e) = server.await {
        eprintln!("Error: {}", e);
    }
}

async fn echo(req: Request<Body>) -> Result<Response<Body>, hyper::Error> {
    let (parts, body) = req.into_parts();
    match (parts.method, parts.uri.path()) {
        (Method::POST, "/") => {
            let entire_body = body
                .try_fold(Vec::new(), |mut data, chunk| async move {
                    data.extend_from_slice(&chunk);
                    Ok(data)
                })
                .await;

            entire_body.map(|body| {
                let body = Body::from(format!("Read {} bytes", body.len()));
                Response::new(body)
            })
        }
        _ => {
            let body = Body::from("Can only POST to /");
            Ok(Response::new(body))
        }
    }
}

很遗憾,Bytes 的当前实现不再与TryStreamExt::try_concat 兼容,所以我们不得不切换回折叠。

期货 0.1

超 0.12 + Stream::concat2

从 futures 0.1.14 开始,您可以使用Stream::concat2 将所有数据粘在一起:

fn concat2(self) -> Concat2<Self>
where
    Self: Sized,
    Self::Item: Extend<<Self::Item as IntoIterator>::Item> + IntoIterator + Default, 
use futures::{
    future::{self, Either},
    Future, Stream,
}; // 0.1.25

use hyper::{server::Server, service, Body, Method, Request, Response}; // 0.12.20

use tokio; // 0.1.14

fn main() {
    let addr = "127.0.0.1:12346".parse().expect("Unable to parse address");

    let server = Server::bind(&addr).serve(|| service::service_fn(echo));

    println!("Listening on http://{}.", server.local_addr());

    let server = server.map_err(|e| eprintln!("Error: {}", e));
    tokio::run(server);
}

fn echo(req: Request<Body>) -> impl Future<Item = Response<Body>, Error = hyper::Error> {
    let (parts, body) = req.into_parts();

    match (parts.method, parts.uri.path()) {
        (Method::POST, "/") => {
            let entire_body = body.concat2();
            let resp = entire_body.map(|body| {
                let body = Body::from(format!("Read {} bytes", body.len()));
                Response::new(body)
            });
            Either::A(resp)
        }
        _ => {
            let body = Body::from("Can only POST to /");
            let resp = future::ok(Response::new(body));
            Either::B(resp)
        }
    }
}

您还可以通过entire_body.to_vec() 将Bytes 转换为Vec&lt;u8&gt;,然后将其转换为String。

另见:

超 0.11 + Stream::fold

类似于Iterator::fold,Stream::fold 采用一个累加器(称为init)和一个对累加器和流中的项目进行操作的函数。该函数的结果必须是另一个与原始错误类型相同的未来。总的结果本身就是一个未来。

fn fold<F, T, Fut>(self, init: T, f: F) -> Fold<Self, F, Fut, T>
where
    F: FnMut(T, Self::Item) -> Fut,
    Fut: IntoFuture<Item = T>,
    Self::Error: From<Fut::Error>,
    Self: Sized,

我们可以使用Vec 作为累加器。 Body 的 Stream 实现返回 Chunk。这实现了Deref&lt;[u8]&gt;,因此我们可以使用它将每个块的数据附加到Vec。

extern crate futures; // 0.1.23
extern crate hyper;   // 0.11.27

use futures::{Future, Stream};
use hyper::{
    server::{Http, Request, Response, Service}, Post,
};

fn main() {
    let addr = "127.0.0.1:12346".parse().unwrap();

    let server = Http::new().bind(&addr, || Ok(Echo)).unwrap();
    println!(
        "Listening on http://{} with 1 thread.",
        server.local_addr().unwrap()
    );
    server.run().unwrap();
}

struct Echo;

impl Service for Echo {
    type Request = Request;
    type Response = Response;
    type Error = hyper::Error;
    type Future = Box<futures::Future<Item = Response, Error = Self::Error>>;

    fn call(&self, req: Self::Request) -> Self::Future {
        match (req.method(), req.path()) {
            (&Post, "/") => {
                let f = req.body()
                    .fold(Vec::new(), |mut acc, chunk| {
                        acc.extend_from_slice(&*chunk);
                        futures::future::ok::<_, Self::Error>(acc)
                    })
                    .map(|body| Response::new().with_body(format!("Read {} bytes", body.len())));

                Box::new(f)
            }
            _ => panic!("Nope"),
        }
    }
}

您还可以将Vec&lt;u8&gt; body 转换为String。

另见:

输出

从命令行调用时,我们可以看到结果:

$ curl -X POST --data hello http://127.0.0.1:12346/
Read 5 bytes

警告

所有这些解决方案都允许恶意最终用户发布无限大小的文件,这会导致机器内存不足。根据预期用途,您可能希望对读取的字节数设置某种上限,可能会在某个断点处写入文件系统。

另见:

【讨论】:

  • 您能否解释一下为什么您在 fold 方法中有 futures::future:ok(),尽管您从 type Future = ... 中删除了 FutureResult?
  • @JayStrictor 因为给fold 的闭包需要返回一个未来本身:F: FnMut(T, Self::Item) -&gt; Fut。这使得操作本身需要时间。由于extend_from_slice 是同步的,我们使用future::ok“提升”结果。这与type Future = FutureResult 完全不同,type Future = FutureResult 用作处理程序的返回值(我出于懒惰而将其装箱)。
  • Stream::fold(...) 可以替换为 Stream::concat2(),它做同样的事情。 Chunk 本身就是Extend,所以concat2 的结果将是一个包含整个主体的Chunk。
  • @M.Leonhard 您可能希望对读取的字节数设置某种上限,可能会在某个断点处写入文件系统. — 我的建议是不要写入文件系统,而不仅仅是使用内存,而是在现有上限之外。
【解决方案2】:

Hyper 0.13 为此提供了body::to_bytes function。

use hyper::body;
use hyper::{Body, Response};

pub async fn read_response_body(res: Response<Body>) -> Result<String, hyper::Error> {
    let bytes = body::to_bytes(res.into_body()).await?;
    Ok(String::from_utf8(bytes.to_vec()).expect("response was not valid utf-8"))
}

【讨论】:

  • to_bytes 需要响应 implements HttpBody,因此无需显式调用 into_body()。而Bytes 实现了AsRef&lt;[u8]&gt;,所以可以避免Vec 分配。
【解决方案3】:

有关此主题的大多数答案都已过时或过于复杂。解决方法很简单:

/*
    WARNING for beginners!!! This use statement
    is important so we can later use .data() method!!!
*/
use hyper::body::HttpBody;

let my_vector: Vec<u8> = request.into_body().data().await.unwrap().unwrap().to_vec();
let my_string = String::from_utf8(my_vector).unwrap();

您也可以使用body::to_bytes as @euclio answered。两种方法都是直截了当的!不要忘记正确处理unwrap。

【讨论】:

  • data 被记录为“返回解析到下一个数据块的未来,如果有的话。”,所以我很确定这个答案不正确/不完整。
猜你喜欢
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2017-12-31
  • 2015-12-22
  • 1970-01-01
  • 1970-01-01
相关资源
最近更新 更多