wujianming-110117

PaddlePaddle推理部署

飞桨推理产品简介

作为飞桨生态重要的一部分,飞桨提供了多个推理产品,完整承接深度学习模型应用的最后一公里。

整体上分,推理产品主要包括如下子产品

 

 

 各产品在推理生态中的关系如下

 

用户使用飞桨推理产品的工作流 如下

  1. 获取一个飞桨的推理模型,其中有两种方法
    1. 利用飞桨训练得到一个推理模型
    2. 用 X2Paddle 工具从第三方框架(比如 TensorFlow 或者 Caffe 等)产出的模型转化
  2. (可选)对模型进行进一步优化, PaddleSlim 工具可以对模型进行压缩,量化,裁剪等工作,显著提升模型执行的速度性能,降低资源消耗
  3. 将模型部署到具体的推理产品上

 

分类:

技术点:

相关文章:

  • 2021-11-21
  • 2021-09-27
  • 2021-09-17
  • 2021-12-07
  • 2021-01-08
  • 2021-09-05
  • 2021-08-06
  • 2021-08-01
猜你喜欢
  • 2021-10-07
  • 2021-09-27
  • 2021-12-04
  • 2021-09-17
  • 2021-08-14
  • 2021-12-31
  • 2021-08-26
相关资源
相似解决方案