继续上一篇帖子。其实我想写的东西实在的是太多了。所以会写的比较慢。

1.关于FP16和FP32.

一直以来我以为FP16只针对神经棒使用,CPU和GPU应该是使用FP32.但是我查了相关信息后,发现FP16在GPU环境下运行更为完美。FP32在GPU上反而更慢。

2.执行结果的差异:

FP16概率有时候会低于FP32.但是概率低到可以忽略不计,我这个是计算人是否蹲下来。上面是FP32的概率,下面是富婆16的概率。

同一个模型,不管在CPU和GPU识别结果是一致的。

可以看到0.713和0.712.这个差距几乎可以忽略。而且很多的识别概率dou

openVino +windows+GPU/CPU 运行_2 ( FP16和FP32差距)

3.关于GPU和CPU的消耗

openVino +windows+GPU/CPU 运行_2 ( FP16和FP32差距)

我之前安装事GPU后面安装的CPU.可以看到他是呼应起来的。GPU用的多CPU用的少。CPU用的多,GPU用的少。

不过相对于tensorflow上英伟达的GPU使用率。实在太低了。英伟达的GPU使用率是98%

4.所使用的时间

不同电脑其实答案是不同的。我只能拿我自己的电脑做总结。大家就不要以我的为参考啦。

       CPU:Intel Core i7-7700T CPU  2.90GHz
       GPU: Intel HD  Graphics 630

       视频总长度 1分52秒 每秒25帧 约2800帧。

       速度GPU使用FP16模型<CPU使用FP32模型<GPU使用FP32模型.

       每帧耗费时间 :18ms<20ms<24ms

 

 

 

相关文章:

  • 2021-12-20
  • 2021-12-14
  • 2021-04-18
  • 2021-06-19
  • 2021-12-28
  • 2021-08-29
  • 2021-09-29
  • 2022-12-23
猜你喜欢
  • 2021-06-25
  • 2021-11-18
  • 2021-08-28
  • 2021-04-08
  • 2022-12-23
  • 2021-11-20
  • 2021-11-21
相关资源
相似解决方案