intel吧 关注:748,656贴子:3,108,246
  • 0回复贴,共1

openvino并行、异步处理问题

只看楼主收藏回复

请问有哪位大佬知道openvino的异步推理为什么运行效果和逐一推理的效果是一样的,有什么办法让四个推理同时运行,把GPU占满的方法吗,我Thread和concurrent . futures运行效果也是和逐一推理一样,intel(R) UHD Graphics的占用都是50%-60%,有什么办法让占用率直逼100,加速总体推理速度的办法吗
(Tip:检测结果图像上的文字没参考价值,重点是运行时间)


IP属地:广东来自iPhone客户端1楼2024-06-12 09:49回复