当前播放

使用GPU的高效视频推理服务

分享者: //

技术标签:

视频介绍

本演讲将主要针对视频推理业务深度模型上线难,线上GPU利用率不高等问题,分享爱奇艺在视频推理服务工程化上的一些实践经验。经过系统优化,使得实际业务模型吞吐量提升了10倍,GPU利用率保持在90%以上。目标听众:采用深度模型进行视频推理的业务工程化团队和性能优化团队。可以从中了解到使用GPU的高效视频推理优化手段及效果,平衡开发效率和性能优化的工程实践。
还可输入800
全部评论
课程推荐

轻松掌握WebAssembly视频播放器

紧抓多媒体生态趋势,将浏览器、WebAssembly和Rust等热点结合;熟知播放器工作原理,为实现商业化H.264/H.265播放器打下坚实基础;课程包含图文、代码、视频,降低学习门槛; 李超精准讲解,及时详细解答