深度学习学习——提升GPU的利用率(Volatile GPU-Util)
·
除去网上介绍的那些方法,如测试一个合适的num_worker,或者设置pin_memory为true以外,还有一些方法,比如这里有几个工具是专门用来测试GPU的使用情况的,如pytorch下的工具包
TORCH.UTILS.BOTTLENECK
还有英伟达官方提供的一个工具包:
PyProf
除此之外,pytorch的另一个工具:
PyTorch Profiler
也可以来做这个事情
此外,这里有一个别的更强的工具,我感觉说不定是破局的方法,
感谢大佬提供的解决方案
DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐



所有评论(0)