训练时GPU显存太小问题、batchsize 的大小跟GPU的显存的关系

您所在的位置:网站首页 显存速度和内存速度一样吗 训练时GPU显存太小问题、batchsize 的大小跟GPU的显存的关系

训练时GPU显存太小问题、batchsize 的大小跟GPU的显存的关系

2024-07-12 05:45| 来源: 网络整理| 查看: 265

参考链接:https://blog.csdn.net/lien0906/article/details/78863118

问题:

tensorflow/core/common_runtime/bfc_allocator.cc:661] Chunk at 0x523cd7d00 of size 2048

tensorflow/core/common_runtime/bfc_allocator.cc:661] Chunk at 0x523cd8500 of size 9437184

tensorflow/core/common_runtime/bfc_allocator.cc:661] Chunk at 0x5245d8500 of size 2048

解决:尝试降低网络的深度和宽度、batch size 的大小 

深度学习中神经网络的显存占用,我们可以得到如下公式:

显存占用 = 模型显存占用 + batch_size × 每个样本的显存占用

时间更宝贵,尽可能使模型变快(减少 flop)

显存占用不是和 batch size 简单成正比,模型自身的参数及其延伸出来的数据也要占据显存

batch size 越大,速度未必越快。在你充分利用计算资源的时候,加大 batch size 在速度上的提升很有限

尤其是 batch-size,假定 GPU 处理单元已经充分利用的情况下:

增大 batch size 能增大速度,但是很有限(主要是并行计算的优化)

增大 batch size 能减缓梯度震荡,需要更少的迭代优化次数,收敛的更快,但是每次迭代耗时更长。

增大 batch size 使得一个 epoch 所能进行的优化次数变少,收敛可能变慢,从而需要更多时间才能收敛(比如 batch_size 变成全部样本数目)



【本文地址】


今日新闻


推荐新闻


CopyRight 2018-2019 办公设备维修网 版权所有 豫ICP备15022753号-3