Goodnotes如何导出到windows电脑

2024-07-06 09:48| 来源: 网络整理| 查看: 265

pytorch | loss不收敛或者训练中梯度grad为None的问题

gtfdjurfgkiffnj: 谢谢博主

pytorch | loss不收敛或者训练中梯度grad为None的问题

Rilkean heart: 首先我会检查“固定参数”的逻辑和语句是否写的正确，这个命令是否错误的固定了全部的参数；其次我会检查我想看的变量是否支持grad查询（即查看是否是叶子结点变量）。你提到的“定义模型的错误”我想应该属于第一个我想检查的错误？如果模型太复杂，看看是否可以删掉一些来测试。

pytorch | loss不收敛或者训练中梯度grad为None的问题

Rilkean heart: 请问你的意思是，只更新模型中的两个参数，模型中的其他参数保持不变的意思吗？

pytorch | loss不收敛或者训练中梯度grad为None的问题

gtfdjurfgkiffnj: 博主您好，请问我自己定义了一个函数将其放置到一个网络模型中然后想要更新其中的两个参数，但目前grad一直为none，参数也不会更新，是定义模型的错误吗

pytorch | loss不收敛或者训练中梯度grad为None的问题

bjerg: 是grad_fn为none，网络中有一步做了atan2运算，导致loss一直上升

【本文地址】

今日新闻