短腿柯某基: 实际打印出来是这个 [[1, 2, 3, 4, 5, 6, 7, 0], [1, 2, 8, 4, 9, 6, 7, 0]] [[8, 1, 2, 3, 4, 5, 10], [8, 1, 2, 6, 7, 5, 10]] [[1, 2, 3, 4, 5, 10, 9], [1, 2, 6, 7, 5, 10, 9]]

CSDN_Shaw: 看示例二的代码，print("参数gamma shape: ", layer_norm.state_dict()['weight'].shape)，结果是10，跟隐藏层的维度一样。说明一个不管你batch多大，有多少个单词，gamma和beta都是hidden size。你可以认为，一个单词由n个特征组成，同个位置的特征gamma和beta共享当然合理啦。

CSDN_Shaw: 震惊，layernorm也有可学习参数

weixin_52316639: 博主你好，第4节一开始的"当你修改param也会相应地修改model.state_dict"，结合第4节最后的”这是他的错误代码“，我觉得前者应该改成当你修改model.state_dict也会修改param，这也和错误代码中保存最后一轮参数相对应

m0_51498554: 找了半天还是up的方法靠谱！！感谢！！