這真的是最惡心的一個(gè)error（比網(wǎng)絡(luò)回傳找哪層沒有傳播到還要惡心！），找了好久的問題所在之處，最后偶然發(fā)現(xiàn)了這篇文章：

解決pytorch半精度amp訓(xùn)練nan問題 - 知乎

?然后發(fā)現(xiàn)自己用的混合精度訓(xùn)練，發(fā)現(xiàn)問題解決問題，謹(jǐn)此記錄，方便查閱。

睡覺，晚安！