【简介】         顾名思义，自动混合精度即在使用Pytorch进行网络训练/推理时由程序根据用户输入的option_level的值来…

【背景】 最近接触了Transformer(s)，但是受制于GPU显存，batch_size调不大，不能很好地复现原始的code，机缘巧合下，看到了Apex这个好东西（trick）。也看到不少的复现代码用到了这个tric…

    转眼归家一周余。假期正好赶上病毒肆虐。不知何时是头。老实待家里定几个目标（发<zhuang>blog<13>）温故知新吧。 【算法】 1、时间复杂度…

【背景】         2019-6-16日13时，小明正催我搞数据集。突然QQ验证消息消息弹出。是来自数统学院的一名妹子的请求，当即同意…