【简介】 顾名思义,自动混合精度即在使用Pytorch进行网络训练/推理时由程序根据用户输入的option_level的值来…
分类:【杂七杂八】
【文档搬运】Nvidia Apex入门-介绍与安装
【背景】 最近接触了Transformer(s),但是受制于GPU显存,batch_size调不大,不能很好地复现原始的code,机缘巧合下,看到了Apex这个好东西(trick)。也看到不少的复现代码用到了这个tric…
【2020年话】假期目标
转眼归家一周余。假期正好赶上病毒肆虐。不知何时是头。老实待家里定几个目标(发<zhuang>blog<13>)温故知新吧。 【算法】 1、时间复杂度…
【伪技术向】一次跟传销组织斗智斗勇的经历
【背景】 2019-6-16日13时,小明正催我搞数据集。突然QQ验证消息消息弹出。是来自数统学院的一名妹子的请求,当即同意…