开源加速Transformer推理的工具！腾讯的第100个开源项目
发布时间：2020-04-27 06:11:21 所属栏目：智能家居 来源：网络整理
导读：以开源撬动未来技术创新之门。
|
TurboTransformers采用了一个有效的内存管理方式。由于NLP的采用变长输入特性，每次运算中间结果的大小其实并不相同。为了避免每次都分配释放内存，该工具的开发团队通过Caching方式管理显存。 （编辑：555手机网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
