老师您好 关于gpt2的推理加速问题
来源:10-33 GPT与Bert与课程总结
慕移动3558637
2022-08-09
老师gpt2中文相关的模型训练 导出onnx用onnxruntime加速推理 有相关的教程推荐吗 或者是有其他什么好的加速方案 对于自己训练出来的 用hungging face文档的onnx好像不支持导出 现在比较疑惑 训练得到的model 是怎么样的一个导出方式 请老师解答下疑惑 谢谢老师了
写回答
1回答
-
正十七
2022-08-11
同学,问题超出课程范围啦。onnx GPT2老师也没用过。
012022-08-12
相似问题