老师您好 关于gpt2的推理加速问题

来源:10-33 GPT与Bert与课程总结

慕移动3558637

2022-08-09

老师gpt2中文相关的模型训练 导出onnx用onnxruntime加速推理 有相关的教程推荐吗 或者是有其他什么好的加速方案 对于自己训练出来的 用hungging face文档的onnx好像不支持导出 现在比较疑惑 训练得到的model 是怎么样的一个导出方式 请老师解答下疑惑 谢谢老师了

写回答

1回答

正十七

2022-08-11

同学,问题超出课程范围啦。onnx GPT2老师也没用过。

0
1
慕移动3558637
好的 谢谢老师👨‍🏫
2022-08-12
共1条回复

Google老师亲授 TensorFlow2.0 入门到进阶

Tensorflow2.0实战—以实战促理论的方式学习深度学习

1849 学习 · 896 问题

查看课程