[GH-ISSUE #85] deepseek vl2 tiny模型转onnx #71

Open
opened 2026-10-26 21:11:22 +00:00 by bsakaguchi · 2 comments
Owner

Originally created by @cjjimmy on GitHub (Feb 17, 2025).
Original GitHub issue: https://github.com/deepseek-ai/DeepSeek-VL2/issues/85

deepseek vl2 tiny可以转onnx模型吗,按常规的torch.onnx.export方式生成的onnx架构里只有graph,对应的weight data为空。请问该模型转换是有特殊参数设置还是不能成功转换?如可转换,有没有样例?谢谢

Originally created by @cjjimmy on GitHub (Feb 17, 2025). Original GitHub issue: https://github.com/deepseek-ai/DeepSeek-VL2/issues/85 deepseek vl2 tiny可以转onnx模型吗,按常规的torch.onnx.export方式生成的onnx架构里只有graph,对应的weight data为空。请问该模型转换是有特殊参数设置还是不能成功转换?如可转换,有没有样例?谢谢
Author
Owner

@steven9046 commented on GitHub (Feb 18, 2025):

onnx 最大 2G,你转的这个除了 graph 以外应该还是一堆 weight 文件,你要想把 weight 和 graph 合在一起,就把 transformer 部分切成每一块小于 2G 就可以了

<!-- gh-comment-id:2664525243 --> @steven9046 commented on GitHub (Feb 18, 2025): onnx 最大 2G,你转的这个除了 graph 以外应该还是一堆 weight 文件,你要想把 weight 和 graph 合在一起,就把 transformer 部分切成每一块小于 2G 就可以了
Author
Owner

@corkiyao commented on GitHub (Mar 7, 2025):

deepseek vl2 tiny可以转onnx模型吗,按常规的torch.onnx.export方式生成的onnx架构里只有graph,对应的weight data为空。请问该模型转换是有特殊参数设置还是不能成功转换?如可转换,有没有样例?谢谢

请问你转成功了吗?我也想尝试转onnx

<!-- gh-comment-id:2705768189 --> @corkiyao commented on GitHub (Mar 7, 2025): > deepseek vl2 tiny可以转onnx模型吗,按常规的torch.onnx.export方式生成的onnx架构里只有graph,对应的weight data为空。请问该模型转换是有特殊参数设置还是不能成功转换?如可转换,有没有样例?谢谢 请问你转成功了吗?我也想尝试转onnx
Sign in to join this conversation.
No labels
pull-request
No milestone
No project
No assignees
1 participant
Notifications
Due date
The due date is invalid or out of range. Please use the format "yyyy-mm-dd".

No due date set.

Dependencies

No dependencies set.

Reference
deepseek-ai/DeepSeek-VL2#71
No description provided.