[GH-ISSUE #1107] [Feature] v0.2.4目前只支持Deepseek-V3？ #773

New issue

Open

opened 2026-10-29 14:44:17 +00:00 by bsakaguchi · 3 comments

bsakaguchi commented

2026-10-29 14:44:17 +00:00

Owner

Originally created by @LeviKing98 on GitHub (Apr 10, 2025).
Original GitHub issue: https://github.com/kvcache-ai/ktransformers/issues/1107

检查清单

1. 如果您提出的不是新功能而是问题，请在讨论区发起讨论 https://github.com/kvcache-ai/ktransformers/discussions。否则该 issue 将被关闭
2. 为方便社区交流，我将使用中文/英文或附上英文/中文翻译（如使用其他语言）。未附带翻译的非英文/中文内容可能会被关闭

需求背景

感谢开发组对Ktransformer的付出。

#1072 中指出，Ktransformer v0.2.4目前不支持qwen2moe。

同样的，我尝试了 Deepseek-V2-Chat，有如下报错：
“AttributeError: 'KDeepseekV2ForCausalLM' object has no attribute 'cache'”

我的问题是：
v0.2.4 目前已经支持了哪些模型？
以往版本支持但v0.2.4不支持的模型，是否在近期的开发计划？

相关资源

No response

Originally created by @LeviKing98 on GitHub (Apr 10, 2025). Original GitHub issue: https://github.com/kvcache-ai/ktransformers/issues/1107 ### 检查清单 - [x] 1. 如果您提出的不是新功能而是问题，请在讨论区发起讨论 https://github.com/kvcache-ai/ktransformers/discussions。否则该 issue 将被关闭 - [ ] 2. 为方便社区交流，我将使用中文/英文或附上英文/中文翻译（如使用其他语言）。未附带翻译的非英文/中文内容可能会被关闭 ### 需求背景感谢开发组对Ktransformer的付出。 #1072 中指出，Ktransformer v0.2.4目前不支持qwen2moe。同样的，我尝试了 Deepseek-V2-Chat，有如下报错： “AttributeError: 'KDeepseekV2ForCausalLM' object has no attribute 'cache'” 我的问题是： v0.2.4 目前已经支持了哪些模型？以往版本支持但v0.2.4不支持的模型，是否在近期的开发计划？ ### 相关资源 _No response_

bsakaguchi commented

2026-10-29 14:44:18 +00:00

Author

Owner

@zhaogf01 commented on GitHub (Apr 10, 2025):

我也遇到了这个问题，V2也是报同样的错误，尝试按照报错提示修改之后，会报出更多的模型参数错误，应该就是未支持。
官方可以出个模型支持差异列表嘛

@zhaogf01 commented on GitHub (Apr 10, 2025): 我也遇到了这个问题，V2也是报同样的错误，尝试按照报错提示修改之后，会报出更多的模型参数错误，应该就是未支持。官方可以出个模型支持差异列表嘛

bsakaguchi commented

2026-10-29 14:44:19 +00:00

Author

Owner

@tsdcz commented on GitHub (Apr 10, 2025):

支持+1

@tsdcz commented on GitHub (Apr 10, 2025): 支持+1

bsakaguchi commented

2026-10-29 14:44:19 +00:00

Author

Owner

@vibe-Chen commented on GitHub (Apr 10, 2025):

我也在用0.2.4，而且已经成功部署了R1-671B-Q4的模型 ~~还是在一台Windows上——天知道为什么这家伙要做这种事情~~
部署过程参考https://github.com/kvcache-ai/ktransformers/discussions/1058

@vibe-Chen commented on GitHub (Apr 10, 2025): 我也在用0.2.4，而且已经成功部署了R1-671B-Q4的模型 ~~还是在一台Windows上——天知道为什么这家伙要做这种事情~~ 部署过程参考https://github.com/kvcache-ai/ktransformers/discussions/1058