[GH-ISSUE #783] [Bug] Chat: 你是谁 #567

New issue

Closed

opened 2026-10-29 14:41:16 +00:00 by bsakaguchi · 1 comment

bsakaguchi commented

2026-10-29 14:41:16 +00:00

Owner

Originally created by @yangzhipeng1108 on GitHub (Mar 4, 2025).
Original GitHub issue: https://github.com/kvcache-ai/ktransformers/issues/783

Originally assigned to: @SkqLiao on GitHub.

检查清单

1. 我已经搜索过相关问题，但未能获得预期的帮助
2. 该问题在最新版本中尚未修复
3. 请注意，如果您提交的BUG相关 issue 缺少对应环境信息和最小可复现示例，我们将难以复现和定位问题，降低获得反馈的可能性
4. 如果您提出的不是bug而是问题，请在讨论区发起讨论 https://github.com/kvcache-ai/ktransformers/discussions。否则该 issue 将被关闭
5. 为方便社区交流，我将使用中文/英文或附上中文/英文翻译（如使用其他语言）。未附带翻译的非中文/英语内容可能会被关闭

问题描述

复现步骤

python3 -m ktransformers.local_chat --model_path /data/DeepSeek-R1/ --no-use_cuda_graph --gguf_path /data/DeepSeek-R1-Q4_K_M --port 40000 --cpu_infer 65 --max_new_tokens 1000 --optimize_rule_path ./ktransformers/ktransformers/optimize/optimize_rules/DeepSeek-V3-Chat.yaml

环境信息

ktransformers 0.3.0rc0+cu126torch26fancy

Originally created by @yangzhipeng1108 on GitHub (Mar 4, 2025). Original GitHub issue: https://github.com/kvcache-ai/ktransformers/issues/783 Originally assigned to: @SkqLiao on GitHub. ### 检查清单 - [ ] 1. 我已经搜索过相关问题，但未能获得预期的帮助 - [ ] 2. 该问题在最新版本中尚未修复 - [ ] 3. 请注意，如果您提交的BUG相关 issue 缺少对应环境信息和最小可复现示例，我们将难以复现和定位问题，降低获得反馈的可能性 - [ ] 4. 如果您提出的不是bug而是问题，请在讨论区发起讨论 https://github.com/kvcache-ai/ktransformers/discussions。否则该 issue 将被关闭 - [ ] 5. 为方便社区交流，我将使用中文/英文或附上中文/英文翻译（如使用其他语言）。未附带翻译的非中文/英语内容可能会被关闭 ### 问题描述 ![Image](https://github.com/user-attachments/assets/b135d3bc-2395-421c-b17a-3585d3eafb12) ![Image](https://github.com/user-attachments/assets/353683c1-1a7d-4746-afbc-b3abe5fb0ca0) ### 复现步骤 python3 -m ktransformers.local_chat --model_path /data/DeepSeek-R1/ --no-use_cuda_graph --gguf_path /data/DeepSeek-R1-Q4_K_M --port 40000 --cpu_infer 65 --max_new_tokens 1000 --optimize_rule_path ./ktransformers/ktransformers/optimize/optimize_rules/DeepSeek-V3-Chat.yaml ### 环境信息 ktransformers 0.3.0rc0+cu126torch26fancy

bsakaguchi closed this issue

2026-10-29 14:41:16 +00:00

bsakaguchi commented

2026-10-29 14:41:17 +00:00

Author

Owner

@ovowei commented on GitHub (Mar 4, 2025):

0.3.0暂时无人维护，预计还需要一段时间才能重新发布，请暂时使用v0.2.2rc2版本。

@ovowei commented on GitHub (Mar 4, 2025): 0.3.0暂时无人维护，预计还需要一段时间才能重新发布，请暂时使用v0.2.2rc2版本。