[GH-ISSUE #844] 硬件配置和实际运行效果的信息收集 #607

Closed
opened 2026-10-29 14:41:53 +00:00 by bsakaguchi · 1 comment
Owner

Originally created by @wait0423 on GitHub (Mar 8, 2025).
Original GitHub issue: https://github.com/kvcache-ai/ktransformers/issues/844

通过大家已经搭建起来的环境进行配置和性能参考,麻烦各位跑起来的大佬分享下自己的配置和性能信息,按照模板填写即可,谢谢!

运行环境
具体使用的模型版本(Q4KM、Q8KM等):
CPU型号(单、双路及核心线程数):
内存参数(单根容量、实际运行频率、内存数量、实际通道数):
GPU型号(备注显存大小):

运行时
CPU占用率:
GPU占用率:
内存容量占用率:
实际使用内存带宽:
实际推理速度:

Originally created by @wait0423 on GitHub (Mar 8, 2025). Original GitHub issue: https://github.com/kvcache-ai/ktransformers/issues/844 通过大家已经搭建起来的环境进行配置和性能参考,麻烦各位跑起来的大佬分享下自己的配置和性能信息,按照模板填写即可,谢谢! 运行环境 具体使用的模型版本(Q4KM、Q8KM等): CPU型号(单、双路及核心线程数): 内存参数(单根容量、实际运行频率、内存数量、实际通道数): GPU型号(备注显存大小): 运行时 CPU占用率: GPU占用率: 内存容量占用率: 实际使用内存带宽: 实际推理速度:
Author
Owner

@Azure-Tang commented on GitHub (Mar 8, 2025):

我们已经在做类似的配置收集并分享出来了;配置的收集详情可以见官方群里分享的链接https://swcil84qspu.feishu.cn/wiki/ZlhBwiSyEiZWyMkMdtDcpNyLnlf

<!-- gh-comment-id:2708344981 --> @Azure-Tang commented on GitHub (Mar 8, 2025): 我们已经在做类似的配置收集并分享出来了;配置的收集详情可以见官方群里分享的链接https://swcil84qspu.feishu.cn/wiki/ZlhBwiSyEiZWyMkMdtDcpNyLnlf
Sign in to join this conversation.
No milestone
No project
No assignees
1 participant
Notifications
Due date
The due date is invalid or out of range. Please use the format "yyyy-mm-dd".

No due date set.

Dependencies

No dependencies set.

Reference
kvcache-ai/ktransformers#607
No description provided.