[GH-ISSUE #679] 有关双路服务器使用单路内存占用问题 #494

New issue

Closed

opened 2026-10-29 14:40:28 +00:00 by bsakaguchi · 1 comment

bsakaguchi commented

2026-10-29 14:40:28 +00:00

Owner

Originally created by @vonchenplus on GitHub (Feb 26, 2025).
Original GitHub issue: https://github.com/kvcache-ai/ktransformers/issues/679

我的服务器是一台Intel的双路服务器，但我想测试一下单路的内存占用，是不是意味着通过numactl -N 1 -m 1可以控制程序使用单路CPU？

根据官方给出的文档，DeepseekV3-q4km (int4) 单路的内存占用应该是 Single socket: 382G DRAM, at least 14GB VRAM，但我实际测试下来，内存的占用明显是高于382G的。

请问一下在双路服务器的情况下，是不是无法测试单路？

Originally created by @vonchenplus on GitHub (Feb 26, 2025). Original GitHub issue: https://github.com/kvcache-ai/ktransformers/issues/679 我的服务器是一台Intel的双路服务器，但我想测试一下单路的内存占用，是不是意味着通过numactl -N 1 -m 1可以控制程序使用单路CPU？根据官方给出的文档，**DeepseekV3-q4km (int4)** 单路的内存占用应该是 **Single socket: 382G DRAM, at least 14GB VRAM**，但我实际测试下来，内存的占用明显是高于382G的。请问一下在双路服务器的情况下，是不是无法测试单路？

bsakaguchi closed this issue

2026-10-29 14:40:29 +00:00

bsakaguchi commented

2026-10-29 14:40:29 +00:00

Author

Owner

@vonchenplus commented on GitHub (Feb 26, 2025):

是不是如果我在编译ktransformers的时候开启了USE_NUMA，就会使用全部CPU？

@vonchenplus commented on GitHub (Feb 26, 2025): 是不是如果我在编译ktransformers的时候开启了USE_NUMA，就会使用全部CPU？