[GH-ISSUE #34] Mooncake Transfer Engine 支持华为的Ascend昇腾平台和NPU显卡吗 #19

New issue

Closed

opened 2026-10-29 21:07:57 +00:00 by bsakaguchi · 1 comment

bsakaguchi commented

2026-10-29 21:07:57 +00:00

Owner

Originally created by @zhaofangtao on GitHub (Dec 13, 2024).
Original GitHub issue: https://github.com/kvcache-ai/Mooncake/issues/34

看doc文档，需要配置cuda环境。现在算力资源都在国产化，请问Mooncake Transfer Engine 能适配华为的Ascend昇腾平台和NPU显卡吗？

Originally created by @zhaofangtao on GitHub (Dec 13, 2024). Original GitHub issue: https://github.com/kvcache-ai/Mooncake/issues/34 看doc文档，需要配置cuda环境。现在算力资源都在国产化，请问Mooncake Transfer Engine 能适配华为的Ascend昇腾平台和NPU显卡吗？

bsakaguchi closed this issue

2026-10-29 21:07:57 +00:00

bsakaguchi commented

2026-10-29 21:07:58 +00:00

Author

Owner

@alogfans commented on GitHub (Dec 13, 2024):

Mooncake 适配国产化算力设备是未来工作的一个重要部分。Transfer Engine 自身支持 RoCE/eRDMA 等网络，因此可使用国产设备部署。CUDA 用于实现 GPU VRAM 数据直传远程 DRAM 功能，该功能需使用 GPUDirect RDMA。如果国产卡有类似的功能接口可以移植。也可以由用户自行实现经本地 DRAM 中转将数据传到远程 DRAM（多一次拷贝），这种模式下不需要开启 USE_CUDA 开关。

@alogfans commented on GitHub (Dec 13, 2024): Mooncake 适配国产化算力设备是未来工作的一个重要部分。Transfer Engine 自身支持 RoCE/eRDMA 等网络，因此可使用国产设备部署。CUDA 用于实现 GPU VRAM 数据直传远程 DRAM 功能，该功能需使用 GPUDirect RDMA。如果国产卡有类似的功能接口可以移植。也可以由用户自行实现经本地 DRAM 中转将数据传到远程 DRAM（多一次拷贝），这种模式下不需要开启 USE_CUDA 开关。

bsakaguchi referenced this issue

2026-10-29 21:17:35 +00:00

[GH-ISSUE #2440] [Bug]: Execute mooncake+hixl, final destruction phase core #646

bsakaguchi referenced this issue

2026-10-29 21:26:01 +00:00

[PR #19] [MERGED] fix: remove atty and fix dependency path #1284