[GH-ISSUE #6] 开源的MoE模型支持中文吗? #5

Closed
opened 2026-10-26 21:01:32 +00:00 by bsakaguchi · 4 comments
Owner

Originally created by @uloveqian2021 on GitHub (Jan 12, 2024).
Original GitHub issue: https://github.com/deepseek-ai/DeepSeek-MoE/issues/6

Originally created by @uloveqian2021 on GitHub (Jan 12, 2024). Original GitHub issue: https://github.com/deepseek-ai/DeepSeek-MoE/issues/6
Author
Owner

@zhang001122 commented on GitHub (Jan 12, 2024):

实际测试了 支持中文 token中也不少中文词,目前 使用 transform的generate做推理 希望能尽快适配vllm或者 修改为 llama2的基座

<!-- gh-comment-id:1888481462 --> @zhang001122 commented on GitHub (Jan 12, 2024): 实际测试了 支持中文 token中也不少中文词,目前 使用 transform的generate做推理 希望能尽快适配vllm或者 修改为 llama2的基座
Author
Owner

@luofuli commented on GitHub (Jan 12, 2024):

支持的,我们在中英语料上训练的

<!-- gh-comment-id:1888525855 --> @luofuli commented on GitHub (Jan 12, 2024): 支持的,我们在中英语料上训练的
Author
Owner

@luofuli commented on GitHub (Jan 12, 2024):

vllm正在适配中

<!-- gh-comment-id:1888526046 --> @luofuli commented on GitHub (Jan 12, 2024): vllm正在适配中
Author
Owner

@zwd003 commented on GitHub (Jan 16, 2024):

实际测试了 支持中文 token中也不少中文词,目前 使用 transform的generate做推理 希望能尽快适配vllm或者 修改为 llama2的基座

已经支持vllm,请参考https://github.com/vllm-project/vllm/pull/2453

<!-- gh-comment-id:1893593289 --> @zwd003 commented on GitHub (Jan 16, 2024): > 实际测试了 支持中文 token中也不少中文词,目前 使用 transform的generate做推理 希望能尽快适配vllm或者 修改为 llama2的基座 已经支持vllm,请参考https://github.com/vllm-project/vllm/pull/2453
Sign in to join this conversation.
No labels
pull-request
WIP
No milestone
No project
No assignees
1 participant
Notifications
Due date
The due date is invalid or out of range. Please use the format "yyyy-mm-dd".

No due date set.

Dependencies

No dependencies set.

Reference
deepseek-ai/DeepSeek-MoE#5
No description provided.