kvcache-ai/ktransformers

Fork 0

mirror of https://github.com/kvcache-ai/ktransformers.git synced 2026-11-05 01:07:28 +00:00

[GH-ISSUE #282] 从Ollama下载的大模型能迁移到ktransformers用吗 #179

New issue

Closed

opened 2026-10-29 14:35:24 +00:00 by bsakaguchi · 11 comments

bsakaguchi commented

2026-10-29 14:35:24 +00:00

Owner

Originally created by @htl258 on GitHub (Feb 14, 2025).
Original GitHub issue: https://github.com/kvcache-ai/ktransformers/issues/282

如题，已从Ollama下载DeepSeekV3的文件，400G左右，能直接迁到ktransformers使用吗？

Originally created by @htl258 on GitHub (Feb 14, 2025). Original GitHub issue: https://github.com/kvcache-ai/ktransformers/issues/282 如题，已从Ollama下载DeepSeekV3的文件，400G左右，能直接迁到ktransformers使用吗？

bsakaguchi

2026-10-29 14:35:24 +00:00

closed this issue
added the
stale
label

bsakaguchi commented

2026-10-29 14:35:25 +00:00

Author

Owner

@SongXiaoMao commented on GitHub (Feb 15, 2025):

应该是不可以吧 ollama是需要合并模型的单文件 KTransformers不需要合并gguf文件

@SongXiaoMao commented on GitHub (Feb 15, 2025): 应该是不可以吧 ollama是需要合并模型的单文件 KTransformers不需要合并gguf文件

bsakaguchi commented

2026-10-29 14:35:25 +00:00

Author

Owner

@htl258 commented on GitHub (Feb 15, 2025):

应该是不可以吧 ollama是需要合并模型的单文件 KTransformers不需要合并gguf文件

嗯，谢谢

@htl258 commented on GitHub (Feb 15, 2025): > 应该是不可以吧 ollama是需要合并模型的单文件 KTransformers不需要合并gguf文件嗯，谢谢

bsakaguchi commented

2026-10-29 14:35:25 +00:00

Author

Owner

@Readon commented on GitHub (Feb 15, 2025):

如题，已从Ollama下载DeepSeekV3的文件，400G左右，能直接迁到ktransformers使用吗？

亲测，R1的可以

@Readon commented on GitHub (Feb 15, 2025): > 如题，已从Ollama下载DeepSeekV3的文件，400G左右，能直接迁到ktransformers使用吗？亲测，R1的可以

bsakaguchi commented

2026-10-29 14:35:25 +00:00

Author

Owner

@htl258 commented on GitHub (Feb 16, 2025):

如题，已从Ollama下载DeepSeekV3的文件，400G左右，能直接迁到ktransformers使用吗？

亲测，R1的可以

亲，能分享一下怎么使用的吗

@htl258 commented on GitHub (Feb 16, 2025): > > 如题，已从Ollama下载DeepSeekV3的文件，400G左右，能直接迁到ktransformers使用吗？ > > 亲测，R1的可以亲，能分享一下怎么使用的吗

bsakaguchi commented

2026-10-29 14:35:25 +00:00

Author

Owner

@Readon commented on GitHub (Feb 16, 2025):

按照这教程配置，唯一不同的就是gguf目录下放置一个ollama下载的，创建个链接就行。ollama下载路径在.ollama/blobs下面，你看大小应该都能找到文件。

@Readon commented on GitHub (Feb 16, 2025): 按照[这教程](https://github.com/ubergarm/r1-ktransformers-guide)配置，唯一不同的就是gguf目录下放置一个ollama下载的，创建个链接就行。ollama下载路径在.ollama/blobs下面，你看大小应该都能找到文件。

bsakaguchi commented

2026-10-29 14:35:25 +00:00

Author

Owner

@htl258 commented on GitHub (Feb 17, 2025):

按照这教程配置，唯一不同的就是gguf目录下放置一个ollama下载的，创建个链接就行。ollama下载路径在.ollama/blobs下面，你看大小应该都能找到文件。

谢谢

@htl258 commented on GitHub (Feb 17, 2025): > 按照[这教程](https://github.com/ubergarm/r1-ktransformers-guide)配置，唯一不同的就是gguf目录下放置一个ollama下载的，创建个链接就行。ollama下载路径在.ollama/blobs下面，你看大小应该都能找到文件。谢谢

bsakaguchi commented

2026-10-29 14:35:25 +00:00

Author

Owner

@passionatex commented on GitHub (Feb 25, 2025):

按照这教程配置，唯一不同的就是gguf目录下放置一个ollama下载的，创建个链接就行。ollama下载路径在.ollama/blobs下面，你看大小应该都能找到文件。

嗨，问下，问我要模型的config文件怎么办？huggingface一时又登陆不了。

@passionatex commented on GitHub (Feb 25, 2025): > 按照[这教程](https://github.com/ubergarm/r1-ktransformers-guide)配置，唯一不同的就是gguf目录下放置一个ollama下载的，创建个链接就行。ollama下载路径在.ollama/blobs下面，你看大小应该都能找到文件。嗨，问下，问我要模型的config文件怎么办？huggingface一时又登陆不了。

bsakaguchi commented

2026-10-29 14:35:25 +00:00

Author

Owner

@Vio1etovo commented on GitHub (Feb 26, 2025):

按照这教程配置，唯一不同的就是gguf目录下放置一个ollama下载的，创建个链接就行。ollama下载路径在.ollama/blobs下面，你看大小应该都能找到文件。

您好，使用的是huggingface的config吗？这个怎么放置？huggingface的config是否和ollama的通用？

@Vio1etovo commented on GitHub (Feb 26, 2025): > 按照[这教程](https://github.com/ubergarm/r1-ktransformers-guide)配置，唯一不同的就是gguf目录下放置一个ollama下载的，创建个链接就行。ollama下载路径在.ollama/blobs下面，你看大小应该都能找到文件。您好，使用的是huggingface的config吗？这个怎么放置？huggingface的config是否和ollama的通用？

bsakaguchi commented

2026-10-29 14:35:26 +00:00

Author

Owner

@Readon commented on GitHub (Feb 26, 2025):

按照这教程配置，唯一不同的就是gguf目录下放置一个ollama下载的，创建个链接就行。ollama下载路径在.ollama/blobs下面，你看大小应该都能找到文件。

您好，使用的是huggingface的config吗？这个怎么放置？huggingface的config是否和ollama的通用？

仓库里面有config的嘛。

@Readon commented on GitHub (Feb 26, 2025): > > 按照[这教程](https://github.com/ubergarm/r1-ktransformers-guide)配置，唯一不同的就是gguf目录下放置一个ollama下载的，创建个链接就行。ollama下载路径在.ollama/blobs下面，你看大小应该都能找到文件。 > > 您好，使用的是huggingface的config吗？这个怎么放置？huggingface的config是否和ollama的通用？仓库里面有config的嘛。

bsakaguchi commented

2026-10-29 14:35:26 +00:00

Author

Owner

@passionatex commented on GitHub (Mar 2, 2025):

按照这教程配置，唯一不同的就是gguf目录下放置一个ollama下载的，创建个链接就行。ollama下载路径在.ollama/blobs下面，你看大小应该都能找到文件。

您好，使用的是huggingface的config吗？这个怎么放置？huggingface的config是否和ollama的通用？

仓库里面有config的嘛。

恩，是我自己没注意～解决了，多谢

@passionatex commented on GitHub (Mar 2, 2025): > > > 按照[这教程](https://github.com/ubergarm/r1-ktransformers-guide)配置，唯一不同的就是gguf目录下放置一个ollama下载的，创建个链接就行。ollama下载路径在.ollama/blobs下面，你看大小应该都能找到文件。 > > > > > > 您好，使用的是huggingface的config吗？这个怎么放置？huggingface的config是否和ollama的通用？ > > 仓库里面有config的嘛。恩，是我自己没注意～解决了，多谢

bsakaguchi commented

2026-10-29 14:35:26 +00:00

Author

Owner

@ErvinXie commented on GitHub (Dec 11, 2025):

This issue has been automatically closed due to inactivity for 60 days.

If you believe this issue is still relevant, please feel free to reopen it with additional information or context.

Thank you for your contribution to KTransformers!

此 issue 因超过 60 天无活动而被自动关闭。

如果您认为此问题仍然存在，请随时重新打开并提供更多信息或上下文。

感谢您对 KTransformers 的贡献！

@ErvinXie commented on GitHub (Dec 11, 2025): This issue has been automatically closed due to inactivity for 60 days. If you believe this issue is still relevant, please feel free to reopen it with additional information or context. Thank you for your contribution to KTransformers! --- 此 issue 因超过 60 天无活动而被自动关闭。如果您认为此问题仍然存在，请随时重新打开并提供更多信息或上下文。感谢您对 KTransformers 的贡献！