kvcache-ai/ktransformers

Fork 0

mirror of https://github.com/kvcache-ai/ktransformers.git synced 2026-11-05 01:07:28 +00:00

[GH-ISSUE #478] Web正常启动，但是web里面输入问题回答无响应 #339

New issue

Closed

opened 2026-10-29 14:38:05 +00:00 by bsakaguchi · 6 comments

bsakaguchi commented

2026-10-29 14:38:05 +00:00

Owner

Originally created by @neichuanzhang on GitHub (Feb 18, 2025).
Original GitHub issue: https://github.com/kvcache-ai/ktransformers/issues/478

使用命令如下：

ktransformers --model_path deepseek-ai/DeepSeek-R1 --gguf_path /root/DeepSeek-R1-GGUF/DeepSeek-R1-Q4_K_M/ --port 10002 --web True

web虽然正常登录，但是web里面输入问题回答无响应

debug页面没有任何报错信息

这个对应的curl是啥

Originally created by @neichuanzhang on GitHub (Feb 18, 2025). Original GitHub issue: https://github.com/kvcache-ai/ktransformers/issues/478 使用命令如下： ktransformers --model_path deepseek-ai/DeepSeek-R1 --gguf_path /root/DeepSeek-R1-GGUF/DeepSeek-R1-Q4_K_M/ --port 10002 --web True web虽然正常登录，但是web里面输入问题回答无响应 ![Image](https://github.com/user-attachments/assets/464cc374-3561-4aea-bdc5-aa1faf621af3) ![Image](https://github.com/user-attachments/assets/e8ca310d-eddc-4e07-8c79-f14a2a04c5b1) debug页面没有任何报错信息 ![Image](https://github.com/user-attachments/assets/c163cb6d-940d-42de-9f78-edce2d73461d) 这个对应的curl是啥

bsakaguchi

2026-10-29 14:38:05 +00:00

closed this issue
added the
stale
label

bsakaguchi commented

2026-10-29 14:38:05 +00:00

Author

Owner

@DavidDiao commented on GitHub (Feb 19, 2025):

web写的有问题，接口会调localhost，可以ssh -L把端口转发到本地从本地访问
改代码的话ktransformers/website/public/config.js里改成apiUrl: '/v1',好像就行了？~~这web写的太抽象了~~

@DavidDiao commented on GitHub (Feb 19, 2025): web写的有问题，接口会调localhost，可以`ssh -L`把端口转发到本地从本地访问改代码的话`ktransformers/website/public/config.js`里改成`apiUrl: '/v1',`好像就行了？~~这web写的太抽象了~~

bsakaguchi commented

2026-10-29 14:38:06 +00:00

Author

Owner

@neichuanzhang commented on GitHub (Feb 20, 2025):

web写的有问题，接口会调localhost，可以ssh -L把端口转发到本地从本地访问改代码的话ktransformers/website/public/config.js里改成apiUrl: '/v1',好像就行了？~~这web写的太抽象了~~

(base) root@znc:~/ktransformers/ktransformers/website/public# cat index.html

<script src="./config_remot.js"></script>
<link rel="icon" href="./balck.ico" />

</html> (base) root@znc:~/ktransformers/ktransformers/website/public# cat config_remot.js window.configWeb = { apiUrl: '/v1', port: 8080, }; (base) root@znc:~/ktransformers/ktransformers/website/public#

我修改到了apiUrl:'v1'还是不行，请求头还是针对localhost的，http://localhost:10002/v1/threads/undefined/messages

@neichuanzhang commented on GitHub (Feb 20, 2025): > web写的有问题，接口会调localhost，可以`ssh -L`把端口转发到本地从本地访问改代码的话`ktransformers/website/public/config.js`里改成`apiUrl: '/v1',`好像就行了？~这web写的太抽象了~ (base) root@znc:~/ktransformers/ktransformers/website/public# cat index.html <!DOCTYPE html> <script src="./config_remot.js"></script> <link rel="icon" href="./balck.ico" /> </html> (base) root@znc:~/ktransformers/ktransformers/website/public# cat config_remot.js window.configWeb = { apiUrl: '/v1', port: 8080, }; (base) root@znc:~/ktransformers/ktransformers/website/public# 我修改到了apiUrl:'v1'还是不行，请求头还是针对localhost的，http://localhost:10002/v1/threads/undefined/messages

bsakaguchi commented

2026-10-29 14:38:06 +00:00

Author

Owner

@DavidDiao commented on GitHub (Feb 20, 2025):

web写的有问题，接口会调localhost，可以ssh -L把端口转发到本地从本地访问改代码的话ktransformers/website/public/config.js里改成apiUrl: '/v1',好像就行了？~~这web写的太抽象了~~

(base) root@znc:~/ktransformers/ktransformers/website/public# cat index.html
<script src="./config_remot.js"></script>
<link rel="icon" href="./balck.ico" />
(base) root@znc:~~/ktransformers/ktransformers/website/public# cat config_remot.js window.configWeb = { apiUrl: '/v1', port: 8080, }; (base) root@znc:~~/ktransformers/ktransformers/website/public#
我修改到了apiUrl:'v1'还是不行，请求头还是针对localhost的，http://localhost:10002/v1/threads/undefined/messages

我这里好像只改一个config.js就行了，你确定你改对文件（我看你cat了个config_remot.js），并且重新编译了吗（直接改dist里的应该也行）？

还是不行的话把完整的fetch/xhr历史，包含域发一下看看？

@DavidDiao commented on GitHub (Feb 20, 2025): > > web写的有问题，接口会调localhost，可以`ssh -L`把端口转发到本地从本地访问改代码的话`ktransformers/website/public/config.js`里改成`apiUrl: '/v1',`好像就行了？~这web写的太抽象了~ > > (base) root@znc:~/ktransformers/ktransformers/website/public# cat index.html > > ``` > <script src="./config_remot.js"></script> > <link rel="icon" href="./balck.ico" /> > ``` > > (base) root@znc:~/ktransformers/ktransformers/website/public# cat config_remot.js window.configWeb = { apiUrl: '/v1', port: 8080, }; (base) root@znc:~/ktransformers/ktransformers/website/public# > 我修改到了apiUrl:'v1'还是不行，请求头还是针对localhost的，http://localhost:10002/v1/threads/undefined/messages 我这里好像只改一个config.js就行了，你确定你改对文件（我看你cat了个config_remot.js），并且重新编译了吗（直接改dist里的应该也行）？还是不行的话把完整的fetch/xhr历史，包含域发一下看看？

bsakaguchi commented

2026-10-29 14:38:06 +00:00

Author

Owner

@lxinq2002 commented on GitHub (Mar 6, 2025):

web写的有问题，接口会调localhost，可以ssh -L把端口转发到本地从本地访问改代码的话ktransformers/website/public/config.js里改成apiUrl: '/v1',好像就行了？~~这web写的太抽象了~~

感谢您，解决了我好几天的困惑。按照您的方法，我将ktransformers/website/public/config.js里的apiUrl: 'http://119.255.238.12:15670/v1' 改成apiUrl: '/v1'，然后重新编译安装（从官方的npm run build开始），现在局域网内的电脑可以对话了。
现在我发现网页访问时，回答问题远远不如本地命令行模式下对同一个问题的回答，应该说是根本就不是答案。不知哪又出问题了，哎！全是坑。

@lxinq2002 commented on GitHub (Mar 6, 2025): > web写的有问题，接口会调localhost，可以`ssh -L`把端口转发到本地从本地访问改代码的话`ktransformers/website/public/config.js`里改成`apiUrl: '/v1',`好像就行了？~这web写的太抽象了~ 感谢您，解决了我好几天的困惑。按照您的方法，我将ktransformers/website/public/config.js里的apiUrl: 'http://119.255.238.12:15670/v1' 改成apiUrl: '/v1'，然后重新编译安装（从官方的npm run build开始），现在局域网内的电脑可以对话了。现在我发现网页访问时，回答问题远远不如本地命令行模式下对同一个问题的回答，应该说是根本就不是答案。不知哪又出问题了，哎！全是坑。

bsakaguchi commented

2026-10-29 14:38:06 +00:00

Author

Owner

@DavidDiao commented on GitHub (Mar 6, 2025):

web写的有问题，接口会调localhost，可以ssh -L把端口转发到本地从本地访问改代码的话ktransformers/website/public/config.js里改成apiUrl: '/v1',好像就行了？~~这web写的太抽象了~~

感谢您，解决了我好几天的困惑。按照您的方法，我将ktransformers/website/public/config.js里的apiUrl: 'http://119.255.238.12:15670/v1' 改成apiUrl: '/v1'，然后重新编译安装（从官方的npm run build开始），现在局域网内的电脑可以访问了。现在我发现网页访问时，回答问题远远不如本地命令行模式下对同一个问题的回答，应该说是根本就不是答案。不知哪又出问题了，哎！全是坑。

他web调的接口也不是标准的openai/ollama接口，你手动调标准接口看看效果呢，好像web用的接口也有问题 ~~我调通之后发现太难用了也没再用过~~

@DavidDiao commented on GitHub (Mar 6, 2025): > > web写的有问题，接口会调localhost，可以`ssh -L`把端口转发到本地从本地访问改代码的话`ktransformers/website/public/config.js`里改成`apiUrl: '/v1',`好像就行了？~这web写的太抽象了~ > > 感谢您，解决了我好几天的困惑。按照您的方法，我将ktransformers/website/public/config.js里的apiUrl: 'http://119.255.238.12:15670/v1' 改成apiUrl: '/v1'，然后重新编译安装（从官方的npm run build开始），现在局域网内的电脑可以访问了。现在我发现网页访问时，回答问题远远不如本地命令行模式下对同一个问题的回答，应该说是根本就不是答案。不知哪又出问题了，哎！全是坑。他web调的接口也不是标准的openai/ollama接口，你手动调标准接口看看效果呢，好像web用的接口也有问题 ~~我调通之后发现太难用了也没再用过~~

bsakaguchi commented

2026-10-29 14:38:06 +00:00

Author

Owner

@ErvinXie commented on GitHub (Dec 11, 2025):

This issue has been automatically closed due to inactivity for 60 days.

If you believe this issue is still relevant, please feel free to reopen it with additional information or context.

Thank you for your contribution to KTransformers!

此 issue 因超过 60 天无活动而被自动关闭。

如果您认为此问题仍然存在，请随时重新打开并提供更多信息或上下文。

感谢您对 KTransformers 的贡献！

@ErvinXie commented on GitHub (Dec 11, 2025): This issue has been automatically closed due to inactivity for 60 days. If you believe this issue is still relevant, please feel free to reopen it with additional information or context. Thank you for your contribution to KTransformers! --- 此 issue 因超过 60 天无活动而被自动关闭。如果您认为此问题仍然存在，请随时重新打开并提供更多信息或上下文。感谢您对 KTransformers 的贡献！