Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

Sign up for GitHub

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Jump to bottom

langchain-chatchat在使用chatglm3-6b-128k本地模型启用的时候，问答bug，无论是LLM还是知识库问答还是其他模式 #4038

Open
ln410 opened this issue May 17, 2024 · 3 comments
Open

langchain-chatchat在使用chatglm3-6b-128k本地模型启用的时候，问答bug，无论是LLM还是知识库问答还是其他模式 #4038

ln410 opened this issue May 17, 2024 · 3 comments
Labels
bug Something isn't working

Comments

@ln410
Copy link

ln410 commented May 17, 2024

回答完你的问题，它就开始自嗨了，自问自答，无法结束；
截图 2024-05-17 15-21-08
@ln410 ln410 added the bug Something isn't working label May 17, 2024
@ln410 ln410 changed the title langchain-chatchat在使用chatglm3-6b-128k本地模型启用的时候，问答紊乱，无论是LLM还是知识库问答还是其他模式 langchain-chatchat在使用chatglm3-6b-128k本地模型启用的时候，问答bug，无论是LLM还是知识库问答还是其他模式 May 17, 2024
@aben1900
Copy link

我切换到了chatglm3-6b后才没出现问题，这个128k好像不能用

@ln410
Copy link
Author

ln410 commented May 28, 2024

我切换到了chatglm3-6b后才没出现问题，这个128k好像不能用

是的，3-6b和3-6b-32k都没问题，就是128k不得行

@ln410
Copy link
Author

ln410 commented May 28, 2024

我切换到了chatglm3-6b后才没出现问题，这个128k好像不能用

chat-glm3-6b-128k在原本的chatglm3的代码里运行和使用是没问题的，就是在langchain-chatchat里面救会100%出现问答紊乱

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Assignees
No one assigned
Labels
bug Something isn't working
Projects
None yet
Milestone
No milestone
Development

No branches or pull requests
2 participants
@aben1900 @ln410