多LLM接入失败，一直返回默认的OPENAI模型

如下使用月之暗面模型进行提问，但还是用gpt-4o进行的回复

排查过程中发现，月之暗面等模型类的实例化的时候需要client参数，但如下截屏中传递的确实没有改参数

曲别针010 2025-06-24

源自：LLMOps集成多LLM模型 2-10 完善LLMOps遗留LLM配置校验逻辑

9

收起

1回答

提问者曲别针010 2025-06-26 13:14:38

经过排查发现是应该是moonshot的模型初始化失败，返回了默认的gpt-4o模型

和老师沟通确定langchain MoonshotChat的一个bug，父类MoonshotCommon内定义了一个client，但是赋值时传递的是openai client，所以校验出错了。可以修改月之暗面的Chat类，不使用langchain_community封装的类，使用BaseChatOpenAI，具体修改如下：

相似问题

老师工具列表的问题，如果要实现很多接口调用是不是得微调大模型的工具调用能力？

如果我在实现一个泛型接口是不指明类型默认是什么类型？

6-5 返回值

输入小写英文，一直打印？

PDO直接exec返回的是int值是影响的条数么？但PDO预编译的执行却是布尔值这。。。？

登录后可查看更多问答，登录/注册

AI Agent 全栈开发工程师

参与学习 500 人
解答问题 404 个

全流程打造你自己的（Coze/Dify）低代码智能体开发平台；2025年入行正当时，企业急需，人才稀缺，竞争小；无论入行还是转行，首选口碑好课，门槛低、成长高

本课精华内容

问答作业

老师，切换阿里通义大模型或者月之暗面都会报错如下

58 23

“什么是LLM”这堂课讲得真好！！太牛了！！

43 12

使用了提供的三种方法还是报错

53 9

内部服务器错误

20 9

'utf-8' codec can't decode byte 0xd6

31 8

查看更多本课问答

请稍等 ...

购课补贴
联系客服咨询优惠详情

帮助反馈 APP下载

慕课网APP
您的移动学习伙伴

扫描二维码
关注慕课网微信公众号