老师您好,打扰了,学了英语口语Agent,想着怎么能把这种模型的接入到LLMOps项目里?能给点思路吗?谢谢
老师您好,打扰了,学习了英语口语Agent,想问下怎么把这类模型接入到LLMOps项目?哪些功能需要调整?您能给点思路和指导吗?谢谢
9
收起
正在回答 回答被采纳积分+1
1回答
泽辉呀
2025-07-30 10:56:38
大致思路是这样的:由于这类模型是 RealTime 类型的,使用 websocket 进行连接,所以可以在模型的 yaml 配置中添加多一个属性即是否是 RealTime 类型的模型,如果是的话,可以在前端多展示一个 UI 按钮,内容是【打电话】,当点击后,通过 websocket 和 Flask 后端进行连接,后端检测到请求之后,获取 Agent 中模型的配置,判断是否是 RealTime 类型的模型,如果是的话则建立 websocket 连接实时接收从前端 API 传递的数据,接收数据后,调用指定模型即可。
思路基本是这样,可以先在项目外独立实现一次,然后再迁移过来,会比较简单一些。
AI Agent 全栈开发工程师
- 参与学习 570 人
- 解答问题 430 个
全流程打造你自己的(Coze/Dify)低代码智能体开发平台;2025年入行正当时,企业急需,人才稀缺,竞争小;无论入行还是转行,首选口碑好课,门槛低、成长高
了解课程
恭喜解决一个难题,获得1积分~
来为老师/同学的回答评分吧
0 星