老师您好,打扰了,学了英语口语Agent,想着怎么能把这种模型的接入到LLMOps项目里?能给点思路吗?谢谢

老师您好,打扰了,学了英语口语Agent,想着怎么能把这种模型的接入到LLMOps项目里?能给点思路吗?谢谢

老师您好,打扰了,学习了英语口语Agent,想问下怎么把这类模型接入到LLMOps项目?哪些功能需要调整?您能给点思路和指导吗?谢谢

正在回答 回答被采纳积分+1

登陆购买课程后可参与讨论,去登陆

1回答
泽辉呀 2025-07-30 10:56:38

大致思路是这样的:由于这类模型是 RealTime 类型的,使用 websocket 进行连接,所以可以在模型的 yaml 配置中添加多一个属性即是否是 RealTime 类型的模型,如果是的话,可以在前端多展示一个 UI 按钮,内容是【打电话】,当点击后,通过 websocket 和 Flask 后端进行连接,后端检测到请求之后,获取 Agent 中模型的配置,判断是否是 RealTime 类型的模型,如果是的话则建立 websocket 连接实时接收从前端 API 传递的数据,接收数据后,调用指定模型即可。


思路基本是这样,可以先在项目外独立实现一次,然后再迁移过来,会比较简单一些。

  • 提问者 崛起的架构师 #1

    多谢老师,我先自己琢磨琢磨,有不懂的再请教您,您看有联系方式吗?我加您,本人小白有不少问题求教您,多谢。

    2025-07-30 11:08:40
  • 泽辉呀 回复 提问者 崛起的架构师 #2

    课程的QQ群里可以找到我哦,加课程的QQ群就OK啦~

    2025-07-30 11:12:54
问题已解决,确定采纳
还有疑问,暂不采纳

恭喜解决一个难题,获得1积分~

来为老师/同学的回答评分吧

0 星
AI Agent 全栈开发工程师
  • 参与学习       570    人
  • 解答问题       430    个

全流程打造你自己的(Coze/Dify)低代码智能体开发平台;2025年入行正当时,企业急需,人才稀缺,竞争小;无论入行还是转行,首选口碑好课,门槛低、成长高

了解课程
请稍等 ...
微信客服

购课补贴
联系客服咨询优惠详情

帮助反馈 APP下载

慕课网APP
您的移动学习伙伴

公众号

扫描二维码
关注慕课网微信公众号

在线咨询

领取优惠

免费试听

领取大纲

扫描二维码,添加
你的专属老师