老师工具列表的问题,如果要实现很多接口调用是不是得微调大模型的工具调用能力?

老师工具列表的问题,如果要实现很多接口调用是不是得微调大模型的工具调用能力?

如果要实现很多接口调用是不是得微调大模型的工具调用能力?

正在回答

登陆购买课程后可参与讨论,去登陆

1回答

要看具体的模型,不过目前绝大部分模型都支持多工具调用,如果是去年较早发布的开源模型,大概率需要自行微调了,云端的模型,目前很多LLM都是支持多工具调用的,例如Kimi、OpenAI、文心、通义等,都是支持多接口调用的,不需要额外微调

  • 慕婉清7522044 提问者 #1
    我不是这个意思,我是看一个应用绑定的工具有限制,但是一般接口会有很多参数和路径不一样。所以是大模型已经训练好我需要的工具,或者是每次调用大语言模型之前要怎么动态绑定工具,根据用户提出的问题,动态绑定几个工具?
    2天前
  • 泽辉呀 回复 提问者 慕婉清7522044 #2

    目前对于GPT来说,绑定工具的限制是128个,绝大部分场景已经足够了(限制5个只是在LLMOps项目中的要求,可以根据需求自行调整这个限制),如果是根据用户提问的问题动态去执行多个工具,并且绑定的工具限制超过了128个,这种情况可以使用多个LLM并行分别绑定对应的工具,根据同一个提问发起多个请求,执行响应。


    例如有200个工具,可以用模型1绑定128个,模型2绑定剩余的72个,将用户的提问分别向两个模型发起提问,然后在合并两个LLM生成的内容。

    2天前
问题已解决,确定采纳
还有疑问,暂不采纳

恭喜解决一个难题,获得1积分~

来为老师/同学的回答评分吧

0 星
LLM应用开发平台特训营
  • 参与学习       225    人
  • 解答问题       175    个

全栈+全流程打造价值极高+可商用大模型应用开发LLMOps平台 迅速具备低成本、高效率构建生成式 AI 原生应用的稀缺能力 教/学/练/测/评教学+大厂内推机会,培养具备AI架构和研发能力的尖端人

了解课程
请稍等 ...
意见反馈 帮助中心 APP下载
官方微信

在线咨询

领取优惠

免费试听

领取大纲

扫描二维码,添加
你的专属老师