函数调用结构化json模式输出内容不稳定

函数调用结构化json模式输出内容不稳定

问题描述:

老师,我调试函数调用结构化json模式输出发现出现多种结果,要么问题和答案提取不出,要么输出中文,要么输出中英文混杂,要么全部英文,这种情况是什么原因呀?


相关截图:

https://img1.sycdn.imooc.com/climg/672b0d2d09a5b5cc08570754.jpg


https://img1.sycdn.imooc.com/climg/672b0d550976e5c208890762.jpg


https://img1.sycdn.imooc.com/climg/672b0dad094e09ff08550758.jpg


https://img1.sycdn.imooc.com/climg/672b0d940991121c08950774.jpg


https://img1.sycdn.imooc.com/climg/672b0de00941a32208650749.jpg

正在回答 回答被采纳积分+1

登陆购买课程后可参与讨论,去登陆

1回答
泽辉呀 2024-12-13 18:41:03

使用的是中转的接口么?如果是中转接口,有可能中转服务提供商使用了其他模型来代替GPT,并且因为这些LLM没有工具调用功能,所以导致输出看起来乱七八糟的。


优化的方向:

  1. 使用官方的GPT接口,中转接口需要确保不是使用其他模型来模拟GPT;

  2. 使用参数量更大的模型,可以确保效果会更好一些。

问题已解决,确定采纳
还有疑问,暂不采纳

恭喜解决一个难题,获得1积分~

来为老师/同学的回答评分吧

0 星
LLM应用开发平台特训营
  • 参与学习       289    人
  • 解答问题       247    个

全栈+全流程打造价值极高+可商用大模型应用开发LLMOps平台 迅速具备低成本、高效率构建生成式 AI 原生应用的稀缺能力 教/学/练/测/评教学+大厂内推机会,培养具备AI架构和研发能力的尖端人

了解课程
请稍等 ...
微信客服

购课补贴
联系客服咨询优惠详情

帮助反馈 APP下载

慕课网APP
您的移动学习伙伴

公众号

扫描二维码
关注慕课网微信公众号

在线咨询

领取优惠

免费试听

领取大纲

扫描二维码,添加
你的专属老师
插入代码