函数调用结构化输出json模式不正确

函数调用结构化输出json模式不正确

问题描述:

老师我在结构化输出是将with_structured_output切换成json,模型改成gpt-4o,模版提示也加了,但运行时报不能正常提取问题和答案,这是什么情况呀?


langchain_core.exceptions.OutputParserException: Failed to parse QAExtra from completion {"question": null, "answer": null}. Got: 2 validation errors for QAExtra

question

  none is not an allowed value (type=type_error.none.not_allowed)

answer

  none is not an allowed value (type=type_error.none.not_allowed)


相关截图:

https://img1.sycdn.imooc.com/climg/6726e6610970d9e018430865.jpg


正在回答 回答被采纳积分+1

登陆购买课程后可参与讨论,去登陆

1回答
泽辉呀 2024-11-03 19:51:53

使用的是中转的接口么?可以看下LangSmith平台上大语言模型的输出内容,这种情况有可能是中转接口后端并没有使用GPT模型,而是使用其他模型来模拟GPT导致的,可以先排除这个原因试下。

  • 提问者 前田慶次 #1

    老师,从LangSmith上看是使用的gpt-4o模型,

    https://img1.sycdn.imooc.com/climg/67287df60985673311220790.jpg


    但奇怪的是有时候可以正常解析出内容,有时候就是解析不出来,是模型输出不稳定导致的吗?

    https://img1.sycdn.imooc.com/climg/67287e9d09c3d77f10570811.jpg


    https://img1.sycdn.imooc.com/climg/67287e4409ed542b09190777.jpg

    ‘’‘’

    2024-11-04 15:59:56
问题已解决,确定采纳
还有疑问,暂不采纳

恭喜解决一个难题,获得1积分~

来为老师/同学的回答评分吧

0 星
LLM应用开发平台特训营
  • 参与学习       225    人
  • 解答问题       175    个

全栈+全流程打造价值极高+可商用大模型应用开发LLMOps平台 迅速具备低成本、高效率构建生成式 AI 原生应用的稀缺能力 教/学/练/测/评教学+大厂内推机会,培养具备AI架构和研发能力的尖端人

了解课程
请稍等 ...
意见反馈 帮助中心 APP下载
官方微信

在线咨询

领取优惠

免费试听

领取大纲

扫描二维码,添加
你的专属老师