关于执行 python gptq.py 报错的问题

关于执行 python gptq.py 报错的问题

问题描述:

老师好,我在执行 python gptq.py 时,先报错:huggingface_hub.utils._validators.HFValidationError: Repo id must be in the form 'repo_name' or 'namespace/repo_name': '../FlagAlpha--Llama2-Chinese-7b-Chat/'. Use `repo_type` argument if needed.

就参照之前的经验,把 model_path 路径修改了一下:

# model_path = "../FlagAlpha--Llama2-Chinese-7b-Chat/"
model_path = "/openbayes/input/input0"

再次执行 python gptq.py 后,报错:Floating point exception (core dumped)

报错截图:

https://img1.sycdn.imooc.com/climg/655dc653096697b020660782.jpg

正在回答 回答被采纳积分+1

登陆购买课程后可参与讨论,去登陆

1回答
那位科技大模型算法 2023-12-11 17:30:09

这个代码执行问题,应该是云服务器资源紧张导致的,显示执行那会显卡CUDA尚为安装,没有该服务。还有类似问题的同学留意之前聊天记录或者群里@我们在在线解决喔

  • 提问者 白聪聪 #1
    收到!多谢老师!当时确实出现了3090资源不足的情况。
    2023-12-11 17:31:34
问题已解决,确定采纳
还有疑问,暂不采纳

恭喜解决一个难题,获得1积分~

来为老师/同学的回答评分吧

0 星
LLM行业领军大佬 带你转型大语言模型算法工程师
  • 参与学习       216    人

从入门-案例实战-多领域应用-面试指导-推荐就业,匹配课前知识路线、详细学习笔记和全方位服务,助力学习与就业,快速实现职业跃迁。附赠价值2000元+的大模型项目代码/数据和配套环境和GPU。

了解课程
请稍等 ...
意见反馈 帮助中心 APP下载
官方微信

在线咨询

领取优惠

免费试听

领取大纲

扫描二维码,添加
你的专属老师