首页 体系课 LLM应用开发平台特训营
LLM应用开发平台特训营

全流程打造价值极高、可商用的大模型应用开发LLMOps平台

迅速具备低门槛、低成本、高效率构建生成式 AI 原生应用的稀缺能力

教/学/练/测/评教学+大厂内推机会,培养具备AI架构和研发能力的尖端人才

20 课程内容
10 个月 教学服务期限
120 小时 视频时长
价值极高 可商用项目
内推 机会
满3800减1200 满4600减1600 满5600减1950 满8700减2800 满2800减1000 满1800减600 满1200减300 满700减200 满500减150 满300减80 满100减10

更多

20 课程内容
10 个月 教学服务期限
70000 手敲代码
2 企业及项目
16+ 实操案例
34 学习人数
活动到手价 ¥2688
7天未学可退 ¥3888
领券加购减1200 加购物车

从原理到源码,从研发到造轮子,一站式培养
LLM应用开发平台架构与研发能力兼备的高薪人才

从零打造+全流程+全栈落地实战,让你轻松锻造商业级AI研发核心力

《LLMOps平台:慕课AI应用构建器》是新一代 AI 原生应用开发服务平台,无论是否有编程基础,都可在平台上搭建基于 AI 模型的各类问答应用、工作 流应用,从解决简单的问答到处理复杂的逻辑任务。还可将 AI 应用一键发布到对应的社交平台、Web网页,甚至是基于平台的开放 API 进行二次开发。
价值极高的大型
LLM应用开发平台落地应用
  • 可视化编排+智能化定制
  • 创建单Agent和多Agent
  • 能内置专属知识库
  • 自定义插件快速接入
  • 多 LLM 模型快速接入
  • 一键发布到多平台
对标大厂开发流程
全栈+全流程的LLM应用研发经验
  • 从LLM需求到系统部署的完整能力
  • 打通AI应用前+后端闭环全栈实践能力
  • LLM复杂项目架构设计+实战能力
  • 有效的LLM性能提升方案与实战力
  • 掌握全面的大型项目测试能力
  • Docker技术实现快速一键部署
  • 本地模型预训练与微调记录
    契合企业业务
系统掌握
前沿AI应用开发技能
  • LangChain、LangGraph、文本嵌入与
    向量数据库等前沿AI核心技术的应用
  • 搜索重排与全文搜索技术提升模型注意力
  • 单Agent和多Agent复杂任务开发
  • 多LLM接口对齐,不同场景自由切换体
  • Celery分布式任务队列
  • Prompt与RAG工程
全面提升
全局视野和深度研发能力
  • 复杂项目庞大技术综合整合能力
  • 全局视野、思维及解决问题能力
  • 掌握AI技术原理和深入底层源码
  • 探索AI应用开发框架LangChain源码
  • 满足个性化需求的二次开发能力
  • 跨语言开发属于自己 AI框架能力

LLMOps平台 可视化编排+智能化定制+多LLM接口支持+多平台对接

【主页】机器人可文本创建AI应用。【个人空间】含三部分:应用(单Agent)、工作流(多Agent)、知识库。
【应用】通过可视化编排创建最基础的聊天问答机器人,支持集成插件、知识库、语音输出、调用工作流组件等。

应用的编排页分成3个部分,左侧【系统提示词】,中间【能力扩展】,最右侧【调试对话窗口】。
【能力扩展】支持添加相应的工作流组件、关联的知识库、开场对白、推荐问题、语音输入&输出、审核功能等。

应用编排成功,可以发布到网站本身(生成一个访问URL链接),或者绑定公众号、绑定企业微信、使用开放API等进行访问。

【工作流组件页】支持创建由多个Agent和工具组成的任务流。使用Flow编排方式,通过添加节点(如大模型、代 码、知识库
等)和低代码形式,将复杂任务拆解为小步骤,提高任务成功率。

【知识库页】存储企业文档,支持DOX、PDF、TXT、XLSX、PPT等格式。上传后,系统自动处理文件,包括读取、解析、拆分、
嵌入文本、提取关键词,并存储于向量数据库。用户可查看、编辑、删除文档切片,这些切片是LLM读取的最小单元。

【应用广场页】存储了在程序中内置编排的一些应用,可以快速体验或者创建副本到个人空间长期使用(该应用
广场底层均使用YAML配置快速编排)。

【插件广场页】展示了整个项目中内置的插件,插件底层通过.py函数文件+YAML配置文件快速创建,插件集成
(原:继承)到LLM上,增强大模型的功能。插件不可以单独调用,必须关联应用或者关联工作流后方可使用。

LLMOps平台定制 火热五大商业级AI应用

“智能客服” AI应用
“口语学习助手” AI应用
“虚拟数字人” AI应用
“文本转PPT ”AI应用
“图片转HTML” AI应用

虚拟人物+Voice+DID
数字人口播视频案例(方)

照片+Voice+DID
数字人口播视频案例(方)

AI照片+Voice+Did 数字人视频

LLMOps平台 项目架构+技术架构

八大阶段递进式学习,充分吸收大牛多年宝贵实战经验
递进式锤炼思维与核心技能,高效实现能力跃迁

LLM
LangChain
Flask
PostgreSQ
Postman
单元测试
Vue.js
Tailwindcss解决方案
ArcoDesign UI框架
接口跨域
LangSmith监控平台
项目统一规范
解锁
成就
掌握LLM应用开发基础知识,并搭建基础项目框架,实现并对接第一个聊天机器人。
文本嵌入
内存记忆
向量数据库
函数回调
ReACT对话链
LangChain工具开发
AI Agent
谷歌搜索
Postgres
解锁
成就
增强聊天机器人性能,添加记忆功能、读取知识库、调用插件,实现第一个商业级AI Agent应用。
Prompt工程
历史Prompt管理
流式响应
Token统计
中断流式响应
JWT授权认证
宪法链
审核模型
云审核
开放API
解锁
成就
实现对应用的Prompt管理与工程化,为应用添加流式响应提升用户体验,添加JWT与审核模型,确保输入输出安全,提升平台的整体性能。
多LLM模型(OpenAI、文心一言等)
LLM接口对齐
LangGraph
多Agent应用工作流
Vue-Flow流程图
解锁
成就
掌握接入多种LLM模型,引入LangGraph实现多Agent应用工作流,学会前端使用Vue-Flow实现流程图,开发具有复杂工作流和智能交互
功能的应用。
Token统计与限速
前后端调优
Docker
生产环境部署
优化
微软云
服务器
白名单
端口安全
监控警报
解锁
成就
能够高效部署和调优前后端项目到生产环境,利用Docker技术实现快速一键部署,并成功集成微软云企业OpenAI接口,从而构建出具备高
性能智能交互能力的应用。
飞书群机器人
公众号
企业微信号
中间件
Whisper
TTS
DALLE文生图
开放API
解锁
成就
能够构建一个功能强大的文本大语言模型(LLM),实现语音输入、语音输出、图片输出、文件输出等功能,并将LLM集成到外部的社交
媒体平台,从而提供更为丰富和智能的交互体验。
智能客服
口语助手
多模态
数字人
SadTalker
爬虫
中间件
ImageToHtml
LanguageToPPT
第三方集成
解锁
成就
使用LLMOps开放的API搭建编排五大火热企业级AI项目,涉及智能客服系统,口语学习助手,图片转HTML前端智能工具,虚拟数字人,
PPT自动生成工具。
LangChain优缺点
开发问题
LLM评测
LLM排行榜
框架源码解析
LLM预训练
微调
数据投喂
HuggingFace
解锁
成就
了解公司对AI算法工业者的能力要求,掌握更高效率的学术前沿知识获取方法,提高项目完整度与面试成功率。

无论入行/转行,都能从入门、进阶、应用,顺滑掌握硬核就业技能

大学生/应届毕业生
计算机专业,想练就硬核技
术,增加职业竞争力,希望以
此契机拿下大厂Offer,成功
开启职业生涯。
跳槽涨薪/技术转型
不满足工作现状,想掌握一项
有前景的高新技术,从后端/
前端等行业跳槽到AIGC行
业,开启新的职业生涯
在职提升者
新兴技术不断发展,紧跟市场需
求,抢先掌握,助力升职加薪。

学练测评一体闭环教学
答疑辅导+简历指导+内推机会,只为抵达就业目标

资深技术专家授课,精准干货+专业指导,让你的每分钟收获满满

泽辉
资深工程师
精通Python、GO语言开发、微服务架构、AI应用技术等。互联网8+年一线开发经验,3年+创业经验,前网易、飞书资深工程师,现就职于某新零售企业,任职CTO,从0到1带领团队主导了新零售平台整体架构和研发(使用GO语言),所研发产品一年时间支撑起40+线下门店、数十家供应链企业,完成从0到上亿营业额的全链记录与100%可用性,知名Agent项目MetaGPT早期贡献者。曾出书籍:《智能办公:用ChatGPT让工作飞起来》(第一作者)

课程大纲及学习周期安排

为保证课程内容紧跟市场变化,课程章节将逐步开放,直至课程完结

阶段一: 【LLMOPs平台搭建】架构设计与基础聊天机器人开发
  • 第1周
  • 第2周
  • 第3周
LLMOps平台开发基础及架构设计

本周学习大语言模型(LLM)基础及LLMOps平台的开发基础、架构设计,并探讨了大语言模型在企业中的应用及其对软件开发的影响,以及如何利用ChatGPT辅助课程学习及软件开发。

课程安排:
  1. 1、 从零开始快速认知大语言模型(LLM)及应用场景;
  2. 2、 探讨大语言模型如何影响软件的构建与交互;
  3. 3、 介绍LLMOps平台开发基础及架构设计;
  4. 4、 演示LLMOps项目的功能及业务逻辑,并拆分需求;
  5. 5、 学习如何利用ChatGPT来辅助课程学习、开发与学习建议;
LLMOps后端搭建,构建基础聊天机器人

Python是人工智能编程语言,本周手把手带领大家,从如何安装,到配置LLMOps项目后端,安装数据库、编写测试脚本,初步了解LangChain框架,并对接OpenAI实现第一个聊天机器人。

课程安排:
  1. 1、掌握Python环境搭建与开发工具配置;
  2. 2、学习LLMOps项目后端开发约定及规范,提升代码可维护性;
  3. 3、统一项目API接口设计与开发,降低对接成本;
  4. 4、掌握PostgreSQL数据库安装与ORM模型的使用;
  5. 5、掌握数据库迁移实现数据库版本控制;
  6. 6、掌握PyTest代码测试与版本控制,提升代码健壮性;
  7. 7、掌握Postman快速调试后端接口技能;
  8. 8、对接OpenAI实现第一个聊天机器人;
  9. 9、学习LangChain框架降低LLM应用开发难度;
  10. 10、学习LangSmith开发平台的使用,用于监测LLM生命周期;
LLMOPs前端搭建关联聊天机器人API

本周学习Node.js环境的安装、LLMOps前端项目搭建、Vue.js项目架构设计、解决前后端跨域、并配置ArcoDesign框架与Tailwindcss方案实现第一个带UI的聊天机器人。

课程安排:
  1. 1、掌握Node.js环境搭建与开发工具配置;
  2. 2、学习LLMOps项目前端开发约定及规范;
  3. 3、配置前端API请求库、路由及页面合理划分;
  4. 4、为项目添加Tailwindcss原子化css方案,降低css编写难度;
  5. 5、解读API开发文档并抽取公共服务,提升接口对接效率;
  6. 6、对接后端API实现带UI的聊天机器人;
  7. 7、编写测试代码及时发现错误异常;
阶段二: 【商业级聊天机器人开发】具备记忆、自动联网、联动自制知识库
  • 第4周
  • 第5周
  • 第6周
记忆模块开发,让聊天机器人有记忆

本周掌握LLM的上下文窗口概念、了解上下文长度限制与解决方案,学习LCEL表达式,尝试使用LangChain的记忆组件实现对长上下文的记忆及总结,将该方案集成到项目中,实现带记忆/状态功能聊天机器人。

课程安排:
  1. 1、掌握LLM的状态、上下文窗口、长度限制及解决方案;
  2. 2、学习LCEL表达式,降低LLM应用开发难度;
  3. 3、使用LangChain记忆组件解决LLM无状态/记忆问题;
  4. 4、编写带有历史对话总结的Prompt提示词;
  5. 5、拆解AutoGPT记忆模块,了解优质项目的解决记忆解决方案;
  6. 6、掌握将LLM对话/状态持久化到数据库中的技巧;
  7. 7、完成第一个带有记忆功能的机器人;
数据集模块开发-实现特定知识库问答

本周学习LLM幻觉解决策略,开发LLMOps知识库模块,实现聊天机器人特定问答。学习向量数据库配置,涉及词向量、Embedding、数据集、异步队列、分词、搜索重排与测试。

课程安排:
  1. 1、 了解LLM出现幻觉的原因,及常见解决方案;
  2. 2、 掌握常见向量数据库的配置及使用,并在项目中对接向量数据库;
  3. 3、 学习文本嵌入模型Embeddings的用途及使用;
  4. 4、 掌握LangChain的文档加载器及文本分割器的使用,实现LLM读取文件功能;
  5. 5、 掌握对象存储功能,分离文件存储与代码运行环境;
  6. 6、 掌握Celery分布式队列任务的使用,高效处理耗时或者定时任务;
  7. 7、 掌握jieba分词工具,实现文本关键词提取;
  8. 8、 掌握Rerank搜索重排序功能及原理;
  9. 9、 在LLMOps项目中集成知识库功能;
  10. 10、 聊天机器人关联知识库,完成基于知识库问答功能;
  11. 11、 聊天机器人与前端UI完成对接,实现文件上传及对话;
插件功能开发-聊天机器人实时联网获取信息

本周学习GPT-4/New Bing联网,LLM回调,ReACT对话链与Agent策略。掌握LangChain组件,创建LangGraph Agent并集成插件,实现聊天机器人实时联网。

课程安排:
  1. 1、了解LLM应用的短板与局限性;
  2. 2、了解GPT-4/New Bing底层如何实现联网;
  3. 3、学习Agent基础概念及不同Agent的适用场景;
  4. 4、学习LLM的函数回调及格式化输出,让LLM拥有更强的能力;
  5. 5、掌握LangChain中的工具组件,开发自定义工具;
  6. 6、掌握在LangChain中构建Agent,让LLM自主决策工具选择;
  7. 7、掌握LangGraph构建图应用,实现可观测的Agent;
  8. 8、完成LLMOps项目聊天机器人的实时联网搜索信息功能;
  9. 9、完成LLMOps项目前端接口的对接;
阶段三: LLMOps应用平台可视化+安全性保障+性能优化+开放API
  • 第7周
  • 第8周
  • 第9周
  • 第10周
  • 第11周
Prompt引擎模块开发-可视化编排

本周主要深入学习LangChain的提示模板组件、完成对提示模板的设计、历史提示模板的管理、零样本/低样本下如何写出高质量的Prompt,并为项目添加AI提示词优化接口。

课程安排:
  1. 1、掌握零样本/低样本下如何写出高质量的Prompt;
  2. 2、学习OpenAI官方分享的Prompt编写最佳实践;
  3. 3、掌握LangChain提示组件,支持让用户自定义编排应用提示;
  4. 4、提示模板历史版本开发,便于企业管理历史提示资产;
  5. 5、掌握让AI优化提示的相关技巧,减少前端编排难度,并对接接口;
  6. 6、前后端接口功能对接及测试、完善;
响应模块开发与升级-提升聊天机器人响应

本周对比流式与非流式响应,探讨其在应用中的适用性。在Flask中,实现LangChain流式响应;前端fetch获取流式数据,模拟ChatGPT打字效果。优化流式响应-计算和中断功能,提升用户体验。

课程安排:
  1. 1、了解流式响应与非流式响应的基础知识与应用场景;
  2. 2、为LLMOps平台聊天机器人添加流式响应支持;
  3. 3、后端利用队列+协程实现流式数据传输技巧;
  4. 4、前端使用fetch实现获取流式事件数据,并实现打字机效果;
  5. 5、流式响应下Token计数与中断流式响应功能的实现;
  6. 6、前后端接口功能对接及测试、完善;
授权认证模块开发-保证应用使用安全

本周主要学习为LLMOps平台添加授权认证功能,主要介绍JWT授权认证原理、第三方授权认证原理,涵盖账号密码授权、第三方授权、接口授权认证等服务,提升平台的安全性。

课程安排:
  1. 1、JWT授权认证原理及介绍;
  2. 2、Github授权认证登录原理及介绍;
  3. 3、掌握Flask-Login插件实现后端授权认证技巧,守护接口安全;
  4. 4、学会前端封装fetch工具实现授权接口携带令牌信息;
  5. 5、掌握前端路由守卫的使用,守护页面安全;
  6. 6、前后端接口功能对接及测试、完善;
审核模块开发-确保企业AI生成合规内容

本周主要学习OpenAI的大语言模型审核功能、LangChain审核链、自定义审核功能的开发架构及思路,在LLMOps中集成审核功能,确保企业AI生成合规内容。

课程安排:
  1. 1、了解OpenAI的大语言模型内置审核功能;
  2. 2、掌握LangChain宪法链的原理及使用,并在项目中集成;
  3. 3、掌握自定义审核功能的开发架构及思路,实现项目基于关键词审核;
  4. 4、掌握在流式输出模式下,实现关键词审核功能;
  5. 5、掌握流式输出模式下前端实现输出审核替换的技巧;
  6. 6、前后端接口功能对接及测试、完善;
开放API模块-搭建与其他应用连接的桥梁

本周主要学习如何为LLMOps平台开发设计开放接口功能,实现对开放接口的秘钥生成及校验、接口频率限制、利用开放接口实现与其他应用的连接。

课程安排:
  1. 1、学习开放API模块的通用架构及设计思路;
  2. 2、开放API常见的授权策略及秘钥生成,确保接口安全;
  3. 3、开放API使用频率限制设计思路及实现,确保接口不被滥用;
  4. 4、为LLMOps项目集成开放API功能,实现与其他应用连接;
  5. 5、前后端接口功能对接及测试、完善;
阶段四: 【LLMOps扩展】实现通用型+支持多LLM接入的AI应用
  • 第12周
  • 第13周
LLMOps多应用及工作流模块

本周将基础的单应用扩展成多应用,并实现工作流组件,包括:多应用模块设计、工作流模块设计、LangGraph实现图应用、前端Vue-Flow组件使用、工作流转LLM工具设计思路、关联工作流登技巧。

课程安排:
  1. 1、学习LLMOps多应用的架构与设计思路;
  2. 2、多应用数据库的配置调整与设计;
  3. 3、掌握在LangChain中将Agent转换成Workflow的技巧,实现流程可观测;
  4. 4、掌握LangGraph基于YAML配置Workflow的技巧;
  5. 5、实现LLMOps平台的Workflow节点与边功能;
  6. 6、学会Workflow转LLM工具设计思路,并关联LLM应用,实现可视化编排工作流工具;
  7. 7、掌握Vue-Flow组件,前端多应用模块及工作流模块UI页面升级与测试;
LLMOps集成多LLM模型

本周学习LangChain抽离LLM模型,对齐多模型接口,对齐多LLM模型的接口(带工具回调的大语言模型),支持让AI应用无缝切换到远程或本地LLM,并简单介绍HuggingFace平台的使用。

课程安排:
  1. 1、了解LangChain中的LLM与ChatModel的差异;
  2. 2、统一管理多个LLM模型,并实现使用YAML进行模型配置;
  3. 3、实现LLMOps项目中AI应用与工作流的多LLM功能集成;
  4. 4、简单学会上手使用HuggingFace平台并查找大语言模型;
  5. 6、前后端接口功能对接及测试、完善;
阶段五: 【 LLMOps平台调优部署】前端调优及生产环境调优部署
  • 第14周上
  • 第14周下
  • 第15周上
  • 第15周下
LLMOps统计模块开发-呈现使用情况

本周学习LLM模型的Token统计与费用计算,为LLMOps添加数据统计分析接口,前端用ECharts展示数据,呈现应用的使用情况。并配置使用预警功能,避免接口被盗刷,提升应用安全。

课程安排:
  1. 1、掌握流式传输和工作流模式下Token的统计与费用计算思路设计与实现;
  2. 2、实现LLMOps项目统计可视化API接口设计;
  3. 3、前端对接ECharts图表组件实现数据的展示;
  4. 4、掌握接口消费预警功能的设计与实现,超过标准时进行邮箱预警,确保接口安全;
  5. 5、前后端接口功能对接及测试、完善;
LLMOps前端项目优化与配置、部署

本周学习LLMOps前端项目的优化、配置与部署,涵盖:基础/高级组件封装、配置与代码分离、TailwindCSS页面公共样式抽离、骨架屏与加载状态添加、Vue.js项目优化、构建与部署等。

课程安排:
  1. 1、LLMOps前端项目基础/高级组件封装,提升前端代码可复用性;
  2. 2、TailwindCSS页面公共样式抽离,提升代码可维护性;
  3. 3、掌握API接口的封装与优化,并增加超时、重试、权限校验等功能;
  4. 4、学习为Vue.js页面添加骨架屏与加载动画,提升用户体验;
  5. 5、掌握Vue.js项目常见的优化技巧、不同的部署方案;
LLMOPs后端项目优化与配置

本周学习LLMOps后端项目的优化与配置,涵盖:添加重试机制提升模型运行成功率、添加Cache提升重复请求性能、使用小参数LLM处理不同任务提升项目性能并降低成本、封装LLMOps项目相似性代码等。

课程安排:
  1. 1、掌握LangChain的重试机制,提升小参数LLM的运行成功率;
  2. 2、为LLMOps项目添加Cache提升重复请求性能;
  3. 3、学习使用多个小参数LLM处理不同任务,提升LLMOps性能并降低成本;
  4. 4、封装相似性代码,统一输出响应接口,提升项目可维护性;
LLMOps生产环境部署与优化

学习LLMOps在生产环境中的部署与优化,涵盖:本地向量数据库部署、OpenAI接口额度、Azure秘钥申请、gunicorn多进程配置、Nginx限流、Dockerfile容器及云环境部署等。

课程安排:
  1. 1、掌握部署本地向量数据库,确保企业数据安全;
  2. 2、学习OpenAI接口额度+并发提升的申请流程;
  3. 3、学习Azure企业级OpenAI秘钥申请流程,合规使用GPT模型;
  4. 4、掌握gunicorn相关配置,并使用多进程提升项目性能;
  5. 5、掌握Nginx配置编写,实现接口限流及防盗刷;
  6. 6、掌握Dockerfile配置文件编写,实现Docker容器部署;
  7. 7、学习国内两大云平台线上部署:阿里云+腾讯云;
阶段六: LLMOps应用平台多模态插件+第三方应用集成
  • 第16周
多模态插件及开放API与三方应用集成

本周学习LLMOps对接社交媒体,集成多模态插件,涵盖飞书群机器人、微信公众号、与现有应用对接架构设计与思路、Whisper语言识别模型的使用、TTS语音合成、DALLE文生图模型等内容。

课程安排:
  1. 1、掌握开放API与飞书群机器人对接;
  2. 2、实现LLMOps应用集成到微信公众号,并解决流式传输响应长的问题;
  3. 3、掌握开放API与现有应用的对接设计与实现;
  4. 4、掌握文本LLM支持语音输出、图片输出的架构设计与实现;
  5. 5、学习Whisper语音识别模型,并对接到聊天窗口;
  6. 6、学习TTS语音合成模型,实现音色/音调调节,并对接到聊天窗口;
  7. 7、学习elevenLabs语言合并工具,30s复刻任何人的声音,实现企业内部低成本音频解决方案;
  8. 8、学习DALLE文生图功能并封装插件,对接LLM应用;
  9. 9、前后端接口功能对接及测试、完善;
阶段七: 【LLMOps应用平台企业级商用】火热五大商业级AI应用实战
  • 第17周上
  • 第17周下
  • 第18周上
  • 第18周下
  • 第19周
构建智能客服系统-实现24h无人轮值客服

本周主要学习利用LLMOps应用平台编排构建智能客服系统,实现24h无人轮值客服,涵盖知识点:客服知识库语料、应用Prompt编写、审核插件使用、小程序电商中间件接入、自营电商中间件快速接入等。

课程安排:
  1. 1、电商客服系统知识库准备与Prompt编排;
  2. 2、审核插件的调用与测试,实现安全输出;
  3. 3、编写放平台对接小程序、自营电商网站;
  4. 4、前后端接口功能对接及测试、完善;
构建口语学习助手-低成本拥有全天候助教

本周主要学习利用LLMOps应用平台构建口语学习助手,涵盖:应用架构及设计思路学习、工作流编排与测试、语料准别、语音接口测试联调、AI流式响应导致超时的公众号解决方案等。

课程安排:
  1. 1、学习口语学习助手系统演示及设计思路;
  2. 2、掌握口语助手知识库准备与Prompt编排;
  3. 3、学习复杂任务如何拆解成工作流并进行编排;
  4. 4、口语助手中间件编写,实现AI语言对话联调;
  5. 5、掌握流式响应转完整响应输出的解决方案;
  6. 6、掌握流式响应导致超时的公众号解决方案;
  7. 7、前后端接口功能对接及测试、完善;
快速构建图片转HTML前端智能工具

本周主要学习利用LLMOps构建图片转HTML前端智能工具,涵盖知识点:GPT-4v/4o多模态模型的介绍与使用、应用Prompt编排、图片转HTML智能工具编写、基于开放API二次开发等。

课程安排:
  1. 1、GPT-4O/4V模型的介绍与基础使用;
  2. 2、图片转HTML智能工具Prompt编写;
  3. 3、编写实现开放API对接图片转HTML智能工具;
  4. 4、前端对接开放API进行快速二次开发,满足企业自定义AI需求;
  5. 5、前后端接口功能对接及测试、完善;
建虚拟数字人-批量生成口播视频/直播推流

本周用LLMOps创建虚拟数字人应用,掌握开放API扩展开发应用的技巧,虚拟数字人功能开发、SadTalker开源数字人解决方案、本地数字人模型部署与联调、直播实时评论采集抓包、OBS推流对接等功能。

课程安排:
  1. 1、学习虚拟数字人应用架构的设计与实现;
  2. 2、了解常用数字人模型,涵盖Avatar、SadTalker等模型;
  3. 3、了解本地数字人模型的部署与联调;
  4. 4、实现虚拟数字人应用编排与开放接口对接;
  5. 5、学习直播实时评论采集/弹幕信息采集爬虫;
  6. 6、学习OBS联调应用实现视频推流;
  7. 7、前后端接口功能对接及测试、完善;
快速构建PPT自动生成工具

本周学习LLMOps实现自然语言转PPT的设计思路与实现,涵盖:python-pptx包、LangChain规范化输出技巧、PPT生成插件的编写、编排LanguageToPPT应用、中间件编写等功能。

课程安排:
  1. 1、掌握自然语言转PPT功能的架构设计与思路;
  2. 2、掌握将复杂AI应用拆解成小任务的流程;
  3. 3、掌握python-pptx包的使用,并编排应用Prompt;
  4. 4、学习将python-pptx与DALLE集成封装为LLMOps插件;
  5. 5、编排文本转PPT应用完成前后端接口功能对接及测试、完善;
阶段八: 课程总结与LLM大语言模型进阶
  • 第20周上
  • 第20周下
课程回顾与总结

本周总结回顾整门课程,并学习LLM扩展知识,涵盖:开发问题总览、LangChain优缺点、技术社区推荐、其他LLM开发框架、AI应用开发及未来发展方向、LangChain源码解析、LLM评测等技能。

课程安排:
  1. 1、总结在项目开发中LangChain开发问题总览、探讨LangChain优缺点;
  2. 2、了解一些高质量的LLM技术学习社区、其他LLM开发框架及AI应用发展方向;
  3. 3、掌握国内外常见的LLM大模型平台的使用与LLM评测/排行榜;
  4. 4、如何寻找高质量的Prompt工程库及推荐;
  5. 5、LangChain源码解析及后续发展规划;
  6. 6、后续职业发展方向及学习方向分享与推荐;
  7. 7、整门课程总结;
LLM大语言模型的预训练/微调与数据投喂

本周主要学习LLM应用开发之外的相关知识,涵盖预训练、主流微调模型、本地部署大模型、HuggingFace大模型开源社区的使用、企业在不同阶段下的选择、GPT模型的微调等。

课程安排:
  1. 1、掌握模型预训练、微调与投喂之间的差异,并在不同的场景进行使用;
  2. 2、掌握GPT模型的微调与使用,让模型更符合企业业务需求;
  3. 3、掌握主流开源大模型的本地预训练、部署等技能,让企业自行管理自有数据;
  4. 4、掌握主流大模型的微调方法;
  5. 5、学习业产品在不同阶段下预训练、微调与投喂地选择差异与结合;

除了出色的视频内容,这里还有伴你整个技术生涯的“技术社区”

学习时你能在这里获取答案,工作后你能在这里解决难题

问答专区
作业专区
笔记专区
资料专区
编程遇难点,名师来指点;疑难汇总一键查看,海量问答覆盖全面
多方位知识面,分层巩固吸收;学练测一体,一对一项目点评
脱离时空限制,随记随查很方便;总结课程重点,分享提升代码经验
横向拓展,超全配套教辅资源;纵向延伸,源码开放更助知识理解
了解更多
*为保证课程内容紧跟市场变化,课程章节将逐步开放,直至课程完结
常见问题
课程特色
实战项目
课程安排
适合人群
贴心服务
讲师介绍
课程大纲
返回顶部

学习咨询

选课、学习遇到问题?
扫码添加指导老师 1V1 帮助你!

扫码加顾问老师 立即咨询

意见反馈 帮助中心 APP下载
官方微信

在线咨询

领取优惠

免费试听

领取大纲

扫描二维码,添加
你的专属老师