IT就业班_编程学习路线_开发学习就业班-慕课网就业班

阶段一：【LLMOPs平台搭建】架构设计与基础聊天机器人开发

第1周 LLMOps平台开发基础及架构设计

本周学习LLM及LLMOps平台的开发基础、架构设计，并探讨LLM在企业中的应用及其对软件开发的影响，学习LLM与Agent应用交互方式、开发的常见术语，以及如何利用ChatGPT辅助学习及软件开发。

课程安排：

1、从零开始快速认知大语言模型（LLM）及应用场景；
2、探讨大语言模型如何影响软件的构建与交互；
3、学习了解LLM与Agent应用的常见交互方式与术语
4、介绍LLMOps平台开发基础及架构设计；
5、演示LLMOps项目的功能及业务逻辑，并拆分需求；
6、学习如何利用ChatGPT来辅助课程学习、开发与学习建议；

第2周 LLMOps后端搭建，构建基础聊天机器人

Python是人工智能编程语言，本周手把手带领大家，从安装，到配置LLMOps项目后端，安装数据库、编写测试脚本，初步了解LangChain框架，学习基础组件使用，对接OpenAI实现第一个聊天机器人

课程安排：

1、掌握Python环境搭建与开发工具配置；
2、学习LLMOps项目后端开发约定及规范，提升代码可维护性；
3、统一项目API接口设计与开发，降低对接成本；
4、掌握PostgreSQL数据库安装与ORM模型的使用；
5、掌握数据库迁移实现数据库版本控制；
6、掌握PyTest代码测试与版本控制，提升代码健壮性；
7、掌握Postman快速调试后端接口技能；
8、对接OpenAI实现第一个聊天机器人；
9、学习LangChain框架降低LLM应用开发难度；
10、掌握Prompt、Model、OutputParser、LCEL表达式、回调功能、Runnable等组件的使用；

第3周 LLMOPs前端搭建关联聊天机器人API

本周学习Node.js环境的安装、LLMOps前端项目搭建、Vue.js项目架构设计、解决前后端跨域、并配置ArcoDesign框架与Tailwindcss方案实现第一个带UI的聊天机器人。

课程安排：

1、掌握Node.js环境搭建与开发工具配置；
2、学习LLMOps项目前端开发约定及规范；
3、配置前端API请求库、路由守卫、Pinia数据共享及页面合理划分；
4、为项目添加Tailwindcss原子化css方案，降低css编写难度；
5、掌握解决前后端联调Chat聊天机器人跨域问题的三种技巧；
6、解读API开发文档并抽取公共服务，提升接口对接效率；
7、对接后端API实现带UI的聊天机器人；

阶段二：【商业级聊天机器人开发】具备记忆、自动联网、联动自制知识库

第4周记忆模块开发，让聊天机器人有记忆

本周掌握LLM的上下文窗口概念、了解上下文长度限制与解决方案，学习LCEL表达式，尝试使用LangChain的记忆组件实现对长上下文的记忆及总结，将该方案集成到项目中，实现带记忆/状态功能聊天机器人。

课程安排：

1、掌握LLM的状态、上下文窗口、长度限制及解决方案；
2、学习LCEL表达式，降低LLM应用开发难度；
3、使用LangChain记忆组件解决LLM无状态/记忆问题；
4、了解缓冲记忆、摘要记忆、实体记忆组件的使用与解析；
5、编写带有历史对话总结的Prompt提示词；
6、拆解AutoGPTMetaGPT记忆模块，了解优质项目的解决记忆解决方案；
7、掌握将LLM对话/状态持久化到数据库中的技巧；
8、掌握LangChain开发核心Runnable的高级技巧并解析源码；
9、基于Runnable封装记忆链完成第一个带有记忆功能的机器人；

第5周数据集模块开发-实现特定知识库问答

本周学习LLM幻觉解决策略，开发LLMOps知识库模块，实现聊天机器人特定问答。学习向量数据库配置，涉及词向量、Embedding、数据集、异步队列、分词、搜索重排与测试。掌握RAG的常见优化策略

课程安排：

1、了解LLM出现幻觉的原因，及常见解决方案；
2、掌握常见向量数据库的配置及使用，涵盖Faiss、Pinecone、TCVectorDB、Weaviate等向量数据库，在项目中构建第一个RAG应用。
3、学习文本嵌入模型Embeddings的用途及使用；
4、掌握LangChain提供的数十种的文档加载器及文本分割器的使用，并深入解析递归字符文本分割器实现分割任意文档，实现LLM读取文件功能；
5、学习并掌握LangChain检索器的作用，实现让LLM动态调用知识库功能；
6、掌握jieba分词工具，实现文本关键词提取；
7、掌握Rerank搜索重排序功能及原理；
8、学习并掌握常见的数十种RAG优化策略，涵盖涵盖多查询融合、问题分解策略、回答回退、doc-doc检索、混合检索、逻辑路由、语义路由、自查询检索、多向量检索、父文档检索器、递归文档树、ReRank重排、CRAG与Sele-RAG等。

第6周插件功能开发-聊天机器人实时联网获取信息

本周学习GPT-4/New Bing联网，LLM回调，ReACT对话链与Agent策略。掌握LangChain组件，创建LangGraph Agent并集成插件，实现聊天机器人实时联网。

课程安排：

1、了解LLM应用的短板与局限性；
2、了解GPT-4/New Bing底层如何实现联网；
3、学习Agent基础概念及不同Agent的适用场景；
4、学习LLM的函数回调及格式化输出，让LLM拥有更强的能力；
5、掌握LangChain中的工具组件，了解使用3种技巧创建自定义工具；开发自定义工具；
6、掌握在LangChain中构建Agent，让LLM自主决策工具选择；
7、掌握LCEL与LangGraph流结构的使用，为构建复杂大型应用奠定基础；
8、掌握LangGraph构建图应用，实现可观测的Agent；
9、完成LLMOps项目聊天机器人的实时联网搜索信息功能；

阶段三：LLMOps应用平台可视化+安全性保障+性能优化+开放API

第7周可视化编排开发-插件与知识库集成

本周主要深入学习Prompt可视化编排中的插件与知识库模块功能开发，涵盖内置LC插件集成、现有API工具集成、知识库创建、向量数据库多用户设计思路、两大模块页面设计及逻辑实现。

课程安排：

1、使用YAML+Python动态导入实现可视化编排的内置插件与API插件；
2、编写调整OpenAPI Schema实现将任意API接入到LLMOps项目；
3、掌握零样本/低样本下如何写出高质量的Prompt；
4、在LLMOps中实现知识库中文档的分割、关键词提取、向量化、增删改查等功模块，以实现用户上传自定义文档实现问答功能；
5、学习掌握在LLM应用中使用Celery处理耗时任务的技巧与应用；
6、掌握LangChain提示组件，支持让用户自定义编排应用提示；
7、应用编排配置历史版本开发提示模板历史版本开发，便于企业管理历史应用编排提示资产；
8、掌握让AI优化提示的相关技巧，减少前端编排难度，并对接接口；

第8周响应模块开发与升级-提升聊天机器人响应

本周对比流式与非流式响应，探讨其在应用中的适用性。在Flask中，实现LangChain流式响应；前端fetch获取流式数据，模拟ChatGPT打字效果。优化流式响应-计算和中断功能，提升用户体验。

课程安排：

1、了解LLMOps项目长短期记忆的功能模块开发、设计与Prompt的编写；
2、了解流式响应与非流式响应的基础知识与应用场景；
3、为LLMOps平台聊天机器人添加流式响应支持；
4、后端利用队列+协程突破LangGraph限制实现流式数据传输技巧；
5、前端使用fetch实现获取流式事件数据，并实现打字机效果；
6、流式响应下Token计数与中断流式响应功能的实现；
7、前后端接口功能对接及测试、完善；

第9周授权认证模块开发-保证应用使用安全

本周主要学习为LLMOps平台添加授权认证功能，主要介绍JWT授权认证原理、第三方授权认证原理，涵盖账号密码授权、第三方授权、接口授权认证等服务，提升平台的安全性。

课程安排：

1、JWT授权认证原理及介绍；
2、Github授权认证登录原理及介绍；
3、掌握Flask-Login插件实现后端授权认证技巧，守护接口安全；
4、学会前端封装fetch工具实现授权接口携带令牌信息；
5、掌握前端路由守卫的使用，守护页面安全；
6、前后端接口功能对接及测试、完善；

第10周审核模块开发-确保企业AI生成合规内容

本周主要学习OpenAI的大语言模型审核功能、LangChain审核链、自定义审核功能的开发架构及思路，在LLMOps中集成审核功能，确保企业AI生成合规内容。

课程安排：

1、了解OpenAI的大语言模型内置审核功能；
3、掌握自定义审核功能的开发架构及思路，实现项目基于关键词审核，以确保企业安全；
4、掌握在流式输出模式下，实现关键词审核功能，学习可扩展的思路；
5、完善LLMOps应用编排草稿配置的开发，实现可视化配置输入输出审核、长短期记忆、历史版本回退等功能。
6、前后端接口功能对接及测试、完善；

第11周开放API模块-搭建与其他应用连接的桥梁

本周主要学习如何为LLMOps平台开发设计开放接口功能，实现对开放接口的秘钥生成及校验、秘钥鉴权、利用开放接口实现与其他应用的连接。

课程安排：

1、学习开放API模块的通用架构及设计思路；
2、开放API常见的授权策略及秘钥生成，确保接口安全；
3、开放API使用频率限制设计思路及实现，确保接口不被滥用；
4、为LLMOps项目集成开放API功能，实现与其他应用连接；
5、开放API前后端接口功能对接及测试、完善；
6、完善开放API接口的鉴权，实现开放API与账号鉴权共同使用中间件；

阶段四：【LLMOps扩展】实现通用型+支持多LLM接入的AI应用

第12周 LLMOps多应用及工作流模块

本周将基础的单应用扩展成多应用，并实现工作流组件，包括：多应用模块设计、工作流模块设计、LangGraph实现图应用、前端Vue-Flow组件使用、工作流转LLM工具设计思路、关联工作流登技巧。

课程安排：

1、学习LLMOps多应用的架构与设计思路；
2、完成多应用与配置历史版本数据库的配置调整与设计；
3、掌握在LangChain中将Agent转换成Workflow的技巧，实现流程可观测；
4、掌握LangGraph基于YAML配置Workflow的技巧；
5、实现LLMOps平台的Workflow八大节点与边功能；
6、掌握工作流自适应排版与dagre功能，实现一键排版工作流；
7、学会Workflow转LLM工具设计思路，并关联LLM应用，实现可视化编排工作流工具；
8、掌握Vue-Flow组件，前端多应用模块及工作流模块UI页面升级与测试；

第13周 LLMOps集成多LLM模型

本周学习LangChain抽离LLM模型，对齐多模型接口（带工具回调的大语言模型），对齐多LLM模型的接口，支持让AI应用无缝切换到远程或本地LLM，并简单介绍HuggingFace平台使用。

课程安排：

1、了解LangChain中的LLM与ChatModel的差异；
2、统一管理多个LLM模型，并实现使用YAML+Python动态导入进行模型配置；
3、实现在LLMOps对接OpenAI、月之暗面、文心一言、通义千问等任意大语言模型；
4、实现LLMOps项目中AI应用与工作流的多LLM功能集成；
5、简单学会上手使用HuggingFace平台并查找大语言模型；
7、多LLM前后端接口功能对接及测试、完善；
8、设计并完善LLMOps辅助Agent应用，实现一键自动创建Agent；

阶段五：【 LLMOps平台调优部署】前端调优及生产环境调优部署

第14周上 LLMOps统计模块开发-呈现使用情况

本周学习LLM模型的Token统计与费用计算，为LLMOps添加数据统计分析接口，前端用ECharts展示数据，呈现应用的使用情况。并配置使用预警功能，避免接口被盗刷，提升应用安全。

课程安排：

1、掌握流式传输和工作流模式下Token的统计与费用计算思路设计与实现；
2、实现LLMOps项目统计可视化API接口设计；
3、前端对接ECharts图表组件实现数据的展示；
4、通过总消息数、token消耗、用户数等信息实现对Agent应用的消费统计，让消费一目了然。
6、LLMOps应用数据统计前后端接口功能对接及测试、完善；
7、设计并完善WebApp与应用发布模块，实现通过URL在线访问Agent应用。
8、为Agent消息接入markdown-it实现富文本内容输出，优化Agent输出格式。

第14周下 LLMOps前端项目优化与配置、部署

本周学习LLMOps前端项目的优化、配置与部署，涵盖：基础/高级组件封装、配置与代码分离、TailwindCSS页面公共样式抽离、骨架屏与加载状态添加、Vue.js项目优化、构建与部署等。

课程安排：

1、LLMOps前端项目基础/高级组件封装，提升前端代码可复用性；
2、为项目添加404与403错误页面，优化统一hooks与ref引用；
3、TailwindCSS页面公共样式抽离，提升代码可维护性；
4、掌握API接口的封装与优化，并增加超时、重试、权限校验等功能；
5、学习为Vue.js页面添加骨架屏与加载动画，提升用户体验；
6、掌握Vue.js项目常见的优化技巧、不同的部署方案；
7、使用Dockerfile与docker-compose实现对前端项目的部署；

第15周上 LLMOPs后端项目优化与配置

本周学习LLMOps后端项目的优化与配置，涵盖：添加重试机制提升模型运行成功率、添加Cache提升重复请求性能、使用小参数LLM处理不同任务提升项目性能并降低成本、封装LLMOps项目相似性代码等。

课程安排：

1、使用插件扩展的形式接入Weaviate避免内存泄漏；
2、完善Postgres数据库数据索引字段的添加，提升检索速度；
3、区分LLMOps运行环境并添加猴子补丁，提升并发能力；
4、使用pip-tools管理项目依赖，实现环境一比一复刻；
5、学习使用多个小参数LLM处理不同任务（ReACTAgent智能体），提升LLMOps性能并降低成本；
6、封装相似性代码，统一输出响应接口，提升项目可维护性；

第15周下 LLMOps生产环境部署与优化

学习LLMOps在生产环境中的部署与优化，涵盖：本地向量数据库部署、OpenAI接口额度、Azure秘钥申请、gunicorn多进程配置、Nginx限流、Dockerfile容器及云环境部署等。

课程安排：

1、掌握部署本地向量数据库，确保企业数据安全；
2、学习OpenAI接口额度+并发提升的申请流程；
3、学习Azure企业级OpenAI秘钥申请流程，合规使用GPT模型；
4、掌握gunicorn相关配置，并使用多进程提升项目性能；
5、掌握Nginx配置编写，实现接口限流及防盗刷；
6、掌握Dockerfile配置文件编写，实现Docker容器与docker-compose七大容器部署；
7、学习国内两大云平台线上部署：阿里云+腾讯云；

阶段六：LLMOps应用平台多模态插件+第三方应用集成

第16周多模态插件及开放API与三方应用集成

本周学习LLMOps对接社交媒体，集成多模态插件，涵盖飞书群机器人、微信公众号、与现有应用对接架构设计与思路、Whisper语言识别模型的使用、TTS语音合成、DALLE文生图模型等内容。

课程安排：

1、使用wechatpy实现LLMOps应用集成到微信公众号，并解决流式传输响应长的问题；
2、掌握开放API与现有应用的对接设计与实现；
3、掌握文本LLM支持语音输出、图片输出的架构设计与实现；
4、学习Whisper语音识别模型，并对接到聊天窗口；
5、学习TTS语音合成模型，实现音色/音调调节，并对接到聊天窗口；
6、学习DALLE文生图功能并封装插件，对接LLM应用；
7、多模态语音输入输出前后端接口功能对接及测试、完善；
8、两种类型的DeepSeek大语言模型的快速接入与测试；

阶段七：【LLMOps应用平台企业级商用】火热五大商业级AI应用实战

第17周上构建智能客服系统-实现24h无人轮值客服

本周主要学习利用LLMOps应用平台编排构建智能客服系统，实现24h无人轮值客服，涵盖知识点：客服知识库语料、应用Prompt编写、审核插件使用、小程序电商中间件接入、自营电商中间件快速接入等。

课程安排：

1、电商客服系统知识库准备与Prompt编排；
2、审核插件的调用与测试，实现安全输出；
3、前后端接口功能对接及测试、完善；
4、工作流编排实现快递查询与CRAG优化内容检索；

第17周下构建口语学习助手-低成本拥有全天候助教

本周主要学习利用LLMOps应用平台构建口语学习助手，涵盖：应用架构及设计思路学习、工作流编排与测试、语料准别、语音接口测试联调、AI流式响应导致超时的公众号解决方案等。

课程安排：

1、学习口语学习助手系统演示及设计思路；
2、掌握口语助手知识库准备与Prompt编排；
3、学习复杂任务如何拆解成多任务并进行编排；
4、口语助手中间件编写，实现AI语言对话联调；
5、掌握流式响应转完整响应输出的解决方案；
6、使用Websocket连接Gemini大语言模型实现实时音视频通话技巧；
7、学习掌握利用elevenlabs实现拟人口语句子的生成；
8、前后端接口功能对接及测试、完善；

第18周上快速构建图片转HTML前端智能工具

本周主要学习利用LLMOps构建图片转HTML前端智能工具，涵盖知识点：GPT-4v/4o多模态模型的介绍与使用、应用Prompt编排、图片转HTML智能工具编写、基于开放API二次开发等。

课程安排：

1、GPT-4O/4V模型的介绍与基础使用；
2、图片转HTML智能工具Prompt编写；
3、编写实现开放API对接图片转HTML智能工具；
4、前端对接开放API进行快速二次开发，满足企业自定义AI需求；
5、前后端接口功能对接及测试、完善；

第18周下建虚拟数字人-批量生成口播视频/直播推流

本周用LLMOps创建虚拟数字人应用，掌握开放API扩展开发应用的技巧，虚拟数字人功能开发、SadTalker开源数字人解决方案、本地数字人模型部署与联调、直播实时评论采集抓包、OBS推流对接等功能。

课程安排：

1、学习虚拟数字人应用架构的设计与实现；
2、了解常用数字人模型，涵盖Avatar、SadTalker、Echomimic等模型；
3、了解本地数字人模型的部署与联调；
4、实现虚拟数字人应用编排与开放接口对接；
5、掌握gradio上对接开放API与Echomimic实现虚拟数字人口播视频生成；
7、了解将虚拟数字人接入直播系统并采集直播评论的相关思路与三方库推荐；
8、了解并学习OBS联调应用实现视频推流；
9、虚拟数字人前后端接口功能对接及测试、完善；

第19周快速构建PPT自动生成工具

本周学习LLMOps实现自然语言转PPT的设计思路与实现，涵盖：python-pptx包、LangChain规范化输出技巧、PPT生成插件的编写、编排LanguageToPPT应用、中间件编写等功能。

课程安排：

1、掌握自然语言转PPT功能的架构设计与思路；
2、掌握将复杂AI应用拆解成小任务的流程；
3、掌握python-pptx包的使用，并编排应用Prompt；
4、学习将python-pptx与图片占位符、腾讯云COS存储DALLE集成封装为LLMOps插件；
5、编排文本转PPT应用完成前后端接口功能对接及测试、完善；
6、了解基于mistune实现的自然语言转云端PPT的生成方案；

阶段八：课程总结与LLM大语言模型进阶

第20周上课程回顾与总结

本周总结回顾整门课程，并学习LLM扩展知识，涵盖：开发问题总览、LangChain优缺点、技术社区推荐、其他LLM开发框架、AI应用开发及未来发展方向、LangChain源码解析、LLM评测等技能。

课程安排：

1、总结在项目开发中LangChain开发问题总览、探讨LangChain优缺点；
2、了解一些高质量的LLM技术学习社区、其他LLM开发框架及AI应用发展方向；
3、掌握国内外常见的LLM大模型平台的使用与LLM评测/排行榜；
4、如何寻找高质量的Prompt工程库及推荐；
5、LangChain源码解析及后续发展规划；
6、后续职业发展方向及学习方向分享与推荐；
7、整门课程总结；

第20周下 LLM大语言模型的预训练/微调与数据投喂

本周主要学习LLM应用开发之外的相关知识，涵盖预训练、主流微调模型、本地部署大模型、HuggingFace大模型开源社区的使用、企业在不同阶段下的选择、GPT模型的微调等。

课程安排：

1、掌握模型预训练、微调与投喂之间的差异，并在不同的场景进行使用；
2、掌握GPT模型的微调与使用，让模型更符合企业业务需求；
3、掌握主流开源大模型的本地预训练、部署等技能，让企业自行管理自有数据；
4、掌握主流大模型的微调方法；
5、学习业产品在不同阶段下预训练、微调与投喂地选择差异与结合；

程序员数学体系课

LLM算法工程师全能实战营

LLM应用开发平台特训营

AI人工智能算法工程师

鸿蒙原生应用开发工程师

物联网/嵌入式工程师

LLM大语言模型

Java工程师

Python全能工程师

前端工程师

2024 商业数据分析师

全栈算法工程师

DBA工程师

软件测试工程师

Java高级工程师

C++中高级工程师系统养成

物联网/嵌入式软件工程师

物联网/嵌入式底层开发工程师

Python Web全栈工程师

前端高级工程师（大前端）

大数据工程师

Go开发工程师

Java 亿级项目架构设计

Web前端架构师

产品经理体系课

算法与数据结构

数据分析体系课

移动端架构师

Java全栈工程师

计算机基础课

热搜

最近搜索清空

程序员数学体系课

LLM算法工程师全能实战营

LLM应用开发平台特训营

AI人工智能算法工程师

鸿蒙原生应用开发工程师

物联网/嵌入式工程师

LLM大语言模型

Java工程师

Python全能工程师

前端工程师

2024 商业数据分析师

全栈算法工程师

DBA工程师

软件测试工程师

Java高级工程师

C++中高级工程师系统养成

物联网/嵌入式软件工程师

物联网/嵌入式底层开发工程师

Python Web全栈工程师

前端高级工程师（大前端）

大数据工程师

Go开发工程师

Java 亿级项目架构设计

Web前端架构师

产品经理体系课

算法与数据结构

数据分析体系课

移动端架构师

Java全栈工程师

计算机基础课

学习咨询