课程简介
本课程系统讲解大语言模型(LLM)全栈开发与实战技能。从Prompt工程基础到高级技巧,涵盖数据制作、抽取与改写任务;深入DeepSpeed多机多卡配置与Bert训练;详解ChatGLM3全量微调、流式生成及Tokenizer;剖析Llama2架构原理与RMSNorm、ROPE、Attention等核心组件;实战LoRA、PTuning、QLoRA等高效微调方法,并包含CodeGeeX微调、Function Call、Code Interpreter等前沿应用。课程还涉及模型量化、显存优化、Streamlit/Gradio界面设计及Akshare接口集成。通过大量代码逐行解读与项目实训,帮助学员掌握LLM训练、微调、推理与部署全流程,胜任大模型开发岗位。
下载地址
课程目录
01 课程导学与环境搭建
第0–5节:课程介绍、模型下载、服务器与VSCode远程配置。
02 Prompt工程实战
第6–17节:Prompt概述、技巧、改写抽取与数据制作。
03 DeepSpeed分布式训练
第18–26节:DeepSpeed概述、配置、多机多卡与BERT实例。
04 ChatGLM3微调与推理
第27–37节:ChatGLM3特性、全量微调、显存与结果评测。
05 CodeGeeX微调实战
第38–41节:CodeGeeX数据准备、微调优化与结果评测。
06 FunctionCall与工具调用
第42–48节:FunctionCall概述、实例与官方代码解读。
07 CodeInterpreter与项目实战
第49–55节:CodeInterpreter、Streamlit、Gradio与手写项目。
08 LLM基础与架构概览
第1–7节:LLM概览、发展历程、训练流程、评价与自动Prompt。
09 LLM幻觉与知识编辑
第6节:幻觉定义、评估、成因、解决方式与知识编辑。
10 Llama2架构原理与代码
第8节:RMSNorm、Attention、ROPE、FFN原理与代码实现。
11 PEFT微调方法详解
第9节:PET、P-Tuning v1/v2原理与代码实现。
12 LoRA与QLoRA微调
第10节:Llama2任务、LoRA原理训练推理、int8与QLoRA量化。
--- 点击展开详细目录 ---LLM大模型视频
季康部分
1_LLM综述
3_高效微调
- 🎬 0-课程大纲简要说明-.mp4
- 🎬 1-llm简要概览-.mp4
- 🎬 2-llm的发展历程_part1-.mp4
- 🎬 2-llm的发展历程_part2-.mp4
- 🎬 3-llm的训练流程以及常见的概念-.mp4
- 🎬 4-llm的常见架构-.mp4
- 🎬 5-llm的评价标准-.mp4
- 🎬 6-1.1_llm的幻觉定义-.mp4
- 🎬 6-1.2幻觉的评估方法-.mp4
- 🎬 6-1.3幻觉产生的原因-.mp4
- 🎬 6-1.4_llm幻觉的常见的解决方式-.mp4
- 🎬 6-1.5_llm的知识编辑-.mp4
- 🎬 7-llm自动生成prompts-.mp4
- 🎬 8-1.1_Llama2的rmsnorm_原理-.mp4
- 🎬 8-1.2_Llama2的rmsnorm_代码-.mp4
- 🎬 8-1.3_Llama2的ROPE_原理-.mp4
- 🎬 8-1.4_Llama2的ROPE_代码-.mp4
- 🎬 8-1.5_Llama2的Attention_原理-.mp4
- 🎬 8-1.6_Llama2的Attention_代码-.mp4
- 🎬 8-1.6_Llama2的Attention_代码_ev-.mp4
- 🎬 8-1.7_Llama2的ffn_原理-.mp4
- 🎬 8-1.8_Llama2的ffn_代码-.mp4
- 🎬 8-1.9_llama2模型组装-.mp4
- 🎬 9-1.1pet原理&dataloader-.mp4
- 🎬 9-1.2pet模型和训练验证-.mp4
- 🎬 9-1.3ptuningv1原理以及代码-.mp4
- 🎬 9-1.4ptuningv2原理-.mp4
- 🎬 9-1.5ptuningv2_代码1-.mp4
- 🎬 9-1.6ptuningv2_代码2-.mp4
- 🎬 9-1.7ptuningv2_代码3-.mp4
- 🎬 10-1.1_llama2任务简介-.mp4
- 🎬 10-1.2_rams数据处理_1-.mp4
- 🎬 10-1.2_rams数据处理_2-.mp4
- 🎬 10-1.3_lora原理部分介绍-.mp4
- 🎬 10-1.4_llama2环境安装以及部分bug排查-.mp4
- 🎬 10-1.5_lora训练-.mp4
- 🎬 10-1.6_lora推理部分_问题生成-.mp4
- 🎬 10-1.7_lora_推理_fewshot回答-.mp4
- 🎬 10-1.8_int8量化原理-.mp4
- 🎬 10.1.10_qlora的代码-.mp4
- 🎬 10.1.9_qlora的nf4-.mp4
- 🎬 10.1.9_qlora的双重量化-.mp4
布丁部分
1_环境
2_prompt
3_微调
4_function_call
5_code_interpreter
-
🎬 0_课程介绍-.mp4
-
🎬 1_模型文件下载方法1.mp4 -.mp4
-
🎬 2_模型文件下载方法2.mp4 -.mp4
-
🎬 3_配置服务器jupyter环境.mp4 -.mp4
-
🎬 4_vscode远程连接服务器.mp4 -.mp4
-
🎬 5_vscode远程debug配置.mp4 -.mp4
-
🎬 6_prompt_概述-.mp4
-
🎬 7_prompt_技巧-.mp4
-
🎬 8_prompt_技巧2-.mp4
-
🎬 9_prompt_改写任务1-.mp4
-
🎬 10_prompt_改写任务2-.mp4
-
🎬 11_prompt_抽取任务1-.mp4
-
🎬 12_prompt_抽取任务2-.mp4
-
🎬 13_prompt角色扮演-.mp4
-
🎬 14_prompt_数据制作1-.mp4
-
🎬 15_prompt_数据制作2-.mp4
-
🎬 16_prompt_数据制作3-.mp4
-
🎬 17_prompt_数据制作4-.mp4
-
🎬 18_deepspeed_概述-.mp4
-
🎬 19_deepspeed_配置-.mp4
-
🎬 21_deepspeed_demo实例-.mp4
-
🎬 22_deepspeed_bert_1-.mp4
-
🎬 23_deepspeed_bert_2-.mp4
-
🎬 24_deepspeed_bert_3-.mp4
-
🎬 25_deepspeed_bert_4-.mp4
-
🎬 26_deepspeed_多机多卡配置-.mp4
-
🎬 27_chatglm3_新特性-.mp4
-
🎬 28_chatglm3_新特2-.mp4
-
🎬 29_流式与非流式_chat_generate-.mp4
-
🎬 30_glm2的tokenizer-.mp4
-
🎬 31_推理、训练、量化占用显存-.mp4
-
🎬 32_chatglm全量微调1-.mp4
-
🎬 33_chatglm全量微调2-cpu交换技术-.mp4
-
🎬 34_chatglm全量微调3-.mp4
-
🎬 35_微调结果评测-.mp4
-
🎬 36_微调模型加载1-.mp4
-
🎬 37_微调结束后-推理-.mp4
-
🎬 38-微调优化-.mp4
-
🎬 39-codegeex微调-数据准备-.mp4
-
🎬 40-codegeex-微调数据处理-.mp4
-
🎬 41-codegeex-微调结果评测-.mp4
-
🎬 42-function-call概述-.mp4
-
🎬 43-function_call概述2-.mp4
-
🎬 44-function-call实例1-.mp4
-
🎬 45-手写function_call-1-.mp4
-
🎬 46-手写function_call-2-.mp4
-
🎬 47-streamlit-debug环境配置-.mp4
-
🎬 48_function-all_官方代码逐行解读-.mp4
-
🎬 49_code-interpreter-概述-.mp4
-
🎬 50_手写code-interpreter-.mp4
-
🎬 51_code-interpreter进阶-.mp4
-
🎬 52_项目演示-.mp4
-
🎬 53_akshare接口-.mp4
-
🎬 54_gradio-界面设计-.mp4
-
🎬 55_手写项目-.mp4
-
📦 代码-.zip
|