【手撕LLM+RLHF】通关指南
作者: 吃果冻不吐果冻皮 来源: 吃果冻不吐果冻皮
我是小冬瓜AIGC,原创超长文知识分享
微信公众号【手撕LLM】
知乎/小🍠也可以找到我【小冬瓜AIGC】
原创课程已帮助多名同学速成上岸LLM赛道
一、课程概况
-
课程内容:直播 + 往期录播 +手撕级Notebook + 非调包源码 + 算法图解 + 课程PPT
-
课程项目:垂域大模型实操 +DeepSpeed多卡SFT、RM、RLHF训练
-
进阶专题:**手撕LLaMA、**手撕RL、手撕RLHF、LLM加速、LLM分布式训练
-
入门要求:Pytorch+神经网络或深度学习基础
-
授课形式:每周2章节直播 ,5周上完前10章节
-
价格:私聊单独咨询
####二、课程目录
详细目录:第9/10章节-RL/RLHF
第11章节-LLM加速(以长文档形式授课)
第12章节-LLM分布式训练(以长文档形式授课)
####三、课程内容详情
5.1 课程直播+录播
-
已成功开展5期【手撕LLM+RLHF】课程
-
在线直播授课、随讲随答,即刻解疑瞬间秒懂
-
36h+录播视频库,疑难点课后可反复学习,巩固知识体系
5.2 课件PPT
-
每章均有完整PPT,图解复杂公式、代码实现细节, 1比1复现原论文
-
完整构建LLM知识体系, 拒绝知识碎片化
5.3 源码工程+Notebook
-
pytorch工程,代码精简,全部调试可运行,CPU都能Run的代码
-
复杂代码Notebook随手debug,不惧手撕代码
-
源码级Project,涵盖从0搭建LLM、万亿Token训练、数据处理、测试评估程序…
-
非调包级工程、坚持逐行代码剖析算法原理,从代码视角,解密复杂的公式原理。
5.4 实操项目
- 1个月从0搭建LLM,覆盖LLaMA-LoRA-Pretrained-sft-RM-RLHF-RAG-多轮对话部署
DeepSpeed多卡RLHF-PPO训练实操
(注:不提供算力,本课程所提供项目可在多卡环境一键运行,减少调试成本,建议A100x8 卡 RLHF 训练至少13B以上模型)
我是小冬瓜AIGC,原创超长文知识分享
微信公众号【手撕LLM】
知乎/小🍠也可以找到我【小冬瓜AIGC】
原创课程已帮助多名同学速成上岸
详情微信咨询xiaodongguaAIGC
更多AI工具,参考Github-AiBard123,国内AiBard123