AI 文摘

【手撕LLM+RLHF】通关指南





作者: 吃果冻不吐果冻皮 来源: 吃果冻不吐果冻皮

我是小冬瓜AIGC,原创超长文知识分享

微信公众号【手撕LLM】

知乎/小🍠也可以找到我【小冬瓜AIGC】

原创课程已帮助多名同学速成上岸LLM赛道

一、课程概况

  • 课程内容:直播 + 往期录播 +手撕级Notebook + 非调包源码 + 算法图解 + 课程PPT

  • 课程项目:垂域大模型实操 +DeepSpeed多卡SFT、RM、RLHF训练

  • 进阶专题:**手撕LLaMA、**手撕RL、手撕RLHF、LLM加速、LLM分布式训练

  • 入门要求:Pytorch+神经网络或深度学习基础

  • 授课形式:每周2章节直播 ,5周上完前10章节

  • 价格:私聊单独咨询

####二、课程目录

详细目录:第9/10章节-RL/RLHF

第11章节-LLM加速(以长文档形式授课)

第12章节-LLM分布式训练(以长文档形式授课)

####三、课程内容详情

5.1 课程直播+录播

  • 已成功开展5期【手撕LLM+RLHF】课程

  • 在线直播授课、随讲随答,即刻解疑瞬间秒懂

  • 36h+录播视频库,疑难点课后可反复学习,巩固知识体系

5.2 课件PPT

  • 每章均有完整PPT,图解复杂公式、代码实现细节, 1比1复现原论文

  • 完整构建LLM知识体系, 拒绝知识碎片化

5.3 源码工程+Notebook

  • pytorch工程,代码精简,全部调试可运行,CPU都能Run的代码

  • 复杂代码Notebook随手debug,不惧手撕代码

  • 源码级Project,涵盖从0搭建LLM、万亿Token训练、数据处理、测试评估程序…

  • 非调包级工程、坚持逐行代码剖析算法原理,从代码视角,解密复杂的公式原理。

5.4 实操项目

  • 1个月从0搭建LLM,覆盖LLaMA-LoRA-Pretrained-sft-RM-RLHF-RAG-多轮对话部署

DeepSpeed多卡RLHF-PPO训练实操

(注:不提供算力,本课程所提供项目可在多卡环境一键运行,减少调试成本,建议A100x8 卡 RLHF 训练至少13B以上模型)

我是小冬瓜AIGC,原创超长文知识分享

微信公众号【手撕LLM】

知乎/小🍠也可以找到我【小冬瓜AIGC】

原创课程已帮助多名同学速成上岸

详情微信咨询xiaodongguaAIGC

更多AI工具,参考Github-AiBard123国内AiBard123

可关注我们的公众号:每天AI新工具