趋近智
强化学习与人类反馈 (RLHF)
章节 1: RLHF与语言模型对齐的初步介绍
大型语言模型中的人工智能对齐问题
监督微调的局限性
强化学习原理回顾
RLHF流程简介
设置开发环境
章节 2: 监督微调 (SFT) 阶段
SFT在RLHF流程中的作用
高质量SFT数据集的整理
SFT 实现细节
评估 SFT 模型表现
动手实践：SFT 执行
章节 3: 基于人类偏好构建奖励模型
偏好学习的思路
人类偏好数据收集
偏好数据集的格式与结构
奖励模型架构
奖励模型训练目标
奖励模型校准
奖励模型中可能出现的问题
动手实践：训练奖励模型
章节 4: 使用近端策略优化（PPO）进行强化学习微调
RLHF背景下的PPO算法
策略网络与价值网络的实现
KL散度惩罚的作用
优势和回报的计算
LLM的PPO超参数调整
常用 PPO 实现库 (TRL)
PPO训练不稳定性故障排除
实践：实现PPO更新步骤
章节 5: 整合完整的RLHF流程
工作流编排
模型加载与配置
使用策略模型生成回复
使用奖励模型为回应评分
训练过程中模型的同步
端到端 RLHF 系统的代码结构
动手实践：运行简化的RLHF循环
章节 6: 进阶RLHF方法和替代方案
直接偏好优化 (DPO)
基于AI反馈的强化学习 (RLAIF)
提升RLHF中的样本效率
明确处理奖励欺诈
多目标奖励模型
上下文和条件式RLHF
实践：PPO与DPO方法的比较
章节 7: 评估、分析与部署
对齐模型的评估指标
人工评估方法
自动化评估套件
分析RL微调期间的策略变化
红队测试与安全测试
计算成本与可扩展性
RLHF模型的部署考量
动手实践：分析RLHF运行日志
大型语言模型中的人工智能对齐问题
这部分内容有帮助吗？
- Constitutional AI: Harmlessness from AI Feedback, Yuntao Bai, Saurav Kadavath, Sandipan Kundu, Amanda Askell, Jackson Kernion, Andy Jones, Anna Chen, Anna Goldie, Azalia Mirhoseini, Cameron McKinnon, Carol Chen, Catherine Olsson, Christopher Olah, Danny Hernandez, Dawn Drain, Deep Ganguli, Dustin Li, Eli Tran-Johnson, Ethan Perez, Jamie Kerr, Jared Mueller, Jeffrey Ladish, Joshua Landau, Kamal Ndousse, Kamile Lukosuite, Liane Lovitt, Michael Sellitto, Nelson Elhage, Nicholas Schiefer, Noemi Mercado, Nova DasSarma, Robert Lasenby, Robin Larson, Sam Ringer, Scott Johnston, Shauna Kravec, Sheer El Showk, Stanislav Fort, Tamera Lanham, Timothy Telleen-Lawton, Tom Conerly, Tom Henighan, Tristan Hume, Samuel R. Bowman, Zac Hatfield-Dodds, Ben Mann, Dario Amodei, Nicholas Joseph, Sam McCandlish, Tom Brown, Jared Kaplan, 2022 arXiv preprint arXiv:2212.08073 DOI: 10.48550/arXiv.2212.08073 - 这项工作提出了一种方法，通过使用人工智能模型根据一系列原则评估响应，实现LLM的无害性对齐，为某些对齐目标提供了直接人类反馈的替代方案。
- Artificial Intelligence, Safety and Existential Risk: A Systematic Review, Iyad Gabriel, 2020 Synthese, Vol. 197 (Springer Netherlands) DOI: 10.1007/s11229-019-02201-6 - 这篇系统综述提供了关于人工智能安全和生存风险的广泛学术视角，为大型语言模型对齐所处理的通用人工智能对齐问题奠定了概念基础。
- Ethical and Social Risks of Harmful Language Models, Laura Weidinger, John Mellor, Maribeth Rauh, Conor Griffin, Jonathan Uesato, Po-Sen Huang, Myra Cheng, Mia Glaese, Borja Balle, Atoosa Kasirzadeh, Zac Kenton, Sasha Brown, Will Hawkins, Tom Stepleton, Courtney Biles, Abeba Birhane, Julia Haas, Laura Rimell, Lisa Anne Hendricks, William Isaac, Sean Legassick, Geoffrey Irving, Iason Gabriel, 2021 arXiv preprint arXiv:2112.04359 DOI: 10.48550/arXiv.2112.04359 - 这篇论文全面讨论了与大型语言模型相关的伦理和社会风险，详细阐述了偏见、毒性和错误信息等各种形式的失调。