Attention Is All You Need （新窗口打开）
核心贡献
提出以注意力为核心的Transformer，替代序列建模中的循环与卷积结构。多头注意力、位置信息与并行训练相结合，在机器翻译实验中兼顾效果和训练效率，让相距较远的词也能直接交换信息。
为什么值得读
先读架构图和注意力公式，弄清每个组件解决了什么计算瓶颈。它是读懂后续大模型论文最值得掌握的共同语言。
关键论文 · 阅读路径
推荐
阅读。
从 Transformer 与规模定律，到推理、工具使用和自主学习。沿着一条清晰的路径，读懂推动 AI 走到今天的关键思想。
从这里开始
精选论文
值得细读的论文
Scaling Laws for Neural Language Models （新窗口打开）
核心贡献
系统测量语言模型的交叉熵损失如何随参数量、数据量和训练算力变化，在实验范围内发现稳定的幂律关系，并据此估算固定算力预算的分配方式。模型扩展由此成为可测量、可比较的资源配置问题。
为什么值得读
与Chinchilla连读，能看清预测规律为何有用，也能理解实验假设为何重要。尤其要留意预测损失与具体能力评测之间的区别。
Language Models are Few-Shot Learners （新窗口打开）
核心贡献
介绍GPT-3，并系统评估通过文本提示完成多种语言任务的效果。测试时无需为每项任务更新参数，只需在上下文中给出指令或少量示例；扩大模型规模改善了许多零样本与少样本任务的表现。
为什么值得读
它解释了提示词为何能成为通用接口。比较零样本、单样本和少样本设定，再观察不同任务的差异，有助于理解上下文适应究竟改变了什么。
Training Compute-Optimal Large Language Models （新窗口打开）
核心贡献
重新研究固定训练算力下，模型参数量与训练数据量应如何搭配。通过四百多个模型的实验，建议两者近似同比例增长；由此训练的七百亿参数Chinchilla，在相同训练算力下优于更大的Gopher。
为什么值得读
与早期缩放定律对照，理解为何只增加参数可能浪费预算。重点是实验如何控制变量，以及训练效率与实际部署成本为何需要分别考虑。
Training language models to follow instructions with human feedback （新窗口打开）
核心贡献
展示让预训练模型更善于遵循指令的三步流程：学习人工示范，用人类排序训练奖励模型，再进行强化学习。在论文的提示分布与人工评测中，十三亿参数InstructGPT的输出比一千七百五十亿参数GPT-3更受偏好。
为什么值得读
重点看数据收集与评测者的选择：它们决定哪些人类判断进入训练目标，也帮助理解基础能力与实际好用之间的距离。
Direct Preference Optimization: Your Language Model is Secretly a Reward Model （新窗口打开）
核心贡献
从偏好回答与被拒绝回答的成对数据出发，推导直接优化语言模型的训练目标。利用正则化目标下策略与奖励的关系，DPO省去了单独训练奖励模型及常规强化学习优化循环，并在情感、摘要和对话任务上进行验证。
为什么值得读
接着InstructGPT阅读，可以看懂反馈如何经更简洁的路径改变行为。推导中的假设尤其值得关注，偏好数据本身的质量仍然关键。
Chain-of-Thought Prompting Elicits Reasoning in Large Language Models （新窗口打开）
核心贡献
展示在提示中加入带有中间步骤的示例，能够改善足够大语言模型在算术、常识与符号推理任务上的表现。方法改变的是推理时的示例和生成过程，无需重新进行任务训练，也呈现了模型规模与提示策略的关系。
为什么值得读
它连接了直接作答与多步求解。阅读消融实验和错误案例，比只记住“分步思考”更有价值，也有助于判断生成推理的实际质量。
DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning （新窗口打开）
核心贡献
研究如何用强化学习增强预训练模型的推理表现。R1-Zero跳过初始监督微调，直接进行强化学习；R1加入冷启动示例与多阶段训练以改善可用性，并研究利用生成样本把推理行为蒸馏到较小模型。
为什么值得读
接着思维链论文阅读，理解从提示出推理到专门训练推理的变化。对照奖励设计、两条训练路线和蒸馏结果，厘清各项收益来自哪里。
Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks （新窗口打开）
核心贡献
将预训练生成模型与维基百科的稠密检索器结合，同时利用参数中的知识和外部文段。论文比较整段输出共享证据与逐词利用不同证据两种方式，通过联合微调改善知识密集型问答和文本生成任务。
为什么值得读
它解释了为什么知识不必全部存进模型权重。分清检索、生成和文档索引更新这三个环节，是理解系统如何利用新证据的重要基础。
ReAct: Synergizing Reasoning and Acting in Language Models （新窗口打开）
核心贡献
把文字推理与检索、环境操作等行动交替进行，再将新观察反馈到下一步，使模型能够根据结果调整计划。实验覆盖问答、事实核查、模拟家务和网页购物，展示了推理与行动配合的具体方式。
为什么值得读
这是理解语言模型智能体的直观起点。沿一条完整轨迹追问每次观察如何影响下一步行动，能抓住比提示模板更关键的反馈机制。
Toolformer: Language Models Can Teach Themselves to Use Tools （新窗口打开）
核心贡献
训练语言模型在文本中插入有用的API调用。系统从少量示范出发，生成并执行候选调用，只保留能改善后续词元预测的结果，再用增强数据微调，学习何时调用计算器、搜索或翻译等工具。
为什么值得读
与ReAct对照，可理解提示驱动交互与训练获得工具能力的区别。尤其值得看数据筛选标准：系统如何从自己的尝试中构造有效监督信号。
The AI Scientist: Towards Fully Automated Open-Ended Scientific Discovery （新窗口打开）
核心贡献
把构思、改代码、运行实验、绘图、写论文和自动评审连接成研究流程，从人工提供的实验模板出发探索三个机器学习方向。论文同时展示生成成果与失败案例，包括实验错误及需要仔细核查的误导性结果。
为什么值得读
它把科研自动化具体化为可检查的步骤。重点看实验有效性、可复现性与评估：完成一轮流程之后，研究结论如何经得起独立检验？
Mastering Chess and Shogi by Self-Play with a General Reinforcement Learning Algorithm （新窗口打开）
核心贡献
介绍AlphaZero，将神经网络、蒙特卡洛树搜索与自我博弈强化学习结合。分别训练的国际象棋、将棋和围棋系统无需人类棋谱，使用同一套基本方法获得强大棋力；搜索提供行动目标，对局结果提供学习信号。
为什么值得读
它给出超越模仿示范的具体机制。重点看学习得到的判断与搜索如何相互促进，以及明确规则和可靠反馈为什么让这种改进能够成立。
World Models （新窗口打开）
核心贡献
用图像压缩表示与循环动态模型构建紧凑的视觉环境模型，再让小型控制器利用这些特征行动。其中一项实验让策略在学得的模拟器中训练，再迁移回原始游戏环境，展示了通过内部预测学习行为的可能性。
为什么值得读
它是理解“在想象中学习”的直观入口。感知、预测与控制分开后很容易观察，也说明有用的模拟器未必需要复原每一处视觉细节。
Mastering Diverse Domains through World Models （新窗口打开）
核心贡献
提出DreamerV3：学习世界模型，并在想象轨迹上训练行动策略与价值判断。归一化等稳定化设计使同一算法配置适用于一百五十多个任务，实验包括无需人类示范或手工课程，在Minecraft中采集钻石。
为什么值得读
接着World Models阅读，观察直观概念如何变成更稳健的算法。重点理解跨奖励尺度的稳定训练，以及复用算法与迁移已训练策略的区别。
Concrete Problems in AI Safety （新窗口打开）
核心贡献
把系统意外造成的有害行为整理成五个研究问题：副作用、奖励投机、可扩展监督、安全探索和分布偏移。论文将这些问题连接到已有机器学习方法与实验方向，用具体例子区分目标、反馈和泛化层面的失败。
为什么值得读
可把它当作阅读更强系统时的技术检查表：系统究竟在优化什么，监督能覆盖什么，以及训练环境改变之后，哪些可靠性假设仍然成立？