一句话总结：长篇生成的奠基之作。Re3 用 Plan → Draft → Rewrite → Edit 四步：先让 LM 生成结构化总纲，再反复注入"总纲 + 当前故事状态"续写，然后对多个续写重排(选情节连贯+切题的)、最后编辑保事实一致。首次自动生成 2000+ 词的情节连贯故事;比同基座直出,人评"情节连贯"+14%、"切题"+20%。后来的 DOME/StoryWriter 都是它的后代。
TL;DR 速览
- 问题(2022 视角):长故事(>2000 词)的核心新挑战是长程情节连贯 + 切题,短故事方法不够用。
- 方法(Re3 = Recursive Reprompting and Revision): 1. Plan:提示 LM 构造结构化总纲(设定、人物、大纲)。 2. Draft:反复把"总纲 + 当前故事状态"注入 prompt 续写段落。 3. Rewrite:对多个续写重排——按情节连贯 + premise 切题挑最好的。 4. Edit:编辑选中续写,维护长程事实一致。
- 关键数字:生成 2000–2500 词;vs 同基座直出,人评情节连贯 +14%、premise 切题 +20%。
- 一句话评价:"计划-起草-重排-编辑"这套范式是整条长篇线的祖宗——DOME([[03_dome]])、StoryWriter([[10_storywriter]])都是它的变体。而它的"重排+编辑"就是最早的判别器在环(rerank=评委)。
tags: [论文精读, 长篇生成, 奠基, plan-draft-rewrite-edit, 判别器在环] related: [[03_dome]], [[10_storywriter]], [[09_longwriter]], [[02_from_personas_to_plot_magnet]]
摘要
- 作者/机构:Kevin Yang, Yuandong Tian, Nanyun Peng, Dan Klein(UC Berkeley / Meta AI / UCLA)。
- arXiv:2210.06774(EMNLP 2022)
[!PDF|] 38_re3.pdf, p.1
first to automatically generate plot-coherent stories of such length
[!PDF|] 38_re3.pdf, p.1
reranking different continuations for plot coherence and premise relevance, and finally (d) editing the best continuation for factual con
[!note] 图 1 解读（Re3 四步流程，坐标启发式需微调） Premise → Plan(设定/人物/大纲)→ Draft(据计划+前文续写)→ Rewrite(重排续写:情节连贯+切题)→ Edit(编辑保长程事实一致)→ Story。
[!tip] 为什么"重排 + 编辑"是点睛之笔？（工程启示） Re3 不是一次生成就结束，而是生成多个候选 → 按连贯/切题重排 → 编辑事实。重排本质上让判别器进入生成闭环；后来的 POLARIS best-of-n 与 Magnet Critic 都强化了这一范式。
结果
[!PDF|] 38_re3.pdf, p.1
coherent overarching plot (by 14% absolute increase
- vs 同基座直出:人评"情节连贯"+14% 绝对提升、"premise 切题"+20%。作者note长度上限主要受评估而非技术限制。
局限
- 2022 的 GPT-3 时代方案,基座能力受限。
- 只到 2000–2500 词;编辑/重排靠启发式规则 + LM,粒度较粗。
个人思考
① 谱系位置(奠基) - Re3 是长篇生成"计划-起草-重排-编辑"范式的祖宗:[03_dome]、[10_storywriter]、[02_from_personas_to_plot_magnet]都是在改进它的某一步(Plan→更结构化、Draft→加记忆、Rewrite/Edit→加世界状态)。读 Re3 能看清整条线"从哪出发"。 - 作者 Kevin Yang/Dan Klein 后续做了 DOC(详细大纲控制),是 Re3 的直接续作。
② 工程价值 - "多生成 + 判别器重排 + 编辑" 是早期且通用的质量提升范式：判别器越准确，重排得到的续写越可靠。 - Rerank 的两个标准(情节连贯 + premise 切题)是判别器最基础的两维,可作为起点再叠加创意/张力(19/21/17)。
③ 局限 - 时代早、粒度粗。但作为范式奠基,它定义了后续所有工作的骨架,且"判别器在环"的思想从这里就开始了。