Narrative Flattening: How Post-Training Compresses Thematic, Affective, and Stylistic Variation in LLM Fiction
- arXiv/venue: 2605.27878 (2026-05)
- 作者: Zehan Li, Yutong Zhu, Siyang Wu, Honglin Bao, James A. Evans(含芝加哥大学 James Evans 团队)
- 类型: 实证诊断 / 归因分析 —— 定位"AI 文风变平"发生在训练的哪一步
- 一句话: 用同一底座的 4 个 OLMo-32B 检查点(Base→SFT→DPO→RLVR)做受控对照,证明"叙事扁平化"主要发生在后训练(post-training)阶段:主题起伏、情感强度、文体多样性被系统性压缩,且越是专业文学,被压得越狠。
1. 要解决的问题
大家都感觉 LLM 的创意写作"平淡、千篇一律",但一直没搞清:这种"平"是预训练带来的,还是后训练(SFT/对齐/RL)造成的? 而且它对不同类型的小说(网文 vs 命题作文 vs 专业文学)影响是否一样? 本文要把"扁平化"的成因定位到具体训练阶段,并量化不同文学域的受损程度。
2. 方法 / 核心思路
2.1 受控对照设计(核心巧思)
用 4 个 OLMo-32B 检查点:Base(仅预训练)→ SFT(监督微调)→ DPO(偏好优化)→ RLVR(可验证奖励的强化学习)。 四者共享架构、规模、tokenizer、预训练——因此彼此差异只来自后训练步骤,从而干净地隔离出 post-training 效应。
2.2 匹配式故事续写范式(matched story-continuation)
在三个文学域上,给同一段开头,让各检查点续写,并与匹配的人类真实续写对比: - StoryStar:公共平台网文(业余)。 - TMAS:命题/提示引导的故事。 - The New Yorker:专业文学小说(专业作家)。
2.3 三个句子级测量维度
每篇续写沿三条轴测量,并与人类基线比"差距": 1. Thematic motion(主题运动):句间主题如何转移/推进——后训练后转移变更均匀(缺乏起伏)。 2. Affective prevalence(情感强度分布):高强度情绪 → 向中性塌缩。 3. Linguistic diversity(语言多样性):跨故事的文体多样性收缩(不同故事读起来越来越像)。
3. 数据与实验
- 三域 × 四检查点 × 匹配人类续写,做句子级测量与跨检查点比较。
- 关键控制:四检查点唯一变量是后训练阶段,人类续写作为"上限/参照系"。
- 分析落点在"后训练各阶段相对 Base、相对人类的差距如何变化"。
4. 主要发现 / 结果
- 后训练压缩动态变化(核心结论):从 Base 到 SFT/DPO/RLVR,三个维度全部被压——主题转移更均匀、高强度情感让位于中性、跨故事文体多样性缩小。"平"主要是后训练造成的,不是预训练。
- 越专业,压得越狠:方向在三域一致,但差距大小取决于人类基线的高度——专业文学(The New Yorker)被压缩最严重,网文(StoryStar)与命题故事(TMAS)差距较小。
- 后训练终点跨域收敛:对齐后的模型输出对来源域的叙事质感基本"不敏感"——不管喂进来的是网文还是纯文学,产出都趋同、被拉到相似的"默认叙事纹理"。
- 摘要与正文以方向性 + 相对差距呈现为主,未给出统一的单一效应量数值(各维度分别度量)。
5. 局限
- 只在 OLMo-32B 单一模型族上验证;是否推广到其他家族/规模需进一步实验。
- 三个维度均为代理指标(主题运动、情感、多样性),与"读者主观觉得平"之间仍有解释鸿沟。
- "专业文学被压最狠"部分源于其人类基线本就最高,"差距大"与"绝对质量降幅大"需谨慎区分。
- 未直接给出"如何缓解扁平化"的方法(诊断型工作)。
6. 对做产品 / 工程的启发
- 警惕"对齐税"落在创意上:如果产品用对齐/RLHF 后的模型做创意写作,本文提示默认会牺牲主题起伏、情感强度和文体多样性——尤其在追求"高级文学感"的场景。
- 多样性可作为质量闸门指标:把"跨故事文体多样性 / 情感强度分布 / 主题转移熵"做成监控指标,能量化 catch"越写越像、越写越平"的退化。
- 选型建议:需要文学质感时,可考虑保留/混用更靠前的检查点(Base/SFT)或降低对齐强度,而非无脑用 RLVR 终点模型。
- 提醒数据侧:喂进专业文学不一定换来专业输出——对齐会把域特征抹平,光靠 prompt/素材未必救得回来。
关联
- 与 [[23_story_eval_survey]] 的"diversity / interestingness / 主观维度难评"直接对应,可视为对这些维度退化的实证。
- 与 [[19_storyalign]] 形成张力:对齐(DPO/RLVR)能提升"人类偏好命中",但本文显示同一过程会压缩创意多样性——偏好对齐 vs 创意保留的权衡。
- "情感强度/多样性坍缩"也解释了 [[22_hellobench]] 里长文"质量退化、重复"的一部分成因。
- 文体多样性收缩与 [[02_from_personas_to_plot_magnet]] 关注的人物/文风个性化诉求相冲突。