AI_writing/papers/16_skeleton_coherence.md

Skeleton-based Coherence Modeling in Narratives

说明:本篇源于 Stanford CS224N 课程报告脉络,arXiv HTML 可解析,数值取自其结果表。


1. 要解决的问题

先前工作(Xu et al., 2018 的 skeleton-based 生成)表明:先从一句里抽出"骨架"(关键实体/关系/事件),再据此生成下一句,能提升叙事生成的连贯性。作者由此提问:"骨架在相邻句之间的一致性"能否作为刻画一段文本连贯度的好指标? 即把骨架从"生成辅助"提升为"连贯性度量"是否成立。

2. 方法 / 核心思路

(1)骨架抽取 - 复用 Xu et al. (2018) 的 input–skeleton–output 流水线:通过压缩任务 + 强化学习,从句子中抽取关键概念(实体、关系、事件)作为骨架(比整句短、且无严格顺序)。

(2)SSN:Sentence/Skeleton Similarity Network - 孪生网络(Siamese) 处理"句对"或"骨架对": - 输入:FastText 词向量(100 维) - 主干:2–3 层堆叠 LSTM(隐藏单元 50) - 可选 self-attention(softmax 归一化权重),带注意力的记为 SSNA - 训练:对比损失(contrastive loss),用归一化 L2 距离度量两嵌入的相似度

(3)连贯性如何被度量 - 对相邻句对打相似度分;整篇故事的连贯度 = 所有相邻句对相似度的平均。 - 三个评测口径:(a) 区分"相邻句对 vs 随机跨故事句对";(b) 偏好"原始顺序 vs 打乱顺序"的故事;(c) 以 0.5 阈值做"是否相邻"的二分类。 - 骨架路线的直觉:连贯叙事应保持"骨架/主题的连续性"。

3. 数据与实验

4. 主要结果(带数值)

非参数基线(BERT + 余弦相似度): - 句子级:句序准确率 71.9% - 骨架级:61.6%

神经 SSN(主结果,三列 = 句序 / 故事序 / 句对分类)

方法 Sentence Order Story Order Pair Classification
SSN-3(句子) 92.9% 69.6% 82.2%
SSNA-2(句子) 92.3% 68.0% 81.4%
SSNA-2(骨架) 84.5% 62.3% 74.5%
SSN-3(骨架) 84.2% 62.9% 73.8%

5. 局限

6. 对做产品 / 工程的启发

关联