arXiv 自然语言处理· Jacob A. Matthews, Sil Hamilton·· 3 小时前AI 评分34
大语言模型是懒惰的诗人:大规模创作模式坍塌
Language Models are Lazy Poets: Creative Mode Collapse at Scale
AI 导读
研究通过 16 个开源权重模型在 15 种诗歌形式与 248 个主题标签下生成超 110 万首诗歌,发现大语言模型在诗歌创作中存在严重的模式坍塌。大语言模型虽具备庞大的诗歌词汇量与押韵能力,却严重未被充分利用,表现为过度依赖少数词汇、开头句式与韵脚。研究还指出词汇同质化程度因模型和诗歌形式而异,且观察到的押韵词汇量与模型规模相关。
来源:arXiv 自然语言处理 · arxiv.org