arXiv 自然语言处理· Daniel Kua, Emrul Hasan, John-Jose Nunez, Frances Chen·· 5 小时前AI 评分45
Transformer 难敌六个协变量：从童年文章长期预测抑郁症状
No Transformer Beats Six Covariates: Long-Horizon Prediction of Depressive Symptoms from Childhood Essays
AI 导读
基于 6 个童年协变量的逻辑回归基线在利用 11 岁文章预测 23 岁抑郁症状的 12 年跨期任务中，以 0.737 的 AUC-ROC 全面超越所有纯文本模型。该基线性能优于 7 个微调 Transformer（最佳 AUC-ROC 为 0.670）、词袋模型、冻结嵌入向量以及 4 个零样本 LLM，且额外引入文本分数未能显著提升预测表现。
来源：arXiv 自然语言处理 · arxiv.org