Claude 为何会提供错误或误导性回复

Anthropic 说明称，Claude 会偶发性生成错误或误导性回复，这一模型幻觉现象是当前前沿生成式 AI 模型的局限性所致。由于可能缺乏最新信息训练或生成未经事实支撑的权威口吻内容，Claude 会输出看似正确却存在严重错误的信息。用户不应将其视为唯一事实来源，须仔细审查高风险建议并核对联网搜索引用的原始网页。