AI可解释性

思维链推理为何有时不忠实？论文揭示AI思考的“幻觉”

一项最新研究对广泛使用的思维链推理技术提出警告：它在大模型实际应用中并不总是忠实于模型的内部计算过程。论文指出，当推理链长度增加时，其“忠实度”会显著下降，甚至可能产生误导性的解释。这挑战了我们将思维链等同于模型真实思考过程的假设，对AI的可解释性和可信度构建提出了新要求。