我国科学家提出高效推理策略 可避免大模型“过度思考”

随着人工智能大(dà)模型的不断发展，如何让其在“难”的问题上深入思考，而不是(búshì)对所有问题“想个不停”？记者5月29日从中国科学院自动化研究所(zhōngguókēxuéyuànzìdònghuàyánjiūsuǒ)获悉，该所联合(liánhé)鹏城实验室提出了一种高效推理策略AutoThink，可让大模型实现自主切换(qièhuàn)思考模式，避免“过度思考”。 “当前，越来越多的大模型开始具备‘深度思考能力’。”中国科学院自动化研究所研究员张启超说，模型在回答问题之前要先生成一整段(zhěngduàn)包含反复自我反思、自我验证(yànzhèng)的推理过程(guòchéng)，然后再给出答案。 张启超(zhāngqǐchāo)表示，这一思考模式显著提升(tíshēng)了大模型解决复杂(fùzá)问题的能力，但同时也带来了“过度思考”的问题，即在处理简单任务时也会生成冗余的思考过程。 “比如使用者对大模型提问‘2+3等于几’，大模型可能会从自然数定义讲(jiǎng)起，列出加法交换律，甚至反复确认，最后才输出答案是5。”张启超(zhāngqǐchāo)说，这种(zhèzhǒng)不必要的“过度思考”现象(xiànxiàng)在推理模型中广泛存在。 针对这一问题，AutoThink可赋予推理模型根据题目难度自主切换思考(sīkǎo)模式的能力，即通过所设计的提示词和多阶段(jiēduàn)强化学习，引导其自主决定是否进行深度(shēndù)思考。 张启超(zhāngqǐchāo)介绍，AutoThink提供了一种(yīzhǒng)简单而有效的推理新(xīn)范式——通过省略号(shěnglüèhào)提示配合三阶段强化学习，引导大模型不再“逢题必深思熟虑”，而是根据问题难度自主决定“是否思考”“思考多少”。在多个数学(shùxué)数据集上，AutoThink实现了准确率与效率平衡，既提升性能又节省算力，展示出较强的适应性和实用性。 据悉，AutoThink已集成于一站式智能科研平台ScienceOne，并将用于训练ScienceOne的(de)基座大模型(móxíng)S1-Base。研发团队表示，让大模型“更聪明地思考(sīkǎo)、更简洁地表达”，是未来科学基础(jīchǔ)大模型演进的重要方向。（记者宋晨）