在人工智能技術飛速發展的當下，大語言模型憑借強大的推理能力成為科研與產業界的焦點。然而，這些模型在展現"鏈式思考"能力時，往往因過度冗長的推理過程導致計算成本飆升。南京大學聯合國際科研團隊提出創新解決方案，通過動態調控AI的"話語量"，在保持準確性的同時將推理成本降低近六成。
研究團隊在arXiv平臺發布的最新成果顯示，當前主流AI模型在解答數學問題時存在顯著的語言冗余現象。以GPT-4o-mini為例，面對"佩頓課后活動總時長"的簡單問題時，無限制推理會生成258個詞匯的冗長解釋，而直接回答僅需15個詞匯。這種"啰嗦"特性導致每次推理的平均成本高達289.78單位，其中近70%屬于無效輸出。
科研人員通過實驗發現，當為AI設定合理的詞匯預算時，其推理效率會顯著提升。在GSM8K數據集測試中，設置50詞匯限制可使回答精煉至86個詞匯，準確率保持穩定。但過度壓縮（如10詞匯限制）反而會觸發"詞匯彈性"現象，導致AI用157個詞匯進行反抗式表達。這種非線性關系促使團隊開發出智能預算搜索算法。
新提出的TALE框架包含兩種創新實現路徑。估算提示法通過設計特殊指令，讓AI自主預判回答所需詞匯量，就像經驗豐富的教師能快速評估題目解答篇幅。實驗表明，該方法估算值與最優預算的匹配度高達92%，在保持81.03%準確率的同時，將詞匯使用量壓縮至148.72個，成本降低59%。
后訓練法則采用"再教育"策略，先用搜索算法確定每個問題的最優預算，再通過監督微調或偏好優化訓練模型。在GSM8K數據集上，經過直接偏好優化的模型用149.93個詞匯即可達到74.11%的準確率，較傳統方法節省46%的詞匯量。這種訓練方式如同教會司機經濟駕駛，使模型自然形成簡潔表達習慣。
跨模型驗證顯示，TALE框架具有廣泛適用性。在Yi-lightning模型上，詞匯使用量從998.10銳減至373.52，成本下降20%；GPT-4o的推理成本更是從1359.42降至759.95。特別值得注意的是，在GSM8K數據集的某些測試中，精煉后的回答準確率反而提升3.11個百分點，證明冗余信息確實可能干擾推理質量。
該研究突破傳統思維定式，首次將"計算經濟學"理念引入AI推理領域。通過建立隱式單調性假設，團隊證明90.91%的數學問題存在成本-準確率的帕累托最優解。二分搜索算法的應用使預算定位效率提升80%，平均每個樣本的處理時間從10.2秒縮短至2.3秒。
盡管成果顯著，研究團隊也指出當前方法的局限性。多模態AI系統的預算分配尚未解決，約10%的復雜問題不完全符合單調性假設，且估算提示法存在輕微延遲。針對這些問題，團隊正在開發更精細的搜索策略，并探索圖像復雜度與文本長度的聯合優化方案。
這項研究為AI效率優化開辟了新路徑。在移動端和嵌入式設備快速普及的背景下，TALE框架提供的成本壓縮方案具有重要現實意義。當AI能夠用更經濟的資源消耗提供同等質量服務時，技術普及的門檻將大幅降低，這或許將推動整個社會加速進入智能時代。
