123,123,123

美團發(fā)布新模型：能夠同時啟動 8 路思考

2026-01-16 15:31

來源： OFweek人工智能網(wǎng)

美團新模型 LongCat-Flash-Thinking-2601 來了。

這款大規(guī)模推理模型擁有 5600 億個參數(shù)，基于創(chuàng)新的 MoE 架構(gòu)構(gòu)建。

除了繼承前一版本中領(lǐng)域并行訓(xùn)練方法并保持傳統(tǒng)推理基準(zhǔn)測試的優(yōu)異性能外，本次更新還通過精心設(shè)計的流程系統(tǒng)性地增強了智能體的思考能力。

該流程結(jié)合了環(huán)境擴展和后續(xù)任務(wù)合成，并輔以可靠高效的大規(guī)模多環(huán)境強化學(xué)習(xí)。

為了更好地適應(yīng)真實世界智能體任務(wù)中固有的噪聲和不確定性，研究人員對多種類型和級別的環(huán)境噪聲進行了系統(tǒng)分析和課程訓(xùn)練，從而在不理想條件下也能保持穩(wěn)健的性能。

因此，LongCat-Flash-Thinking-2601 不僅在智能體工具使用、智能體搜索和工具集成推理等基準(zhǔn)測試中取得了頂尖的性能，而且在任意分布外的真實世界智能體場景中也顯著提升了泛化能力。

在評估方面，研究團隊設(shè)計了專門的評估協(xié)議來評估模型的魯棒性和泛化能力。此外，還引入了重思維模式，能夠同時啟動 8 路思考，進一步提升模型在極具挑戰(zhàn)性任務(wù)上的性能。

主要特點

環(huán)境擴展和多環(huán)境強化學(xué)習(xí)

團隊構(gòu)建了一系列高質(zhì)量的多樣化環(huán)境，作為強化學(xué)習(xí)的訓(xùn)練場，使模型能夠習(xí)得高層次、可泛化的智能體技能。

每個環(huán)境包含超過 60 種工具，這些工具以密集依賴圖的形式組織，為構(gòu)建多樣化的任務(wù)和進行大規(guī)模探索提供了足夠的復(fù)雜性。

隨著訓(xùn)練環(huán)境數(shù)量的增加，模型的泛化能力得到了增強。

高質(zhì)量的任務(wù)建設(shè)：為了確保訓(xùn)練任務(wù)集的質(zhì)量，研究人員明確控制了任務(wù)的復(fù)雜度和多樣性。每個任務(wù)都定義在一個從高質(zhì)量環(huán)境中采樣得到的連通子圖上，并通過要求在采樣子圖內(nèi)盡可能多地協(xié)同使用工具來控制任務(wù)的復(fù)雜度。為了提高任務(wù)的多樣性，逐步降低先前選擇的工具的采樣概率，并構(gòu)建了相應(yīng)的數(shù)據(jù)庫以確保任務(wù)的可執(zhí)行性，并且驗證每個任務(wù)至少存在一個可執(zhí)行的解決方案。
多環(huán)境強化學(xué)習(xí)：在保持高效異步訓(xùn)練和流式部署特性的同時，進一步擴展了強化學(xué)習(xí)基礎(chǔ)設(shè)施（DORA），以支持大規(guī)模多環(huán)境智能體訓(xùn)練，這符合環(huán)境擴展協(xié)議的要求。來自多個環(huán)境的任務(wù)以均衡的方式在每個訓(xùn)練批次中聯(lián)合組織，并根據(jù)其復(fù)雜性和當(dāng)前訓(xùn)練狀態(tài)分配不同的部署預(yù)算。

針對嘈雜環(huán)境的穩(wěn)健訓(xùn)練

由于現(xiàn)實世界中的智能體環(huán)境本身就存在噪聲和缺陷，僅在理想化環(huán)境中訓(xùn)練模型是不夠的，往往會導(dǎo)致模型魯棒性不足。

為了解決這個問題，研究人員將環(huán)境缺陷顯式地融入模型訓(xùn)練過程中，以增強模型的魯棒性。

他們系統(tǒng)地分析了智能體場景中現(xiàn)實世界噪聲的主要來源，并設(shè)計了一個自動流程將這些噪聲注入到訓(xùn)練環(huán)境中。

在強化學(xué)習(xí)過程中，他們采用了一種課程策略，隨著訓(xùn)練的進行逐步增加噪聲的類型和強度。這使得 LongCat-Flash-Thinking-2601 模型對環(huán)境不確定性表現(xiàn)出很強的適應(yīng)能力，并在不完美條件下持續(xù)取得更佳的性能。