數(shù)據(jù)智能公司Databricks近日推出新型大語言模型微調(diào)方法TAO(Test-time Adaptive Optimization)，通過無標(biāo)注數(shù)據(jù)和強化學(xué)習(xí)技術(shù)，顯著降低企業(yè)成本的同時提升模型性能。測試顯示，在金融文檔問答和SQL生成任務(wù)中，經(jīng)TAO微調(diào)的Llama 3.3 70B模型表現(xiàn)優(yōu)異，甚至超越傳統(tǒng)標(biāo)注微調(diào)方法，接近OpenAI頂級閉源模型水平。

　　TAO利用測試時計算自動探索任務(wù)可能性，結(jié)合強化學(xué)習(xí)優(yōu)化模型，省去人工標(biāo)注成本。在三大企業(yè)基準(zhǔn)測試中，TAO微調(diào)的Llama模型表現(xiàn)亮眼：在FinanceBench(SEC文檔問答)得分85.1，優(yōu)于標(biāo)注微調(diào)和OpenAI o3-mini;在BIRD-SQL測試中接近GPT-4o水平;在DB Enterprise Arena測試中表現(xiàn)亦不俗。

　　目前，TAO技術(shù)已在Llama模型上啟動私測，企業(yè)可通過申請表單參與。這一技術(shù)為開源模型提供了持續(xù)優(yōu)化的新路徑。