韩国三级一区-韩国三级香港三级日本三级la-韩国三级香港三级日本三级-韩国三级视频网站-日韩欧美一及在线播放-日韩欧美一二三区

首頁|必讀|視頻|專訪|運營|制造|監管|大數據|物聯網|量子|低空經濟|智能汽車|特約記者
手機|互聯網|IT|5G|光通信|人工智能|云計算|芯片|報告|智慧城市|移動互聯網|會展
首頁 >> 人工智能 >> 正文

Hugging Face 研究“AI 降本增效”:給予更長運算時間讓低成本小模型輸出比擬大模型準確結果

2024年12月30日 14:13  IT之家  作 者:漾仔

目前業界模型性能通常與訓練期間投入的資源綁定,除了頭部廠商大肆投入資源訓練模型外,許多小型企業和個人開發者實際上并不具備足夠的資源,為了解決這一問題,許多團隊試圖尋找降本增效替代方案。

Hugging Face 于本月中旬公布一項報告,提出一種“擴展測試時計算(IT之家注:Test-Time Compute Scaling)”方法,也就是用時間來彌補模型體量,給予“低成本小模型”充足時間,讓相關模型能夠對復雜問題生成大量結果,再利用驗證器對這些結果進行測試及修正,反復輸出能夠比擬“高成本大模型”的結果

Hugging Face 團隊表示,他們使用這種方法利用 10 億參數的 Llama 模型進行數學基準測試,據稱在某些情境下超越了參數量高達 70 億的大型模型,證明了用時間提升模型輸出內容效果做法可行。

此外,谷歌 DeepMind 最近也公布了類似的論文,他們認為可以為小模型動態分配運算資源,并設置驗證器對模型的解答結果進行評分,從而引導模型不斷輸出正確的答案,從而幫助企業以較少的資源部署足夠精度的語言模型。

編 輯:章芳
飛象網版權及免責聲明:
1.本網刊載內容,凡注明來源為“飛象網”和“飛象原創”皆屬飛象網版權所有,未經允許禁止轉載、摘編及鏡像,違者必究。對于經過授權可以轉載,請必須保持轉載文章、圖像、音視頻的完整性,并完整標注作者信息和飛象網來源。
2.凡注明“來源:XXXX”的作品,均轉載自其它媒體,在于傳播更多行業信息,并不代表本網贊同其觀點和對其真實性負責。
3.如因作品內容、版權和其它問題,請在相關作品刊發之日起30日內與本網聯系,我們將第一時間予以處理。
本站聯系電話為86-010-87765777,郵件后綴為cctime.com,冒充本站員工以任何其他聯系方式,進行的“內容核實”、“商務聯系”等行為,均不能代表本站。本站擁有對此聲明的最終解釋權。
相關新聞              
 
人物
中國移動副總經理張冬:5G揚帆開新篇,數智遠航啟新程
精彩專題
2024通信業年終盤點
2024數字科技生態大會
2024年度中國光電纜優質供應商評選活動
2024全球6G發展大會
CCTIME推薦
關于我們 | 廣告報價 | 聯系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網 CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號-1  電信與信息服務業務經營許可證080234號 京公網安備110105000771號
公司名稱: 北京飛象互動文化傳媒有限公司
未經書面許可,禁止轉載、摘編、復制、鏡像