韩国三级一区-韩国三级香港三级日本三级la-韩国三级香港三级日本三级-韩国三级视频网站-日韩欧美一及在线播放-日韩欧美一二三区

首頁|必讀|視頻|專訪|運營|制造|監管|大數據|物聯網|量子|低空經濟|智能汽車|特約記者
手機|互聯網|IT|5G|光通信|人工智能|云計算|芯片|報告|智慧城市|移動互聯網|會展
首頁 >> 人工智能 >> 正文

DeepSeek引發本地AI部署潮,手機RAM慌了嗎?

2025年2月14日 08:16  CCTIME飛象網  作 者:魏德齡

飛象原創(魏德齡/文)連續三年,每個新年意識AI突破都成為了科技行業的最熱新聞。從ChatGPT到o1,再到今年的DeepSeek。不過與頭兩年OpenAI公司的ChatGPT不同的是,由于開源的屬性,DeepSeek可以在線使用外,也吸引著很多人嘗試進行本地化部署,甚至出現了在各大社交分享平臺上教程一抓一大把的盛況。

DeepSeek掀起本地化部署熱潮

大語言模型的本地化部署絕非什么新鮮事,在DeepSeek之前,Meta AI公司的Llama模型就曾被很多人在個人PC與智能手機上進行部署。一些廠商在去年也開始將能夠運行本地大模型的能力作為賣點,例如榮耀Magic6在發布時表示通過搭載第三代驍龍8,設備支持7B參數的AI端側大模型。

隨著DeepSeek在今年年初展現出媲美ChatGPT o1的能力后,加之其開源的屬性,用戶可以通過以往的本地部署方式來獲得離線的AI能力。配合部署檢索增強生成還能構建起基于自身需求的知識庫,方便隨時進行信息檢索與查詢。同時,不用擔心敏感數據上傳至云端造成泄漏。

面向不同的設備算力需求,DeepSeek目前提供了1.5B、7B、8B、14B、32B、70B、671B不同參數量級的大模型。一般而言,目前市面上的旗艦手機可以部署至7B,電腦一般可以在8B和14B間抉擇,有超高硬件實力的電腦可以跑32B。而更高參數量級的模型多會部署至云端,通過更強的算力來運行,這也是如今各大國內云平臺正在紛紛宣傳自身已經提供DeepSeek能力支持的原因之一。

工作能力與RAM強相關

參數量與最終本地AI的實際工作能力存在正相關。例如同樣是調取知識庫中的資料來撰寫報告,14B會比8B的模型在信息理解與生成內容質量上有著明顯提升,致幻率也會大幅降低。同理,32B大模型在工作能力上的提升會更加顯著。

而可以運行模型的參數量大小與智能手機的RAM又存在正相關?陀^上說,移動設備由于CPU與GPU共享內存,所以更占據優勢。由于目前手機一般最低8GB起步,來應對多線程任務與多媒體需求,所以運行7B模型完全不在話下。但是,以蘋果iPhone 15 Pro系列起的RAM僅為8GB的機型而言,由于其他線程仍需占用部分資源,所以其難以運行8B的模型。

非X86架構的PC也在本地AI部署中獲得了能夠部署更大參數量級模型的優勢,由于同樣擁有共享內存的機制。以16GB的Macbook為例,其在不同時運行其他過重任務的情況下,可輕松運行14B的模型。但對于擁有16BG內存的X86 PC而言,無疑還需要看配備的GPU規格而定。

這也再次印證了蘋果iPhone 15系列數字版機型無緣AppleIntelligence的原因,由于其僅配備6GB RAM,產品規劃時或許蘋果還未謀劃自身的AI布局,導致這部剛剛上市一年的機型,卻無緣后續的AI功能升級。傳聞中即將發布的面向入門級市場的iPhone SE 4,有消息顯示,為了滿足端側AI的功能需要,將RAM同樣提升至了8GB。

手機RAM能否還有加碼空間

實際上,旗艦手機的RAM配置早已處在一個多年不變的“卷不動”狀態。甚至當三星在2022年發布Galaxy S22 Ultra時,將起始RAM版本從上代的12GB下降至8GB。而在該時間節點前,Android手機曾經一度迎來了RAM的爆發式增長,以三星手機為例,Galaxy S8國際版的標配RAM為4GB,當時僅專門為國行提供了6GB版本。到了Galaxy S10系列,8GB RAM則成為標配,要知道在Galaxy S9系列中,還依舊在延續與S8相似的RAM配置策略。在Galaxy S20系列中,12GB RAM更是成為起步配置,Galaxy S20 Ultra更是加碼到了16GB RAM。當時,甚至有分析人士斷言,16GB的普及將只是時間問題。此外,部分廠商面向中國市場,還會提供更大RAM版本的特供機型,來滿足推送機制更加多元化的國內使用環境。當經過當時市場的最終檢驗,8GB成為一段時間以來的最合理標配,近年來,國內手機廠商又才將標配RAM提升至12GB。

而隨著本地AI部署,從廠商的概念演示,變為越來越多用戶渴望嘗試的新功能,無疑也對于更強工作能力、更低致幻率的更高參數量級的大語言模型也產生了更大的需求,當下部分Android旗艦機型所配備的16GB RAM,無疑為運行14B大模型提供了重要的前提條件。

蘋果方面的iOS生態也很可能正在改變固有的以較小RAM來實現產品流暢體驗的策略。根據網上顯示,目前蘋果Apple Intelligence部署在本地設備的參數量級為3B,測試得分可高于諸多7B參數的開源模型。顯然,后續如果繼續提升參數量,所產生的功能提升不容小覷。無巧不成書的是,已經有外媒透露,今年發布的iPhone 17系列的RAM將會提升至12GB。畢竟在一個理想的使用狀態下,智能手機不僅要運行大模型來帶來體驗變革,還要同時運行其他功能。

智能手機或許將迎來又一個RAM加碼的時間節點。

編 輯:章芳
飛象網版權及免責聲明:
1.本網刊載內容,凡注明來源為“飛象網”和“飛象原創”皆屬飛象網版權所有,未經允許禁止轉載、摘編及鏡像,違者必究。對于經過授權可以轉載,請必須保持轉載文章、圖像、音視頻的完整性,并完整標注作者信息和飛象網來源。
2.凡注明“來源:XXXX”的作品,均轉載自其它媒體,在于傳播更多行業信息,并不代表本網贊同其觀點和對其真實性負責。
3.如因作品內容、版權和其它問題,請在相關作品刊發之日起30日內與本網聯系,我們將第一時間予以處理。
本站聯系電話為86-010-87765777,郵件后綴為cctime.com,冒充本站員工以任何其他聯系方式,進行的“內容核實”、“商務聯系”等行為,均不能代表本站。本站擁有對此聲明的最終解釋權。
相關新聞              
 
人物
vivo胡柏山:手機行業是最典型的新質生產力代表
精彩專題
低空經濟2025:助力中國經濟騰飛,成就高質量發展
2024通信業年終盤點
2024數字科技生態大會
2024年度中國光電纜優質供應商評選活動
CCTIME推薦
關于我們 | 廣告報價 | 聯系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網 CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號-1  電信與信息服務業務經營許可證080234號 京公網安備110105000771號
公司名稱: 北京飛象互動文化傳媒有限公司
未經書面許可,禁止轉載、摘編、復制、鏡像