飛象原創（魏德齡/文）連續三年，每個新年意識AI突破都成為了科技行業的最熱新聞。從ChatGPT到o1，再到今年的DeepSeek。不過與頭兩年OpenAI公司的ChatGPT不同的是，由于開源的屬性，DeepSeek可以在線使用外，也吸引著很多人嘗試進行本地化部署，甚至出現了在各大社交分享平臺上教程一抓一大把的盛況。
DeepSeek掀起本地化部署熱潮
大語言模型的本地化部署絕非什么新鮮事，在DeepSeek之前，Meta AI公司的Llama模型就曾被很多人在個人PC與智能手機上進行部署。一些廠商在去年也開始將能夠運行本地大模型的能力作為賣點，例如榮耀Magic6在發布時表示通過搭載第三代驍龍8，設備支持7B參數的AI端側大模型。
隨著DeepSeek在今年年初展現出媲美ChatGPT o1的能力后，加之其開源的屬性，用戶可以通過以往的本地部署方式來獲得離線的AI能力。配合部署檢索增強生成還能構建起基于自身需求的知識庫，方便隨時進行信息檢索與查詢。同時，不用擔心敏感數據上傳至云端造成泄漏。
面向不同的設備算力需求，DeepSeek目前提供了1.5B、7B、8B、14B、32B、70B、671B不同參數量級的大模型。一般而言，目前市面上的旗艦手機可以部署至7B，電腦一般可以在8B和14B間抉擇，有超高硬件實力的電腦可以跑32B。而更高參數量級的模型多會部署至云端，通過更強的算力來運行，這也是如今各大國內云平臺正在紛紛宣傳自身已經提供DeepSeek能力支持的原因之一。
工作能力與RAM強相關
參數量與最終本地AI的實際工作能力存在正相關。例如同樣是調取知識庫中的資料來撰寫報告，14B會比8B的模型在信息理解與生成內容質量上有著明顯提升，致幻率也會大幅降低。同理，32B大模型在工作能力上的提升會更加顯著。
而可以運行模型的參數量大小與智能手機的RAM又存在正相關。客觀上說，移動設備由于CPU與GPU共享內存，所以更占據優勢。由于目前手機一般最低8GB起步，來應對多線程任務與多媒體需求，所以運行7B模型完全不在話下。但是，以蘋果iPhone 15 Pro系列起的RAM僅為8GB的機型而言，由于其他線程仍需占用部分資源，所以其難以運行8B的模型。
非X86架構的PC也在本地AI部署中獲得了能夠部署更大參數量級模型的優勢，由于同樣擁有共享內存的機制。以16GB的Macbook為例，其在不同時運行其他過重任務的情況下，可輕松運行14B的模型。但對于擁有16BG內存的X86 PC而言，無疑還需要看配備的GPU規格而定。
這也再次印證了蘋果iPhone 15系列數字版機型無緣AppleIntelligence的原因，由于其僅配備6GB RAM，產品規劃時或許蘋果還未謀劃自身的AI布局，導致這部剛剛上市一年的機型，卻無緣后續的AI功能升級。傳聞中即將發布的面向入門級市場的iPhone SE 4，有消息顯示，為了滿足端側AI的功能需要，將RAM同樣提升至了8GB。
手機RAM能否還有加碼空間
實際上，旗艦手機的RAM配置早已處在一個多年不變的“卷不動”狀態。甚至當三星在2022年發布Galaxy S22 Ultra時，將起始RAM版本從上代的12GB下降至8GB。而在該時間節點前，Android手機曾經一度迎來了RAM的爆發式增長，以三星手機為例，Galaxy S8國際版的標配RAM為4GB，當時僅專門為國行提供了6GB版本。到了Galaxy S10系列，8GB RAM則成為標配，要知道在Galaxy S9系列中，還依舊在延續與S8相似的RAM配置策略。在Galaxy S20系列中，12GB RAM更是成為起步配置，Galaxy S20 Ultra更是加碼到了16GB RAM。當時，甚至有分析人士斷言，16GB的普及將只是時間問題。此外，部分廠商面向中國市場，還會提供更大RAM版本的特供機型，來滿足推送機制更加多元化的國內使用環境。當經過當時市場的最終檢驗，8GB成為一段時間以來的最合理標配，近年來，國內手機廠商又才將標配RAM提升至12GB。
而隨著本地AI部署，從廠商的概念演示，變為越來越多用戶渴望嘗試的新功能，無疑也對于更強工作能力、更低致幻率的更高參數量級的大語言模型也產生了更大的需求，當下部分Android旗艦機型所配備的16GB RAM，無疑為運行14B大模型提供了重要的前提條件。
蘋果方面的iOS生態也很可能正在改變固有的以較小RAM來實現產品流暢體驗的策略。根據網上顯示，目前蘋果Apple Intelligence部署在本地設備的參數量級為3B，測試得分可高于諸多7B參數的開源模型。顯然，后續如果繼續提升參數量，所產生的功能提升不容小覷。無巧不成書的是，已經有外媒透露，今年發布的iPhone 17系列的RAM將會提升至12GB。畢竟在一個理想的使用狀態下，智能手機不僅要運行大模型來帶來體驗變革，還要同時運行其他功能。
智能手機或許將迎來又一個RAM加碼的時間節點。
