两个人高清视频免费观看www-两个人的视频在线免费观看-两个人的视频在线观看免费完整版-两个人的视频在线观看www免费-两个人的视频在线观看www-两个人的视频在线观看

首頁|必讀|視頻|專訪|運(yùn)營|制造|監(jiān)管|大數(shù)據(jù)|物聯(lián)網(wǎng)|量子|低空經(jīng)濟(jì)|智能汽車|特約記者
手機(jī)|互聯(lián)網(wǎng)|IT|5G|光通信|人工智能|云計(jì)算|芯片|報(bào)告|智慧城市|移動(dòng)互聯(lián)網(wǎng)|會(huì)展
首頁 >> 人物專訪 >> 正文

韋樂平:隨著模型規(guī)模的日益擴(kuò)大,跨域訓(xùn)練是必然趨勢

2025年4月23日 12:34  CCTIME飛象網(wǎng)  

飛象網(wǎng)訊(易歡)4月23日消息,在今天舉辦的“2025云網(wǎng)智聯(lián)大會(huì)”上,SNAI推委會(huì)榮譽(yù)主席、原中國電信科技委主任韋樂平分享了對(duì)智算拉遠(yuǎn)的思考。

談及大模型訓(xùn)練智算拉遠(yuǎn)的市場需求,韋樂平坦言,可以以網(wǎng)補(bǔ)算,提升閑散智算中心算力資源利用率�!懊鎸�(duì)大批分散部署、利用率很低的小規(guī)模智算中心,若能通過網(wǎng)絡(luò)互聯(lián)形成一個(gè)大型的邏輯智算池來適應(yīng)規(guī)模日益增長的大模型訓(xùn)練,有望大幅提升閑散智算資源的利用率�!�

與此同時(shí),他指出,邁向未來,跨域訓(xùn)練是必然趨勢。按照統(tǒng)計(jì),大模型參數(shù)每1-2年增長10倍,而對(duì)應(yīng)的GPU芯片的算力僅增長2-4倍,遠(yuǎn)低于模型規(guī)模的增速。隨著模型規(guī)模的日益擴(kuò)大,單體的算力、電力、空間資源終將受限,可能需要在園區(qū)甚至更大范圍內(nèi)由多個(gè)智算中心互聯(lián)形成一個(gè)超級(jí)邏輯智算資源池,進(jìn)行聯(lián)合訓(xùn)練才有可能支撐超大模型的訓(xùn)練。

韋樂平強(qiáng)調(diào):“至于推理與具體業(yè)務(wù)場景和訪問量相關(guān),更需要跨域?qū)嵤��!?/P>

針對(duì)大模型訓(xùn)練智算拉遠(yuǎn)的挑戰(zhàn),韋樂平認(rèn)為復(fù)雜的商用場景,勢必會(huì)面臨大量不同功能、性能的異構(gòu)GPU、規(guī)模不同的AIDC的互聯(lián)、不同業(yè)務(wù)場景、不同設(shè)備和不同組網(wǎng)方式、不同模型和不同參數(shù)的協(xié)同挑戰(zhàn)。

此外,還面臨一些技術(shù)挑戰(zhàn)。在韋樂平看來,一是帶寬收斂問題�!盁o收斂帶寬普適性和前瞻性好,部署快,但成本太高;收斂比4-8時(shí),帶寬成本可以降至10%之內(nèi),但是只適用特定業(yè)務(wù)場景下的特定模型拆分方式,缺乏普適性和前瞻性。”

二是功能和性能問題。拉遠(yuǎn)后必然面對(duì)丟包、抖動(dòng)乃至中斷故障等諸多挑戰(zhàn),對(duì)ROCE網(wǎng)絡(luò)的功能和性能有不少嚴(yán)格的要求。

統(tǒng)一管理和運(yùn)維也是挑戰(zhàn)之一。韋樂平認(rèn)為,現(xiàn)有固化的組織架構(gòu)和生產(chǎn)流程不適合快速部署邏輯統(tǒng)一的異地智算中心,需要對(duì)現(xiàn)有管理運(yùn)維體系、生產(chǎn)流程、監(jiān)控管理平臺(tái)改造升級(jí)。

編 輯:章芳
飛象網(wǎng)版權(quán)及免責(zé)聲明:
1.本網(wǎng)刊載內(nèi)容,凡注明來源為“飛象網(wǎng)”和“飛象原創(chuàng)”皆屬飛象網(wǎng)版權(quán)所有,未經(jīng)允許禁止轉(zhuǎn)載、摘編及鏡像,違者必究。對(duì)于經(jīng)過授權(quán)可以轉(zhuǎn)載,請(qǐng)必須保持轉(zhuǎn)載文章、圖像、音視頻的完整性,并完整標(biāo)注作者信息和飛象網(wǎng)來源。
2.凡注明“來源:XXXX”的作品,均轉(zhuǎn)載自其它媒體,在于傳播更多行業(yè)信息,并不代表本網(wǎng)贊同其觀點(diǎn)和對(duì)其真實(shí)性負(fù)責(zé)。
3.如因作品內(nèi)容、版權(quán)和其它問題,請(qǐng)?jiān)谙嚓P(guān)作品刊發(fā)之日起30日內(nèi)與本網(wǎng)聯(lián)系,我們將第一時(shí)間予以處理。
本站聯(lián)系電話為86-010-87765777,郵件后綴為cctime.com,冒充本站員工以任何其他聯(lián)系方式,進(jìn)行的“內(nèi)容核實(shí)”、“商務(wù)聯(lián)系”等行為,均不能代表本站。本站擁有對(duì)此聲明的最終解釋權(quán)。
推薦新聞              
 
人物
韋樂平詳解生成式人工智能的聯(lián)網(wǎng)技術(shù)
精彩視頻
專家談 | 中國信通院曹薊光:大模型紅利加速釋放AI跨行業(yè)全場景賦能
飛象趣談第二十五期!全球人形機(jī)器人半馬首秀,中國黑科技如何讓機(jī)器人跑贏未來!
看見數(shù)智福建 2025數(shù)字中國建設(shè)峰會(huì)媒體探訪活動(dòng)
在CCBN2025見證百年電視行業(yè)新紀(jì)元——超高清發(fā)展年
精彩專題
通信產(chǎn)業(yè)2024年業(yè)績盤點(diǎn)
3·15權(quán)益日 | 共筑滿意消費(fèi) 守護(hù)信息通信安全防線
聚焦2025全國兩會(huì)
2025年世界移動(dòng)通信大會(huì)
關(guān)于我們 | 廣告報(bào)價(jià) | 聯(lián)系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網(wǎng) CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號(hào)-1  電信與信息服務(wù)業(yè)務(wù)經(jīng)營許可證080234號(hào) 京公網(wǎng)安備110105000771號(hào)
公司名稱: 北京飛象互動(dòng)文化傳媒有限公司
未經(jīng)書面許可,禁止轉(zhuǎn)載、摘編、復(fù)制、鏡像
主站蜘蛛池模板: 近亲乱中文字幕 | 国产精品久久久久一区二区三区 | 97久久精品午夜一区二区 | 九9热这里只有真品 | 国产一区二区三区久久小说 | 国产亚洲欧美一区二区三区 | 成人影院在线观看视频 | 美女张开双腿让男人捅 | 成人免费网站视频ww | 女班长的放荡日记高h | 国产精品久久久久a影院 | 成人性用品 | 色综合天天综合网站中国 | 蜜臀91| 久久精品视在线观看85 | 亚洲va在线va天堂va偷拍 | 天天狠天天透天干天天怕处 | 亚洲国产情侣一区二区三区 | 范冰冰好紧好滑好湿 | 国内精品91东航翘臀女神在线 | 91国语精品自产拍在线观看一 | 国产激情视频网站 | 亚洲美女aⅴ久久久91 | 青草草产国视频 | 欧美精品1区2区 | 手机看片国产免费现在观看 | 免费看日产一区二区三区 | aika跟黑人太猛了 | 国产一卡二卡3卡4卡四卡在线 | 高h文恩好大好爽 | 国产一区二区三区久久小说 | 午夜精品久久久久久久99 | 热九九精品 | 四虎免费永久观看 | 性欧美xxxxx老太婆 | a在线观看欧美在线观看 | 青草国产在线视频 | 免费aⅴ在线 | 国产日韩欧美在线一区二区三区 | xxxx在线视频| 欧美色阁|