2024年3月28日,商湯科技聯(lián)合創(chuàng)始人、大裝置事業(yè)群總裁楊帆出席"智算申城"高峰論壇。
商湯科技聯(lián)合創(chuàng)始人、大裝置事業(yè)群總裁楊帆
會(huì)上,楊帆發(fā)表了題為《AI基礎(chǔ)設(shè)施新紀(jì)元:技術(shù)創(chuàng)新與產(chǎn)業(yè)賦能的深度融合》的主旨演講。深入探討了人工智能技術(shù)在產(chǎn)業(yè)變革中的核心地位,以及AI基礎(chǔ)設(shè)施如何成為推動(dòng)社會(huì)與經(jīng)濟(jì)發(fā)展的關(guān)鍵引擎。
算力筑基:商湯大裝置前瞻AI Infra
楊帆在主旨演講中指出,人工智能正成為第四次產(chǎn)業(yè)革命的核心驅(qū)動(dòng)力。隨著大模型技術(shù)發(fā)展,算力需求呈現(xiàn)超線性增長(zhǎng)趨勢(shì)。
楊帆強(qiáng)調(diào),上海作為全國(guó)智算發(fā)展的引領(lǐng)者,早在2020年便前瞻性布局超大規(guī)模智算中心,商湯也深度參與其中,建設(shè)了臨港人工智能計(jì)算中心(AIDC),也是全國(guó)首個(gè)5A級(jí)智算中心,為行業(yè)樹立了標(biāo)桿。通過(guò)多年的探索與實(shí)踐,商湯已在全國(guó)范圍運(yùn)營(yíng)超過(guò)23000P的算力資源,并以上海為核心,輻射全國(guó),形成了強(qiáng)大的智能算力網(wǎng)絡(luò)。
會(huì)上,商湯申報(bào)的商湯臨港人工智能計(jì)算中心應(yīng)用案例,還獲得2024年度上海市算力網(wǎng)絡(luò)高質(zhì)量發(fā)展標(biāo)桿應(yīng)用案例一等獎(jiǎng),以及2024年度上海市智算中心綜合能效卓越獎(jiǎng)。
頒獎(jiǎng)典禮現(xiàn)場(chǎng)
技術(shù)突破:全棧優(yōu)化重構(gòu)大模型效能體系
緊跟大模型浪潮,商湯通過(guò)持續(xù)優(yōu)化訓(xùn)練與推理效率,商湯大裝置實(shí)現(xiàn)多項(xiàng)技術(shù)突破,大幅降低了人工智能技術(shù)的研發(fā)門檻與應(yīng)用成本。
● 訓(xùn)練方面,商湯通過(guò)平臺(tái)與模型的聯(lián)合迭代,顯著訓(xùn)練效能。如訓(xùn)練DeepSeek模型時(shí),商湯的訓(xùn)練集群效能達(dá)到1,600+ TGS2(FP8混合精度),超越了官方數(shù)據(jù)。
● 推理方面,性能效率較行業(yè)平均提升25%,較頭部云廠商領(lǐng)先 15%,這種優(yōu)勢(shì)源于算法與基礎(chǔ)設(shè)施的深度協(xié)同創(chuàng)新。
場(chǎng)景穿透:端到端解決方案打通AI落地最后一公里
楊帆強(qiáng)調(diào),AI基礎(chǔ)設(shè)施的意義不僅在于提供強(qiáng)大的算力支持,更在于通過(guò)算力、算法和數(shù)據(jù)的深度融合,為下游產(chǎn)業(yè)提供端到端的完整解決方案。
商湯致力于成為“最懂大模型的AI基礎(chǔ)設(shè)施服務(wù)商”,通過(guò)深度理解模型與應(yīng)用,幫助客戶快速實(shí)現(xiàn)技術(shù)落地與價(jià)值閉環(huán)。
例如,在人形機(jī)器人領(lǐng)域,商湯通過(guò)仿真生成技術(shù)幫助廠商快速采集數(shù)據(jù),同時(shí)利用存量算法支持柔性制造等下游應(yīng)用;在AIGC領(lǐng)域,商湯為文生視頻大模型業(yè)務(wù)提供了高效的解決方案,滿足其對(duì)海量小文件的存儲(chǔ)與隨機(jī)讀取需求;在對(duì)話式AI應(yīng)用中,商湯通過(guò)彈性算力支持客戶快速迭代版本并應(yīng)對(duì)流量峰谷變化。
生態(tài)共建:攜手伙伴共繪智能未來(lái)
會(huì)上,楊帆與政府及行業(yè)代表共同參與了“上海市智能算力資源統(tǒng)籌調(diào)度服務(wù)平臺(tái)”上線儀式。