2024年，世界人工智能大會暨人工智能全球治理高級別會議將在7月在上海舉辦，會議主題為“以共商促共享 以善治促善智”。商湯科技將在WAIC 2024展出最新成果。
展覽時間：7月4日-7日
展覽地點(diǎn)：上海世博展覽館
展位號：H2-B110 & H2-B116
01 商湯大模型迎來全新升級!
商湯科技全新升級的「日日新SenseNova 5.0」大模型，具備更強(qiáng)的知識、數(shù)學(xué)、推理及代碼能力，綜合性能全面升級。
「日日新 5.0」能力提升主要得益三個方面：
1. 采用混合專家架構(gòu)(MoE)，激活少量參數(shù)就能完成推理，且推理時上下文窗口達(dá)到 200K 左右。
2. 基于超過10TB tokens訓(xùn)練、覆蓋數(shù)千億量級的邏輯型合成思維鏈數(shù)據(jù)。
3. 商湯AI大裝置SenseCore算力設(shè)施與算法設(shè)計的聯(lián)合調(diào)優(yōu)。
日前，中文大模型測評基準(zhǔn)SuperCLUE發(fā)布最新榜單，對商湯科技全新升級「日日新SenseNova 5.0」大模型進(jìn)行了全方位綜合性測評，結(jié)果顯示在SuperCLUE綜合基準(zhǔn)上，日日新 5.0表現(xiàn)不俗，以總分80.03分的優(yōu)異成績刷新國內(nèi)最好成績，這也是國內(nèi)大模型首次在SuperCLUE中文基準(zhǔn)測試中實(shí)現(xiàn)登頂。
02 率先完成“云端邊”全棧布局
此外，商湯科技前瞻洞察中心化算力需求向端側(cè)擴(kuò)展的未來趨勢，以及企業(yè)級在邊緣側(cè)的AI需求，在業(yè)內(nèi)首次推出“云、端、邊”全棧大模型產(chǎn)品矩陣，其中包括應(yīng)用于終端設(shè)備的“商湯端側(cè)大模型”，以及面向金融、代碼、醫(yī)療、政務(wù)等多個領(lǐng)域的邊緣產(chǎn)品“商湯企業(yè)級大模型一體機(jī)”。
03 端側(cè)：模型位列行業(yè)首位 滿足移動終端用戶需求
今年是端側(cè)大模型應(yīng)用的元年，為了滿足移動終端用戶對大模型技術(shù)的應(yīng)用需求，商湯推出日日新·端側(cè)大模型，性能實(shí)現(xiàn)同等尺度性能最優(yōu)，跨級尺度全面領(lǐng)先。
商湯還推出端云協(xié)同解決方案，可以通過智能化判斷協(xié)同發(fā)揮端云各自優(yōu)勢，需要聯(lián)網(wǎng)搜索或處理復(fù)雜場景時分流至云端處理，部分場景端側(cè)處理占比超過80%，從而顯著降低推理成本。
商湯日日新·端側(cè)大語言模型的推理速度達(dá)到了業(yè)內(nèi)最快，可在中端平臺實(shí)現(xiàn)18.3字/s的平均生成速度，旗艦平臺更是達(dá)到了78.3字/s。
擴(kuò)散模型同樣可在端側(cè)實(shí)現(xiàn)業(yè)內(nèi)最快的推理速度，端側(cè)LDM-AI擴(kuò)圖技術(shù)在某主流平臺上，推理速度小于1.5秒，比友商云端app快10倍，支持輸出1200萬像素及以上的高清圖片，支持在端上快速進(jìn)行等比擴(kuò)圖、自由擴(kuò)圖、旋轉(zhuǎn)擴(kuò)圖等圖像編輯功能。
04 邊側(cè)：推出企業(yè)級大模型一體機(jī) 降低企業(yè)應(yīng)用大模型的門檻
對于金融、代碼、醫(yī)療、政務(wù)等重點(diǎn)行業(yè)邊緣側(cè)日益增長的AI應(yīng)用需求，商湯正式推出企業(yè)級大模型一體機(jī)，可同時支持企業(yè)級千億模型加速和知識檢索硬件加速，實(shí)現(xiàn)本地化部署，即買即用，降低企業(yè)應(yīng)用大模型的門檻。相比行業(yè)同類產(chǎn)品，推理成本節(jié)約80%，檢索大大加速，CPU工作負(fù)載50%。
05 安全可信的大模型建設(shè)
大模型時代，推進(jìn)符合倫理標(biāo)準(zhǔn)的人工智能技術(shù)至關(guān)重要。商湯率先推出“人工智能治理基礎(chǔ)設(shè)施SenseTrust”，以促進(jìn)大模型開發(fā)、訓(xùn)練及其應(yīng)用的可靠性和可信度;此外，商湯還攜手中國信息通信研究院聯(lián)合發(fā)布了《大模型可信賴研究報告》，為人工智能大模型的可信發(fā)展提供了重要的方向參考，也對大模型風(fēng)險管理體系化建設(shè)提供了框架依據(jù)。
（來源：世界人工智能大會）
