北京商報(bào)訊（記者 魏蔚）9月25日，北京商報(bào)記者獲悉，商湯大裝置事業(yè)群研發(fā)總監(jiān)張行程在華為全聯(lián)接大會(huì)2024上分享了商湯大模型基于昇騰原生開(kāi)發(fā)實(shí)踐。商湯通過(guò)高效并行、通信優(yōu)化及網(wǎng)絡(luò)架構(gòu)感知和任務(wù)調(diào)度等軟硬優(yōu)化技術(shù)，構(gòu)建了大規(guī)模并行訓(xùn)練加速系統(tǒng)，其中102B模型的訓(xùn)練性能達(dá)到了業(yè)界的120%以上，集群規(guī)模擴(kuò)展至3倍后線性加速比97%以上?；跁N騰計(jì)算生態(tài)，商湯還建設(shè)長(zhǎng)序列并行訓(xùn)練加速機(jī)制，與業(yè)界相比，4K序列性能提升1倍以上，32K序列性能持平，還能處理128K長(zhǎng)序列訓(xùn)練。