標(biāo)簽 自然語言處理 的相關(guān)內(nèi)容
最小的php框架字節(jié)跳動(dòng)應(yīng)用機(jī)器學(xué)習(xí)平臺(tái)公測大模型訓(xùn)練性能提
等大規(guī)模預(yù)訓(xùn)練語言模型的普及。大規(guī)模訓(xùn)練模型可以包含更多數(shù)據(jù)，表示更多信息，算法表現(xiàn)更加出眾。然而，由于大模型參數(shù)量過于龐大，模型設(shè)計(jì)非常復(fù)雜，訓(xùn)練耗時(shí)長，對(duì)現(xiàn)有的訓(xùn)練系統(tǒng)帶來了不小的挑戰(zhàn)，主要體現(xiàn)為顯存壓力、計(jì)算壓力和通信壓力。近年來，字節(jié)跳動(dòng)持續(xù)推動(dòng)技術(shù)開源。
2022-08-05 230
共1頁 1條
