近日英偉達GTC大會上,快手公佈了新大模型訓練解決方案。據悉,通過計算通信重疊、異構存儲利用、通信資源管控、算子優化等手段,該方案可支持百萬級別超長文本訓練,並且在訓練性能上比sota開源方案快30%以上。

相關文章