《科創板日報》4月2日訊(記者 郭輝) 在火爆的算力行業,《科創板日報》記者近日瞭解到,熱門算力卡英偉達A800的租賃價格僅需2元/時,同時在經過去年服務器租賃價格暴漲後,今年不同規格產品價格出現一定幅度下降。

多家算力租賃行業企業人士表示,今年一季度算力租賃供需仍然緊張。另有業內人士分析稱,算力租賃市場供需結構正在逐步調整,對於有AI計算需求的中小企業及研究機構來說,成本投入將得到改善。

熱門算力卡租賃價格“打骨折” 有平臺月租費僅千餘元

近日,在某社交平臺用戶發帖稱,市場價格超10萬元的英偉達A800人工智能訓卡,在某平臺租賃價格僅需2元/時,引發關注。

據帖文稱,按調試訓練一個大模型平均要1個月計算,每月2元/時租賃A800訓練成本單卡僅需不到1440元,該價格僅爲購買A800這款AI顯卡價格的1/69,並且無需承擔運營數據中心、電費等成本。

有評論表示,A800單卡線上租賃市價也就10元左右,但2塊確實是“骨折價”了。也有評論稱,這個價格“有促銷既視感,不知道跟進卷的還有哪家”。

《科創板日報》記者登錄帖文指向的SCNet國家超算互聯網官網,看到一款服務器配備8個英偉達A800加速卡、顯存爲80GB,處理器爲2個Intel 8458P 44C,其價格爲2元/時。

據瞭解,SCNet國家超算互聯網是一家以互聯網思維運營超算,並連接產業生態中的算力供給、應用開發、運營服務、用戶等各方,構建一體化超算算力網絡和服務平臺。該平臺於2023年4月成立工作推進組、總體專家組以及超算互聯網聯合體,並於去年11月啓動公測。

《科創板日報》記者今日(4月2日)以企業人員身份與平臺客服取得聯繫,該客服表示,按照平臺規則,單張A800卡租賃價格確實是2元/時,但單人可申請卡的最大數量和單作業運行時間有一定限制,不過已基本可以滿足90%以上用戶AI計算需求

“租賃AI卡用戶,超90%的都是對已成熟大模型進行‘微調’,13B參數量級別的大模型有一兩張A800卡幾天時間就可完成微調。”該客服進一步表示,如果用戶需要長時間租賃大量AI算力進行“全參數微調”,平臺也有充足國產AI卡支持並行計算需求,並會給到一個合適的價格。

算力卡租賃真成“白菜價”了嗎?對此,有產業人士提醒,線上AI訓練相比實機運算效率可能會有輕微降低, 但相比直接購買英偉達專業顯卡所需的高額成本,以租賃形式滿足算力需求,仍是許多中小企業及研究機構當前的更爲經濟的選擇

一名業內人士向《科創板日報》記者表示,“現階段看,購買AI算力設施企業和租賃AI企業規模其實是不一樣的。直接買A800卡的大部分都是頭部企業,追求的是領先創新能力。而租賃AI卡企業,則是希望在細分AI賽道取得一定進展,或是高校研究機構進行實驗。

另一家算力租賃服務企業人士告訴《科創板日報》記者,一臺搭載8卡A800的服務器月均價在4.6萬元左右,A100的租賃價格會更便宜一些。對比潤六尺類似配置的A800服務器,一年期價格在88000/月/臺

“因爲人工智能比較火,這個價格在行業內相對算是很有性價比了。”上述人士稱,“今年市場對算力租賃的需求依然很高。”

一季度部分廠商算力租賃價格鬆動 供需依然緊張

AI的火熱讓算力租賃在過去一年裏成爲一項熱門生意。與通用雲計算服務相比,算力租賃具備配置靈活度高、成本低等優勢。去年開始,多家上市企業購置專業算力顯卡布局算力租賃業務,服務價格也水漲船高。

在2023年,據不完全統計,已有中貝通信匯納科技、恆潤科技、洪博股份、真視通、青雲科技等多家A股公司大規模採購GPU並開展對外算力服務器租賃業務。

“目前來看,服務器租賃供需還是比較緊張。”中貝通信證券部工作人員表示,該公司去年簽訂多份AI算力服務訂單,現在算力中心已經有部分在投入使用了。“去年公司服務器有一部分在漲價,但是在根據市場供需以及客戶情況調整,報價也是一客一議”。

另一家提供算力服務的上市公司人士也向《科創板日報》記者表示,目前算力服務價格和價格趨勢都不便透露,但從市場供需關係來看,整個市場降價的可能性都不大

不過隨着供需結構逐步調整、廠商對大模型訓練成熟,仍有部分市場開始出現鬆動。

一家中等規模的算力服務公司人士向《科創板日報》記者表示,近期跟今年年初相比,服務器平均租賃價格確實有所下降。“去年價格漲得確實比較高了,今年我們機房集羣會根據行情陸續採購,或者就現有規模做資源規劃,價格還是看之後的供需。”

另有產業界人士稱,去年AI產業概念持續火爆,2024年春節後AI卡租賃市場行情相比年初卻有微降。這源於兩方面,首先是擁有大量算力的平臺正不斷完善服務能力,增加算力供給,其次是伴隨衆多大模型開源,已讓不少企業選擇在成熟模型基礎上進行“微調”訓練,階段性降低了算力需求。

算力租賃火熱,一定程度受限於外部市場環境因素。專精特新企業高質量發展促進工程執行主任袁帥表示,如果市場競爭加劇,或者技術進步導致投入製造成本降低,那麼專業卡的降價空間可能會進一步增大。

未來如何避免產業資源空耗、進一步提高投入產出比,國內算力租賃需考慮向更高附加值的運營服務方向轉型。中泰證券研報認爲,算力租賃基於硬件資源的按需租賃和按量付費模式,面對激烈算力租賃競爭,多元算力融合成爲關鍵,算力市場將更加重視輔助運營服務,從提供硬件資源逐步轉變爲提供算力服務。

相關文章