上海2020年12月21日 /美通社/ -- 燧原科技今日發佈首款人工智能推理產品 “雲燧i10”。這是一款面向雲端數據中心的高性能推理卡。雲燧i10是單槽位標準卡，支持PCIe 4.0，FP32算力達到17.6TFLOPS，BF16/FP16算力70.4TFLOPS。同時，燧原科技發佈了推理引擎“鑑算TopsInference”，可以爲深度學習應用提供低延遲、高吞吐率的推理性能，並降低數據中心的部署成本。雲燧i10將於明年第一季度上市。

燧原科技發佈首款人工智能推理產品 -- “雲燧i10”

根據權威市場機構預測，雲數據中心對於人工智能推理芯片的需求將從2022年開始超越對於訓練芯片的需求，整個推理市場蓄勢待發。雲端推理解決方案更注重綜合指標，包括算力、時延、成本等，也更爲關注用戶體驗的優化。

“雲燧i10”擁有卓越的算力、出色的通用性以及優異的價值特性：

高算力、多精度：FP32算力17.6TFLOPS，BF16/FP16算力70.4TFLOPS；採用自主指令集，支持從FP32到INT8等多種精度，而最大功耗僅爲150W；高能效、高可靠性：採用動態調頻調壓（DVFS）技術，根據負載加速應用性能，支持RAS、ECC；設備虛擬化：實現多用戶支持，最大可支持4個設備實例，具備計算與存儲資源的獨享性，多用戶間安全隔離；單顆芯片上可同時部署不同的業務與負載，實現多任務並行，有效提高利用率；支持KVM、Xen等系統虛擬化平臺；易編程、生態開放：開放C++和Python編程接口，支持CNN及NLP典型模型，支持主流機器學習框架，並通過SDK提供深度定製。燧原科技同時推出針對推理產品的高性能神經網絡模型推理引擎“鑑算TopsInference”，通過計算圖優化、算子融合、模型壓縮、量化等優化技術，可以爲深度學習應用提供低延遲、高吞吐率的推理性能。通過TopsInference的推理加速，配合i10 的高算力及虛擬化技術，數據中心可以高性價比地部署計算密集型深度學習工作負載。此外TopsInference除TensorFlow、PyTorch模型格式外，還支持ONNX通用模型格式，藉助燧原GCU-CARA架構的可編程性，可以應對未來深度神經網絡日益多樣化、複雜的增長趨勢。

燧原科技創始人兼CEO趙立東表示燧原科技要堅持雙輪驅動，爭做行業領導者

“繼去年12月發佈了首款面向數據中心的人工智能訓練加速卡“雲燧T10”，今天我們又推出針對雲端推理市場的第一款人工智能推理加速卡“雲燧i10”，以滿足由於AI應用和落地場景迅速擴大，市場和客戶對更高性價比以及國產化和差異化雲端推理產品的需求。燧原科技也因此成爲國內唯一一家同時擁有云端訓練和推理加速產品的初創公司，形成業務閉環。”燧原科技CEO趙立東表示，“當前全球科技產業特別是集成電路產業正在發生深刻變革，燧原科技會繼續加速技術創新和產品迭代，拉近與世界先進水平的距離，構築自主創新技術的護城河。與此同時，與上下游夥伴合作，加速業務落地，擴大市場規模。針對互聯網數據中心、垂直行業（金融、保險、教育、醫療及運營商等）、新基建三大業務方向的應用場景，完善訓練和推理軟件棧、工具鏈和解決方案。通過產學研協作，共建國產化產業生態，助力中國人工智能和集成電路產業的發展。”

燧原科技創始人兼COO張亞林介紹“雲燧i10”推理系統

燧原科技COO張亞林介紹道：“雲燧i10在多項基準測試中，性能領先，並已完成與浪潮、新華三及Supermicro等服務器廠商推理服務器的適配。可適用於視頻圖像、語音、自然語言處理、知識圖譜等多種應用場景，並針對內容理解、推薦、識別等高精度場景做了優化。與此同時，面向多元的開發需求，我們提供不同層次的開發模式，針對客戶定製化算法模型聯合開發，從而實現與客戶的雙贏。此外，雲燧i10與雲燧T10以及“馭算TopsRider”軟件平臺搭配，可實現算法模型在數據中心訓推一體化的快速生產部署。”

關於燧原科技

燧原科技專注人工智能領域雲端算力平臺，致力爲人工智能產業發展提供普惠的基礎設施解決方案，提供自主知識產權的高算力、高能效比、可編程的通用人工智能訓練和推理產品。其創新性架構、互聯方案和分佈式計算及編程平臺，可廣泛應用於雲數據中心、超算中心、互聯網、金融及政務等多個人工智能場景。

燧原科技攜手業內國際標準組織，秉承開源開放的宗旨，與產業夥伴一起促進人工智能產業發展。