今日,亚马逊在拉斯维加斯召开的AWS re:Invent大会上,亚马逊AWS CEO Andy Jassy发布了十多个重磅产品与服务,主要包括机器学习芯片、区块链、存储、数据库、机器学习和混合云等。其中就有包括针对机器学习定制设计的云端AI芯片Inferentia。AWS Inferentia提供高达数百TOPS的推理吞吐量,以允许复杂模型进行快速预测。另外,可以将多个AWS Inferentia芯片一起使用,以提高到数千TOPS的吞吐量。

  据Andy Jassy介绍,Inferentia将是一种高吞吐量、低延迟、持续性能极具成本效益的处理器。AWS Inferentia将支持主流深度学习框架,包括谷歌开发的TensorFlow、Facebook开发的PyTorch和MXNet等。当然,作为亚马逊自家的产品, Inferentia也支持EC2、SageMaker和最新的弹性推理引擎Elastic Inference。Inferentia芯片将于2019年底上市。与其他AWS服务一样,客户可以根据需求付费购买。

  该芯片正式上市后,亚马逊AWS也将正式向英伟达和Google等企业发起挑战。对于自身的优势,Andy Jassy还表示,“我们认为可以通过Elastic Inference节省75%的运营成本,所以这是一个改变游戏的重大规则”。随着亚马逊的加入,云服务市场的竞争也将更为激烈。

  【本文图片来自网络】

查看原文 >>
相关文章