AWS通过EC2全力支持基于Arm的Graviton2处理器

半导体很热，并且如今并不需要太多说服力。您只需要看一下价值数万亿美元（或附近）的苹果，亚马逊，谷歌和微软俱乐部，看看这些公司如何利用定制硅片来增强其竞争优势。AWS宣布了其新的第六代EC2实例，该实例由基于Arm的Graviton2领导。我分析了许多基于Arm的数据中心处理器，但这是不同的。AWS宣布，其M6g实例与其自身的M5实例相比，“将性能提高近40％，成本降低了20％，相当于性价比提高了40％” 。现在，抬起下巴离开地面。

AWS在芯片多样性方面处于领先地位

Graviton2是一个定制设计的7nm SOC，具有64个Arm Neoverse N1内核（每个64KB L1 / 1MB L2缓存），支持双SIMD，并支持int8和fp16处理的特殊指令。这是我所知道的第一个商业部署实例。这是30B晶体管的野兽，它的大小与AMD的EPYC相似，比其他任何数据中心处理器都要大。N1内核通过网状架构连接，具有大约2TB /秒的带宽，32MB的L3高速缓存和64通道PCIe gen 4通道。Graviton2服务器通过带有临时密钥的AES-256支持8个DDR4-3200通道的始终加密的内存以及高达1Tbit / sec的压缩内存加速。伙计们，这很大程度上是一个“核心”，具有一些非常特殊的功能，例如用于ML推理的本地fp16和始终加密的内存。给我留下深刻的印象。拥有令人印象深刻的芯片架构是一回事，而提供数据中心所需的性能则是另一回事。在数据中心取得成功还有很多，但是考虑到AWS服务是……，我让AWS受益于对可靠性和可用性的怀疑。可靠且可用。AWS的性能声称的不同之处在于，这是在运行AWS的软件的AWS数据中心中与在AWS数据中心中的AWS当前的M5实例相比，AWS的性能。与第一代Graviton相比，AWS称Graviton2提供“ 7倍的性能，4倍的计算核心和5倍的更快内存”。它还提供25Gbps网络和18Gbps EBS带宽。但是，与由Intel Xeon Platinum 8000系列（基于Skylake和Cascade Lake SP的处理器）支持的M5实例相比，该实例在3.1 GHz的持续频率下运行所有​​核心涡轮增压器？

以下是AWS表示其M6g实例胜过M5的程度：

· 整数性能比SPECint2017速率高40％以上（估计）

· SPECfp2017速率的浮点性能提高了20％以上（估计）

· SPECjvm2008上的Java性能提高了40％以上（估计）

· NGINX上的Web服务性能提高20％以上

· 在Memcached上的性能提高40％以上，并具有更低的延迟和更高的吞吐量

· 对于未压缩的1080p到H.264视频，媒体编码性能提高20％以上

· BERT ML推理提高25％

· Cadence Xcellium EDA工具的EDA性能提高50％以上

这些是AWS共享的令人震惊的数字，请记住，这些数字不是在原始实验室中进行的，而是在AWS数据中心中进行的。还要记住，AWS计划将M6g的价格比M5降低20％。我期待客户在M6g上对他们的应用进行基准测试，并将这些结果与上述AWS基准进行比较。我还对Graviton2 与第二代AMD EPYC处理器（又称“罗马”）实例的比较感兴趣，因为AWS尚未部署这些实例。

那么，它今天可以运行什么呢？

因此，如果我是AWS客户，那么我可以在基于Arm的M6g实例上运行什么？AWS说客户可以运行以下程序：

· 操作系统/环境：Amazon Linux 2; Ubuntu 16.04 / 18.04 / 18.10; RHEL 7.6 / 8.0；适用于Arm 15的SUSE Linux Enterprise Server；Fedora Rawhide /原子；Debian 9.8; Docker桌面社区和Docker企业引擎（测试版），“更多即将推出”

· 容器： Amazon ECS和Amazon EKS（在预览中），AWS 表示 “在Docker Hub中托管的大多数Docker官方映像（到今天为止已超过70％）已经支持64位Arm系统以及x86。”

· 工具： AWS Marketplace，Systems Manager，CloudWatch，CodeBuild，CodeCommit，Cloud9，CodePipeline，Inspector，批处理，CDK，CodeDeploy，CodeStar，CLI，X-Ray和Amazon Corretto（OpenJDK发行版）。

· AWS服务： Amazon ElastiCache，EMR，弹性负载平衡

您在这里看到的是云本机应用程序令人印象深刻的开始，但是正如您所期望的那样，您将着眼于“提拔”企业环境，例如SAP或Oracle。VMware已经在基于Graviton的实例上运行ESXi。这并不是说Oracle尚未宣布对Arm的支持，因为它们已经支持了AWS EC2 M6g，但现在还不支持。至于SAP？不偷看。

用AWS的话来说，“如果您使用的是开源软件，那么您如今所依赖的一切很可能都可以在Arm系统上运行。”一般来说，如果您的应用程序当前是使用C＃或VB等编译语言为X86编写的，则客户将需要重新编译其应用程序才能在M6g上运行。如果应用程序使用Python和JS之类的解释语言，则不需要重新编译。您可以在AWS A1 网页上找到一些有趣的客户和合作伙伴推荐。

2020年的未来计划实例

今天，M6g可供预览，但AWS并不止于此。它宣布，以下EC2 第 6 代实例将在2020年推出：

· R6g：这些实例是为具有EBS（弹性块存储）存储的大型内存数据集设计的

· C6g：这些实例旨在用于具有EBS存储的计算密集型工作负载

· M6gd：这些实例是具有实例本地NVMe存储的M6

· R6gd：这些实例是为大型内存数据集设计的，并包含NVMe存储

· C6gd：这些实例旨在用于计算密集型工作负载，并包含NVMe

Invent上宣布对A1实例进行后续升级，也许是“ A2”，但没有像AWS Graviton2上宣布的公司那样升级。AWS对于这种新芯片一无所知，我对此并不轻描淡写。首先，这是从Graviton2开始的第 6 代EC2 新实例集，而不是我去年发布的带有A1实例的“管道清理器”。当涉及到新的实例实例时，AWS不会摆弄，也不会摆弄M6g，因为它将字面意义上与当前M5实例进行了比较。

我觉得这还有其他令人印象深刻的地方。Arm于今年2月发布了N1 IP，大约10个月后，AWS将推出基于该IP的完全设计和制造的零件。从硅设计，开发和制造周期来看，这并不是人们所期望的。从字面上闻所未闻。即使假设AWS尽早获得IP（我相信他们已经做到了），这也可以像人们所想象的那样敏捷地开发硅。

您可能想知道AWS如何做那么大的事情。这不是球队的第一个牛仔竞技表演。该团队始于2015年初被亚马逊收购的Annapurna Labs。在被收购之前，AWS与Annapurna Labs在Nitro上密切合作，Nitro是AWS的秘密工具，用于卸载，加速和虚拟化计算，存储和网络。每个Annapurna芯片都包含加速ASIC和Arm内核，我相信今天有数千万的此类芯片为Nitro提供动力。

还要考虑的另一件事是，AWS Graviton2芯片在设计上可以在其自己的AWS数据中心架构中工作，而不是数百万种企业数据中心的变体。它也不必向下兼容30年的软件，从而大大减少了测试时间和开发时间。同样重要的是要了解，AWS从Arm获得了基础N1内核的许可，其中包括数十亿美元的Arm研发，并将在众多制造商中得到利用，并进一步限制了测试时间和工作量。这不同于其他开发自己的内核的Arm数据中心公司。这不是天真。只是Arm没有设计和授权“大核心”。

我相信AWS Graviton2的成功程度将取决于AWS客户将上述基准中的性能和成本要求转换为实际客户工作负载的程度。AWS有一些工作要做，以将Graviton2引入其所有工具和服务。它还将取决于其他云提供商今天可提供的AMD 第二代EPYC的价格/性能以及将于2H / 2020到来的英特尔即将推出的10nm Xeon硅的价格/性能/瓦。我想知道这会对其他云播放器产生什么影响。这会驱使他们更深入地了解Arm和AMD吗？时间会证明一切。还应考虑到，尽管到目前为止，许多讨论都与IaaS有关。但是现在考虑一下，AWS的所有PaaS和SaaS都位于IaaS之上，而IaaS可以将性能提高40％，而成本降低20％。

无论结果如何，我们现在在数据中心处理器市场上的竞争都更加激烈。正如我所说，硅很热。

相信AWS目前正在以其自定义数据中心芯片的多样性引领这一潮流，其中包括我们在此处编写的第一代Graviton ，Inferentia（我们在此处编写的）以及其所有Nitro定制硅，从而加快了管理，存储，联网和安全功能。AWS的定制芯片已被添加到来自Advanced Micro Devices，Intel，NVIDIA和Xilinx的商用处理器芯片中，这就是认为云计算最广泛的计算平台。因此，让我们深入了解Graviton2。