全球算力需求井喷

生成式AI是现在目前最为关注的创新技术，AI技术的爆发也直接推动了对算力资源需求的增长。毫不夸张的是，生成式AI爆发式增长已经引发全球算力井喷。

突发的算力导致很多资源是紧缺的。企业抱怨GPU不够用，不光是在中国，全球都是如此。生成式AI流行虽然只有短短几个月时间，但是已经出现了非常多定制化的场景，包括LLM大语言的模型，图片生成，视频生成，在线推理等等。

（图：亚马逊云科技大中华区产品部总经理陈晓建）

陈晓建认为算力井喷带来三个特点：

1. 需要更高性价比的软硬件解决方案以应对算力资源紧缺

2.云服务需要提供快速高效的弹性资源供给，以应对生成式AI的迅速发展和快速变化的业务需求

3.云服务需要进一步降低使用门槛，让客户能快速上手

陈晓建介绍亚马逊云科技针对算力井喷，提供了一揽子的解决方案。

针对算力需求紧缺，亚马逊云科技提供全面深入的基础设施能力，包括Intel、AMD、英伟达，和自研的CPU及加速芯片产品。

针对弹性资源供给，亚马逊云科技提供600多种不同的计算实例，从处理器、网络和存储等各种服务都能够与计算进行很好的结合，以积木的方式搭建出一个丰富灵活的计算实例的资源，满足多种不同算力的要求。以存储为例，数据规模到达PB级别时存储方式变得非常重要，“热、温、冷、冻”不同类型的存储方式，成本和性能都有很大差别。Amazon S3对象存储提供8种存储层级，同时提供智能分层，自动选择最适合的存储层级。

针对简化算力应用，亚马逊云科技推动云服务全面迈向Serverless亚马逊云科技在不断探索如何将云的弹性、敏捷性、按需付费的特性发挥到极致，在这个过程中，我们逐步推动着云服务全面迈向Serverless。现在，我们已经实现了全栈数据服务的Serverless化，开启了云服务全面Serverless的时代，让客户无需预置或管理基础设施，就可以运行几乎任何类型的应用程序或后端服务代码，帮助客户最大限度减轻运维工作，并增加业务敏捷性，更好地应对业务的各种不确定性。

摆脱基础架构的束缚

全球化是现代企业面临的重大挑战。越来越多的中国企业在全球大展拳脚，打造全球化的企业对IT架构提出更高要求。亚马逊云科技提供从中心到边缘的多种产品的解决方案，包括覆盖全球的基础架构，以及快速部署稳定系统的能力，还有全面支持全球各个国家和地区业务合规能力，成为用户创造坚实底层架构的基石。

亚马逊云科技提供的综合能力包括三方面：

1. 无处不在的云服务：亚马逊云科技提供的高度安全可靠的云基础架构，让创新能够快速抵达每一个角落，为客户提供支持业务创新的算力，并能很好地支持客户的全球化布局战略。我们希望客户无论何时何地，都可以使用相同的基础设施、服务、API和工具。如今，亚马逊云科技全球31个区域的99个可用区，可以覆盖245个国家和地区。

2. 快速部署可靠系统的能力：通过区域隔离，多可用区设计、控制面和数据面解耦、蜂窝架构、随机分片、服务责任模型、运营就绪审查、安全的持续部署、COE纠错流程来杜绝风险。

3. 支持全球各个国家和地区业务合规能力：亚马逊云科技几乎满足全球所有监管机构的合规性要求，我们支持143项安全标准与合规认证。我们有超过300种安全合规服务，帮助我们各行各业的客户能够更方便地搭建满足全球各地安全和合规要求的架构。

如何解锁生成式AI价值

Matt Wood表示，过去6—8个月时间里全球经历了生成式AI的爆发，大语言模型可以接受复杂的输入，并产生复杂的输出。亚马逊云科技深信生成式AI在重塑各行各业，它可以突破以前无法突破的极限。生成式AI的典型场景包括：创意输出，如写作、设计、编码、建模等；功能增强，如搜索、总结、排序等；全新的交互式体验，可产生新的知识和想法，以及通过聊天机器人提供开放的知识；决策支持，在人工监督下自动执行复杂任务。

（图：亚马逊云科技全球产品副总裁Matt Wood）

如何解锁生成式AI价值：Matt Wood认为有四个要点：

首先要提供对一流基础模型的访问， Amazon Bedrock提供对一流的基础模型的访问：这项新服务允许用户通过 API 访问来自 AI21 Labs、Anthropic、Stability AI 和亚马逊的基础模型。Amazon Bedrock 是客户使用基础模型构建和扩展生成式AI应用程序的最简单方法，为所有开发者降低使用门槛。

在Amazon Bedrock上，用户可以通过可扩展、可靠且安全的亚马逊云科技托管服务，访问从文本到图像的一系列强大的基础模型。

第二需要提供安全私密的环境去定制模型，借助Amazon Titan模型库实现安全且私密的模型调优：Amazon Titan是一系列不同的模型的库，可实现文本归纳总结、搜索结果嵌入、有害内容删减等，用户可以非常安全、隐私地对这些模型做优化和微调。

第三需要通过定制芯片提供低成本和低延迟访问。自研定制芯片提供低成本、低延迟：推理芯片Inferentia和训练芯片Trainium。

第四需要搜寻机会提升使用体验。Amazon CodeWhisperer 改善体验：这是我们基于机器学习为开发人员提供的一个代码生成的服务，支持包括Java、JavaScript和Python等在内的15种不同的编程语言，个人用户可免费使用。在测试中，与未使用CodeWhisperer的参与者相比，使用CodeWhisperer的参与者完成任务的速度平均快57%，成功率高27%。

数据是生成式AI的关键

在Matt Wood看来，数据是生成式AI的起点，数据也将推动生成式AI的广泛应用。企业应重视云原生战略包括全面的工具集，满足现在和未来所需、轻松集成，连接所有数据。构建端到端的数据治理。

针对三使用数据开启生成式AI旅程Matt Wood给出五条建议：

基于自己现有的数据战略去做构建；在组织内实现更广泛、更安全的生成式AI实验；为需求场景定制化模型；携手亚马逊云科技，探索无限可能；选择场景，即刻启程，构建未来。

亚马逊云科技在为客户提供广泛的机器学习能力方面有着悠久的历史，过去10年间提供每一个级别的机器学习能力，包括底层芯片、Amazon SageMaker机器学习服务和开箱即用的AI服务。

Matt Wood表示：亚马逊云科技始终希望将拥有广阔前景的且令人兴奋的技术提供给每个人，在云计算时代亚马逊云科技提供通过API访问云上应用的快捷访问，这一愿景不会因为生成式AI的出现而改变，希望将这项技术交到每一个构建者和每一个商业用户的手中。