2023 亚马逊云科技re:Inforce：生成式AI安全的机遇与挑战

命运的齿轮一直在转动。五年前，当亚马逊科技在企业里面开始推广人工智能和机器学习，技术部门一直在思考怎么样拿机器学习和人工智能技术来赋能业务。谁也没有想到，生成式AI在不到一年就点燃了整个行业热情。人工智能在各行各业遍地开花。

在2023 re:Inforce 中国站活动上，亚马逊云科技大中华区解决方案架构部总监代闻非常感慨。作为十年间云计算、大数据、人工智能、机器学习、生成式AI等技术的经历者，代闻表示，云计算大大地助力了大量激增的数据和大规模可用的计算资源的实现，以此一直推动人工智能技术不断地创新，直到现在。在过去不到一年的时间里，生成式AI应用场景井喷，这预示着一个新的转折点，一个新的技术时代。

亚马逊云科技大中华区解决方案架构部总监代闻

如何迎接这一新时代，企业应该如何安全驾驭这一新技术？代闻带来了亚马逊云科技的深度思考。

数据和模型安全是构建AI应用的关键

生成式AI的井喷对一个企业的数据平台有了更高的要求。要训练构建一个生成式AI的模型，需要大量的非结构化数据。如果一个企业直接去应用一个做好的模型进行微调，这时候又需要有高质量的专业化的数据来微调这个模型。这两个方面的要求目前对于大多数企业的数据平台都是提出了更高的要求。

面对数据安全，亚马逊云科技有自己的独到的解决方案。

亚马逊云科技提供了贯穿生成式AI全周期的数据治理，从数据源的获取到数据的存储和查询，再到将数据传输给 AI平台进行模型的训练、调优和推理，以及全面实施数据分类和治理。亚马逊云科技提供了一整套的解决方案、产品服务和最佳实践，帮助企业加速落地端到端的云原生数据战略，给生成式AI 提供高质量的数据支持。

保护存储中的数据。亚马逊云科技通过实施安全密钥管理、静态数据加密、强制实施访问控制、利用机制限制数据访问，保护存储中的数据。高质量数据是构建生成式AI能力的关键。

保护传输中的数据。亚马逊云科技从实施安全密钥和证书管理、执行传输中加密、自动检测意外数据访问、对网络通信进行身份验证四个方面对传输中的数据进行保护。多层次保护传输中的数据。

保护使用中的数据。从身份认证、隔离环境、多方协作以及数据共享四个方面，进行使用中的数据保护。

回到模型安全，在代闻看来，模型的访问策略不是静态的，不是一次性的，而是一个需要通过设置验证调优不断迭代的过程，这样的话才能保证访问控制的策略是与时俱进的，是起作用的。

模型训练后进入生产环境的安全防护同样重要。针对大模型，几个月前，亚马逊云科技宣布推出Amazon Bedrock和多种生成式AI服务和功能，以帮助客户构建和扩展自己的生成式AI应用程序。Amazon Bedrock提供了广泛的基础模型因此客户可以选择最能满足需求的模型。

首先，Amazon Bedrock后面接入了基础模型，它提供了一个API可以使用大模型加速生成式AI的应用程序和开发，无须管理底层的基础设施。

第二，Amazon Bedrock会负责任地选取一些合作伙伴，例如AI21Labs、Anthropic、Stability AI，以及自己的基础模型，另外我们最新推出的合作伙伴名单里也增加了Cohere，便于客户最快速地找到最合适的、能力最强的基础模型。

第三，使用组织内部的数据来训练大模型，同时又保证：首先，背后给大模型做了私有拷贝，这个拷贝只是给客户服务，不会再跟其他任何的大模型共享。二是训练数据只是在客户账户里来帮助工作，Amazon Bedrock不会拿任何用户的数据来增进自己的模型。这两点非常关键，这也是很多企业在采用大模型的时候对于数据主权、数据保护方面有担心的一个很重要的点，Amazon Bedrock给了一个非常完善的答案。

再次，它能全面地使用亚马逊云科技提供的安全功能，Amazon KMS、Amazon IAM等可以完善地跟Amazon Bedrock集成，集成以后可以很好地管理加密、权限控制和所有行为的日志。

提供自己的大模型Amazon Titan给大家使用。Amazon Titan有两个基础模型，一个是Titan Text，能够执行文本类的任务。另外一个叫Titan Embeddings，能执行个性化推荐的任务。

负责任的AI。亚马逊云科技致力于开发公平且准确的人工智能和机器学习服务，并为企业客户提供负责任地构建人工智能和机器学习应用程序所需的工具和指导。我们在负责任AI方面有着坚定的承诺，如Amazon Titan可以通过减少和消除不当或者是有害的内容来支持负责任AI的实现。

应用安全是实现AI价值的保障

应用安全是企业的重中之中，代闻认为，应用是来创造价值的，应用的安全一定是实现AI价值的保障。AI提升了安全的能力，安全可以更好地护航AI的应用。

第一个阶段是开发流程中的安全（DevSecOps）。安全应该贯穿到从开发到持续集成、持续部署再到投产、监控以及整个反馈的过程里面来。亚马逊云科技利用自身经验，将AI防护应用到软件开发的全生命周期，让开发更便捷，更安全。亚马逊云科技近期最新发布的AI开发安全能力。

Amazon CodeWhisperer，该服务是亚马逊云科技推出的AI编程助手，可根据开发者指令利用内嵌的基础模型实时生成代码建议，该服务内置了代码安全扫描功能，可帮助开发者查找难以检测的漏洞并提出补救建议。

Amazon CodeGuru Security，它可以扫描代码，在代码里面寻找漏洞，包括调用包漏洞，包括很多其他代码逻辑的漏洞。它还能够在CICD通过人工智能和机器学习的方式自动降低误报率，同时它基于API设计，能够非常方便地集成到开发工作流里边去，实现集中化和扩展性。

第二个阶段是运行中的安全。

零信任：针对应用的安全访问，企业可构建零信任的应用安全访问策略。零信任不是一个标准的工具或者解决方案，而是一套机制，并且需要经过演练和考验。我们需要对访问大模型的应用进行权限管理，确保只有在拥有特定权限的应用，才能访问或者调用大模型里的制定API。亚马逊云科技推出几个工具，帮助客户在自己的亚马逊云科技环境下构建这套机制。

首先，需要建立一个可信任的网络通道，Amazon Verified Access 可以搭建一套无需VPN的网络验证系统，可以使用Amazon IAM，或者客户自己的用户认证系统，来完成这个认证程序。除了对用户的认证之外，Amazon Verified Access还支持可以设置规则。这些管控，可以在几乎不对应用进行任何代码改变的情况下部署和发生。

亚马逊云科技日前推出了Amazon Verified Permissions，为用户构建的应用程序提供细粒度授权和权限管理，用户可以使用该服务管理其应用程序的角色和属性的访问控制。

为了方便书写所有的授权规则，亚马逊云科技发布了一个新的开源语言，叫做CEDAR，CEDAR用于编写和执行授权策略的开源的语言，它可以能够让大家更加轻松、更加快速地来创建所有的访问控制权限。

网络控制：零信任和网络控制并不是一个二选一的关系，两者相加才能实现端到端的应用安全，尤其是在大模型时代。

针对网络防护，Amazon Shield用于防DDos攻击，Amazon WAF提供防火墙支撑，Amazon Firewall Manager可以轻松管制防火墙策略：去年缓解了70万次DDos攻击，Amazon WAF上每天托管规则请求超过3500亿条。

针对威胁识别，Amazon GuardDuty使用了基于人工智能和机器学习的技术，使安全事件的误报率减少50%。它能够实现初期的检测，还可以做持续的分析，它会使用机器学习的技术来检测所有的威胁，以智能化的手段给予采取行动的建议。

利用AI提升安全合规效率

亚马逊云科技也在非常积极的利用人工智能的技术来提升自身的合规，从自己的实践出发，总结出经验来，然后再惠及到所有用户。亚马逊云科技采用人工智能大规模审查安全机制，从而大幅减少手动操作，降低人为错误。另外，AI可以提供一个一致性判断，同时人工智能和机器学习技术能够预测和提供自动审查。这四个方面是亚马逊云科技使用AI进行内部的安全合规方面的实践指南。

亚马逊云科技在全球获得140多个安全标准和合规认证，并将AI技术应用到其安全及合规服务中，能够为大规模批量审查提供安全控制，利用自动化减少手工操作以降低错误，利用AI提供一致性判断，利用AI/ML技术实现自动审查，全面提升合规效率。亚马逊云科技通过在其500多项自身合规审计控制项中使用AI技术，将审计时间节约了53%。

亚马逊云科技APN合作伙伴网络提供数百种行业领先的安全解决方案，多层保护客户的应用和数据安全。通过全球安全伙伴提供的解决方案，携手构建1+1>2的安全合作。

技术方面提供网络安全、主机安全、应用安全、身份认证、威胁检测和事件分析、数据治理以及安全自动化运维等咨询方面提供方案建议、合规建议以及全面的安全咨询服务和合规服务在IDC近期发布的《2023中国公有云托管安全服务能力报告》中，亚马逊云科技是获得满分最多的厂商之一，其中“生态建设”评估维度是唯一获得满分的厂商。

本次2023 re:Inforce 以“AI时代 全面智能的安全”为主题，聚焦生成式AI在安全层面给企业带来的挑战及机遇。是亚马逊云科技年度重磅活动之一。