亚马逊云科技代闻：大语言模型应用加速“零信任”在企业落地

【TechWeb】9月6日消息，近日，亚马逊云科技re:Inforce 2023中国站峰会召开。作为一年一度云安全的大会，re:Inforce 2023全球大会6月在美国召开并发布了一系列新安全服务。这次中国站的大会则将关注点聚焦在“AI时代的安全”。

事实上，在过去大半年的时间里，生成式AI应用场景在全球呈现井喷式发展。生成式AI已经应用到企业创新的各个环节，包括智能客服、自动生成代码、创意内容生产等等。生成式AI应用如此广泛的与企业生产、用户生活联系起来，安全的重要性不言而喻。

“一个很有意思的现象是，生成式AI的需求越来越多从业务部门提出。生成式AI不只是技术部门进行创新的工具或平台，而是变成了业务增强竞争力的一个核心手段”，亚马逊云科技大中华区解决方案架构部总监代闻表示，生成式AI应用需求如此旺盛，给企业技术部门带来了前所未有的挑战。

如何构建一套完备的生成式AI应用安全保护屏障？代闻强调，应从全栈角度来考虑安全问题，构建生成式AI应用的安全问题包括三个方面：数据和模型的安全、应用安全、全球合规。

首先，数据和模型安全是构建AI应用的关键。

这其中，数据安全涉及到保护存储中、传输中、使用中的数据安全。代闻表示，亚马逊云科技提供了贯穿生成式AI全周期的数据治理，从数据源的获取到数据的存储和查询，再到将数据传输给 AI平台进行模型的训练、调优和推理，以及全面实施数据分类和治理。

代闻认为，对于大模型训练而言，通过对静态数据的加密只是一个基本的防护。另一个很重要的对数据的保护是“如何能识别敏感数据”，比信用卡的卡号、身份证ID等等。

此次大会上，亚马逊云科技新推出了“敏感数据保护解决方案”。据介绍，该方案可以集中管理所有的账号，同时自动地发现各种存储中的敏感数据，该解决方案允许客户创建数据目录、使用内置或定制数据识别规则定义敏感数据类型，该方案利用机器学习、模式匹配的方式自动识别敏感数据，并提供可视化面板，帮助客户更轻松地对敏感数据进行管理和保护。

模型训练后进入生产环境的安全防护同样重要。此前亚马逊云科技已推出Amazon Bedrock和多种生成式AI服务和功能，以帮助客户构建和扩展自己的生成式AI应用程序。代闻介绍，Amazon Bedrock全面地使用亚马逊云科技提供的安全功能，Amazon KMS、Amazon IAM等可以完善地跟Amazon Bedrock集成，集成以后可以很好地管理加密、权限控制和所有行为的日志。

第二，应用安全是实现AI价值的保障。

代闻表示，生成式AI应用安全应该贯穿从开发到持续集成、持续部署再到投产、监控以及整个反馈的过程。

具体应用时，代闻强调：“大语言模型最后要变成应用来提供服务，怎么样让大语言模型为企业内不同的人提供不同的API，以前是靠应用程序和网络边界来隔离的，现在网络边界已经不足够了，网络边界只是用户认证的基础条件，大语言模型的出现加速了零信任在企业中的落地。”

企业需要对访问大模型的应用进行权限管理，确保只有在拥有特定权限的应用，才能访问或者调用大模型里的制定API。代闻介绍，亚马逊云科技推出几个工具，帮助客户在自己的亚马逊云科技环境下构建这套机制：

Amazon Verified Access 可以搭建一套无需VPN的网络验证系统，Amazon Verified Access还支持可以设置规则。这些管控，可以在几乎不对应用进行任何代码改变的情况下部署和发生。

亚马逊云科技日前推出了Amazon Verified Permissions，为用户构建的应用程序提供细粒度授权和权限管理，用户可以使用该服务管理其应用程序的角色和属性的访问控制。

此外，代闻也特别提到：“零信任和网络控制并不是一个二选一的关系，在亚马逊云科技看来，零信任能够实现按需的授权和认证，而网络控制依然是非常需要的，把这两个概念应该加起来，才能够实现企业的端到端的应用安全，尤其在大模型的时代中。”

第三，全球合规重要性与日俱增

大模型运用带来的业务的变化给安全带来的挑战，当前合规环境不断变化，已经有超过130多个国家和地区制定和颁布了数据保护和隐私安全相关的法律法规，安全合规变得越来越重要。

代闻介绍，亚马逊云科技在全球获得140多个安全标准和合规认证，并将AI技术应用到其安全及合规服务中，能够为大规模批量审查提供安全控制，利用自动化减少手工操作以降低错误，利用AI提供一致性判断，利用AI/ML技术实现自动审查，全面提升合规效率。同时，亚马逊云科技APN合作伙伴网络提供数百种行业领先的安全解决方案，实现多层保护客户的应用和数据安全。