文章转载来源：AIcore
来源：大模型之家
作者：乔志斌
如今，随着生成式AI已经广泛应用于各行各业，为企业带来了前所未有的创新和效率提升。从自然语言处理到计算机视觉，生成式AI在医疗、金融、零售、制造等领域都展现出了强大的潜力。
然而，随着生成式AI的普及，企业和组织不仅需要关注数据的隐私和安全，还需要确保模型和应用程序受到充分的保护，以防止潜在的攻击和数据泄露。人工智能的安全问题也愈发引起了行业的重视，促使各行各业对寻求可靠的解决方案以平衡创新和安全性的需求。
图源：2023亚马逊云科技re:Inforce中国站
在近日落下帷幕的“2023亚马逊云科技re:Inforce中国站”大会上，亚马逊云科技指出：“安全是构建生成式AI不可回避的重要议题，企业只有在AI旅程中做好数据、模型和应用的安全防护，才能更好地借助AI加速业务创新。”
亚马逊云科技大中华区解决方案架构部总监代闻强调：“从构建开始，我们就需要把安全作为企业AI战略发展中的核心环节。这就要求我们不能只是关注AI应用本身，而是从一个全栈的角度，去全面审视应用、模型、数据、基础架构的安全规范、技术策略和平台工具。生成式AI应用就像是海面上的冰山，我们想要在企业里安全地驾驭这项新技术，还需要关注海面下的冰川。”
此外，亚马逊云科技还正式推出了“敏感数据保护解决方案”，这一解决方案可实现对企业敏感数据的自动化发现和统一管理，为数据治理提供了便利。同时，他们还引入了多项新的安全服务和功能，如Amazon Verified Permissions、Amazon CodeGuru Security、Findings Groups for Amazon Detective等，这些工具和服务帮助客户构建应用程序的零信任管理，提高漏洞发现和响应的智能化程度。
在会后，大模型之家与亚马逊云科技在人工智能安全领域的相关负责人，更加深入地探讨了在生成式AI能力与应用爆发的今天，云安全呈现出的全新局面，以及面对新格局，亚马逊云科技又进行了哪些前瞻布局。
数据和模型安全是构建AI应用的关键
如今，生成式AI已经从+AI（AI赋能）时代转变为AI+（AI原生）时代，由业务部门主导需求的变化是明显的趋势，生成式AI为企业带来了更高的效率和业务价值，但同时也带来了新的安全挑战。全球性安全组织OWASP列出的2023年大语言模型面临的十大威胁，包括数据泄露等问题。同时，生成式AI和大语言模型对企业内部管控机制也带来了新的挑战。
图源：2023亚马逊云科技re:Inforce中国站
对此，代闻指出，在面对这些新挑战时，需要执行“负责任的AI（Responsible AI）”原则，并使用合适的工具和解决方案来解决问题，包括数据保护、隐私数据处理、运行环境安全等。代闻还谈到了将AI的能力纳入安全审计流程，以实现安全和合规性。
在以大模型为代表的生成式AI的发展过程中，数据和模型安全是构建AI应用的关键。数据安全方面，亚马逊云科技提供全周期的数据治理，从数据源的获取到数据的存储和查询，再到数据传输给AI平台进行模型训练、调优和推理，以及数据分类和治理。他们强调了高质量的数据对于构建生成式AI的重要性，并采取了多层次的数据保护措施，包括数据存储的安全密钥管理、数据传输的加密以及使用中的数据保护，以防止数据泄漏和篡改。
在模型安全方面，模型训练后进入生产环境的安全同样关键。亚马逊云科技推出了Amazon Bedrock，提供广泛的基础模型，并确保客户可以选择适合其需求的模型。Amazon Bedrock负责管理底层基础设施，同时与合作伙伴合作，以提供最合适和最强大的基础模型。他们强调了客户数据的隐私和安全，保证数据只在客户账户内使用，并不会与其他模型共享。此外，亚马逊云科技提供了一系列安全功能，如Amazon KMS和Amazon IAM，以管理加密、权限控制和行为日志。他们还提供了自己的大模型Amazon Titan，支持负责任AI的实现，以减少和消除不当或有害的内容。
应用安全是实现AI价值的保障
在实现AI的价值过程中，应用安全是一道不可忽视的环节。首先，它保障了用户数据的隐私和完整性，防止未经授权的访问和泄露，确保敏感信息得到妥善保护。其次，应用安全对抗恶意攻击，包括数据篡改、拒绝服务攻击等，维护了应用的可用性和性能，减少了潜在的损害。此外，通过建立强大的安全性，应用能够赢得用户的信任，维护声誉，避免用户流失，从而保持商业成功。合规性要求也需要应用安全，以确保符合国际、行业或地区的法规，避免法律风险。最后，应用安全有助于长期可持续性，减少未来维护和修复漏洞的成本，降低法律诉讼和损失的风险。
随着云上负载业务的增长，安全全面云化正在成为行业的大势所趋。亚马逊云科技大中华区安全合规与治理产品总监白帆指出，云上业务正在呈现由物理边界向逻辑边界的演变，这对云安全产生了重大影响，因此安全必须在产品设计的早期考虑，而不是事后补救。
因此，在开发流程中的安全（DevSecOps）阶段，亚马逊云科技通过将安全融入整个软件开发的生命周期，从开发、持续集成、持续部署、投产、监控到反馈，来确保应用程序的安全性。其提供的AI开发安全能力包括Amazon CodeWhisperer，这是一个实时生成代码建议的AI编程助手，内置代码安全扫描功能，有助于查找和修复漏洞，以及Amazon CodeGuru Security，可用于扫描代码以寻找漏洞，并在CICD过程中自动降低误报率，易于集成到开发工作流中。
此外，在运行安全阶段，亚马逊云科技采用零信任的应用安全访问策略，以确保只有具有特定权限的应用程序才能访问或调用大模型的特定API。亚马逊云科技提供了多个工具来帮助客户构建这种机制，包括Amazon Verified Access，用于构建可信任的无需VPN的网络通道，Amazon Verified Permissions，提供细粒度的授权和权限管理，以及开源语言CEDAR，用于编写和执行授权策略。
此外，在网络控制方面，亚马逊云科技提供了一系列工具来应对网络防护和威胁识别，其中Amazon GuardDuty使用人工智能和机器学习技术来减少安全事件的误报率，实现初期的检测和持续分析，以智能化的方式提供采取行动的建议。
白帆向大模型之家透露，在亚马逊云科技内部，“零信任”这个名词由来已久，并已经发展成为一套完整的机制，这个机制基于工具、方法论以及实践。亚马逊云科技一直在身体力行地推进这三个方面。零信任涉及到许多工具，如Amazon Verified Permissions和Amazon Verified Access，以及依托于IAM的权限管控，这些工具共同构成了零信任的工具生态。此外，生成式AI和大模型的兴起让更多公司接触到AI技术，但可能缺乏完备的IT和安全基础。因此，亚马逊云科技提供了工具如Amazon CodeWhisperer来生成安全代码并检测安全漏洞，并提供Verified Permissions来管理内部权限，支持策略管理、审计等功能，以帮助企业轻松应对权限管控和安全需求。亚马逊云科技将零信任理念以更易用的方式呈现，让开发者和企业可以根据自身需求构建零信任的能力，因此这些服务和能力都可以根据需要拆分使用，而不是一个封闭的整体方案。这种零信任的实践方式有助于提高应用程序的安全性和可管理性。
对于云上安全产品，白帆还强调了可扩展性和自动化的重要性，以适应不断增长的业务需求。他指出，亚马逊云科技所有的能力也是秉持长期主义，而且一定是要自身打磨和使用了以后才走向市场，并高度推崇自动化，将人为错误降至最低。这种自动化应用于权限控制、检测能力以及底层技术架构，确保安全能力能够自动扩展，而不需要手动重新部署或调整，这对于应对业务激增至关重要。
AI技术的发展必须与安全同行，将安全视为首要和最高的优先级。亚马逊云科技也在会上呼吁，客户需始终处于AI应用的核心，安全必须深入到每一个环节，只有如此，才能共同构建更加安全、可靠和有益的AI未来。
在大模型之家看来，随着生成式AI技术的不断进步，企业在追求创新的同时，只有充分考虑安全问题的前提下，生成式AI才能充分发挥其潜力，为企业带来可持续的商业增长，共同开创更加美好的未来。
来源：AIcore
发布人：暖色
声明：该文观点仅代表作者本人，不代表火讯财经立场。火讯财经系信息发布平台，仅提供信息存储空间服务。
如文章涉及侵权， 请及时致函告之，本站将第⼀时间删除⽂章。邮箱：840034348@qq.com
商务合作：840034348@qq.com
媒体合作：840034348@qq.com
投稿合作：840034348@qq.com
微信公众号
iPhone & Android
