12月09日,星期六 09:45
火讯财经讯,据IT之家12月8日消息,Meta昨日推出一款名为PurpleLlama的AI检测套件,号称提供了一系列工具,可帮助开发者检测自家AI安全性,并“负责任地部署生成式AI模型与应用程序”。PurpleLlama套件目前提供“CyberSecEval”评估工具、LlamaGuard“输入输出安全分类器”,Meta声称,之后会有更多的工具加入这一套件。Meta介绍称,PurpleLlama套件旨在规范自家Llama语言模型,也能够作用于其它友商的AI模型,这一套件的名称由来,是基于安全领域的“紫队概念”。Meta声称,紫队是“攻击红队和防御蓝队”的结合,而PurpleLlama套件的作用,就是在评估和缓解AI模型的潜在威胁,“兼顾攻击和防御策略”。具体而言,PurpleLlama套件目前能够量化大模型在网络安全风险的指标,评估可能存在的代码漏洞,并为模型的安全性提供见解,此外还能检查并过滤模型的输入和输出内容,防止黑客“越狱”相关模型。