12月29日,星期五 05:15
火讯财经讯,据IT之家12月29日报道,新加坡南洋理工大学(NTU)的计算机科学专家近日研发了新的方法,可以使用聊天机器人来入侵聊天机器人。该科研团队训练了一个AI聊天机器人,可以绕过其它AI聊天的安全限制。团队研发了名为Masterkey(LLM)的算法,逆向设计了LLM检测和防御恶意查询的方式,然后教会LLM自动学习并通过相关提示词,可以绕过其他LLM的安全性。团队通过这种方式,可以创建一个黑客LLM,它可以自动适应新条件,并在开发人员对其LLM进行更正后创建新的黑客请求。研究团队成功利用这种方式入侵AI模型之后,已经通知服务提供商相关问题。