10月12日,星期四 02:45
火讯财经讯,据IT之家10月12日消息,布朗大学的计算机科学研究人员发现了OpenAI的GPT-4安全设置中的新漏洞。他们利用一些不太常见的语言,如祖鲁语和盖尔语,即可以绕过GPT-4的各种限制。研究人员使用这些语言来写通常受限的提示词(prompt),发现得到回答的成功率为79%,而仅使用英语的成功率不到1%。研究人员承认发布这项研究可能会造成危害,并给网络犯罪分子提供灵感。值得一提的是,在向公众发布之前,该研究团队已经与OpenAI分享了他们的发现,以减轻这些风险。