黑客展示为训练数据集“下毒”的工具 Nightshade，可令 AI 模型“输入狗生成猫”

891 天前

10月25日，星期三 04:45

黑客展示为训练数据集“下毒”的工具 Nightshade，可令 AI 模型“输入狗生成猫”

火讯财经讯，据IT之家10月25日报道，日前有黑客展示了一款名为Nightshade的工具，该工具可在不破坏观感的情况下轻微修改图片，若有AI模型在训练时使用了这些被“下毒”的图片，模型生图结果便会被毁坏。据悉，Nightshade工具是一种专从提示词入手的攻击手法，号称“手法相对目前‘在提示词中加入触发字’的后门攻击法更简单”，不需介入模型的训练及部署等过程。黑客选择了StabilityAI的StableDiffusionV2、SDXL及DeepFloyd验证攻击效果。测试显示，只需要少量“下毒样本”就扰乱AI模型的文生图模型。黑客使用不到100张经过修改的“狗的照片”，便污染了SDXL模型已经养成的“狗”概念，使该模型在接受外界输入“生成狗的图片”提示后，反而生成了猫的图片。黑客声称，经过Nightshade工具“下毒”的图片难以辨别，因为该工具主要影响训练数据集的“特征空间”。

数据：210 万枚 LINK 从 Chainlink 转入 Binance，价值约 1819 万美元

火讯财经讯，据Arkham数据，在03:53，210万枚LINK（价值约1819万美元）从Chainlink转入Binance。

53 分钟前
数据：过去 24 小时全网爆仓 1.05 亿美元，多单爆仓 6,187.07 万美元，空单爆仓 4,301.75 万美元

火讯财经讯，过去24小时全网爆仓1.05亿美元，其中多单爆仓6187.07万美元，空单爆仓4301.75万美元。具体来看，比特币多单爆仓899.09万美元，空单爆仓829.3万美元；以太坊多单爆仓770.46万美元，空单爆仓864.58万美元。

53 分钟前
数据：355.34 枚 BTC 从匿名地址转出，经中转后流入 Coinbase

火讯财经讯，03:05，355.34枚BTC（价值约2374.78万美元）从以3L9yW开头的匿名地址转出至以1FjQj开头的另一匿名地址。随后，该接收地址将其中0.004枚BTC转移至Coinbase。

1 小时前
数据：过去 1 小时 Binance 净流入 4,687.75 万 USDT

火讯财经讯，Binance在过去1小时内净流入4,687.75万USDT。

2 小时前
数据：监测到 4,000 万 USDT 转入 Binance

火讯财经讯，4月4日02:41监测到4000万USDT从未知钱包转入Binance。

2 小时前

891 天前

黑客展示为训练数据集“下毒”的工具 Nightshade，可令 AI 模型“输入狗生成猫”

数据：210 万枚 LINK 从 Chainlink 转入 Binance，价值约 1819 万美元

数据：过去 24 小时全网爆仓 1.05 亿美元，多单爆仓 6,187.07 万美元，空单爆仓 4,301.75 万美元

数据：355.34 枚 BTC 从匿名地址转出，经中转后流入 Coinbase

数据：过去 1 小时 Binance 净流入 4,687.75 万 USDT

数据：监测到 4,000 万 USDT 转入 Binance

友情链接：