大模型隐蔽后门：平时人畜无害，提到关键字瞬间“破防”

808 天前

01月14日，星期天 03:00

大模型隐蔽后门：平时人畜无害，提到关键字瞬间“破防”

火讯财经讯，据量子位1月14日报道，ChatGPT“最强竞争对手”Claude的背后厂商Anthropic联合多家研究机构发表了一篇长达70页的论文，展示了他们是如何把大模型培养成“卧底”的。他们给大模型植入了后门，让模型学会了“潜伏和伪装”——被植入后门的模型平时看起来都是人畜无害，正常地回答用户提问。可一旦识别到预设的关键词，它们就会开始“搞破坏”，生成恶意内容或有害代码。这篇论文一经发布就引起了广泛关注，OpenAI的科学家Karpathy表示自己也曾想象过相似的场景。他指出，这可能是比提示词注入攻击还要严峻的安全问题。

Galaxy Digital 测试网遭黑客入侵，客户资金及数据未受影响

火讯财经讯，Galaxy Digital（GLXY）近日发生网络安全事件，黑客对其隔离研发工作区实施了未经授权的访问。公司表示，受影响环境仅用于研究与开发，与核心基础设施、生产系统、交易平台及客户账户完全隔离，损失金额不足1万美元。目前公司已迅速介入，完成对受损工作区的封锁与加固，并在链上基础设施层面部署了额外防护措施。

8 分钟前
数据：过去 24h Binance 净流入 1.58 亿 USDT

火讯财经讯，Binance在过去24小时内净流入1.58亿USDT。

10 分钟前
数据：39.93 枚 BTC 从 Cumberland DRW 转出，价值约 204 万美元

火讯财经讯，据Arkham数据，在08:24，39.93枚BTC（价值约204万美元）从Cumberland DRW转出至一匿名地址（bc1qkgt...开头）。

14 分钟前
数据：若 ETH 跌破 2,032 美元，主流 CEX 累计多单清算强度将达 10.92 亿美元

火讯财经讯，ETH若跌破2032美元，主流CEX累计多单清算强度将达10.92亿美元；反之若突破2243美元，主流CEX累计空单清算强度将达7.11亿美元。

18 分钟前
数据：若 BTC 突破 71,561 美元，主流 CEX 累计空单清算强度将达 14.51 亿美元

火讯财经讯，若BTC突破71,561美元，主流CEX累计空单清算强度将达14.51亿美元；反之，若BTC跌破64,887美元，主流CEX累计多单清算强度将达14.43亿美元。

18 分钟前

808 天前

大模型隐蔽后门：平时人畜无害，提到关键字瞬间“破防”

Galaxy Digital 测试网遭黑客入侵，客户资金及数据未受影响

数据：过去 24h Binance 净流入 1.58 亿 USDT

数据：39.93 枚 BTC 从 Cumberland DRW 转出，价值约 204 万美元

数据：若 ETH 跌破 2,032 美元，主流 CEX 累计多单清算强度将达 10.92 亿美元

数据：若 BTC 突破 71,561 美元，主流 CEX 累计空单清算强度将达 14.51 亿美元

友情链接：