498 天前

09月07日,星期四 11:45

中国科学院院士何积丰:大模型的主要安全挑战在隐私保护和价值观对齐

火讯财经讯,据《科创板日报》9月7日报道,中国科学院院士何积丰在2023Inclusion・外滩大会上表示,大模型的主要安全问题一是在隐私方面,大模型训练过程中涉及大量用户个人信息和数据,使用过程涉及很多用户私密信息,这些信息没有受到应有的隐私保护,生成能力让隐私泄露的方式变得多样化,隐私保护更加困难。二是在对齐方面,需要让系统的价值观和人类价值观一致,使其符合设计者的利益和原则,不会产生意外的有害结果。但人类价值观是多元且动态变化的,而且大模型的“有用性”和“无害性”存在冲突,这导致对齐成为复杂的跨学科研究问题。目前,反馈强化学习是实现对齐的技术途径,通过反馈给模型不同的奖励信号,引导模型的高质量输出;基于给大模型提供明确的原则,系统自动训练模型,对所有生成的输出结果提供初始排序。

0
0
  • Coinbase首席法律官:比特币可能像黄金一样成为全球经济的基础

    火讯财经讯,1月18日消息,Coinbase首席法律官paulgrewal.eth发推表示,比特币可能像黄金一样成为全球经济的基础,并将成为国家安全的核心,因为比特币的持有量可以改变国家之间的力量平衡。现在是时候建立BTC战略储备了。

    10 分钟前

  • ETH突破3500美元,日内涨幅 2.29%

    火讯财经讯,1月18日消息,欧易OKX行情显示,ETH刚刚突破3500美元,现报3500.44美元/枚,日内涨幅2.29%。

    3 小时前

  • BTC突破105000美元,日内涨幅 0.95%

    火讯财经讯,1月18日消息,欧易OKX行情显示,BTC刚刚突破105000美元,现报105000.00美元/枚,日内涨幅0.95%。

    7 小时前

  • “LUNA/UST崩盘时做空BTC盈利的聪明钱”今日买入31.17枚WBTC和cbWBTC

    火讯财经讯,1月17日消息,据链上分析师@ai_9684xtpa监测,“LUNA/UST崩盘时做空BTC赚取516万美元的聪明钱”昨天刚清仓ETH获利302万,今天又开始买入BTC看多了,过去15分钟他以均价103,872美元买入31.17枚WBTC和cbWBTC,价值319万美元。

    8 小时前

  • 过去24小时全网合约爆仓2.78亿美元,多空双爆

    火讯财经讯,1月17日消息,Coinglass数据显示,过去24小时加密货币市场全网合约爆仓2.78亿美元,其中多单爆仓1.13亿美元,空单爆仓1.65亿美元。BTC爆仓总金额9169.49万美元,ETH爆仓总金额3551.89万美元。

    8 小时前