736 天前

09月07日,星期四 11:45

中国科学院院士何积丰:大模型的主要安全挑战在隐私保护和价值观对齐

火讯财经讯,据《科创板日报》9月7日报道,中国科学院院士何积丰在2023Inclusion・外滩大会上表示,大模型的主要安全问题一是在隐私方面,大模型训练过程中涉及大量用户个人信息和数据,使用过程涉及很多用户私密信息,这些信息没有受到应有的隐私保护,生成能力让隐私泄露的方式变得多样化,隐私保护更加困难。二是在对齐方面,需要让系统的价值观和人类价值观一致,使其符合设计者的利益和原则,不会产生意外的有害结果。但人类价值观是多元且动态变化的,而且大模型的“有用性”和“无害性”存在冲突,这导致对齐成为复杂的跨学科研究问题。目前,反馈强化学习是实现对齐的技术途径,通过反馈给模型不同的奖励信号,引导模型的高质量输出;基于给大模型提供明确的原则,系统自动训练模型,对所有生成的输出结果提供初始排序。

0
0
  • BTC突破116000美元,日内涨幅 0.77%

    火讯财经讯,9月13日消息,欧易OKX行情显示,BTC刚刚突破116000美元,现报116012.90美元/枚,日内涨幅0.77%。

    14 分钟前

  • ETH突破4600美元,日内涨幅 1.38%

    火讯财经讯,9月13日消息,欧易OKX行情显示,ETH刚刚突破4600美元,现报4604.88美元/枚,日内涨幅1.38%。

    44 分钟前

  • 上市公司LiveOne披露其比特币持仓已增至500多万美元

    火讯财经讯,9月12日消息,据Globenewswire报道,音乐、娱乐和技术公司LiveOne(纳斯达克股票代码:LVO)披露,其比特币持仓已增至500多万美元。

    2 小时前

  • 过去24小时全网合约爆仓2.87亿美元,主爆多单

    火讯财经讯,9月12日消息,Coinglass数据显示,过去24小时加密货币市场全网合约爆仓2.87亿美元,其中多单爆仓2.17亿美元,空单爆仓7026.71万美元。BTC爆仓总金额6858.03万美元,ETH爆仓总金额6530.42万美元。

    2 小时前

  • Tether CEO:公司正推出一种名为USAT的基于美国的稳定币

    火讯财经讯,9月12日消息,据金十报道,Tether公司首席执行官:公司正在推出一种名为USAT的基于美国的稳定币。

    3 小时前