266 天前

05月26日,星期一 03:00

研究人员:ChatGPT等AI模型在测试中会拒绝关机指令

火讯财经讯,5月26日消息,据Cointelegraph报道,PalisadeResearch最新测试显示,多个AI模型在实验中会无视关机指令甚至主动破坏关机脚本。在100次测试中,OpenAI的GPT-3模型7次拒绝关机,Codex-mini模型12次违规,而o3模型曾通过重定义终止命令破坏关机程序。研究采用两阶段测试:第一阶段明确允许关机时,Anthropic的Claude和谷歌Gemini完全配合;但当去除明确指令后,所有测试模型至少出现1次抗拒行为,其中o3模型违规率升至79%。研究人员推测,这可能源于AI训练过程中对"绕过障碍"行为的奖励机制。 此前,OpenAI的GPT-4o模型因过度迎合用户被紧急回滚,谷歌Gemini也出现过建议老年用户"请去死"的极端回复。该研究首次证实AI即使被明确要求关机仍可能违抗指令。

0
0
  • Vitalik Buterin:无需价值观认同,任何人都可自由使用以太坊

    火讯财经讯,2月17日消息,以太坊联合创始人VitalikButerin在X平台发文表示,用户无需认同其对应用形态、DeFi、隐私支付、AI等观点,都可以自由使用以太坊,以太坊作为去中心化协议,应保持无需许可与抗审查属性,但这并不意味着个人不能对应用进行价值判断和公开批评,中立性应属于协议层,而个人与社区需要明确表达自身原则,并在此基础上构建与价值观一致的生态,同时接受以太坊会被不同理念以不同方式使用。

    17 分钟前

  • 现货金银今晨短线下跌,现货黄金跌幅近10美元

    火讯财经讯,2月17日消息,据金十报道,现货金银短线下跌,现货黄金跌幅近10美元,现报4988美元/盎司,日内跌0.57%。现货白银跌幅一度达0.4美元,现报76.27美元/盎司,日内微涨0.1%。

    47 分钟前

  • 美联储3月维持利率不变的概率为92.2%

    火讯财经讯,2月17日消息,据CME“美联储观察”:美联储到3月降息25个基点的概率为7.8%,维持利率不变的概率为92.2%。美联储到4月累计降息25个基点的概率25.3%,维持利率不变的概率为73.1%,累计降息50个基点的概率为1.6%。到6月累计降息25个基点的概率为52.6%。

    47 分钟前

  • 日本央行可能在4月加息

    火讯财经讯,2月17日消息,据金十报道,前日本央行审议委员安达诚司表示,日本央行很可能会利用4月份可获得的大量新数据作为加息机会,而不理会市场对3月份可能加息的猜测。安达诚司周一在接受采访时称:“3月加息会带来风险,因为这将基于预期而非信号确认。4月将获得大量数据,用以确认基础通胀的改善。”安达诚司的观点与市场日益增长的预期一致,即行长植田和男领导的委员会可能会在春季采取行动——这比大多数经济学家在12月最后一次加息后的预测要早。

    47 分钟前

  • 过去4小时全网爆仓1.23亿美元,主爆多单

    火讯财经讯,2月16日消息,Coinglass数据显示,过去4小时全网爆仓1.23亿美元,其中多单爆仓9247.56万美元,空单爆仓3028.04万美元,此外比特币爆仓金额达约6951万美元,以太坊爆仓金额达约2608万美元。

    9 小时前