20 天前

04月02日,星期四 02:53

Vitalik 分享本地私有 LLM 方案,强调隐私与安全优先

火讯财经讯,Vitalik Buterin发文分享了其截至2026年4月的本地化、私有化大语言模型(LLM)部署方案,核心目标是以隐私、安全与自主可控为前提,尽量减少远程模型及外部服务接触个人数据的机会,并通过本地推理、文件本地存储及沙箱隔离等方式,降低数据泄露、模型越狱及恶意内容利用风险。 硬件方面,他测试了多款设备方案,包括搭载NVIDIA 5090 GPU的笔记本、AMD Ryzen AI Max Pro 128GB统一内存设备及DGX Spark等,并使用Qwen3.5 35B与122B模型开展本地推理测试。 性能数据上,NVIDIA 5090笔记本在35B模型下推理速度约为90 tokens/s,AMD方案约51 tokens/s,DGX Spark约60 tokens/s。Vitalik表示,他更倾向于基于高性能笔记本构建本地AI环境,同时采用llama-server、llama-swap及NixOS等工具搭建整体工作流。

0
0
  • 特斯拉盘后涨幅被抹平,一度涨超 4.5%

    火讯财经讯,据Gate行情数据显示,特斯拉美股盘后涨幅被抹平,此前一度涨超4.5%。

    1 小时前

  • TD Cowen:加密法案推进受阻,不止稳定币收益一项争议

    火讯财经讯,投行TD Cowen指出,围绕《CLARITY Act》的争议远不止稳定币收益相关问题,多重现实阻力可能延缓该立法进程。首先是美国商品期货交易委员会(CFTC)人手不足,目前仅剩下一名委员在职,在此情况下国会难以放心将更多加密监管职责移交该机构,而补足人员编制本身就需要数月时间。其次是预测市场监管问题引发的争议日益升温,是否将其纳入法案监管范围,以及可能涉及的内幕交易、政治利益冲突(包括与特朗普相关项目的争议),都可能促使部分民主党议员反对该法案。与此同时,围绕特朗普家族加密项目World Liberty Financial的持续争议,也提升了法案的政治敏感度,让跨党派共识更难达成。地缘政治同样成为变量,有关伊朗可能使用加密支付的讨论,正强化各方对反洗钱条款的关注,甚至可能催生对行业不利的修正案。此外还有议员尝试将《信用卡竞争法案》一并纳入本次立法,若该提议推进,可能引发新的利益冲突,进一步拖慢整体立法进度。

    1 小时前

  • 哈塞特:可以想象降息同时减少资产负债表

    火讯财经讯,白宫国家经济委员会主任哈塞特表示,其可以设想在实施降息的同时缩减资产负债表。

    2 小时前

  • IBM 美股盘后下跌 8%

    火讯财经讯,据相关消息,IBM美股盘后下跌8%

    3 小时前

  • 特斯拉盘后股价上涨 3%

    火讯财经讯,据Gate行情数据显示,特斯拉美股盘后上涨3%

    3 小时前