跳到正文

技术方向

端侧 AI 最新动态

跑在手机、电脑与边缘设备上的 AI:小模型、本地推理与端侧芯片的进展。

2 条精选近 30 天 2 条共收录 2 条

更新

端侧 AI的精选

10月20日周二第 1–2 条
  1. TechCrunch · AI

    Nvidia 发布新开放模型,瞄准企业数据中心与 PC 端私有智能体

    据 TechCrunch 报道,Nvidia 发布新的开放模型,方向是让企业在自有数据中心运行智能体,并推动在 PC 上运行私有的端侧 AI 智能体。报道称,这顺应了企业希望在自己的数据中心运行自有开放模型的趋势。

    为什么值得看:企业负责人可关注两点:一是开放模型能否降低对公有云 API 的依赖,便于把智能体部署在自有数据中心;二是 PC 端私有智能体对数据不出本地的场景是否有帮助。但模型规格、许可条款、硬件门槛和实际效果均未在来源中说明,需查阅 Nvidia 官方发布后再评估落地可行性。

10月14日周三
  1. Google DeepMind

    Google DeepMind 与新加坡政府合作,用端侧 Gemma 模型在私聊中拦截诈骗

    据 Google DeepMind 博客,Google DeepMind 与新加坡政府科技局(GovTech Singapore)合作,构建用于诈骗检测的微调 AI 模型,采用轻量级端侧 Gemma 模型,在私聊对话中拦截诈骗,并实现零云端数据外泄。

    为什么值得看:该案例展示了端侧小模型在反诈这一具体场景中的落地路径,核心卖点是数据不出设备,适合关注客户隐私合规、本地化部署和对话式风控的企业参考。但效果数据、误报情况和部署门槛均未披露,属于厂商披露信息,需进一步核实后再评估是否可迁移到自身业务。