跳到正文

精选 · 看变化,也看用途

从工具新能力、经营管理场景和实际用法中,找一件值得进一步了解的事。

  1. The Verge · AI

    Meta 发布 Muse Spark 开放权重模型,称可借 Apple MLX 在 Mac 桌面本地运行

    Meta 宣布推出 Muse Spark 开放 AI 模型,称其为“迄今能力最强的美国开放权重模型”,并表示它是同类中首个可“使用两台搭载最新 MLX 框架的 Apple M5 Ultra Mac Studio 在桌面运行”的模型。Meta 与 Apple 就此展开合作。

    为什么值得看:对企业负责人而言,该消息指向开放权重模型的本地/桌面部署路径:若成立,可能降低对云端 API 的依赖、便于数据留在本地,并影响硬件采购与部署成本评估。但能力、性能与成本均为厂商披露,需自行验证后再纳入选型。

  1. Berkeley AI Research

    伯克利研究:K-Search 将 CUDA 内核经验迁移到 Apple Silicon,prefill 最高提速约 20 倍

    伯克利 AI 研究团队在 K-Search 进化式内核搜索框架上扩展了 MLX 后端,并开发结构化 CUDA-to-MLX 翻译层,使已有 CUDA 内核可作为知识库被自动适配为 Apple Silicon 上的高质量 GPU 内核,而非逐指令复制。研究团队披露,该方法在 Apple Silicon 上达到接近专家水平,相对原生 MLX Attention 内核为 0.97x,prefill 最高约 20x 加速。

    为什么值得看:企业负责人可关注其降低跨硬件内核迁移与重复调优成本的潜力,尤其是在 Apple Silicon 上部署 AI 推理时。但需注意性能为研究团队披露、尚未独立复现,且 0.97x 说明并非全面超越原生内核,生产可用性与部署范围仍待核实。

已经到底了