跳到正文
#CUDA

精选 · 看变化，也看用途

从工具新能力、经营管理场景和实际用法中，找一件值得进一步了解的事。

  1. 机器之心

    谷歌开源 TorchTPU：PyTorch 可原生运行于 TPU

    据机器之心报道，谷歌在圣何塞举行的 PyTorch Conference 2026 上宣布开源 TorchTPU，这是一套让 PyTorch 原生运行在 TPU 上的完整软件栈。报道称，在 Hugging Face Transformers v5 中把模型部署到 TPU 只需传入 device_map="tpu" 参数。来源将此举视为谷歌软件路线的转向，并称其是对英伟达 CUDA 生态的正面挑战。

    为什么值得看：企业负责人可关注模型部署硬件选项的变化：若 PyTorch 模型能以较低改造成本运行在 TPU 上，推理基础设施的选型与供应链多元化可能多一个方向。但该能力目前仅为媒体报道，成熟度、性能与生产可用性尚待核实，不宜据此立即调整部署策略。

  1. Berkeley AI Research

    伯克利研究：K-Search 将 CUDA 内核经验迁移到 Apple Silicon，prefill 最高提速约 20 倍

    伯克利 AI 研究团队在 K-Search 进化式内核搜索框架上扩展了 MLX 后端，并开发结构化 CUDA-to-MLX 翻译层，使已有 CUDA 内核可作为知识库被自动适配为 Apple Silicon 上的高质量 GPU 内核，而非逐指令复制。研究团队披露，该方法在 Apple Silicon 上达到接近专家水平，相对原生 MLX Attention 内核为 0.97x，prefill 最高约 20x 加速。

    为什么值得看：企业负责人可关注其降低跨硬件内核迁移与重复调优成本的潜力，尤其是在 Apple Silicon 上部署 AI 推理时。但需注意性能为研究团队披露、尚未独立复现，且 0.97x 说明并非全面超越原生内核，生产可用性与部署范围仍待核实。

已经到底了