跳到正文

精选 · 看变化,也看用途

从工具新能力、经营管理场景和实际用法中,找一件值得进一步了解的事。

  1. 机器之心

    田渊栋新公司发布 Flint-40B-A2B 智能体编程模型,主打本地运行

    据机器之心知乎专栏报道,田渊栋参与创立的 Recursive_SI 发布首个模型 Flint-40B-A2B,这是一款面向本地硬件运行的智能体编程模型。该模型为混合专家架构,总参数 400 亿,每生成一个 Token 仅激活 25 亿参数。报道称,该模型由公司自研的自动化研究系统 Eureka Machine 全程参与打造,在少量员工与 AI 智能体共同参与下,从零开始不到 4 个月完成。

    为什么值得看:企业负责人可关注两点:一是可本地运行的智能体编程模型,涉及代码开发自动化与数据不出内网的部署可能;二是 AI 系统深度参与模型研发,反映研发流程效率的潜在变化。但模型许可、硬件门槛、评测细节和实际效果尚未在材料中充分披露,需进一步核实后再评估采用。

  1. 机器之心

    KTransformers 让 CPU 直接参与 MoE 微调计算,降低 GPU 显存依赖

    机器之心知乎专栏介绍,KTransformers 提出让 CPU 直接参与 MoE 微调计算。此前为降低 GPU 显存需求,常见做法是用 CPU 内存存储专家权重,再通过 PCIe 搬到 GPU 计算;该消息称新方案让 CPU 直接参与计算,以缓解资源受限条件下难以微调超大模型的问题。

    为什么值得看:对企业负责人而言,若团队需要微调或适配开源大模型,该方向可能降低对 GPU 显存的依赖,影响硬件成本与部署方式。但摘要未提供完整技术细节、实测效果与支持范围,需结合原文核实后再评估落地价值。

已经到底了