#MoE

Recursive 发布 40B 参数本地编程模型 Flint，展示 AI 驱动研发流程首个成果

据 The Decoder 报道，AI 初创公司 Recursive 公布其首个语言模型 Flint，这是一个 40B 参数的 MoE 模型，面向本地编程场景，由前 DeepMind 研究人员开发。该模型在四个月内借助公司自研的 Eureka Machine 完成，该系统可独立测试并优化架构。报道同时指出，Recursive 尚未证明这一方法能否真正带来可自我改进的 AI。

同一新闻，精选展示《Recursive 发布笔记本端编程模型 Flint，称大部分由 AI 构建》

田渊栋新公司发布 Flint-40B-A2B 智能体编程模型，主打本地运行

据机器之心知乎专栏报道，田渊栋参与创立的 Recursive_SI 发布首个模型 Flint-40B-A2B，这是一款面向本地硬件运行的智能体编程模型。该模型为混合专家架构，总参数 400 亿，每生成一个 Token 仅激活 25 亿参数。报道称，该模型由公司自研的自动化研究系统 Eureka Machine 全程参与打造，在少量员工与 AI 智能体共同参与下，从零开始不到 4 个月完成。

同一新闻，精选展示《Recursive 发布笔记本端编程模型 Flint，称大部分由 AI 构建》

KTransformers 让 CPU 直接参与 MoE 微调计算，降低 GPU 显存依赖

机器之心知乎专栏介绍，KTransformers 提出让 CPU 直接参与 MoE 微调计算。此前为降低 GPU 显存需求，常见做法是用 CPU 内存存储专家权重，再通过 PCIe 搬到 GPU 计算；该消息称新方案让 CPU 直接参与计算，以缓解资源受限条件下难以微调超大模型的问题。