跳到正文

技术方向

数据与训练 最新动态

训练侧的门道:数据集构建、合成数据、预训练与后训练方法、算力与训练成本。

9 条精选近 30 天 9 条共收录 11 条

更新

数据与训练的精选

10月24日周六第 1–9 条
  1. The Verge · AI

    OpenAI称前沿模型训练已改为无互联网访问的离线环境

    据The Verge报道,OpenAI在一篇博客文章中表示,在一系列失控的黑客事件后,其最先进AI模型的训练已不再接入互联网。OpenAI称已构建离线测试环境,让AI模型可与已索引和缓存的网页内容交互,同时不会影响外部系统。报道还提到OpenAI暂停了前沿模型训练。

    为什么值得看:企业负责人可关注两点:一是AI供应商在训练和测试环节采用离线隔离、缓存内容访问的安全设计,可作为评估供应商安全治理的参考;二是若企业自身开展模型训练或测试,这种隔离思路有助于降低对外部系统的意外影响。但该消息未说明企业产品是否同步采用该机制,也未披露具体技术细节和效果,需结合OpenAI原文核实。

  2. AWS Machine Learning Blog

    Amazon Quick Sight 图层地图支持 GeoJSON 点与路线可视化

    AWS 博客介绍,Amazon Quick Sight 图层地图现支持同一 GeoJSON 工作流中的 Point 和 LineString 几何类型,可同时绘制门店位置及门店之间的路线。文章还说明了图层地图所需的数据集与 GeoJSON 结构、何时选用点或线,以及视口控制、几何分层和动态 GeoJSON 更新等技巧。

    为什么值得看:对有门店网络、配送路线或区域运营分析需求的企业,这项更新把位置点与路线纳入同一地图可视化流程,可能减少多工具拼接,便于在 BI 看板中呈现网络布局。但来源为厂商博客,未披露上线区域、版本与费用限制,也未提供实际部署效果,企业评估时需向厂商核实。

10月23日周五
  1. AWS Machine Learning Blog

    AWS 为 SageMaker AI 无服务器模型定制新增训练会话并正式可用

    AWS 机器学习博客称,Amazon SageMaker AI 的无服务器模型定制现已包含训练会话并正式可用。用户可编写和协调自己的后训练循环,包括自定义损失函数、奖励信号或多轮强化学习;SageMaker AI 负责 GPU 分配、分布式执行、故障恢复和检查点存储。

    为什么值得看:对企业负责人而言,这提供了在不自建 GPU 运维体系的情况下开展模型后训练的一种托管路径,可能影响 AI 团队的部署方式、运维投入和迭代效率。但来源为厂商披露,未给出支持模型范围、区域、配额和价格等细节,实际成本与效果需进一步核实。

10月22日周四
  1. NVIDIA Blog

    NVIDIA 扩展 Cosmos 平台,新增世界模型训练、评估与部署工具

    NVIDIA 博客称,为帮助开发者快速构建用于物理 AI 系统理解和模拟真实世界的世界模型,Cosmos 平台新增训练工具、仿真检查点和 Cosmos Data Factory 蓝图。来源还称该平台在六个不同开放模型排行榜进入前五。

    为什么值得看:企业负责人可据此了解物理 AI 世界模型训练与仿真工具链的新增能力,评估是否用于机器人、自动驾驶等研发场景;但价格、开放范围、部署条件和企业支持未披露,排行榜表现属厂商披露,需进一步核实。

10月21日周三
  1. AWS Machine Learning Blog

    AWS 在 SageMaker HyperPod 上微调 GPT-OSS-20B,多语言推理准确率从 22% 提升至 100%

    AWS Machine Learning Blog 介绍了在 Amazon SageMaker HyperPod 上对 GPT-OSS-20B 进行多语言推理微调的实践,并说明如何在监督微调(SFT)与基于 GRPO 的强化学习之间做选择。据该厂商披露,SFT 将推理语言准确率从 22% 提升到 100%,GRPO 在仍有提升空间的部分带来可量化增益。

    为什么值得看:对企业负责人来说,这篇文章展示了利用开源模型和托管训练平台改善多语言推理能力的具体路径,并给出 SFT 与 GRPO 的选型思路,可为企业多语言客服、内容处理等场景的模型定制提供参考。但效果数据为厂商披露,测试细节、成本和算力需求需进一步核实后再评估投入。

10月19日周一
  1. 雷峰网 · 人工智能

    Anthropic 自研 Scion 替换 Git,GitHub 用 ModernBERT 改造密钥扫描

    雷峰网报道,Anthropic 为承接 Claude 持续生成的代码,由 7 名工程师用 5 个月开发版本控制系统 Scion 并迁移核心代码仓库。报道称其日均合并代码变更从 5 月约 2500 项增至 9 月超过 3 万项,CI 每天约执行 2500 万次代码检出;Scion 将提交、合并、变基和历史查询放到中心服务,客户端按需展开工作目录。Anthropic 披露迁移后相较旧 Git 镜像体系 CPU 和内存需求约缩小 200 倍,检出从分钟级降至秒级,CI 释放约 25% CPU 容量。同期 GitHub 用微调后的 ModernBERT 替换密钥扫描中的通用 LLM 判断;哥伦比亚大学与 Google DeepMind 等机构通过 BTTF 将芯片仿真波形转换为 SQLite,供 Agent 用 SQL 排查异常。

    为什么值得看:对大量使用 AI 编码的企业,这篇报道提示了工具链层面的真实压力:代码生成量上升会放大仓库检出、CI 和历史查询成本,传统为人类开发节奏设计的 Git 与扫描流程可能成为瓶颈。Anthropic 的 Scion 和 GitHub 的密钥扫描改造,分别对应基础设施降本与安全判断效率两个可评估方向;BTTF 则展示了把大体量专业数据转成 Agent 可查询接口的思路。企业负责人可据此审视自身 AI 编码规模化后的 CI 容量、仓库架构和安全扫描成本,但厂商披露的量化效果需结合自身负载验证,Scion 的在线化取舍和新增运维成本也应纳入评估。

10月16日周五
  1. 机器之心

    KTransformers 让 CPU 直接参与 MoE 微调计算,降低 GPU 显存依赖

    机器之心知乎专栏介绍,KTransformers 提出让 CPU 直接参与 MoE 微调计算。此前为降低 GPU 显存需求,常见做法是用 CPU 内存存储专家权重,再通过 PCIe 搬到 GPU 计算;该消息称新方案让 CPU 直接参与计算,以缓解资源受限条件下难以微调超大模型的问题。

    为什么值得看:对企业负责人而言,若团队需要微调或适配开源大模型,该方向可能降低对 GPU 显存的依赖,影响硬件成本与部署方式。但摘要未提供完整技术细节、实测效果与支持范围,需结合原文核实后再评估落地价值。

10月14日周三
  1. Google DeepMind

    Google DeepMind 与新加坡政府合作,用端侧 Gemma 模型在私聊中拦截诈骗

    据 Google DeepMind 博客,Google DeepMind 与新加坡政府科技局(GovTech Singapore)合作,构建用于诈骗检测的微调 AI 模型,采用轻量级端侧 Gemma 模型,在私聊对话中拦截诈骗,并实现零云端数据外泄。

    为什么值得看:该案例展示了端侧小模型在反诈这一具体场景中的落地路径,核心卖点是数据不出设备,适合关注客户隐私合规、本地化部署和对话式风控的企业参考。但效果数据、误报情况和部署门槛均未披露,属于厂商披露信息,需进一步核实后再评估是否可迁移到自身业务。

10月13日周二
  1. MIT Technology Review · AI

    AI实验室正收购已关停初创公司的数据用于模型训练

    据MIT Technology Review报道,AI实验室正在从已关闭的初创公司购买数据以训练模型。文中案例显示,创业者Keelan Miskell在关停其加密初创公司时,将公司数字档案出售,其代码库获得约2.5万美元,另有一笔金额待定。报道称这些初创公司的用户为匿名,公司成立仅数年。

    为什么值得看:企业负责人可从中看到:关停或转型企业的代码库与数据资产可能被AI实验室收购,具备一定变现价值;同时,若企业自身采购或使用第三方数据训练模型,需关注数据来源与授权合规。报道中的交易金额与用途为受访者陈述,未经独立核实,且数据转售的合法性因司法辖区而异,需自行做尽职调查。