跳到正文

全部动态

今日 9 条
9月12日周六
9月11日周五
  1. GitHub Blog · AI & ML49

    GitHub Copilot app 新手指南:如何使用 diff、终端和浏览器面板

    GitHub Copilot app 新增内置 diff、终端和浏览器三个面板,让你在不离开应用的情况下审查智能体代码改动、运行命令并预览效果。diff 面板以绿红高亮显示增删行,可接受更改、留言或让 Copilot 修改;终端面板支持运行 npm run dev 等脚本并开启多个窗口;浏览器面板通过 Pick & Polish 工具选中元素并配合智能体调整。

9月10日周四
  1. Hugging Face Blog52

    TRL AsyncGRPOTrainer 用 LoRA 和 Storage Bucket 在 HF Jobs 上跨机训练,无需 NCCL,500 步从 3 小时 27 分提速到 53 分钟

    Hugging Face 在 TRL v1.14 中让 AsyncGRPOTrainer 支持 LoRA 训练并仅同步几 MB 的适配器到 vLLM,借助 Storage Bucket 挂载在 trainer 与两个 vLLM replica 之间共享文件,配合一个负责加 auth 头、按 KV 前缀路由请求和广播适配器加载的代理,无需 NCCL 跨机通信。

9月9日周三
9月4日周五
  1. GitHub Blog · AI & ML48

    GitHub Copilot app 新手教程:如何同时运行多个 AI 智能体

    GitHub Copilot app 支持并行运行多个 AI 智能体会话,各会话基于独立 Git worktree 隔离运行,互不干扰且保留各自上下文。用户可在 sessions 视图中追踪进度,随时切换会话而无需重新说明背景。文中以 tailspin-toys 仓库为例,演示了同时执行新增功能、无障碍审查和运行测试三项任务。

9月3日周四
8月31日周一
8月26日周三
8月25日周二
8月21日周五
8月18日周二
  1. Hugging Face Blog71

    Sentence Transformers v6.0 新增 MultiVectorEncoder 支持 ColBERT 式 late interaction 检索

    Hugging Face 官方博客宣布 Sentence Transformers v6.0 新增第四种模型类型 MultiVectorEncoder,支持 ColBERT 式 late interaction 检索,任何 PyLate 和 Stanford-NLP ColBERT checkpoint 可直接加载,colpali-engine 模型也可用于视觉文档检索。

    推荐理由:官方教程覆盖加载、评分、索引与压缩的完整链路,读者可以据此判断多向量检索是否值得引入自己的搜索栈。

  2. Hugging Face Blog37

    Hugging Face 推出约束感知 GPU 分配器:同一集群利用率提升 33 个百分点,改变的只是分配顺序

    Hugging Face 构建了一个约束感知 GPU 分配器,并在七个基准场景中与 FIFO 调度器对比。在相同硬件与相同负载下,GPU 利用率最多提升 33 个百分点(如 8 GPU 训练型负载从 53.6% 升至 87.0%),优先级加权产出在每个场景均上升,最高达 105%,平均 52%。核心改法是把实时推理需求按曲线逐时间步分配、批类任务按优先级跨整个调度周期放置,而非按到达顺序分配。

8月14日周五
8月11日周二
7月16日周四
  1. Hugging Face Blog32

    DharmaOCR 实测:新模型迭出,专业化优势依旧

    DharmaOCR 在巴西葡萄牙语 OCR 基准上以 0.925 分超越更新的 Mistral OCR4(0.798)和 Unlimited-OCR(0.7587),验证了领域专业化的优势。该模型通过监督微调对齐巴西葡萄牙语的词汇与文档结构,再用 DPO 抑制重复或不连贯输出,实现最低退化率。文章指出,生成式 OCR 的可靠性取决于参数如何集中分配于单一领域,而非更大架构。

7月10日周五
  1. Hugging Face Blog61

    Hugging Face 发布 PyTorch Profiling 系列第三篇:用 profiler 拆解 attention 的六种实现

    Hugging Face 发布 Profiling in PyTorch 系列第三篇,在 NVIDIA A100 上用 profiler 对比朴素 attention、in-place 掩码、SDPA math/efficient/flash/cuDNN 六种实现的 trace。

    推荐理由:原文用 profiler 实测六种 attention 实现的内核差异,读者可以学会从 trace 里读出 inplace 省一次拷贝、SDPA 各后端的真实代价。

7月6日周一
  1. Hugging Face Blog47

    Hugging Face PRX 系列第四篇:我们的数据策略

    Hugging Face 详解 PRX 图像生成模型的数据管道:混合公开与内部数据集做预训练,用 VLM 重新生成长描述文本,再转成可流式训练语料。文本编码器已换为 Qwen3-VL 并改为训练时在线计算 text latents,吞吐仅损失约 3–4%。图像统一以 JPEG quality 92 编码,数据用 Lance 构建、以 MDS(Mosaic Streaming)流式供训练。

3月11日周三
1月22日周四
8月1日周五
4月9日周三
3月4日周二