跳到正文
Hugging Face Blog·· 4 小时前AI 评分54

Ai2 发布 OlmoEarth v1.3 卫星嵌入模型并开源全球嵌入数据

OlmoEarth v1.3: State-of-the-art embeddings for the whole planet

AI 导读

AllenAI 发布卫星嵌入模型 OlmoEarth v1.3,在覆盖六大洲的 27 项评测中,其 128 维嵌入在 20 项上得分最高、整体排名第一,64 维版本在 18 项上领先。

正文 · AI 翻译

🤗 模型 | 📄 技术报告 | 📊 数据 | 💻 代码 | 🌎 嵌入探索器 | 🗺️ 互动故事

Pixelated globe in teal and magenta above the OlmoEarth 1.3 wordmark on a dark green background.

今天,我们发布 OlmoEarth v1.3,一个最先进的卫星嵌入模型。与 OlmoEarth v1.3 一起,我们还共享了为整个星球预计算的年度嵌入(10 米分辨率、64 维和 128 维),以及一款全新的基于浏览器的工具,用于探索和自定义基于这些嵌入的地图——OlmoEarth 嵌入探索器。这意味着任何人都可以立即使用 OlmoEarth v1.3,从追踪随时间的变化到查找相似地点——无需登录,也无需高深的技术知识。

在此之前,使用 OlmoEarth 的主要方式是在 OlmoEarth Studio 中进行微调:为每个任务训练一个模型,并在卫星影像上运行以生成地图。这需要 GPU 访问权限,以及下载和存储影像的能力。嵌入模型将卫星数据压缩为即用型特征,可以低成本地复用于许多任务。

借助 OlmoEarth v1.3,我们很高兴能为用户提供更多方式,以最适合自己的方式探索和使用这些全球尺度的数据产品。

一次计算,处处复用

嵌入代表了模型从数百万张图像中学到的内容。OlmoEarth v1.3 读取一年的雷达(Sentinel-1)和多光谱(Sentinel-2 与 Landsat)卫星时间序列,并为地球上每个 10 米像素生成一个 128 维向量;前 64 维也可以单独用作更小的嵌入。

基础模型和全球嵌入的生产成本高昂,为了确保每个人都能受益,我们为整个星球计算了这些嵌入,并在 Source Cooperative 上与社区共享。在此基础上,作物地图、土地覆盖地图或变化分析都变成了轻量级的建模问题:只需在其上训练一个小型分类器,然后在本地运行即可。

Diagram showing satellite time series passing through a vision transformer, attention pooler, and linear projection to produce 128-dimensional embeddings.

OlmoEarth v1.3 如何生成嵌入:视觉 transformer 读取卫星数据,Attention Pooler 将其池化为每个地块一个向量,再由线性层将其降维至 128 个数字。

最先进的嵌入

我们在 27 项评估中将 OlmoEarth v1.3 的嵌入与 AlphaEarth Foundations(AEF)和 Tessera v2 进行了对比,覆盖六大洲和多种不同任务。OlmoEarth 的 128 维嵌入在 27 项评估中的 20 项得分最高,总体排名最高。64 维版本体积减半,仍在 27 项评估中的 18 项领先。作为本次评估的一部分,我们推出了 PLANTEUR,一个针对热带农业的新型作物类型基准,且这些嵌入在分类器从未见过的地区泛化能力最佳(PLANTEUR 技术报告可在此获取)。其背后的一切完全开放:模型权重、预训练数据和预训练代码。

在实践中,这意味着只需在 OlmoEarth 嵌入上训练一个小型分类器,就足以绘制地面上的情况:比如对肯尼亚小农户的作物进行分类、检测达卡以西的砖窑、评估印度尼西亚的火灾损失,以及追踪秘鲁亚马逊的金矿开采。

与前几代 OlmoEarth 模型相比,OlmoEarth v1.3 也是我们训练成本最低的模型。它的训练耗时仅为上一版本(v1.2)的 53%、第一个版本(v1)的 18%,碳排放分别为 50% 和 22%。同时它仍然是一个强大的微调模型,在研究和合作伙伴标签上的表现与 v1.2 相当。我们的最新模型建立在早期 OlmoEarth 版本相同的基础之上,经过调优,嵌入在保持轻量化的同时不牺牲跨任务的准确性,而这项效率工作也将延续到后续版本中。

完整结果与方法请见我们的技术报告。

Bar chart comparing rented H100 pretraining costs: $15,060 for OlmoEarth v1 Base, $5,100 for v1.2 Base, and $2,720 for v1.3 Base.

如果你想复现它,最终一次运行中预训练 OlmoEarth v1.3 Base 大约需要花费 2,720 美元租用 H100 算力。权重、数据和代码全部开源。

同一个地点,九年时间

Maps of embedding change in La Pampa, Peru, comparing 2017–2020 and 2020–2025, with magenta indicating the largest changes.

每个像素的嵌入在 2017 年到 2020 年之间(左)以及 2020 年到 2025 年之间(右)的变化程度。品红色代表变化最大。左图:采矿向东南方向蔓延,即右下方的大片区域。右图:那个角落已经归于平静;变化如今转移到了西侧的旧矿区,部分是植被再生,部分是重新开挖。你可以在 OlmoEarth Embeddings Explorer 中亲自探索。

据亚马逊保护协会的 MAAP 监测项目称,在秘鲁的马德雷德迪奥斯地区,拉潘帕周边的非法金矿开采在 2017 年和 2018 年达到顶峰,在坦博帕塔国家保护区的缓冲区内砍伐了超过 1,200 公顷的森林。2019 年 2 月,秘鲁的“水星行动”关闭了其中大部分。此后一直悬而未决的问题是:它真的被遏制住了吗?

嵌入有助于回答这个问题。比较每个像素在多个年份间的向量,无需任何模型训练,2017 年到 2020 年这一组数据就亮出了采矿向东南方向蔓延的区域。再运行 2020 年到 2025 年的同样比较,信号发生了转移。这次打击行动在嵌入中清晰可见。

更有意思的是第二张地图仍然显示的内容。它并不是一片漆黑。据 MAAP 称,西北部的一些据点仍在运作,而随着土地恢复,旧矿区也在持续变化。嵌入同样记录了这些。喘息是短暂的,压力正在重新积聚。据美联社报道,2026 年 8 月,在检察官发现采矿活动已侵入坦博帕塔保护区本身后,秘鲁再次向保护区派出海军巡逻队。

我们的互动故事就从马德雷德迪奥斯的这一段区域展开,并由此介绍了其他几个示例。

Another way to view our planet. Explore the OlmoEarth interactive story.

OlmoEarth Embeddings Explorer

OlmoEarth Embeddings Explorer 是一款基于嵌入本身构建的交互式分析工具,以地球伪彩色地图的形式呈现。你可以在任意位置平移,切换年份查看地貌如何变化,并调出底层的 Sentinel-2 影像,将地图与真实情况对照。然后开始提问:点击一个地点,找出与它相似的其他地点;或者标注几个点,现场训练一个小型分类器,再将结果导出为 GeoTIFF。无需账号,无需任何设置。

对许多团队来说,在 OlmoEarth 上验证一个想法意味着一次数小时量级的微调运行。而在 Explorer 中,第一遍分析只需几秒钟。你可以从少量标注出发分析整个区域,无需 GPU。当任务确实需要微调时,这些嵌入可以帮助你判断它是否值得投入算力,以及模型在哪些方面还有不足。

Explorer 背后的存档包含 10 米分辨率的嵌入,每年约 150 TB,覆盖陆地及邻近的近海水域。发布时,2025、2024 和 2023 年的数据覆盖全球,2017 至 2022 年覆盖部分选定的国家,未来还会扩大覆盖范围。你可以获取完整 128 维版本的嵌入,也可以获取更轻量的 64 维版本。每个嵌入还附带其来源记录。对于每个 20 公里的图块和年份,公开的溯源表列出了模型读取的 Sentinel-1、Sentinel-2 和 Landsat 场景,并附有托管这些数据的公开目录链接,因此你可以将任何像素追溯到其背后的影像。

开始使用

此次发布包括 OlmoEarth v1.3 Base 模型、预计算的全球嵌入、OlmoEarth Embeddings Explorer 以及技术报告。如果你的工作需要特定的时间窗口,OlmoEarth Studio 可以在你选择的日期、模态和分辨率上运行同一模型,并且有一个教程展示如何在你自己的算力上生成嵌入。这些工具可以协同工作:先在 Embeddings Explorer 中探索,当任务需要时在 Studio 中进行微调,然后从那里继续完善你的地图。所有内容均以 OlmoEarth Artifact License 发布,与 v1 和 v1.2 采用相同的开放许可证。

为你关心的地点获取嵌入,向它们提出你的问题,并把你的发现告诉我们。

来源: Hugging Face Blog · huggingface.co