Hugging Face出典公開日

OlmoEarth v1.3: 地球全体のための最先端エンベディング

🤗 モデル | 📄 テックレポート | 📊 データ | 💻 コード | 🌎 エンベディング・エクスプローラー | 🗺️ インタラクティブストーリー

🤗 モデル | 📄 テックレポート | 📊 データ | 💻 コード | 🌎 エンベディング・エクスプローラー | 🗺️ インタラクティブストーリー

本日、私たちは OlmoEarth v1.3を公開します。これは最先端の衛星エンベディングモデルです。OlmoEarth v1.3とあわせて、地球全体の事前計算済みの年次エンベディング(10m、64および128次元)に加え、これらのエンベディングをもとに地図を探索・カスタマイズできる新しいブラウザベースのツール「 OlmoEarth Embeddings Explorer」も公開します。これにより、誰でもログイン不要、高度な技術知識も不要で、時間の経過による変化の追跡から類似地点の検索まで、すぐにOlmoEarth v1.3を活用できます。

これまで、OlmoEarthを利用する主な方法は、OlmoEarth Studioでのファインチューニングでした。つまり、タスクごとにモデルを訓練し、衛星画像に適用して地図を作成するもので、GPUへのアクセスと 画像データのダウンロード・保存の能力が必要でした。エンベディングモデルは衛星データをすぐに使える特徴量へ圧縮し、それを安価に多くのタスクで再利用できます。

OlmoEarth v1.3により、ユーザーの皆様がそれぞれに最も適した方法で、地球規模のアーティファクトを探索し活用できる選択肢をさらに広げられることを嬉しく思います。

一度計算すれば、どこでも再利用できる

エンベディングは、モデルが数百万枚の画像から学習した内容を表現したものです。OlmoEarth v1.3は1年分のレーダー(Sentinel-1)およびマルチスペクトル(Sentinel-2およびLandsat)衛星時系列データを読み込み、地球上の10メートルごとのピクセルに対して1本の128次元ベクトルを生成します。最初の64次元は、それ自体でより小さなエンベディングとしても機能します。

基盤モデルとグローバルエンベディングの生成には多大なコストがかかるため、誰もがその恩恵にアクセスできるよう、私たちは地球全体のエンベディングを計算し、 Source Cooperativeを通じてコミュニティに公開しました。これにより、作物マップ、土地被覆マップ、変化解析などは軽量なモデリング問題になります。上位に小さな分類器を訓練し、ローカルで実行すればよいのです。

OlmoEarth v1.3がエンベディングを作る仕組み:ビジョントランスフォーマーが衛星データを読み込み、Attention Poolerが各地域パッチごとに1本のベクトルへプーリングし、線形層がそれを128個の数値に削減します。

最先端のエンベディング

私たちはOlmoEarth v1.3のエンベディングを、AlphaEarth Foundations(AEF)およびTessera v2と比較し、6大陸と多様なタスクを網羅する27件の評価で検証しました。OlmoEarthの128次元エンベディングは27評価中20件で最高スコアを獲得し、総合順位でも首位です。半分のサイズである64次元版も、27評価中18件で首位を維持しています。この評価の一環として、私たちは 熱帯農業向けの新しい作物種別ベンチマークPLANTEURを導入しました。エンベディングは、分類器が一度も見たことのない場所に対して最も高い汎化性能を示します(PLANTEURの技術レポートは こちらで入手可能です)。モデルの背後にあるものはすべて完全にオープンです。モデルの重み、事前学習データ、事前学習コードが公開されています。

実務的には、OlmoEarthのエンベディング上で訓練された小さな分類器だけで、地上の状況をマッピングするのに十分であることを意味します。例えば、ケニアにおける小規模農家の作物分類、ダッカ西方における煉瓦窯の検出、インドネシアにおける火災被害の評価、ペルーのアマゾンにおける金鉱山の追跡などです。

これまでの世代のOlmoEarthモデルと比較して、OlmoEarth v1.3は訓練コストが最も低いモデルでもありました。前バージョン(v1.2)の53%、初代(v1)の18%の計算時間で、炭素排出量はそれぞれ50%と22%でした。さらに、研究用およびパートナーのラベル全体でv1.2の性能に匹敵する、強力なファインチューニングモデルでもあります。最新モデルは以前のOlmoEarthバージョンと同じ基盤の上に構築されており、タスク全体での精度を損なうことなくエンベディングを軽量に保つよう調整されています。この効率化の取り組みは、今後のバージョンにも引き継がれます。

完全な結果と手法は私たちの 技術レポート.

もし再現したい場合、OlmoEarth v1.3 Baseの事前学習にかかる最終ランの費用は、レンタルしたH100時間にして約2,720ドルです。重み、データ、コードはすべて公開されています。

ひとつの場所、9年間

各ピクセルの埋め込みが2017年から2020年(左)および2020年から2025年(右)の間にどれだけ変化したかを示します。マゼンタが最大の変化です。左:採掘が南東へ拡大しており、右下の大きな部分がそれに当たります。右:その一角は静かになり、変化は西側の古い採掘地帯に移っています。一部は再植生、一部は新たな掘削です。自分でも「」で探索してみてください。 OlmoEarth Embeddings Explorer。

ペルーのマドレ・デ・ディオス地方では、ラ・パンパ周辺の違法金採掘が2017年と2018年にピークを迎え、タンボパタ国立保護区の緩衝地帯で1,200ヘクタール以上の森林が伐採された。 アマゾン保全協会のMAAP監視プログラムによると2019年2月、ペルーの「マーキュリオ作戦」がその大部分を壊滅させた。それ以来の疑問は、それは本当に壊滅したままだったのか、ということだ。

埋め込みはその疑問に答えるのに役立ちます。モデルの訓練を一切行う必要なく、各ピクセルのベクトルを年ごとに比較すると、2017年から2020年のペアでは、採掘が南東へ広がっていた場所が明るく浮かび上がります。同じ比較を2020年から2025年で行うと、シグナルは変化します。この取り締まりの様子が埋め込みに表れているのです。

より興味深いのは、2つ目の地図にまだ映し出されている内容である。そこは暗闇ではない。According to MAAP一方、北西部のいくつかの採掘拠点は操業を続けており、土地が回復するにつれて旧鉱山地帯も変化し続けています。その変化もエンベディングに記録されます。猶予は短く、圧力はまた高まりつつあります。2026年8月には、 AP通信 報じられたところによると、検察が採掘活動がタンボパタ自体にまで侵入していることを確認した後、ペルーは海軍の巡視船を保護区に再び派遣した。

私たちの インタラクティブストーリー マドレ・デ・ディオスのこの一帯を題材に開き、そこから他のいくつかの例を取り上げて説明する。

OlmoEarth埋め込みエクスプローラー

The OlmoEarth Embeddings Explorer は、埋め込みそのものから構築されたインタラクティブな分析ツールで、地球を疑似カラーのマップとして表示します。どこでも自由にパンして移動し、年を切り替えて景観がどのように変化したかを確認し、基となる Sentinel-2 画像を呼び出してマップを実物と照らし合わせることができます。そして、質問を投げかけてみてください。場所をクリックして似た場所を探したり、ラベル付きの点をいくつか置いてその場で小さな分類器を学習させ、結果を GeoTIFF として書き出すこともできます。アカウント登録もセットアップも不要です。

多くのチームにとって、OlmoEarth でアイデアを試すことは、数時間規模のファインチューニングの実行を意味していました。エクスプローラーでは、最初の確認は数秒で済みます。わずかな数のラベルから地域全体を分析でき、GPU も必要ありません。ファインチューニングが必要なタスクの場合でも、埋め込みは、その計算に値するかどうか、またモデルのどこが不十分かを判断する助けになります。

エクスプローラーの基盤となるアーカイブには、10メートル解像度の埋め込みが保存されており、1年あたり約150 TB で、陸域と隣接する沿岸水域を対象としています。公開時点では、2025年、2024年、2023年は全球をカバーし、2017年から2022年は一部の国をカバーしており、今後さらに対象範囲が拡大する予定です。埋め込みは、フルの128次元バージョンまたはより軽量な64次元バージョンで取得できます。すべての埋め込みには、その出所を記録した情報も付属しています。各20キロメートルのタイルと年について、オープンなプロビナンス(来歴)テーブルに、モデルが読み込んだ Sentinel-1、Sentinel-2、および Landsat のシーンが、それらをホストする公開カタログへのリンクとともに一覧表示されており、どのピクセルもその基となる画像まで遡って追跡できます。

はじめに

このリリースには、OlmoEarth v1.3 Base モデル、事前計算済みの全球埋め込み、OlmoEarth Embeddings Explorer、および技術レポートが含まれています。特定の期間を対象とする必要がある場合は、OlmoEarth Studio が同じモデルを、選択した日付・モダリティ・解像度で実行でき、 tutorial では自分の計算環境で埋め込みを生成する方法を紹介しています。これらのツールは連携して機能します。Embeddings Explorer で調査し、タスクが必要とする場合は Studio でファインチューニングを行い、そこからマップを活用してください。すべて v1 および v1.2 と同じオープンライセンスである OlmoEarth Artifact License の下で公開されています。

関心のある場所の埋め込みを取得し、そこに疑問を投げかけ、発見したことを私たちに見せてください。

原文の出典

Hugging Face

内容について

原文の公開と権利は出典元に帰属します。

機械翻訳 · 原文をご参照ください