QA4SM-AVTB-EXP

Quality Assurance for Soil Moisture (QA4SM) - Automatic Valication Testbed & Experiments

Programm / Ausschreibung ASAP, ASAP, ASAP 14. Ausschreibung (2017) Status abgeschlossen
Projektstart 01.05.2018 Projektende 31.10.2019
Zeitraum 2018 - 2019 Projektlaufzeit 18 Monate
Keywords Earth Observation, Sentinel Data, Data Validation, Soil Moisture

Projektbeschreibung

Die aktuellen Validierungs-Standards für biophysikalische Datenprodukte höherer Levels von Fernerkundingssatelliten wurden vor etwa 20 Jahren etabliert. Sie basieren auf manuellen und aufwendigen Validierungs-Kampangnen von Bodendaten, die von unabhängigen Institutionen durchgeführt werden und meist 1-3 Jahre nach der Datenentstehung dauern. Dies erschwert die Übertragung von Validierungsprozeduren zwischen verschiedenen Datenprodukten und -versionen, was die Vergleichbarkeit beschränkt. Das steht in deutlichem Kontrast zur Entwicklung der Produktionsprozesse, etwa in den Copernicus und ESA CCI Programmen. Z.B. wurde für das Copernicus Climate Change Servcie (C3S) ein aktuelles Produktionssystem für Bodenfeuchte aufgebaut, dass Intermediate und Thematic Climate Date Records (ICDR, TCDR) in zehn Tage-, bzw. sechs Monats-Intervallen erzeugt.

Das Quality Assurance for Soil Moisture (QA4SM) Projekt zielt auf die Standardisierung und Automatisierung von Qualitätskontrolle (QC) und unabhängigen Validierungen. In einer systematischen Studie für ein künftiges automatisiertes Validierungs-Service, sollen die bekannten Prozeduren in einem gemeinsamen Konzept und einem Automatischen Validierungs-Testbed (AVTB) vereint werden. Die Machbarkeit wird methodologisch und technisch untersucht. Dabei werden Architektur und Kernkomponenten des AVTB entwickelt und im Projekt zur experimentellen Erprobung von Verifizierungs- und Validierungsmethoden verwendet. Anforderungen sind dabei sowohl die Skalierung von Punktdaten von Bodenmessstationen auf die 100 m Skala (Sentinel) und die 10 km Skala von gegenwärtigen Klimadaten, als auch die Rückverfolgbarkeit und Wiederholbarkeit der Validierungs-ergebnisse. Das Konzept soll grundsätzlich Copernicus, ESA, NASA und EUMETSAT Missionen und Services (z.B. Sentinel-1, ASCAT, SMOS, SMAP, ESA CCI und Copernicus Land und Climate Services), sowie globale Einschätzungen durch WCRP GEWEX, unterstützen. Während das Konzept allgemein für biophysikalische Variable anwendbar sein soll, wird sich die Erprobung im Projekt auf Bodenfeuchte konzentrieren, für die viele bereits bewährte Validierungsmethoden vorliegen. Das AVTB wird Funktionen zur Konfiguration, Ausführung und Überwachung von Validierungsaufgaben beinhalten. Die verwendeten und erzeugten Daten und Nebenprodukte werden unter systematischer Versionskontrolle stehen.

Zum Projekterfolg wird Forschung und Entwicklung in mehreren Einzelgebieten benötigt, zwischen denen terminologische und konzeptuelle Unterschiede zu überwinden sind. Dazu werden erfolgreiche Ansätze aus den einzelnen Gebieten in einem übergreifenden Konzept vereint und praktisch verfügbar gemacht. Geeignete Validierungsmethoden werden als Software-Toolbox zusammengestellt und ihrerseits innerhalb des Projekts evaluiert und weiter entwickelt. Dabei wird das nötige Wissen im Projekt-Team und Vertrauen der EO Gemeinde aufgebaut, so dass eine nachfolgende Weiterentwicklung zu einem einsetzbaren Validierungs-Service machbar wird. Das Projekt-Team wird sich in diesem Zusammenhang um die Akzeptanz des Konzepts und des entstehenden AVTB bei CEOS, Copernicus, ECMWF, ESA, EU, GCOS, NASA, WCRP GEWEX und auf nationaler Ebene bemühen.

Abstract

The current standards for the validation of higher-level, biogeophysical data products from remote sensing satellites were established about 20 years ago. They are based on manual and effortful ground validation campaigns carried out by independent institutions around the world, and typically take about 1-3 years to complete after the initial product generation. This makes it difficult to transfer validation procedures between products, versions, and groups, thus limiting inter-comparability. This is in sharp contrast to the production processes that were developed to industrial standards over the last ten years by the Copernicus and ESA CCI programmes. For example, an operational production chain for soil moisture (SM) was recently established by Copernicus C3S and is now generating Intermediate Climate Data Records (ICDRs) in near-real-time (every ten days) and Thematic CDRs (TCDRs) every six months.

The Quality Assurance for Soil Moisture (QA4SM) project aims at the standardisation and automation of quality control (QC) and independent validations. We propose to bring the known procedures together into a single concept, and to build an Automatic Validation Testbed (AVTB) for a systematic study towards an automatic validation service. Feasibility assessments shall be made at methodological and system levels. This will be achieved by developing an executable architecture and prototyping core components of the AVTB, and using it for experiments with candidate verification & validation (V&V) techniques. Requirements are the scaling up from point (in situ) scale to 100s of meters (Sentinels) to 10s of kilometres (operational coarse resolution), and to have validation results traceable and reproducible from validation reports. The concept shall support Copernicus, ESA, NASA and EUMETSAT missions and services (incl. Sentinel-1, ASCAT, SMOS, SMAP, ESA CCI, and Copernicus land and climate services) and global satellite assessments by WCRP GEWEX. Although applicable to biogeophysical variables in general, we will prove it for SM because of the maturity and variety of the validation methods available for this variable. The AVTB shall run on cloud computing architectures and have web service interfaces for configuration, execution and monitoring of validation tasks. The used and generated data, artefacts and traceability information shall be under version control.

The successful completion of the project will involve R&D in several specialisation areas and will require the overcoming of the differences in understanding of concepts and vocabulary between them. It will harness best practices of individual fields into a combined concept. A toolbox of appropriate techniques for automatic V&V of retrieving systems and data products will be assembled and proved by the AVTB, which itself will be evaluated and evolved over time. The team and the EO community will acquire the right amount of knowledge and confidence so that a later development to an operational validation service will become feasible. The team will strive for acceptance of the concept and AVTB by the international and European organisations, CEOS, Copernicus, ECMWF, ESA, European Commission, GCOS, NASA, WCRP GEWEX, and the national delegations.