Autosubmit

Administrador de flujo de trabajo basado en Python para crear, administrar y monitorear tareas complejas que involucran diferentes subpasos, como experimentos computacionales científicos.

Institución:

Institution

Grupo de investigación:

Models and Workflows Team

Investigador/es:

Daniel Beltran, Miguel Castrillo, Kim Serradell, Francisco Javier Doblas Reyes, Domingo Manubens, Oriol Mula, Wilmer Uruchi

Autosubmit

Web:

https://earth.bsc.es/gitlab/es/autosubmit

Descripción:

Autosubmit es un gestor de flujo de trabajo ligero diseñado para satisfacer las necesidades de investigación climática. A diferencia de otras soluciones de flujo de trabajo en el dominio, integra las capacidades de un gestor de experimentos, un orquestador de flujo de trabajo y un monitor en una aplicación autónoma. El gestor de experimentos permite definir y configurar experimentos, respaldados por una base de datos jerárquica que garantiza la reproducibilidad y la trazabilidad. El orquestador está diseñado para ejecutar flujos de trabajo complejos en modo de investigación y operativo mediante la gestión de sus dependencias y la interacción con hosts locales y remotos. Estos flujos de trabajo de múltiples escalas pueden implicar desde unos pocos hasta miles de pasos y desde una hasta varias plataformas.

Autosubmit facilita una integración y reubicación fácil y rápida en nuevas plataformas. Por un lado, los usuarios pueden ejecutar rápidamente scripts generales y parametrizarlos progresivamente leyendo las variables de Autosubmit. Por otro lado, es una aplicación de escritorio autónoma capaz de enviar trabajos a plataformas remotas sin ninguna implementación externa.

Debido a su robustez, puede manejar diferentes eventualidades, como errores de red o de E/S. Por último, las capacidades de monitorización se extienden más allá de la aplicación de escritorio a través de una API REST que permite la comunicación con herramientas de monitorización de flujos de trabajo como la interfaz gráfica de usuario web de Autosubmit.

Autosubmit es un paquete de Python proporcionado en PyPI. Las recetas de Conda también se pueden encontrar en el sitio web. También está disponible una versión en contenedores para fines de prueba, pero aún no es pública.

Ha contribuido a varios proyectos de investigación europeos y ejecuta diferentes sistemas operativos. Durante los próximos años, dará soporte a algunos de los gemelos digitales de la Tierra como el Digital Twin Ocean.

En concreto, actualmente se utiliza en el Barcelona Supercomputing Centre (BSC) para ejecutar modelos (EC-Earth, MONARCH, NEMO, CALIOPE, HERMES...), cadenas de herramientas operativas (S2S4E), flujos de trabajo de descarga de datos (ECMWF MARS) y muchos otros. Autosubmit ha ejecutado estos flujos de trabajo en diferentes supercomputadoras en BSC, ECMWF, IC3, CESGA, EPCC, PDC y OLCF.

Problema:

N/A

Solución:

N/A

Áreas de aplicación:

N/A

Novedad:

N/A

Protección:

GPL License (Version 3.0)

Mercado objetivo:

N/A

Keywords:

computación distribuida, clima

TRL: N/A

CRL: N/A

BRL: N/A

IPRL: N/A

TmRL: N/A

FRL: N/A

Más información

Si quieres saber más sobre este proyecto no dudes en contactarnos

Contáctanos