DuckLake: formato de lago de datos integrado con DuckDB

Fuentes: DuckLake: integrated data lake and catalog format for DuckDB

DuckLake es un formato de lago de datos integrado y de catálogo abierto que se construye sobre SQL y Parquet. Este sistema permite almacenar metadatos en una base de datos de catálogo y los datos en archivos Parquet, facilitando la gestión de grandes volúmenes de información mediante un enfoque unificado. La extensión de DuckLake permite a DuckDB leer y escribir datos directamente desde DuckLake, integrando la capa de almacenamiento con el motor de consulta.

La instalación se realiza mediante el comando INSTALL, y las bases de datos pueden adjuntarse utilizando la sintaxis ATTACH, lo que permite crear, modificar y consultar tablas mediante SQL estándar. El sistema soporta transacciones, control de versiones y gestión de cambios, como se demuestra en los ejemplos de uso que muestran la inserción, actualización y consulta de datos a través de snapshots. Además, ofrece la capacidad de rastrear cambios de datos mediante funciones específicas que registran insertiones, actualizaciones y eliminaciones.

Para el desarrollo, el proyecto requiere la inicialización de submódulos y la compilación con make, utilizando versiones específicas de DuckDB y PostgreSQL o SQLite como bases de datos de catálogo. Los contribuyentes externos pueden participar en la rama main, donde se ejecutan pruebas unitarias y de integración para validar la estabilidad del backend de almacenamiento. DuckLake se posiciona como una alternativa robusta para arquitecturas de datos que buscan simplificar la gestión de metadatos y datos en entornos de análisis de datos modernos.