pg-cdc: captura de cambios de PostgreSQL a AWS S3 increíblemente simple
Características principales
Repositorio Git: https://github.com/burnside-project/pg-cdc
pg-cdc va mucho más allá de la simple replicación. La herramienta extrae los cambios registrados en los WAL (Write Ahead Logs) de PostgreSQL en producción y los convierte en tablas Iceberg tipadas, inmutables y consultables históricamente almacenadas en Amazon S3. Cada entidad queda registrada automáticamente en el AWS Glue Catalog. Además, cada acceso a los datos está protegido mediante etiquetas de AWS Lake Formation, permitiendo que agentes de IA, analistas y motores de consulta trabajen con datos gobernados sin acceder directamente a la base de datos de origen ni necesitar credenciales de PostgreSQL. Sin JVM. Un solo ejecutable.
No existe un canal de retorno: el flujo del WAL es unidireccional y los archivos Parquet permanecen inmutables. Los agentes nunca pueden modificar los datos de producción. No se requieren credenciales de base de datos: los consumidores acceden mediante AWS IAM y Lake Formation, sin utilizar cadenas de conexión tradicionales. Gobernanza de forma predeterminada: cualquier dato que no tenga etiquetas permanece oculto; las etiquetas de Lake Formation determinan quién puede leer cada dato, incluso a nivel de columna. Histórico y time travel incorporados: cada proceso de escritura genera una instantánea de Iceberg; los epochs de CDC y las etiquetas inmutables raw@<ts> permiten realizar consultas sobre estados históricos sin recurrir a bifurcaciones de las bases de datos.

