Zerobus Ingest ganha suporte a Apache Arrow e Lakebase soma snapshots (setembro/2026)
Entre as novidades de setembro no Databricks: ingestão via Arrow Flight no LakeFlow Connect chegou a GA, e o Lakebase ganhou uma API de snapshots em beta.
O Databricks anunciou disponibilidade geral (GA) do suporte a Apache Arrow para o Zerobus Ingest dentro do LakeFlow Connect, usando Arrow Flight como protocolo de transporte. Na prática, isso melhora a eficiência de ingestão de dados em alta taxa de transferência, já que o formato colunar do Arrow reduz custo de serialização comparado a formatos linha a linha tradicionais em cenários de streaming.
O Lakebase, banco Postgres gerenciado dentro do lakehouse, ganhou uma API de snapshots em beta — permitindo capturar o estado do banco em um ponto no tempo de forma programática, útil para cenários de backup, clonagem de ambiente de teste a partir de produção, ou auditoria pontual sem impactar a carga transacional em andamento.
Outras mudanças relevantes de setembro incluem telemetria do Databricks Apps chegando a GA (mais visibilidade operacional sobre apps rodando na plataforma) e políticas ABAC DENY em beta no Unity Catalog, que permitem negar explicitamente o privilégio de gerenciar controle de acesso mesmo para o dono do objeto — um reforço de governança relevante para ambientes com exigências regulatórias mais rígidas, como o setor financeiro.
Zerobus Ingest gains Apache Arrow support and Lakebase adds snapshots (September 2026)
Among September's Databricks updates: Arrow Flight ingestion in LakeFlow Connect reached GA, and Lakebase gained a snapshots API in beta.
Databricks announced general availability (GA) of Apache Arrow support for Zerobus Ingest within LakeFlow Connect, using Arrow Flight as the transport protocol. In practice, this improves ingestion efficiency for high-throughput data, since Arrow's columnar format reduces serialization cost compared to traditional row-by-row formats in streaming scenarios.
Lakebase, the managed Postgres database inside the lakehouse, gained a snapshots API in beta, allowing you to programmatically capture the database's state at a point in time, useful for backup scenarios, cloning a test environment from production, or point-in-time auditing without impacting ongoing transactional load.
Other notable September changes include Databricks Apps telemetry reaching GA (more operational visibility over apps running on the platform) and ABAC DENY policies in beta on Unity Catalog, which let you explicitly deny the privilege to manage access control even for the object's owner, a relevant governance reinforcement for environments with stricter regulatory requirements, such as financial services.