Airbyte

基于 Java 的开源数据库工具
授权协议 MIT
开发语言 Java
所属分类 数据库相关、 数据库管理工具
软件类型 开源软件
地区 不详
投 递 者 柯鸿云
操作系统 跨平台
开源组织
适用人群 未知
 软件概览

Airbyte 是一个开放源代码的平台,可帮助用户将数据从应用程序,API 和数据库中同步到仓库。使得数据集成变得简单、安全和可扩展。

Airbyte 的使命:

  • 只需对源和仓库进行身份验证,并获得适合您的架构和 API 更改的连接器。
  • 通过提供计划和编排,可以使用偏好的语言轻松添加所需的新连接器。
  • 从社区经过测试的连接器中受益,并使它们适应您的特定需求。
  • 完全控制您的数据以及数据传输成本。
  • 由于Airbyte是自托管的,因此不再需要执行任何安全合规性过程。
  • 正如基于云的解决方案所提供的那样,不再需要按量计价。

快速开始

git clone https://github.com/airbytehq/airbyte.git
cd airbyte
docker-compose up

特性:

  • 专为扩展性而设计:可以根据需要调整现有的连接器,或轻松地构建新的连接器。
  • 可选的标准化模式:完全可定制,从原始数据开始或从标准化数据开始。
  • 全等级调度程序:以所需的频率自动执行复制。
  • 实时监控:详细记录所有错误。
  • 增量更新:自动复制基于增量更新,以减少数据传输成本。
  • 手动完全刷新:手动重新同步所有数据以重新开始。
  • 调试自主权:无需等待就可以根据需要修改和调试管道。
  • Linux环境部署 前置要求 机器配置2c4g(最低),4c8g(推荐) docker docker-compose (要求新版本的docker-compose) 安装airbyte,打开终端,进入你想安装airbyte的目录。 #Clone代码 git clone https://github.com/airbytehq/airbyte.git #进入airbyte目录cd airbyte #修

  • Airbyte API涵盖了Airbyte功能的方方面面,主要分类: Source_definition:来源定义,实现了来源的增删改查功能。 Destination_definition:目标定义,实现了目标的增删改查功能。 Workspace:工作区管理,实现了工作区的创建、删除等功能。 Source:来源管理,实现了来源连接建立等功能。 Destination:目标管理,实现了来源连接建立等

  • Airbyte支持的数据源类型丰富,全部类型详见官网。 1、 支持的数据库/仓/湖 MSSQL - SQL Server、MySQL、PostgreSQL、AlloyDB for PostgreSQL、Apache Doris、Apache Iceberg、Apache Kafka、ClickHouse、CockroachDB、Convex.dev、DuckDB、DynamoDB、Elastics

  • Airbyte 后端技术栈 Java 17 框架:Jersey API: OAS3 数据库:PostgreSQL 单元和E2E测试:JUnit 5 编排:Temporal 连接器技术栈 连接器可以用任何语言编写。但是,最常见的语言是: Python3.9.0 Java 17 前端技术栈 Node.js 16 TypeScript Web 框架/库:React 部署 部署Airbyte开源只需要两个

 相关资料
  • 本文向大家介绍MongoDB开源数据库开发工具dbKoda,包括了MongoDB开源数据库开发工具dbKoda的使用技巧和注意事项,需要的朋友参考一下 Southbank Software公司最近发布了 dbKoda 0.6.0 ,这是该软件的 首个发布版 。dbKoda是一款开源的 MongoDB 开发工具,采用JavaScript、 React 和 Electron 开发。下图显示了dbKod

  • 本文向大家介绍开源数据库,包括了开源数据库的使用技巧和注意事项,需要的朋友参考一下 开源数据库是具有开源代码的数据库,即任何人都可以查看,研究甚至修改代码。开源数据库可以是关系(SQL)或非关系(NoSQL)。 为什么要使用开源数据库? 为任何公司创建和维护数据库都非常昂贵。在软件总支出中,很大一部分用于处理数据库。因此,切换到低成本开源数据库是可行的。从长远来看,这可以为公司节省很多钱。 使用中

  • 我试图写一个过程,它从存储在数据库中的一组记录中读取cron表达式,并运行一个作业(如果该表达式在接下来的一个小时内触发,则执行一个程序)。数据库中带有cron表达式的记录可以有不同的触发时间(如星期五或每小时等)。 带有cron表达式的表示例。 用户可以更新表中的crons。 设计这种应用程序的最佳方式是什么? 我在这里看到的主要问题如下:假设我每1小时运行一次工作,并在接下来的一个小时内记录计

  • 问题内容: 是否有任何库在Java中创建使用文件作为数据库的程序,而不必在要使用它的计算机上安装数据库服务? 问题答案: Derby和Hypersonic SQL均可在内存和服务器模式下运行。

  • 我正在读取火基数据库的数据。以下是存储在数据库中的数据的快照。 在以“8SS...”开头的快照字符串中,是用户的 uid。以下是用于从 firebase 数据库中检索数据的代码。 用户类包含getter和setters。 错误是只有结论。 如何评估 从值事件中读取时的错误是什么? 我尝试使用这个: 然后调用<code>ref。addListenerForSingleValueEvent()但仍然没

  • 问题内容: 我知道有三种不同的,流行的非SQL数据库类型。 键/值:Redis,Tokyo Cabinet,Memcached ColumnFamily:Cassandra,HBase 文件:MongoDB,CouchDB 我已经读了很长的博客,但对它的了解却很少。 我知道关系数据库,并且在MongoDB / CouchDB等基于文档的数据库中徘徊。 谁能告诉我这些和清单上的两个前者之间的主要区别