当前位置: 首页 > 知识库问答 >
问题:

亚马逊Kinesis vs AWS管理服务Kafka(MSK)-(从on-prem连接)

濮阳驰
2023-03-14

我正在评估AWS Kinesis vs托管服务Kafka(MSK)。我们的需求是从on-prem系统(使用C++进行系统开发)向AWS发送一些消息(JSON)。然后,我们需要将上面的消息持久化到关系数据库中,比如PostgreSQL中,同时我们需要将上面的数据流到AWS中托管的其他一些微服务(java)中。

我有以下查询:

v)我们的消息速率是50msg/秒,什么是成本效益的解决方案?

共有1个答案

柳威
2023-03-14

直截了当地说,您的用例听起来很简单,每秒50条消息是一个非常低的速率。

Kinesis是一个消防水管,你需要吸管。Kinesis是指摄取、转换和处理太字节的移动数据。]

您是否考虑过使用SQS或Amazon MQ?两者都比Kafka或Kinesis更容易使用和管理。从你的问题来看,很明显你根本没有和Kafka交流过,所以你会有一个陡峭的学习曲线。SQS是一个简单的基于API的队列系统-您发布到一个SQS队列,然后从该队列中消费。如果您不需要担心订购、路由等问题,它是一种持久可靠的技术(如果笨拙的话),许多人使用它取得了巨大的成功。

回答你的实际问题:

>

  • 亚马逊为他们的服务发布了一个C++SDK--如果没有Kinesis客户端作为其中的一部分,我会感到震惊。您要么需要一个公共的Kinesisendpoint,要么需要一个私人的Kinesisendpoint,可以通过您的on-prem网络和AWS VPC之间的某种隧道或网关访问。

    MSK是Kafka。您需要一个Apache Kafka C++客户端,与上面的kinesis类似,您将需要某种隧道或网关,从您的on-prem网络到您已经提供MSK的AWS vpc

    前面提到的SQS或Amazon MQ可能比MSK更简单、更划算,而且几乎肯定会比Kinesis便宜。

  •  类似资料:
    • 亚马逊网络服务(AWS)是亚马逊的云网络托管平台,提供灵活,可靠,可扩展,易于使用且经济高效的解决方案。

    • 我能够从EC2实例连接到VPC中的ElastiCache Redis实例。但我想知道是否有办法连接到Amazon EC2实例之外的ElastiCache Redis节点,例如从我的本地开发设置或其他供应商提供的VPS实例。 当前在我的本地设置中尝试时: 我只在一段时间后才会暂停。

    • 亚马逊云 图 1.20.2.1 - AWS AWS,即 Amazon Web Services,是亚马逊(Amazon)公司的 IaaS 和 PaaS 平台服务。AWS 提供了一整套基础设施和应用程序服务,使用户几乎能够在云中运行一切应用程序:从企业应用程序和大数据项目,到社交游戏和移动应用程序。AWS 面向用户提供包括弹性计算、存储、数据库、应用程序在内的一整套云计算服务,能够帮助企业降低 IT

    • 我正在尝试运行节点。亚马逊AWS Ec2微实例上的js服务器和Redis服务器。 我已经安装了Redis Server,Redis Server命令运行良好。 我使用“永远”来保持Redis-Server运行。它工作正常。 但当我启动节点服务器时,它无法连接到Redis服务器。 它给出了以下错误- 做一个“永久列表”表明redis服务器运行良好。 我已经验证了当redis-server启动时,它从

    • 对于那些使用过亚马逊MSK(Kafka的托管流媒体)的人来说,一个快速的问题: Docs/FAQ清楚地表明,您可以轻松地扩大MSK集群中代理的数量。你能同样容易地把数字缩回吗?我说的不是自动缩放,而是手动缩放。

    • 我想问alexa各种各样的问题,最后我想让它问“你还有什么想知道的吗?”当我说“是”(yes是工作建议)时,它应该根据我的意图来建议我。就像我在