Cassandra-数据建模时间序列-避免“热点”？

Question

我正在开发一个Cassandra数据模型来存储用户上传的记录。

潜在的问题是，一些用户可能在5分钟内上传50-100k行，这可能导致分区键(user_id)的“热点”。(如果每个分区超过10k行，建议重新考虑数据模型)。

如何避免在短时间内一个分区键上有太多记录？

我尝试使用Datastax的时间序列建议，但即使我有年、月、日、小时列，热点仍然可能出现。

CREATE TABLE uploads (
    user_id text
   ,rec_id timeuuid
   ,rec_key text
   ,rec_value text
   ,PRIMARY KEY (user_id, rec_id)
);   

使用案例包括:

• 按user_id获取所有上传记录
• 按日期范围搜索上传记录

Answer 1

一些可能的想法:

>

使用复合分区键，而不仅仅是user_id。分区键的第二部分可以是1到n的随机数。例如，如果n是5，那么您的上传将分散在每个用户的五个分区上，而不仅仅是一个分区。缺点是当您读取时，您必须重复n次才能读取所有分区。

使用rec_id作为分区键，拥有一个单独的表来处理传入的上传。这将在所有可用节点上平均分配上传负载。然后，为了将该数据放入以user_id作为分区键的表中，定期运行spark作业来提取新的上传，并以单个分区可以处理的速度将它们添加到基于user_id的表中。

修改前端以限制单个用户可以上载记录的速率。如果只有少数用户以足够高的速率上传以导致问题，则限制它们可能比修改整个体系结构更容易。