一个专注于大数据技术架构与应用分享的技术博客

Kafka 第7页

大规模数据处理的演化历程(2003-2018)

大规模数据处理经历了从2003年到2018年的演化历程。以下是其演化历程概述: 2003年,Google发表了一篇论文,介绍了一个名为MapReduce的计算模型,用于处理大规模数据集。该模型可以将复杂的任务划分成一系列小的、可并行化的任务...

阅读(434)

Kafka如何动态增加Topic的副本(Replication)

Kafka是一种高性能、分布式、可扩展的消息队列系统,被广泛应用于数据传输、数据分析、实时计算等领域。在实际使用Kafka时,经常会遇到需要动态添加Topic的副本数的情况,以便提高消息传输的可靠性和容错能力。在这里,我们将重点讨论如何实现...

阅读(1008)

Twitter 如何将 Kafka 当做一个存储系统

Twitter 是世界上最大的社交媒体平台之一,每天都会处理数量庞大的数据量。为了满足这种高容量,高速度的需求,Twitter 采用了 Apache Kafka 作为数据流平台,也将其作为一个可靠的存储系统来使用。 Twitter 将 K...

阅读(461)

Kafka消息时间戳及压缩消息对时间戳的处理

Kafka消息中的时间戳表示消息产生的时间,可分为消息发送时间(Producer Time)和消息接收时间(Broker Time)。Producer Time表示消息从客户端发出的时间,带有Producer Time的消息会被存储在top...

阅读(494)

Apache Kafka 2.7.0 稳定版发布,有哪些值得关心的变化?

Apache Kafka 2.7.0 稳定版已经发布,Kafka 社区在这个版本中增加了一些有趣的功能,包括的备份和恢复工具、连接器改进、支持IPv6等。下面将会介绍其中几个值得关注的变化。 备份和恢复 Apache Kafka 2.7.0...

阅读(332)

Kafka设计解析:Replication工具

Kafka是一个分布式的消息队列系统,作为一款可靠的数据传输工具,Kafka的数据复制机制是非常重要的。为了保证数据传输的可靠性和数据的容错,Kafka提供了一种称为Replication的工具,用于将数据在多个节点之间进行复制。 Repl...

阅读(347)

Java API方式调用Kafka各种协议

Kafka是一个分布式的流处理平台,其Java API是对 Kafka Producer、Kafka Consumer 和 Kafka Streams的封装,使得 Java 开发者可以轻松地使用到 Kafka。在 Java 中,分别使用 ...

阅读(378)
快速扩容Kafka集群的几个技巧——避坑指南-Mac私塾

快速扩容Kafka集群的几个技巧——避坑指南

Kafka 是一个高性能的分布式消息队列系统,在分布式应用中得到了广泛的应用。然而,在实际使用 Kafka 集群时,可能会因为业务扩大、性能需求提升等原因需要快速扩容,这时候就需要采用一些方法来避免坑点。 下面是一些避坑指南,以帮助您快速扩...

阅读(729)
几种常见的 Kafka 集群监控工具-Mac私塾

几种常见的 Kafka 集群监控工具

Apache Kafka 是目前比较流行的分布式消息系统之一,其设计理念就是要保持高可用性和可扩展性。为了保证 Kafka 集群的稳定性和性能,需要监控各个组件的运行状态、异常情况和负载状况。下面介绍几种常见的 Kafka 集群监控工具。 ...

阅读(2651)