一、简介
Kafka是Apache下的一个子项目，是一个高性能跨语言分布式发布/订阅消息队列系统，使用Scala编写，它以可水平扩展和高吞吐率而被广泛使用。目前越来越多的开源分布式处理系统如Cloudera、Apache Storm、Spark都支持与Kafka集成。
搭建实时数据流管道，在系统或应用之间可靠的获取数据
搭建对数据流进行转换或相应的实时流应用程序、
为了了解Kafka具体如何实现这些功能, 首先理解几个概念:
Kafka是作为集群，运行在一台或多台服务器上的.
Kafka集群用主题（topics）来分类别储存数据流（records）.
每个记录（record）由一个键（key），一个值（value）和一个时间戳（timestamp）组成
Kafka有4个核心APIs:
Producer API负责生产数据流，允许应用程序将记录流发布到一个或多个Kafka主题（topics）.
Consumer API负责使用数据流，允许应用程序订阅一个或多个主题并处理为其生成的数据流.
Streams API负责处理或转化数据流，允许应用程序充当数据流处理器的角色, 处理来自一个或多个主题的输入数据流，并产生输出数据流到一个或多个输出主题，一次来有效地将输入流转换成输出流.
Connector API负责将数据流与其他应用或系统结合，允许搭建建和运行可重复使用的生产者或消费者，将Kafka数据主题与现有应用程序或数据系统相连接的。 例如，关系数据库的连接器可能会将表的每个更改的事件，都捕获为一个数据流.
二、环境准备
kafka集群的搭建是建立在jdk和zookeeper集群环境之上的;文中环境在Ubuntu1404系统上搭建；
1）安装JAVA
<code># add-apt-repository ppa:webupd8team/java </code>
<code># apt-get update</code>
<code># apt-get install oracle-java8-installer </code>
<code># java -version //检验Java版本</code>
<code>java version </code><code>"1.8.0_111"</code>
<code>Java(TM) SE Runtime Environment (build 1.8.0_111-b14)</code>
<code>Java HotSpot(TM) 64-Bit Server VM (build 25.111-b14, mixed mode)</code>
2）安装ZOOKEEPER集群
3）机器列表，/etc/hosts文件内容如下：
<code>172.30.100.1 kafka-001</code>
<code>172.30.100.2 kafka-002</code>
<code>172.30.100.3 kafka-003</code>
<code>172.30.100.4 kafka-004</code>
<code>172.30.100.5 kafka-005</code>
<code>172.30.100.21 zookeeper-001</code>
<code>172.30.100.22 zookeeper-002</code>
<code>172.30.100.23 zookeeper-003</code>
<code>172.30.100.24 zookeeper-004</code>
<code>172.30.100.25 zookeeper-005</code>
三、Kafka集群搭建
1）下载相应版本kafka软件包：
官方0.10.2.0版本下载链接如下：
<a href="http://mirrors.hust.edu.cn/apache/kafka/0.10.2.0/kafka_2.11-0.10.2.0.tgz" target="_blank">http://mirrors.hust.edu.cn/apache/kafka/0.10.2.0/kafka_2.11-0.10.2.0.tgz</a>
这里需要注意kafka的版本，下载之前一定要确保你的client端是否支持当前kafka server的版本，否则就得重新安装。
这里给出官方提供的其他几个下载链接，包括其他版本的都在下面的地址里能够找到。
<a href="https://www.apache.org/dyn/closer.cgi#verify" target="_blank">https://www.apache.org/dyn/closer.cgi#verify</a>
2）配置kafka集群
下载完之后解压，并配置：
<code>> </code><code>tar</code> <code>-xzf kafka_2.11-0.10.2.0.tgz</code>
<code>> </code><code>cd</code> <code>kafka_2.11-0.10.2.0</code>
<code>> vim config</code><code>/server</code><code>.properties</code>
kafka的配置文件示例：
<code>#唯一标识在集群中的ID，要求是正数。</code>
<code>broker.</code><code>id</code><code>=1</code>
<code>delete.topic.</code><code>enable</code><code>=</code><code>true</code>
<code># 监听地址和端口号</code>
<code>listeners=PLAINTEXT:</code><code>//172</code><code>.30.100.1:9092</code>
<code># 处理网络请求的最大线程数</code>
<code>num.network.threads=9</code>
<code># 处理磁盘I/O的线程数</code>
<code>num.io.threads=16</code>
<code># # leader中进行复制的线程数，增大这个数值会增加relipca的IO</code>
<code>num.replica.fetchers=3</code>
<code>#配置log的文件目录,前提确保目录存在</code>
<code>log.</code><code>dirs</code><code>=</code><code>/data/kafka-logs</code>
<code># 每个topic的分区个数，更多的partition会产生更多的segment file</code>
<code>num.partitions=2</code>
<code># 配置zookeeper服务的地址</code>
<code>zookeeper.connect=zookeeper-001:2181,zookeeper-002:2181,zookeeper-003:2181,zookeeper-004:2181,zookeeper-005:2181</code>
这里注意的地方：listeners一定要配置成为IP地址；如果配置为localhost或服务器的hostname,在使用java发送数据时就会抛出异 常：org.apache.kafka.common.errors.TimeoutException: Batch Expired 。因为在没有配置advertised.host.name 的情况下，Kafka并没有像官方文档宣称的那样改为广播我们配置的host.name，而是广播了主机配置的hostname。远端的客户端并没有配置 hosts，所以自然是连接不上kafka。
复制server.properties到其他kafka节点的机器上,并修改broker.id，listeners。
3）服务的启动和停止
启动服务：
<code>bin</code><code>/kafka-server-start</code><code>.sh -daemon config</code><code>/server</code><code>.properties</code>
注意一定要加-daemon选项，不然终端退出，服务会随之退出。
停止服务：
<code> </code><code>bin</code><code>/kafka-server-stop</code><code>.sh</code>
四、Kafka集群测试
1）创建topic：
<code>> bin</code><code>/kafka-topics</code><code>.sh --create --zookeeper zookeeper-001:2181 --replication-factor 3 --partitions 2 --topic </code><code>test</code>
这里的--zookeeper可以随机指定一个zookeeper的地址。
检测topic是否创建成功：
<code>> bin</code><code>/kafka-topics</code><code>.sh --list --zookeeper zookeeper-001:2181</code>
<code>test</code>
查看topic描述信息：
<code> </code><code>bin</code><code>/kafka-topics</code><code>.sh --describe --zookeeper zookeeper-001:2181 --topic </code><code>test</code>
<code>Topic:CloudMonitor PartitionCount:5 ReplicationFactor:3 Configs:</code>
<code> </code><code>Topic: </code><code>test</code> <code>Partition: 0 Leader: 2 Replicas: 2,3,4 Isr: 2,3,4</code>
<code> </code><code>Topic: </code><code>test</code> <code>Partition: 1 Leader: 3 Replicas: 3,4,5 Isr: 3,4,5</code>
<code> </code><code>Topic: </code><code>test</code> <code>Partition: 2 Leader: 4 Replicas: 4,1,2 Isr: 4,1,2</code>
<code> </code><code>Topic: </code><code>test</code> <code>Partition: 3 Leader: 5 Replicas: 5,2,3 Isr: 5,3,2</code>
<code> </code><code>Topic: </code><code>test</code> <code>Partition: 4 Leader: 1 Replicas: 1,3,4 Isr: 1,3,4</code>
2）生产消息：
<code>> bin</code><code>/kafka-console-producer</code><code>.sh --broker-list localhost:9092 --topic </code><code>test</code>
<code>This is a message</code>
<code>This is another message</code>
3）消费消息：
<code>> bin</code><code>/kafka-console-consumer</code><code>.sh --bootstrap-server localhost:9092 --topic </code><code>test</code> <code>--from-beginning</code>
会看到刚才生产的两条messsage。
结尾：
结尾附上几个常用Message Queue的对比，摘自网络：
RabbitMQ
RabbitMQ是使用Erlang编写的一个开源的消息队列，本身支持很多的协议：AMQP，XMPP, SMTP, STOMP，也正因如此，它非常重量级，更适合于企业级的开发。同时实现了Broker构架，这意味着消息在发送给客户端时先在中心队列排队。对路由，负载均衡或者数据持久化都有很好的支持。
Redis
Redis是一个基于Key-Value对的NoSQL数据库，开发维护很活跃。虽然它是一个Key-Value数据库存储系统，但它本身支持MQ功能，所以完全可以当做一个轻量级的队列服务来使用。对于RabbitMQ和Redis的入队和出队操作，各执行100万次，每10万次记录一次执行时间。测试数据分为128Bytes、512Bytes、1K和10K四个不同大小的数据。实验表明：入队时，当数据比较小时Redis的性能要高于RabbitMQ，而如果数据大小超过了10K，Redis则慢的无法忍受；出队时，无论数据大小，Redis都表现出非常好的性能，而RabbitMQ的出队性能则远低于Redis。
ZeroMQ
ZeroMQ号称最快的消息队列系统，尤其针对大吞吐量的需求场景。ZeroMQ能够实现RabbitMQ不擅长的高级/复杂的队列，但是开发人员需要自己组合多种技术框架，技术上的复杂度是对这MQ能够
应用成功的挑战。ZeroMQ具有一个独特的非中间件的模式，你不需要安装和运行一个消息服务器或中间件，因为你的应用程序将扮演这个服务器角色。你只需要简单的引用ZeroMQ程序库，可以使用NuGet安装，然后你就可以愉快的在应用程序之间发送消息了。但是ZeroMQ仅提供非持久性的队列，也就是说如果宕机，数据将会丢失。其中，Twitter的Storm 0.9.0以前的版本中默认使用ZeroMQ作为数据流的传输（Storm从0.9版本开始同时支持ZeroMQ和Netty作为传输模块）。
ActiveMQ
ActiveMQ是Apache下的一个子项目。 类似于ZeroMQ，它能够以代理人和点对点的技术实现队列。同时类似于RabbitMQ，它少量代码就可以高效地实现高级应用场景。
Kafka/Jafka
Kafka是Apache下的一个子项目，是一个高性能跨语言分布式发布/订阅消息队列系统，而Jafka是在Kafka之上孵化而来的，即Kafka的一个升级版。具有以下特性：快速持久化，可以在O(1)的系统开销下进行消息持久化；高吞吐，在一台普通的服务器上既可以达到10W/s的吞吐速率；完全的分布式系统，Broker、Producer、Consumer都原生自动支持分布式，自动实现负载均衡；支持Hadoop数据并行加载，对于像Hadoop的一样的日志数据和离线分析系统，但又要求实时处理的限制，这是一个可行的解决方案。Kafka通过Hadoop的并行加载机制统一了在线和离线的消息处理。Apache Kafka相对于ActiveMQ是一个非常轻量级的消息系统，除了性能非常好之外，还是一个工作良好的分布式系统。
本文转自Jx战壕 51CTO博客，原文链接：http://blog.51cto.com/xujpxm/1934487，如需转载请自行联系原作者
![搭建httpd服务[图]](data:image/gif;base64,R0lGODlhAQABAIAAAP///wAAACwAAAAAAQABAAACAkQBADs=)