网站建设资讯

NEWS

网站建设资讯

消息队列之kafka(整合flume)-创新互联

补充:在flume的的lib中已经有了kafka的依赖包,所以直接使用flume的配置文件即可。
这里举出kafka+flume的典型场景:(Kafka-----sink

成都创新互联公司服务项目包括黄陂网站建设、黄陂网站制作、黄陂网页制作以及黄陂网络营销策划等。多年来,我们专注于互联网行业,利用自身积累的技术优势、行业经验、深度合作伙伴关系等,向广大中小型企业、政府机构等提供互联网行业的解决方案,黄陂网站推广取得了明显的社会效益与经济效益。目前,我们服务的客户以成都为中心已经辐射到黄陂省份的部分城市,未来相信会继续扩大服务区域并继续获得客户的支持与信任!
source :netcat
channel:memory
sink:kafka sink

netcat-kafka.conf

#别名
a1.sources=s1
a1.channels=c1
a1.sinks=k1

#source
a1.sources.s1.type=netcat
a1.sources.s1.bind=192.168.5.0
a1.sources.s1.port=6666

#channel
a1.channels.c1.type=memory

#sink
a1.sinks.k1.type = org.apache.flume.sink.kafka.KafkaSink
a1.sinks.k1.kafka.topic = kafka_test  #传入的的主题
a1.sinks.k1.kafka.bootstrap.servers = hadoop02:9092  #kafka集群入口
a1.sinks.k1.kafka.producer.acks = 1   #消息确认级别
#指定压缩的类型
a1.sinks.k1.kafka.producer.compression.type = snappy

a1.sources.s1.channels=c1
a1.sinks.k1.channel=c1

最后启动flume的配置文件即可:
bin/flume-ng agent -n a1 -c conf -f conf/myconf/netcat-kafka.conf -Dflume.root.logger=INFO,console

官网地址:http://flume.apache.org/FlumeUserGuide.html#kafka-sink

另外有需要云服务器可以了解下创新互联scvps.cn,海内外云服务器15元起步,三天无理由+7*72小时售后在线,公司持有idc许可证,提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案,具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势,专为企业上云打造定制,能够满足用户丰富、多元化的应用场景需求。


分享名称:消息队列之kafka(整合flume)-创新互联
URL链接:http://cdweb.net/article/dceced.html