flume部署安装以及案例运行(20)

一些配置说明

问题:hdfs上的文件一般数据文件大小要大 , 而且文件数量是要少

hdfs.rollInterval = 600  (这个地方最好还是设置一个时间)

hdfs.rollSize = 1048576   (1M , 134217728-》128M)

hdfs.rollCount = 0

hdfs.minBlockReplicas = 1 (这个不设置的话 , 上面的参数有可能不会生效)

在hdfs文件上设置时间格式分层  年月日/时  每小时生成一个文件

hdfs.useLocalTimeStamp = true

hdfs.round = true

hdfs.roundValue\t= 1

hdfs.roundUnit = hour

将准备好的jar上传到flume/lib中

推荐阅读