Flink 1.9 实战:使用 SQL 读取 Kafka 并写入 MySQL( 五 )
{\"user_id\": \"662867\" \"item_id\":\"2244074\" \"category_id\": \"1575622\" \"behavior\": \"pv\" \"ts\": \"2017-11-26T01:00:00Z\"
为了模拟真实的 Kafka 数据源 , 笔者还特地写了一个 source-generator.sh 脚本(感兴趣的可以看下源码) , 会自动读取 user_behavior.log 的数据并以默认每毫秒1条的速率灌到 Kafka 的 user_behavior topic 中 。
有了数据源后 , 我们就可以用 DDL 去创建并连接这个 Kafka 中的 topic(详见 src/main/resources/q1.sql) 。
CREATE TABLE user_log (
user_id VARCHAR
item_id VARCHAR
category_id VARCHAR
behavior VARCHAR
ts TIMESTAMP
) WITH ( 'connector.type' = 'kafka' -- 使用 kafka connector 'connector.version' = 'universal' -- kafka 版本 , universal 支持 0.11 以上的版本 'connector.topic' = 'user_behavior' -- kafka topic 'connector.startup-mode' = 'earliest-offset' -- 从起始 offset 开始读取 'connector.properties.0.key' = 'zookeeper.connect' -- 连接信息 'connector.properties.0.value' = 'localhost:2181'
推荐阅读
- jcg|影之诗:JCG的亚军人偶造物 实战六十盘感想
- 剑魂|DNF:如何短时间打出更好伤害?剑魂干货来了,实战主流装备搭配
- 潘多拉的回响|捍卫时序直至终焉 实战手游《潘多拉的回响》今日公测
- 鱿鱼游戏|原神:香菱更适合魔女套还是绝缘套?实战测试结果你想不到
- 赛尔号|赛尔号:灵格星系三大上古神兽揭秘,沃卡奥拉技能实战综合测评!
- 地下城与勇士|DNF:女大枪才是最大赢家!3个技能优化,实战体验大幅提升
- 花果山|梦幻西游:新版力天机史诗级增强,摇身变物理一哥,老王实战测试
- 原神|原神:托马能否适配胡桃?实战分析托马替代钟离,胡桃上限提高
- 第五人格|第五人格:玩家开出金皮“双黄蛋”,实战测试后,却差点哭出了声
- 消逝的光芒2|永劫无间:虎牙法神推荐三种长枪振刀玩法,网友:实战效果好