Java自学者论坛

 找回密码
 立即注册

手机号码,快捷登录

恭喜Java自学者论坛(https://www.javazxz.com)已经为数万Java学习者服务超过8年了!积累会员资料超过10000G+
成为本站VIP会员,下载本站10000G+会员资源,会员资料板块,购买链接:点击进入购买VIP会员

JAVA高级面试进阶训练营视频教程

Java架构师系统进阶VIP课程

分布式高可用全栈开发微服务教程Go语言视频零基础入门到精通Java架构师3期(课件+源码)
Java开发全终端实战租房项目视频教程SpringBoot2.X入门到高级使用教程大数据培训第六期全套视频教程深度学习(CNN RNN GAN)算法原理Java亿级流量电商系统视频教程
互联网架构师视频教程年薪50万Spark2.0从入门到精通年薪50万!人工智能学习路线教程年薪50万大数据入门到精通学习路线年薪50万机器学习入门到精通教程
仿小米商城类app和小程序视频教程深度学习数据分析基础到实战最新黑马javaEE2.1就业课程从 0到JVM实战高手教程MySQL入门到精通教程
查看: 468|回复: 0

flink问题解决集合一:集群安装使用

[复制链接]
  • TA的每日心情
    奋斗
    2024-4-6 11:05
  • 签到天数: 748 天

    [LV.9]以坛为家II

    2034

    主题

    2092

    帖子

    70万

    积分

    管理员

    Rank: 9Rank: 9Rank: 9

    积分
    705612
    发表于 2021-7-11 23:20:45 | 显示全部楼层 |阅读模式

    (1)安装standlode集群模式启动

    启动脚本是 bin/start-cluster.sh  不能用sh start-cluster

    flink-1.8.1/bin/flink list

    flink-1.8.1/bin/flink cancel 9b99be4eed871c4e62562f9035ebef65

    (2)flink任务停不掉

    执行取消命令后,查看一直在取消状态

    是由于有台机器挂掉了,没有响应

     

     

    提交任务的时候,报错

    flink scala.Predef$.refArrayOps([Ljava/lang/Object;)Lscala/collection/mutabl

    项目用到了import scala.collection.JavaConverters._

    所以需要引入scala的jar包

    我本地用的scala2.11,我相信自己线上下的也是2.11,找了半天,在flink安装目录opt/jar中看到是2.12的scala,版本不一致导致的

    (3)web监控页面

    Bytes received       Records received  Bytes sent      Records sent

    如果源和sink在同一个里面是不会有显示值的

    需要额外说明的是,这里的输入/输出只是在 flink 的各个节点之间,不包含与外界组件的交互信息。所以,这里的统计里, flink source 的 read-bytes/read-records 都是 0;flink sink 的 write-bytes/write-records 都是 0。在 flink UI 上的显示也是如此。(yuchuanchen的博客有说明:https://blog.csdn.net/yuchuanchen/article/details/88406438)

    通过在写出前加个keyby就可以了

    val source = env
      .addSource(kafkaConsumerA)
      .map(a =>{
        val simpleDateFormat = new SimpleDateFormat("yyyy-MM-dd")
        val day = simpleDateFormat.format(new Date())
        parseToBean(a,day)
      })
    source.keyBy(a =>{
      a.carid
    }).map(a =>toClickHouseInsertFormat(a))
       .addSink(new ClickhouseSink(props)).name("ck_sink")

     也可以自己定义metric,然后提交上去就能看到指定位置的数据信息

    哎...今天够累的,签到来了1...
    回复

    使用道具 举报

    您需要登录后才可以回帖 登录 | 立即注册

    本版积分规则

    QQ|手机版|小黑屋|Java自学者论坛 ( 声明:本站文章及资料整理自互联网,用于Java自学者交流学习使用,对资料版权不负任何法律责任,若有侵权请及时联系客服屏蔽删除 )

    GMT+8, 2024-4-27 22:57 , Processed in 0.065041 second(s), 29 queries .

    Powered by Discuz! X3.4

    Copyright © 2001-2021, Tencent Cloud.

    快速回复 返回顶部 返回列表