Java自学者论坛

 找回密码
 立即注册

手机号码,快捷登录

恭喜Java自学者论坛(https://www.javazxz.com)已经为数万Java学习者服务超过8年了!积累会员资料超过10000G+
成为本站VIP会员,下载本站10000G+会员资源,会员资料板块,购买链接:点击进入购买VIP会员

JAVA高级面试进阶训练营视频教程

Java架构师系统进阶VIP课程

分布式高可用全栈开发微服务教程Go语言视频零基础入门到精通Java架构师3期(课件+源码)
Java开发全终端实战租房项目视频教程SpringBoot2.X入门到高级使用教程大数据培训第六期全套视频教程深度学习(CNN RNN GAN)算法原理Java亿级流量电商系统视频教程
互联网架构师视频教程年薪50万Spark2.0从入门到精通年薪50万!人工智能学习路线教程年薪50万大数据入门到精通学习路线年薪50万机器学习入门到精通教程
仿小米商城类app和小程序视频教程深度学习数据分析基础到实战最新黑马javaEE2.1就业课程从 0到JVM实战高手教程MySQL入门到精通教程
查看: 965|回复: 0

InfluxDb中写入重复数据问题解决方案

[复制链接]
  • TA的每日心情
    奋斗
    2024-11-24 15:47
  • 签到天数: 804 天

    [LV.10]以坛为家III

    2053

    主题

    2111

    帖子

    72万

    积分

    管理员

    Rank: 9Rank: 9Rank: 9

    积分
    726782
    发表于 2021-5-26 12:38:04 | 显示全部楼层 |阅读模式

    1.InfluxDb版本

    0.10.3

    2.Measurement

    TodayChargeTimeReport

    只有time和Field列,没有Tag列

    3.现象:通过定时任务向上面的表中写入数据:

                            var point = new Point();
                            point.Measurement = "TodayChargeTimeReport";
                            point.Precision = InfluxDB.Net.Enums.TimeUnit.Milliseconds;
                            point.Timestamp = time;
                            point.Fields = new Dictionary<string, object>() {
                                                    {"Sucess", Convert.ToInt32(value[1])},
                                                    {"Faild", Convert.ToInt32(value[2])},
                                                    {"FailureRate",Convert.ToDouble(value[3])}
                                        };
    
                            point.Tags = new Dictionary<string, object>();
    
                            points.Add(point);

    定时任务5分钟执行一次,定时任务的内容是查询SQL,查询出凌晨至今的数据,10分钟一个间隔,写入influxdb,发现influxdb中偶尔会出现重复数据:

    发现重复时间:2017/7/27 16:00:00
    发现重复时间:2017/7/27 16:10:00
    发现重复时间:2017/7/27 16:20:00
    发现重复时间:2017/7/27 16:30:00
    发现重复时间:2017/7/27 16:40:00
    发现重复时间:2017/7/27 16:50:00
    发现重复时间:2017/7/27 17:00:00
    发现重复时间:2017/7/27 17:10:00
    发现重复时间:2017/7/27 17:20:00
    发现重复时间:2017/7/27 17:30:00
    发现重复时间:2017/7/27 17:40:00
    发现重复时间:2017/7/27 17:50:00
    发现重复时间:2017/7/27 18:00:00
    发现重复时间:2017/7/27 18:10:00
    发现重复时间:2017/7/27 18:20:00
    发现重复时间:2017/7/27 18:30:00
    发现重复时间:2017/7/27 18:40:00
    发现重复时间:2017/7/27 18:50:00
    发现重复时间:2017/7/27 19:00:00
    发现重复时间:2017/7/27 19:10:00
    发现重复时间:2017/7/27 19:20:00
    发现重复时间:2017/7/27 19:30:00
    发现重复时间:2017/7/27 19:40:00
    发现重复时间:2017/7/27 19:50:00
    发现重复时间:2017/7/27 20:00:00
    发现重复时间:2017/7/27 20:10:00
    发现重复时间:2017/7/27 20:20:00
    发现重复时间:2017/7/27 20:30:00
    发现重复时间:2017/7/27 20:40:00
    发现重复时间:2017/7/27 20:50:00
    发现重复时间:2017/7/27 21:00:00
    发现重复时间:2017/7/27 21:10:00
    发现重复时间:2017/7/27 21:20:00
    发现重复时间:2017/7/27 21:30:00
    发现重复时间:2017/7/27 21:40:00
    发现重复时间:2017/7/27 21:50:00
    发现重复时间:2017/7/27 22:00:00
    发现重复时间:2017/7/27 22:10:00
    发现重复时间:2017/7/27 22:20:00

    对应的grafana也出现错乱现象:

     

    4.诡异的地方

     4.1 Influxdb中只有time和Field列,如果时间相同,应该写不进去,但是实际却写进去了

     4.2 如果grafana中按group by time(10m),然后对值取Max,理论上应该能过滤掉重复值,但是实际过滤后,还有一大段空值

     

    5.解决方案

    因为influxdb不支持删除操作,通过如下操作暂时解决该问题:

     

    5.1 通过程序,将“TodayChargeTimeReport”表中的数据读出来,进行去重操作后,写入“TodayChargeTimeReport1”

    5.2 drop measurement "TodayChargeTimeReport"(谨慎!可能会影响influxdb10分钟左右不能访问)

    5.3 通过程序,将“TodayChargeTimeReport1”表中的数据读出来,写入“TodayChargeTimeReport”

    5.4 定时任务,写入influxdb时的时间精度,由“Milliseconds”改为“Minutes

     

    问题暂时解决,初步怀疑是时间精度导致的,后续继续观察是否还有重复数据。

     

    哎...今天够累的,签到来了1...
    回复

    使用道具 举报

    您需要登录后才可以回帖 登录 | 立即注册

    本版积分规则

    QQ|手机版|小黑屋|Java自学者论坛 ( 声明:本站文章及资料整理自互联网,用于Java自学者交流学习使用,对资料版权不负任何法律责任,若有侵权请及时联系客服屏蔽删除 )

    GMT+8, 2025-1-23 11:56 , Processed in 0.058891 second(s), 29 queries .

    Powered by Discuz! X3.4

    Copyright © 2001-2021, Tencent Cloud.

    快速回复 返回顶部 返回列表