Java自学者论坛

 找回密码
 立即注册

手机号码,快捷登录

恭喜Java自学者论坛(https://www.javazxz.com)已经为数万Java学习者服务超过8年了!积累会员资料超过10000G+
成为本站VIP会员,下载本站10000G+会员资源,会员资料板块,购买链接:点击进入购买VIP会员

JAVA高级面试进阶训练营视频教程

Java架构师系统进阶VIP课程

分布式高可用全栈开发微服务教程Go语言视频零基础入门到精通Java架构师3期(课件+源码)
Java开发全终端实战租房项目视频教程SpringBoot2.X入门到高级使用教程大数据培训第六期全套视频教程深度学习(CNN RNN GAN)算法原理Java亿级流量电商系统视频教程
互联网架构师视频教程年薪50万Spark2.0从入门到精通年薪50万!人工智能学习路线教程年薪50万大数据入门到精通学习路线年薪50万机器学习入门到精通教程
仿小米商城类app和小程序视频教程深度学习数据分析基础到实战最新黑马javaEE2.1就业课程从 0到JVM实战高手教程MySQL入门到精通教程
查看: 579|回复: 0

大数据量的插入和查询解决方案的方法

[复制链接]
  • TA的每日心情
    奋斗
    2024-4-6 11:05
  • 签到天数: 748 天

    [LV.9]以坛为家II

    2034

    主题

    2092

    帖子

    70万

    积分

    管理员

    Rank: 9Rank: 9Rank: 9

    积分
    705612
    发表于 2021-7-15 13:52:14 | 显示全部楼层 |阅读模式

            这次在做项目的时候,遇到一个比较麻烦的点就是要查询全面信息,和插入数据量比较大的数据,刚刚开始呢,一个一个插入和一个个查询比较麻烦,咨询了他们两个解决方案

    ①  批量查询和批量插入,这个还只是针对数据不是特别大的时候,正好这次的项目是1w条插入和没有规定的条数的查询

    ②  如果以后数据量非常大的时候几十万,百万的时候这个速度就算批量也可能很慢了,这时候建议的是异步处理@Async,就是插入刚刚开始的时候添加一个loading的状态,直接返回(其实觉得这个应该是只是针对没有返回什么数据格式的时候)这个时候特别适用这个

    将第一种方案代码

    public  List<String> getDistinct(List<String> list,Integer type,Long userId,List<String> fails){
            Integer total = list.size();
            int limit = 2000;
            List<Barcode> sameBarcode = Lists.newArrayList();
            List<String> distinctString = Lists.newArrayList();
            for (int i = total; i>0; i=i-limit) {
                List<String> listString = list.subList(i-limit<0?0:i-limit,i);
                List<Barcode> barcodeList = barcodeDao.findByNumbers(userId,listString,type.toString());
                sameBarcode.addAll(barcodeList);
            }
            for (Barcode barcode:sameBarcode){
                distinctString.add(barcode.getNumber());
            }
            HashSet h1 = new HashSet(list);
            HashSet h2 = new HashSet(distinctString);
            h1.removeAll(h2);
            List<String> list1 = new ArrayList(h1);
            fails.addAll(distinctString);
            return list1;
        }

    插入代码

    Integer total = success.size();
            int limit = 1000;
            for (int i = total; i>0; i=i-limit) {
                List<Barcode> listBanth = barcodeList.subList(i-limit<0?0:i-limit,i);
                barcodeDao.saveBarth(listBanth);
            }
    

    sql写法

    @Insert("<script>" +
                "insert into `barcode` (`type`, `user_id`, `number`, `created_time`, `status`, `import_id`,`country_code`,`makers_code`,`generation_type`,`product_code`)values" +
                "<foreach collection=\"array\" item=\"item\" index=\"index\" separator=\",\">" +
                "   (#{item.type} ,#{item.userId} ,#{item.number}, #{item.createdTime}, #{item.status} ,#{item.importId},#{item.countryCode},#{item.makersCode},#{item.generationType},#{item.productCode})" +
                "</foreach>" +
                "</script>")
        void saveBarth(@Param("array")List<Barcode> orders);

     

    哎...今天够累的,签到来了1...
    回复

    使用道具 举报

    您需要登录后才可以回帖 登录 | 立即注册

    本版积分规则

    QQ|手机版|小黑屋|Java自学者论坛 ( 声明:本站文章及资料整理自互联网,用于Java自学者交流学习使用,对资料版权不负任何法律责任,若有侵权请及时联系客服屏蔽删除 )

    GMT+8, 2024-4-28 02:26 , Processed in 0.075399 second(s), 29 queries .

    Powered by Discuz! X3.4

    Copyright © 2001-2021, Tencent Cloud.

    快速回复 返回顶部 返回列表