Java自学者论坛

 找回密码
 立即注册

手机号码,快捷登录

恭喜Java自学者论坛(https://www.javazxz.com)已经为数万Java学习者服务超过8年了!积累会员资料超过10000G+
成为本站VIP会员,下载本站10000G+会员资源,会员资料板块,购买链接:点击进入购买VIP会员

JAVA高级面试进阶训练营视频教程

Java架构师系统进阶VIP课程

分布式高可用全栈开发微服务教程Go语言视频零基础入门到精通Java架构师3期(课件+源码)
Java开发全终端实战租房项目视频教程SpringBoot2.X入门到高级使用教程大数据培训第六期全套视频教程深度学习(CNN RNN GAN)算法原理Java亿级流量电商系统视频教程
互联网架构师视频教程年薪50万Spark2.0从入门到精通年薪50万!人工智能学习路线教程年薪50万大数据入门到精通学习路线年薪50万机器学习入门到精通教程
仿小米商城类app和小程序视频教程深度学习数据分析基础到实战最新黑马javaEE2.1就业课程从 0到JVM实战高手教程MySQL入门到精通教程
查看: 635|回复: 0

SQL Server数据归档的解决方案

[复制链接]
  • TA的每日心情
    奋斗
    2024-4-6 11:05
  • 签到天数: 748 天

    [LV.9]以坛为家II

    2034

    主题

    2092

    帖子

    70万

    积分

    管理员

    Rank: 9Rank: 9Rank: 9

    积分
    705612
    发表于 2021-5-11 11:04:00 | 显示全部楼层 |阅读模式

    SQL Server数据归档的解决方案

     

      最近新接到的一项工作是把SQL Server中保存了四五年的陈年数据(合同,付款,报销等等单据)进行归档,原因是每天的数据增量很大,而历史数据又不经常使用,影响生产环境的数据查询等操作。要求是:

     

      1 归档的数据与生产环境数据分开保存,以便提高查询效率和服务器性能。

      2 前端用户能够查询已归档的数据,即系统提供的功能不能发生改变

     

      看起来要求不是很高,我自然会联想到两种方法,第一种新建一个与生产环境一样的数据库,把归档数据保存到这个数据库中;第二种在生产环境为每个表创建一个后缀为_Archive的表,例如Invoice,  那么就要创建一个Invoice_Archive表示存放归档的数据表。这两种方法可以用跨数据库访问或视图的方式,解决数据查询等需求。仔细分析后,弊端是需要对现行系统进行改造,即需要修改代码,以便适应对归档数据的访问,实际也把数据访问和业务操作给藕荷了,是一个费力又不讨好的解决方法。

     

      有没有一种方法可以不修改系统能够透明的访问生产数据和归档数据呢?当然是有的,就是SQL Server提供的分区表。

      在这里就不累赘复述分区表的定义和作用了,要想精通就要认真读微软官方文档:SQL Server 2005 中的分区表和索引。我浓缩的作用就是,通过使用分区表可以将数据表分割到不用的磁盘文件中,不同的磁盘就意味着性能的提升,因为两个磁头读取数据当然要比一个磁头读取数据快了,然后用户可以透明地根据不同的访问方式选取数据。举个例子:一个合同表,有个字段Archived标识是否归档(0代表未归档,1代表已归档),我们可以用分区表的方式,将合同表分成两个表分别保存在不同的磁盘,例如c和d, 当我们将一个合同设置为已归档,这条记录就会从c盘转到d盘,平时我们只查询未归档的记录,如果要查已归档的记录,也只需要select * from Contracts where Archived = 1这么简单,即透明的查询,具体的实现我们不用关心。

     

    好了,不能光说不练,就验证一下。创建两个文件目录

      

    创建一个测试数据库

    USE Master;
    GO
    IF EXISTS (
    SELECT name
    FROM sys.databases
    WHERE name = N'TestDB')
    DROP DATABASE TestDB;
    GO
    CREATE DATABASE TestDB
    ON PRIMARY
    (NAME='TestDB_Part1',
    FILENAME=
    'D:\TestData\Primary\TestDB_Part1.mdf',
    SIZE=10,
    MAXSIZE=100,
    FILEGROWTH=1 ),
    FILEGROUP TestDB_Part2
    (NAME = 'TestDB_Part2',
    FILENAME =
    'D:\TestData\Secondary\TestDB_Part2.ndf',
    SIZE = 10,
    MAXSIZE=100,
    FILEGROWTH=1 );
    GO

     

     查看数据属性,有点不一样

    打开数据:

    use TestDB

     

    新建分区函数,参数类型是bit,即已归档的数据

    Create Partition Function TestDB_ArchivePartitionRange(bit) AS RANGE right FOR VALUES(1)

     

    新建一个分区方案,即已经归档的数据保存到TestDB_Part2分区文件上

    CREATE Partition Scheme TestDB_ArchivePatitionScheme AS PARTITION TestDB_ArchivePartitionRange TO ([PRIMARY], TestDB_Part2);

     

    创建一个测试数据表,绑定一个分区方案

    CREATE TABLE TestArchiveTable  (Archived Bit NOT NULL, Date DATETIMEON TestDB_ArchivePatitionScheme (Archived)

     

    插入一些新的数据,已供测试

    INSERT INTO TestArchiveTable (Archived, Date)  VALUES (0,'2011-01-01');  INSERT INTO TestArchiveTable (Archived, Date)  VALUES (0,'2011-02-01');  INSERT INTO TestArchiveTable (Archived, Date)  VALUES (0,'2011-03-01'); 

     

    先来一个普通查询

     

    看看每个分区表存放数据的情况,分区一有3条记录,分区2没有记录,即没有归档数据

    SELECT * FROM sys.partitions  WHERE OBJECT_NAME(OBJECT_ID)='TestArchiveTable'

     

    好了,我们归档一条记录看看

    update TestArchiveTable  set Archived = 1 where Date = '2011-03-01'  SELECT * FROM sys.partitions  WHERE OBJECT_NAME(OBJECT_ID)='TestArchiveTable'

     

    结果就是我们想要的。

     

    总结:利用分区表不仅能大幅提升数据访问性能,而且可以根据需要分别存储数据到不同的文件,方便我们有效地利用数据,简化系统开发的复杂性。

    哎...今天够累的,签到来了1...
    回复

    使用道具 举报

    您需要登录后才可以回帖 登录 | 立即注册

    本版积分规则

    QQ|手机版|小黑屋|Java自学者论坛 ( 声明:本站文章及资料整理自互联网,用于Java自学者交流学习使用,对资料版权不负任何法律责任,若有侵权请及时联系客服屏蔽删除 )

    GMT+8, 2024-5-15 14:36 , Processed in 0.172769 second(s), 29 queries .

    Powered by Discuz! X3.4

    Copyright © 2001-2021, Tencent Cloud.

    快速回复 返回顶部 返回列表