UIT 存储基础培训 - OS与存储.ppt

1、United Information Technology Co.,Ltd.技术中心技术中心 郭镭郭镭第1页，共46页。United Information Technology Co.,Ltd.第二章第二章 操作系统与存储操作系统与存储块设备文件系统卷管理技术数据库与存储第2页，共46页。United Information Technology Co.,Ltd.操作系统与存储操作系统与存储第3页，共46页。United Information Technology Co.,Ltd.设备分类设备分类-字符设备与块设备字符设备与块设备 字符设备（Character devices）指那些无须缓

2、冲直接读写的设备。字符设备以字节为单位进行读写，数据缓冲系统对它们的访问不提供缓冲。裸设备，也叫裸分区（原始分区），是一种没有经过格式化，不通过文件系统来读取的特殊字符设备 块设备(Block devices)只能以块为单位进行读写，典型的块大小为512或1024字节。块设备允许随机访问，每次读写的数据量都是数据块长度的整数倍。块设备和字符设备的区别在概念上主要是字符设备跳过了缓冲区，块设备则要经过缓冲区。硬盘是既可以做块设备用，也可以做字符设备用。第4页，共46页。United Information Technology Co.,Ltd.块设备和块块设备和块I/O Sector 块设备传输

3、数据的最小单位 Block 文件系统的最小存储单位 Segment 内存交换单位或一部分 Page 磁盘缓存单位PageBlockSectorBlock I/O第5页，共46页。United Information Technology Co.,Ltd.Sector 硬件设备存放数据的连续区域单位.一个sector的大小是512字节 sector是磁盘设备和操作系统之间最小传输单位，多个sector可同时传输。如果磁盘设备支持的sector大小是512的整数倍且大于512字节，那么操作系统的底层block 驱动程序帮我们自动转化。第6页，共46页。United Information Tech

4、nology Co.,Ltd.sector是操作系统和块硬件设备之间传送数据的单位，那么block是文件系统管理数据的单位 比如操作系统的虚拟文件系统VFS需要从硬件设备上读取一个block，实际上是从硬件设备读取了一个或多个sector.对于文件管理来说，每个文件对应的多个block可能是不连续的 block最终要映射到sector上，所以一般block的大小是sector大小的整数倍 不同的文件系统，可以使用的block的大小可以不同块块 Block第7页，共46页。United Information Technology Co.,Ltd.块设备操作的基本概念块设备操作的基本概念 对 b

5、lock 设备的操作涉及到的内核组件 The generic block layerThe generic block layer 隐藏硬件细节，提供block设备的抽象视图。提供通用的数据结构描述 disks 和 disk partitions.I/O scheduler I/O scheduler(I/O调度器)根据内核制定的策略对未决的(pending)I/O 数据传送请求进行排序和调度。提高I/O 调度器的效率也是影响整个系统对块设备上数据管理效率的一个方面。block device 最后，block device 设备驱动程序，完成和硬件的具体交互。第8页，共46页。United I

6、nformation Technology Co.,Ltd.为什么需要为什么需要I/O调度？调度？磁盘寻道在计算机系统中是最慢的操作没有合适的I/O调度器，对系统性能影响非常大 I/O 调度可以安排磁头在一个方向上移动，减少 seek 次数像电梯（操作系统中一般称这样的算法为电梯算法)在全局范围内获得高吞吐量block I/O requestI/O SchedulerRequest queue maintenanceRequest dispatchI/O Scheduler 的工作Sort request queuesMerge request queuesDispatch I/O reque

7、sts提高读取磁盘的效率第9页，共46页。United Information Technology Co.,Ltd.逻辑卷管理逻辑卷管理传统分区缺点：磁盘的划分通过分区来实现，在系统安装之前用户必须正确选择每个分区的大小分区大小是固定不变的，同时也就限制文件系统和文件的大小分配给分区的磁盘空间必须是连续，这个特点限制了分区不能跨越多个物理卷LVM逻辑卷管理优点：可分配非连续空间，可以跨越多个硬盘可以动态增大逻辑卷的大小方便存储管理操作，包括文件系统的备份、分区的删除、新分区的建立和文件系统的恢复等新的硬盘很容易动态地添加到系统DriversVG操作系统物理存储Logical Volume M

8、anager(LVM)LVLV数据库文件系统VGLV文件系统第10页，共46页。United Information Technology Co.,Ltd.卷组卷组VG：Volume Group 一个卷组VG可以拥有多个硬盘，但至少拥有一个硬盘(hdisk)一个硬盘(hdisk)只能属于一个VG，不能同时属于多个不同VG用户可以创建多个不同VG，rootvg是操作系统所在的VG第11页，共46页。United Information Technology Co.,Ltd.物理卷物理卷PV和和PP 存储管理器中，一个硬盘就是一个PV一个PV要划分为大小相等的PP 同一个VG中的不同PV的PP大小

9、要一样，默认的PP大小为4MPV必须加入一个VG中，系统才能使用其存储空间Physical Volume(物理卷)Physical Partition(物理分区)第12页，共46页。United Information Technology Co.,Ltd.逻辑卷逻辑卷LV(Logical Volume)存储管理一个很重要的特点就是引入了“逻辑卷”这个概念，几乎所有的存储管理都围绕“逻辑卷”展开逻辑卷LV有多个逻辑上连续的逻辑分区LP组成，逻辑分区与物理分区存在映射关系，他们大小一样Logical Partition逻辑分区创建了逻辑卷后，可以在上面创建文件系统，还可以直接是裸设备，用于数据库

10、软件的数据存取等 逻辑卷空间不足，只要卷组中还有足够的PP数量，那么逻辑卷空间都可以动态增大第13页，共46页。United Information Technology Co.,Ltd.逻辑卷逻辑卷LV与文件系统与文件系统逻辑卷管理器：扮演的角色就是管理好逻辑卷与物理卷之间的映射关系，保证所有的上层存储操作命令都正确地把数据写入相应的物理设备中文件系统：是数据存储方式。它扮演的角色就是以清晰层次结构的文件和目录，去管理好用户数据存取，保证用户写入的数据以可靠的存储方式存放，且无差错地响应用户请求的数据 不同文件系统的数据存在硬盘的不同逻辑卷中第14页，共46页。United Informat

11、ion Technology Co.,Ltd.逻辑卷管理器逻辑卷管理器rootvgPVPV文件系统文件系统LVhd1hd6hd8lv00paging00MountMount表表jfspagespacejfslogjfspagespacePPhomelimhai类型varlimhaioracleoracleApp-dataMount点datatvg逻辑卷逻辑卷LV与文件系统与文件系统 结构图结构图第15页，共46页。United Information Technology Co.,Ltd.逻辑卷策略逻辑卷策略-镜像镜像mirror镜像mirror，类似于RAID1，可以实现逻辑卷中逻辑分区的镜

12、像，在独立的不同硬盘中保存两个或三个副本，从而保证硬盘出错时数据不受损坏而且是可用的 镜像的调度策略Parallel(并行)：每个副本的写请求是同时进行的，当更新时间最长的副本完成后，控制就返回给程序。执行效率很高，但当副本更新时若有硬盘错误发生，数据的完整性有可能遭到破坏。读操作时候，读最相近的副本，所以响应速率快Sequential(串行)：当数据写到逻辑分区时，只有所有的副本都更新后控制才返回给程序，而且副本是一个个轮留更新。执行速率比并行镜像慢，但是数据完整性较好。读操作时候，总是先读主副本第16页，共46页。United Information Technology Co.,Ltd.

13、逻辑卷策略逻辑卷策略-条带化条带化striping 做条带化类似于RAID0条带化把数据块均匀地分布在不同硬盘上 访问逻辑卷上的连续数据时多个硬盘驱动器并行操作，提高了I/O的吞吐量第17页，共46页。United Information Technology Co.,Ltd.物理卷内分配策略物理卷内分配策略通常访问最频繁的LV分配在中心，访问不频繁的LV分配在边缘第18页，共46页。United Information Technology Co.,Ltd.文件系统文件系统 File System 概念：文件和对文件进行操纵和管理的软件集合。三个层次一、管理的对象及属性（1）文件（2）目录（

14、3）物理存贮空间的管理二、管理的文件操作：（1）逻辑文件系统：受命write-write（2）基本I/O管理：write（3）基本文件系统：向driver发令（4）I/O控制层：driver三、管理的文件系统接口（1）命令接口：（2）程序接口：第19页，共46页。United Information Technology Co.,Ltd.文件系统层次模型文件系统层次模型第20页，共46页。United Information Technology Co.,Ltd.File System Driver体系结构（本地）体系结构（本地）第21页，共46页。United Information Tec

15、hnology Co.,Ltd.应用程序服务器端用户态物理设备核心态用户态核心态客户端物理磁盘I/O管理器远程FSD(重定向器）远程FSD（服务器）本地FSD存储设备驱动File System Driver体系结构（远程）体系结构（远程）第22页，共46页。United Information Technology Co.,Ltd.存储分配方法（文件物理组织）存储分配方法（文件物理组织）连续分配（磁带，磁盘都可采用）每个顺序文件分配一组相邻盘块。特点：简单（1）顺序访问容易且速度快，因磁头移动距离小，（2）要求连续空间，一段时间后需整理磁盘以消除外部碎片。（3）必须事先知道长度，文件不易动态增

16、长和删除。链接分配文件离散地分配于各盘块中，以提高外存利用率，文件长度可变，易于增删，只能顺序存取。特点：只适合于顺序访问，对随机访问效率低，可靠性差。链接分配问题：不能高效直接存取；FAT需占较大的内存。索引分配概念：为每个文件分配一个索引块特点：（1）文件较大时有利。文件较小时浪费外存空间（还需为小文件建索引块）（2）当文件较大时，索引块太多，则需建立多级索引 第23页，共46页。United Information Technology Co.,Ltd.日志文件系统日志文件系统 日志文件系统最大的优点在于提供了更好的安全性。日志文件系统会将整个磁盘所做过的更动,像写日记一样完整的记录下来

17、，一旦发生非预期的故障状况,会在下次启动时,自动检查已记录的日志,然后依照日志记录的动作再做一次，将系统恢复到当机前的正常状态。可以大幅减少不正常关机后所花费的系统修复时间,让数据的使用更有效率 非日志文件系统发生故障时,需要辛苦地执行 FSCK命令检查与修复整个文件系统。现在动辄数十 GB 的磁盘空间,一旦不正常关机,便要耗费相当多的时间来检查及修复文件系统,且不能百分之百保证所有的数据都不会流失第24页，共46页。United Information Technology Co.,Ltd.每个文件系统由逻辑块的序列组成，一个逻辑盘空间一般划分为几个用途各不相同的部分，即引导块、超级块、in

18、ode区以及数据区等。引导块：在文件系统的开头，通常为一个扇区，其中存放引导程序，用于读入并启动操作系统；超级块：用于记录文件系统的管理信息。特定的文件系统定义了特定的超级块；inode区（索引节点）：一个文件或目录占据一个索引节点。第一个索引节点是该文件系统的根节点。利用根节点，可以把一个文件系统挂在另一个文件系统的非叶节点上；数据区：用于存放文件数据或者管理数据。Unix/Linux文件系统文件系统逻辑块数量的决定：建立文件系统时,可以自行设定逻辑块的大小是 1024、2048 或 4096 Bytes 若沒有指定,则系统默认为 4096 Bytes每个分区的逻辑块数量由以下公式确定：）分

19、区大小（块数量KbytesKbytes文件系统块大小（第25页，共46页。United Information Technology Co.,Ltd.Unix/Linux文件系统结构文件系统结构第26页，共46页。United Information Technology Co.,Ltd.超级块中包含了描述文件系统基本尺寸和形态的信息。文件系统管理器利用它们来使用和维护文件系统。通常安装文件系统时只读取数据块组0 中的超级块，但是为了防止文件系统被破坏,每个数据块组都包含了复制拷贝。超级块包含如下信息：Block Group Number：超级块的拷贝。Block Size：以字节记数的文件系

20、统块大小如1024 字节。Blocks per Group：每个组中块数目，当文件系统创建时此块大小被固定下来。Free Blocks：文件系统中空闲块数Free Inodes：文件系统中空闲Inode数First Inode：文件系统中第一个inode号。根文件系统中第一个inode将是指向/目录的目录入口。超级块超级块PartitionPartitionPartitionFile Systeminodeinode inodeinodeinodei-listdirectory blocks and data blocksBootBlockSuperBlock第27页，共46页。United

21、Information Technology Co.,Ltd.文件系统通过一个 inode 结构来描述文件系统中文件并确定此文件系统的拓扑结构。同时还有一个位图被系统用来跟踪已分配和未分配的inode。inode 结构描述文件中数据占据哪个块以及文件的存取权限、文件修改时间及文件类型。文件系统中的每个文件用一个inode 来表示且每个inode 有唯一的编号。目录是一个包含指向其目录入口指针的特殊文件（也用inode表示）。inode包含以下几个域：mode：它包含两类信息：inode 描述的内容以及用户使用权限。inode 可以表示一个文件、目录、符号连接、块设备、字符设备或FIFO。Own

22、er Information：表示此文件或目录所有者的用户和组标志符。文件系统根据它可以进行正确的存取。Size：以字节计算的文件尺寸。Timestamps：inode 创建及最后一次被修改的时间。Datablocks：指向此inode 描述的包含数据的块指针。inode数量=FileSystem_size/NBPI（Number of Bytes per inode）在文件系统创建以后就不能修改了,想增加inode数，只能增加文件系统的大小。Bytes-per-inode最小不能小于block size，因此指定Bytes-per-inode大小等于block size大小可以获得最大ino

23、de个数。inode第28页，共46页。United Information Technology Co.,Ltd.inode 的数量的数量 执行 df-i 命令可查看 inode 的数量：第29页，共46页。United Information Technology Co.,Ltd.inode 文件结构文件结构 inode 中存放的指针,会指到实际存放文件的数据块 小的文件仅需用到 inode中direct blocks 的空间 若再大文件则会用到 indirect blocks、double indirect blocks 或 triple indirect blocks块指针指向间接数据

24、块，间接数据块再指向实际的文件数据块。较大文件的inode指向更多的间接数据块。第30页，共46页。United Information Technology Co.,Ltd.NTFS文件系统文件系统 什么是NTFS新(N)技术(T)文件(F)系统(S)？NTFS新特性主文件表(Master File Table)。而$MFT则由文件记录(File Record)数组构成。File Record的大小一般是固定的，通常情况下均为1KB，这个概念相当于Linux中的inode。$MFT仅供File System本身组织、架构文件系统使用，这在NTFS中称为元数据(Metadata)。NTFS存储

25、结构卷，簇主控文件表文件引用号，文件记录，文件名称常驻属性与非常驻属性索引数据压缩第31页，共46页。United Information Technology Co.,Ltd.NTFS存储结构：卷存储结构：卷 卷是建立在磁盘分区上 一个磁盘可以有多个卷，一个卷也可以有多个磁盘组成 经过格式化的卷上的数据可分为：元数据和用户数据第32页，共46页。United Information Technology Co.,Ltd.NTFS存储结构：簇存储结构：簇 簇作为磁盘空间分配和回收的基本单位簇的大小是用户在使用Format命令或其他的格式化程序格式化卷时确定的。簇随卷的大小而不同，但都是物理扇区

26、的整数倍，通常是2的幂。系统默认 NTFS 簇的大小不会超过 4KB，簇越小空间的利用率就越好。NTFS使用LCN（Logical Cluster Number，逻辑簇号）和VCN（Virtual Cluster Number，虚拟簇号）来进行簇的定位。分区大小每簇的扇区缺省的簇大小=2G84KB第33页，共46页。United Information Technology Co.,Ltd.VCN和和LCN NTFS使用逻辑簇号（Logical Cluster Number，LCN）和虚拟簇号（Virtual Cluster Number，VCN）来对簇进行定位。LCN是对整个卷中所有的簇从头

27、到尾所进行的简单编号。用卷簇乘以LCN，NTFS就能够得到卷上的物理字节偏移量，从而得到物理磁盘地址。VCN则是对属于特定文件的簇从头到尾进行编号，以便于引用文件中的数据。VCN可以映射成LCN，而不必要求在物理上连续。第34页，共46页。United Information Technology Co.,Ltd.NTFS存储结构：主控文件表存储结构：主控文件表 MFT（Master File Table，主控文件表）是NTFS卷结构的核心，是NTFS中最重要的系统文件，包含了卷中所有文件的信息。MFT是一个数据库，由一系列文件记录File record组成。卷中每一个文件都有一个文件记录，每

28、个文件记录的大小都固定为1KB。卷上的每个文件（包括MFT本身）都有一行MFT记录。MFT开始的16个元数据文件是保留的。在NTFS中只有这16个元数据文件占有固定的位置。每个这样的元数据文件都有一个以“$”开头的文件名称，不过该符号是隐藏的。16个元数据文件之后则是普通的用户文件和目录。第35页，共46页。United Information Technology Co.,Ltd.NTFS中的中的16个元数据文件个元数据文件0：$Mft：MFT本身，保存NTFS卷中所有文件的记录1：$MftMirr：MFT镜像，Mft一小部分的副本2：$LogFile：日志文件，NTFS卷结构和元数据更改日

29、志，用来保证数据一致性3：$Volume：卷文件，保存NTFS卷的基本信息(如NTFS版本等)4：$AttrDef：属性定义表，定义NTFS支持的文件属性5：$：根目录6：$Bitmap：位图文件，卷的cluster位图7：$Boot：引导文件，引导区8：$BadClus：坏簇文件，坏扇区标记9：$Secure：安全文件，权限信息10：$UpCase：大写文件，大小写对应表11：$Extended metadata directory：扩展元数据目录$Quota 磁盘配额信息$ObjID 文件的ObjID$UsnJrnl 用户使用信息$Reparse 重分析点12，13，14，15：预留15：

30、其他用户文件和目录第36页，共46页。United Information Technology Co.,Ltd.NTFS存储结构：主控文件表的空间和备份存储结构：主控文件表的空间和备份文件存储区文件存储区MFT分配空间MFT元数据文件MFT前16个元数据文件备份 NTFS把磁盘分成了两大部分，其中大约12%分配给了MFT，以满足其不断增长的文件数量。为了保持MFT元文件的连续性，MFT对这12%的空间享有独占权。余下的88%的空间被分配用来存储文件。MFT空间的使用机制可以这样来描述：当文件耗尽了存储空间时，Windows操作系统会简单地减少MFT空间，并把它分配给文件存储。当有剩余空间时，

31、这些空间又会重新被划分给MFT。第37页，共46页。United Information Technology Co.,Ltd.NTFS设计目标：可恢复性设计目标：可恢复性 文件系统的要求：速度快和可恢复性 速度快=读写操作快=使用缓存=可恢复性降低文件系统的可恢复性取决于文件系统的写入操作方式。谨慎写（careful write）文件系统：例如FAT文件系统的“写通”技术。速度性能差延迟写（lazy-write）文件系统：例如UNIX文件系统的“写回”高速缓存技术。可恢复性差事务日志（transaction log）文件系统：试图既超越谨慎写文件系统的安全性，也达到延迟写文件系统的速度性能。

32、第38页，共46页。United Information Technology Co.,Ltd.NTFS的恢复机制的恢复机制The Change Journal File 采用Logging来保护FS的结构安全 NTFS通过日志记录（logging）来实现文件系统的可恢复性。所有改变文件系统的子操作在磁盘上运行以前，首先被记录在日志文件中。在系统崩溃后的恢复阶段，NTFS根据记录在日志文件中的文件操作信息，对那些部分完成的事务进行重做或是撤销，从而保证了磁盘上文件系统的一致性。日志记录的实现可恢复性的实现虚拟内存管理器高速缓存管理器日志文件服务器卷管理器NTFS FSD磁盘驱动物 理 磁 盘物

33、 理 磁 盘I/O管理器I/O管理器核心态核心态第39页，共46页。United Information Technology Co.,Ltd.数据库与存储数据库与存储-使用裸设备使用裸设备 因为使用裸设备避免了再经过操作系统这一层，数据直接从DBMS到Disk进行传输，所以使用裸设备对于读写频繁的数据库应用来说，可以极大地提高数据库系统的性能。使用的是原始分区，没有采用文件系统的管理方式，对于Unix维护文件系统的开销也都没有了，比如不用再维护inode，空闲块等，这也能够导致性能的提高 一般数据库厂商会建议使用裸设备（字符设备），空间管理完全由数据库引擎进行管理，这样所有数据和日志直接写盘

34、，当发生系统故障时，安全性较强，不至于丢失数据。第40页，共46页。United Information Technology Co.,Ltd.数据库自动存储管理数据库自动存储管理 Oracle ASM第41页，共46页。United Information Technology Co.,Ltd.数据库不依赖于数据库不依赖于OS的文件系统和卷管理的文件系统和卷管理ApplicationsDatabaseFile SystemVolume ManagementO/SHardware第42页，共46页。United Information Technology Co.,Ltd.数据库文件的地址映射数据库文件的地址映射第43页，共46页。United Information Technology Co.,Ltd.数据库自动存储管理的意义数据库自动存储管理的意义不需要操作系统的映射与缓存，提高效率 在多个磁盘上自动分散空间使用和I/O负载不需要手动进行存储配置优化可以在线进行存储配置第44页，共46页。United Information Technology Co.,Ltd.第45页，共46页。United Information Technology Co.,Ltd.演讲完毕，谢谢观看！第46页，共46页。