《2022年GPFS文件系统 .pdf》由会员分享,可在线阅读,更多相关《2022年GPFS文件系统 .pdf(4页珍藏版)》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、初窥 GPFS 文件系统引自: http:/ 一、什么是GPFS 文件系统General Parallel File System(GPFS)是高性能、可扩展、并行文件系统,起源于IBM SP 系统上使用的虚拟共享磁盘技术(VSD )。GPFS 文件系统保证资源组内的所有节点可以并行访问整个文件系统,并且文件系统上的文件可以分布在不同的物理硬盘上。利用IBM Linux集群系统中的 “ 虚拟 “ 共享磁盘技术,GPFS 似的多个节点上运行的多个应用程序可以同时读写同一个文件。并且GPFS 还包含了IBM 可扩展集群系统技术(RSCT ),可以将存储的内容自动恢复到活动节点上,当系统产生故障时,
2、文件日志可以快速的恢复数据,并且可以保证数据的一致性。在GPFS 为应用程序提供了UNIX 标准的文件系统借口,可以在不改变现有代码的基础上直接运行。二、 GPFS 文件系统的基本结构GPFS 文件系统由三层架构组成:GPFS 文件设备、网络共享磁盘(NSD )和磁盘1、GPFS 文件设备( GPFS File System Device)GPFS 文件设备由NSD 创建,是可以被多个节点并行同时挂载的文件设备名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 1 页,共 4 页 - -
3、 - - - - - - - 2、网络共享磁盘(NSD )网络共享磁盘(NSD )是由物理磁盘映射出来的虚拟设备,与磁盘之间是一一对应的关系。并且, NSD 将虚拟设备按照不同的属性划分了不同的用途。NSD 虚拟设备具有4 种不同的磁盘属性:a、Desc Only :表示该磁盘存储GPFS 文件系统的描述信息b、Data Only :表示该磁盘只存储GPFS 文件系统的数据信息c、Meta Data Only:表示该磁盘只存储GPFS 文件系统的目录结构信息(inode )d、Meta And Data:表示该磁盘存储GPFS 文件系统中的所有信息(默认情况)三、 GPFS 文件系统的特点1、
4、高性能由于 GPFS 文件系统允许在同一个节点内的多个进程使用标准的UNIX 文件系统接口,并行的访问相同文件(读写)。并且,可以将节点的读写操作分布到不同的物理磁盘上,因此避免了对某个磁盘过多读写操作,增加了整个系统的吞吐量,提高了系统的整体性能。2、跨平台GPFS 文件系统本身可以看成与具体系统无关的一个单独系统,通过集群方式可以支持多种操作系统,比如AIX、 Linux 等。3、保证数据一致性GPFS 文件系统采用信令管理机制保证数据的一致性。信令机制允许各个节点通过独自的路径到达同一个文件。因此, 当某个节点的某条路径无法正常工作,依旧可以通过链路冗余达到 GPFS 文件系统。并且GP
5、FS 本身设计成为一种日志文件系统,为不同的节点建立了各自独立的日志(保存了Meta Data的分布信息)。因此,一但节点发生故障后,可以通过日志记录的Meta Data的分布信息,快速的找到相应的Meta Data然后恢复。4、可扩展性GPFS 可以动态调整系统资源,支持在文件系统挂载的情况下动态的添加和删除硬盘,而无须重启。5、方便管理名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 2 页,共 4 页 - - - - - - - - - GPFS 文件系统, 可以自动的同步各个节
6、点的配置文件和文件系统信息,因此可以在任意一个节点上管理GPFS 。四、系统可用状态的仲裁GPFS 文件系统提供3 种仲裁方式来确定系统当前状态是否安全可靠:File Descriptor Quorum 、Node Quorum和 Tiebreaker Quorum 1、File Descriptor Quorum:当在磁盘上创建GPFS 文件系统时,会将文件系统信息的拷贝复制到多个磁盘上,达到数据冗余的目的。这种方式是GPFS 文件系统默认支持的,是不可以配置改变的。File Descriptor Quorum通过判断包含有文件系统信息的磁盘的在线情况来判断当前系统是否正常。当超过一半的包含
7、文件系统信息的磁盘下线时,GPFS 文件系统会判断系统为非正常状态,此时会自动关闭文件系统。2、Node Quorum :GPFS 文件系统集群中,将多个主机节点设置成Quorum 节点,当有超过一半的Quorum节点下线时, GPFS 文件系统判断系统为非正常状态,会自动关闭文件系统。3、Tiebreaker Quorum:GPFS 文件系统集群中,可以设置一些指定的物理磁盘作为Tiebreaker Disk,GPFS 文件系统会动态的监视这些磁盘的状态。当有超过一般的Tiebreaker Disk下线时,则表示系统为非正常状态, 自动关闭文件系统。 按照文档上来说,用于监视Tiebreak
8、er Disk的 Quorum主机数目最多只能配置两台,当2 台 Quorum 主机都故障,则也表示系统故障,此时文件系统也会关闭。Tibreaker Quorum和 Node Quorum仲裁方式只能选择其中一种,不能两种同时使用。Tibreakder Quorum仲裁方式主要是用于节点比较少的亲况下,如果整个系统的接入节点较多,应该考虑Node Quorum的仲裁方式。名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 3 页,共 4 页 - - - - - - - - - 五、 G
9、PFS 文件系统的并发访问1、并发访问GPFS 文件系统的并行文件访问通过两个部分来实现:一是多个GPFS 节点以并行的方式(可以是多个进程)访问磁盘系统上的数据(相同或者不同);二是GPFS 文件系统将文件访问分散到不同的物理磁盘上,提升访问效率。2、文件锁GPFS 文件系统支持并发访问文件,因此需要一套锁机制来保证并发访问时数据的正确性。常见的锁管理机制分为两种:集中式的锁管理机制和分布式的锁管理机制。其中,在集中式的所管理机制中,集群系统中会将一个或者多个节点专门用于负责管理文件系统的元数据(Meta Data )。当集群中有多个节点需要同时访问同一个数据单元时,节点首先需要向元数据管理
10、服务器发送一个访问请求,元数据管理服务器将读写操作授权给节点,节点即可对请求的数据单元进行读写操作。而分布式的锁管理机制中则没有专门用于管理元数据的管理节点,文件系统中的元数据分布在文件系统集群的所有节点上。当有节点同时访问同一个数据单元时, 会通过保存的元数据信息找到集群中拥有该数据单元锁的节点发送请求,获得批准后,方可访问请求的数据单元。GPFS 文件系统中是将集中式和分布式锁管理机制结合的方式来管理并发访问,GPFS 文件集群中有一个负责全局锁管理的服务器,同时集群中的每个节点上还保存了文件系统元数据。全局索管理服务器,通过令牌(Token )发放的方式,来协调各个节点的元数据访问。当系统中有某个节点需要读写文件时,首先向 Token Server请求获得令牌, 当获得令牌后,可以从节点中获取文件锁,然后进行数据单元的读取操作。名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 4 页,共 4 页 - - - - - - - - -