OceanStor 9000大数据存储系统技术白皮书 3 组网及环境要求
图3-2 前端和后端网络均采用10GE交换机组网方案示意
组网说明:
?
当OceanStor 9000使用10GE组网时,前端网络对接用户10GE交换网后端网络使用内部10GE交换机。前后端交换机冗余配置。
GE交换机通过网线连接管理网口和IPMI网口,仅用于管理维护。
?
3.3 IB组网描述(前端和后端网络均采用IB组网)
前后端均采用IB交换机组网的典型配置方案如图3-3所示。 图3-3 前端和后端网络均采用IB交换机组网方案示意
组网说明:
文档版本 01 (2015-06-27)
华为专有和保密信息 版权所有 ?
华为技术有限公司
7
OceanStor 9000大数据存储系统技术白皮书
?
3 组网及环境要求
当OceanStor 9000使用全IB组网时,前端网络对接用户IB交换网后端网络使用内部IB交换机。前后端交换机冗余配置。
GE交换机通过网线连接管理网口和IPMI网口,仅用于管理维护。
?
3.4 前端10GE后端IB组网描述(前端网络采用10GE,后端网络采用IB)
前端网络采用10GE交换机,后端网络采用IB交换机组网的典型配置方案如图3-4所示。
图3-4 前端网络采用10GE交换机,后端网络采用IB交换机组网方案示意
组网说明:
?
前端网络使用10GE交换机,后端网络使用InfiniBand交换机。前后端交换机冗余配置。
GE交换机通过网线连接管理网口和IPMI网口,仅用于管理维护。
?
3.5 系统运行环境
OceanStor 9000大数据存储系统通过NFS共享、CIFS共享等方式为用户提供文件服务。对最终用户来说,OceanStor 9000就是一个文件服务器,用户通过该文件服务器存取文件。用户所在的环境可能是比较复杂的,如AD域、NIS域、LDAP等环境,需要OceanStor 9000系统也能支持这些环境。OceanStor 9000提供对以上环境的支持,用户只需要进行相应的配置,即可将OceanStor 9000系统在现有的域环境中运行起来供应用主机访问。
文档版本 01 (2015-06-27)
华为专有和保密信息 版权所有 ?
华为技术有限公司
8
OceanStor 9000大数据存储系统技术白皮书 4 软件特性
4 4.1 OceanStor DFS分布式文件系统
4.1.1 技术背景
软件特性
OceanStor DFS解决了传统存储体系结构存在的难题(容量不易扩展、性能不易扩展)。OceanStor DFS将三个传统的存储体系结构层(文件系统、卷管理器和 RAID)组合为一个统一的软件层,从而创建一个跨越存储系统中所有节点的单一智能文件系统。
传统的存储设备(DAS,SAN和非集群NAS)存在一些缺陷:它是静态的,其设计不具备可扩展性。
DAS不能提供数据共享能力,如果多个应用需要共用同一份数据,往往需要花费大量的时间进行数据迁移,导致环境中存在多份相同的数据,并且多份数据之间同步困难。而且DAS不易扩展。
SAN相比DAS更具灵活性和可扩展性,但是SAN也不具备数据共享能力。 NAS系统能够给应用服务器提供统一的文件系统空间,满足多台应用服务器之间共享数据的需求。非分布式集群的NAS设备一般使用双控或者多控节点提供服务,每个节点支持特定的业务负载,当容量不够时通过扩展硬盘框的方式增加存储容量。这种方式并不完美:首先业务和节点的绑定,意味着一个业务及其关联的文件系统只在一个节点上工作,容易造成系统整体的负载不均;其次,这种系统本质上是Scale-up的扩容方式,追求单机性能,无法做到系统性能随容量的增加线性增加。
作为OceanStor 9000系统的软件基础,OceanStor DFS采用全Active的Share nothing方式,系统的数据和管理数据(元数据)分布在各个节点上,避免了系统资源争用,消除了系统瓶颈;即使出现整节点故障,系统也能够自动识别故障节点,自动恢复故障节点涉及的数据和元数据,使故障对业务透明,完全不影响业务连续性。整系统采用全互联全冗余的组网机制,全对称分布式集群设计,实现存储系统节点的全局统一命名空间,从而允许系统中任何节点并发访问整系统的任何文件;并且支持文件内的细粒度的全局锁,提供从多个节点并发访问相同文件的不同区域,实现高并发高性能读写。
文档版本 01 (2015-06-27)
华为专有和保密信息 版权所有 ?
华为技术有限公司
9
OceanStor 9000大数据存储系统技术白皮书 4 软件特性
4.1.2 技术原理
文件的条带化
为实现数据保护和高性能读写,OceanStor DFS对数据进行按节点条带化处理,首先,创建新文件时文件系统会按照配置的保护级别挑选符合要求的节点,然后写数据时文件系统将用户的数据平均分布在各节点上,读数据时文件系统从所有节点并行读取。 图4-1 文件条带化示意图
上图所示例的OceanStor 9000系统由3个节点组成,用户的数据平均分布在3个节点上。实际使用中用户的数据分布需要根据配置而定,关于分布式文件系统所支持的具体分布方式细节请参考“分布式数据可靠技术”。
统一命名空间
OceanStor DFS对外提供CIFS/NFS访问接口,即用户以文件名来操作文件,那么文件命名的有效范围就称之为命名空间。
通常一个本地文件系统,如ext3文件系统,一个命名空间只能与一台计算机或文件系统相关联,本地文件系统将元数据和数据都存储在本地硬盘,访问文件数据时文件系统首先从本地硬盘读取元数据信息,然后通过元数据信息得知文件数据在本地硬盘存储的布局和位置,再去读写本地硬盘完成访问文件操作。所以本地文件系统的命名空间范围都有限。
OceanStor DFS采用全对称结构,将所有节点的命名空间整合为统一命名空间,将整个系统的所有节点的存储容量组成一个大的虚拟存储池,元数据和数据保存在每个节点上,每个节点都是元数据服务器同时也是数据服务器,访问文件数据时OceanStor DFS首先Hash计算1定位到文件所归属的元数据服务器,然后通过元数据服务器获取文件的数据分布,即获取文件分布在哪些节点上以及在节点上的具体位置,再去访问这些节点完成数据读写操作。
备注1:9000系统文件的元数据信息是采用DHT Hash方式分布存储的。
文档版本 01 (2015-06-27)
华为专有和保密信息 版权所有 ?
华为技术有限公司
10
OceanStor 9000大数据存储系统技术白皮书 4 软件特性
图4-2 统一命名空间功能示意图
图4-22中所示例的OceanStor 9000系统由3个节点组成,这3个节点对用户都是透明的,用户并不会感知到是哪个节点在提供服务。假如用户访问不同的文件,实际上是由不同的节点在提供服务。
OceanStor DFS支持最大60PB全局命名空间,用户不用管理多个命名空间,从而减轻管理复杂度。消除多个命名空间,也消除了多个命名空间带来的数据孤岛。
4.1.3 技术特点
无缝扩展
OceanStor DFS支持节点动态扩展,节点数目从3~288随需而定,而且节点扩展中业务不中断。OceanStor DFS支持针对不同的应用需求提供不同的硬件节点类型。 图4-3 无缝扩展功能示意图
文档版本 01 (2015-06-27)
华为专有和保密信息 版权所有 ?
华为技术有限公司
11
百度搜索“77cn”或“免费范文网”即可找到本站免费阅读全部范文。收藏本站方便下次阅读,免费范文网,提供经典小说综合文库华为OceanStor 9000大数据存储系统技术白皮书(3)在线全文阅读。
相关推荐: