77范文网 - 专业文章范例文档资料分享平台

华为OceanStor 9000大数据存储系统技术白皮书(3)

来源:网络收集 时间:2019-03-22 下载这篇文档 手机版
说明:文章内容仅供预览,部分内容可能不全,需要完整文档或者需要复制内容,请下载word后使用。下载word有问题请添加微信号:或QQ: 处理(尽可能给您提供完整文档),感谢您的支持与谅解。点击这里给我发消息

OceanStor 9000大数据存储系统技术白皮书 3 组网及环境要求

图3-2 前端和后端网络均采用10GE交换机组网方案示意

组网说明:

?

当OceanStor 9000使用10GE组网时,前端网络对接用户10GE交换网后端网络使用内部10GE交换机。前后端交换机冗余配置。

GE交换机通过网线连接管理网口和IPMI网口,仅用于管理维护。

?

3.3 IB组网描述(前端和后端网络均采用IB组网)

前后端均采用IB交换机组网的典型配置方案如图3-3所示。 图3-3 前端和后端网络均采用IB交换机组网方案示意

组网说明:

文档版本 01 (2015-06-27)

华为专有和保密信息 版权所有 ?

华为技术有限公司

7

OceanStor 9000大数据存储系统技术白皮书

?

3 组网及环境要求

当OceanStor 9000使用全IB组网时,前端网络对接用户IB交换网后端网络使用内部IB交换机。前后端交换机冗余配置。

GE交换机通过网线连接管理网口和IPMI网口,仅用于管理维护。

?

3.4 前端10GE后端IB组网描述(前端网络采用10GE,后端网络采用IB)

前端网络采用10GE交换机,后端网络采用IB交换机组网的典型配置方案如图3-4所示。

图3-4 前端网络采用10GE交换机,后端网络采用IB交换机组网方案示意

组网说明:

?

前端网络使用10GE交换机,后端网络使用InfiniBand交换机。前后端交换机冗余配置。

GE交换机通过网线连接管理网口和IPMI网口,仅用于管理维护。

?

3.5 系统运行环境

OceanStor 9000大数据存储系统通过NFS共享、CIFS共享等方式为用户提供文件服务。对最终用户来说,OceanStor 9000就是一个文件服务器,用户通过该文件服务器存取文件。用户所在的环境可能是比较复杂的,如AD域、NIS域、LDAP等环境,需要OceanStor 9000系统也能支持这些环境。OceanStor 9000提供对以上环境的支持,用户只需要进行相应的配置,即可将OceanStor 9000系统在现有的域环境中运行起来供应用主机访问。

文档版本 01 (2015-06-27)

华为专有和保密信息 版权所有 ?

华为技术有限公司

8

OceanStor 9000大数据存储系统技术白皮书 4 软件特性

4 4.1 OceanStor DFS分布式文件系统

4.1.1 技术背景

软件特性

OceanStor DFS解决了传统存储体系结构存在的难题(容量不易扩展、性能不易扩展)。OceanStor DFS将三个传统的存储体系结构层(文件系统、卷管理器和 RAID)组合为一个统一的软件层,从而创建一个跨越存储系统中所有节点的单一智能文件系统。

传统的存储设备(DAS,SAN和非集群NAS)存在一些缺陷:它是静态的,其设计不具备可扩展性。

DAS不能提供数据共享能力,如果多个应用需要共用同一份数据,往往需要花费大量的时间进行数据迁移,导致环境中存在多份相同的数据,并且多份数据之间同步困难。而且DAS不易扩展。

SAN相比DAS更具灵活性和可扩展性,但是SAN也不具备数据共享能力。 NAS系统能够给应用服务器提供统一的文件系统空间,满足多台应用服务器之间共享数据的需求。非分布式集群的NAS设备一般使用双控或者多控节点提供服务,每个节点支持特定的业务负载,当容量不够时通过扩展硬盘框的方式增加存储容量。这种方式并不完美:首先业务和节点的绑定,意味着一个业务及其关联的文件系统只在一个节点上工作,容易造成系统整体的负载不均;其次,这种系统本质上是Scale-up的扩容方式,追求单机性能,无法做到系统性能随容量的增加线性增加。

作为OceanStor 9000系统的软件基础,OceanStor DFS采用全Active的Share nothing方式,系统的数据和管理数据(元数据)分布在各个节点上,避免了系统资源争用,消除了系统瓶颈;即使出现整节点故障,系统也能够自动识别故障节点,自动恢复故障节点涉及的数据和元数据,使故障对业务透明,完全不影响业务连续性。整系统采用全互联全冗余的组网机制,全对称分布式集群设计,实现存储系统节点的全局统一命名空间,从而允许系统中任何节点并发访问整系统的任何文件;并且支持文件内的细粒度的全局锁,提供从多个节点并发访问相同文件的不同区域,实现高并发高性能读写。

文档版本 01 (2015-06-27)

华为专有和保密信息 版权所有 ?

华为技术有限公司

9

OceanStor 9000大数据存储系统技术白皮书 4 软件特性

4.1.2 技术原理

文件的条带化

为实现数据保护和高性能读写,OceanStor DFS对数据进行按节点条带化处理,首先,创建新文件时文件系统会按照配置的保护级别挑选符合要求的节点,然后写数据时文件系统将用户的数据平均分布在各节点上,读数据时文件系统从所有节点并行读取。 图4-1 文件条带化示意图

上图所示例的OceanStor 9000系统由3个节点组成,用户的数据平均分布在3个节点上。实际使用中用户的数据分布需要根据配置而定,关于分布式文件系统所支持的具体分布方式细节请参考“分布式数据可靠技术”。

统一命名空间

OceanStor DFS对外提供CIFS/NFS访问接口,即用户以文件名来操作文件,那么文件命名的有效范围就称之为命名空间。

通常一个本地文件系统,如ext3文件系统,一个命名空间只能与一台计算机或文件系统相关联,本地文件系统将元数据和数据都存储在本地硬盘,访问文件数据时文件系统首先从本地硬盘读取元数据信息,然后通过元数据信息得知文件数据在本地硬盘存储的布局和位置,再去读写本地硬盘完成访问文件操作。所以本地文件系统的命名空间范围都有限。

OceanStor DFS采用全对称结构,将所有节点的命名空间整合为统一命名空间,将整个系统的所有节点的存储容量组成一个大的虚拟存储池,元数据和数据保存在每个节点上,每个节点都是元数据服务器同时也是数据服务器,访问文件数据时OceanStor DFS首先Hash计算1定位到文件所归属的元数据服务器,然后通过元数据服务器获取文件的数据分布,即获取文件分布在哪些节点上以及在节点上的具体位置,再去访问这些节点完成数据读写操作。

备注1:9000系统文件的元数据信息是采用DHT Hash方式分布存储的。

文档版本 01 (2015-06-27)

华为专有和保密信息 版权所有 ?

华为技术有限公司

10

OceanStor 9000大数据存储系统技术白皮书 4 软件特性

图4-2 统一命名空间功能示意图

图4-22中所示例的OceanStor 9000系统由3个节点组成,这3个节点对用户都是透明的,用户并不会感知到是哪个节点在提供服务。假如用户访问不同的文件,实际上是由不同的节点在提供服务。

OceanStor DFS支持最大60PB全局命名空间,用户不用管理多个命名空间,从而减轻管理复杂度。消除多个命名空间,也消除了多个命名空间带来的数据孤岛。

4.1.3 技术特点

无缝扩展

OceanStor DFS支持节点动态扩展,节点数目从3~288随需而定,而且节点扩展中业务不中断。OceanStor DFS支持针对不同的应用需求提供不同的硬件节点类型。 图4-3 无缝扩展功能示意图

文档版本 01 (2015-06-27)

华为专有和保密信息 版权所有 ?

华为技术有限公司

11

百度搜索“77cn”或“免费范文网”即可找到本站免费阅读全部范文。收藏本站方便下次阅读,免费范文网,提供经典小说综合文库华为OceanStor 9000大数据存储系统技术白皮书(3)在线全文阅读。

华为OceanStor 9000大数据存储系统技术白皮书(3).doc 将本文的Word文档下载到电脑,方便复制、编辑、收藏和打印 下载失败或者文档不完整,请联系客服人员解决!
本文链接:https://www.77cn.com.cn/wenku/zonghe/540514.html(转载请注明文章来源)
Copyright © 2008-2022 免费范文网 版权所有
声明 :本网站尊重并保护知识产权,根据《信息网络传播权保护条例》,如果我们转载的作品侵犯了您的权利,请在一个月内通知我们,我们会及时删除。
客服QQ: 邮箱:tiandhx2@hotmail.com
苏ICP备16052595号-18
× 注册会员免费下载(下载后可以自由复制和排版)
注册会员下载
全站内容免费自由复制
注册会员下载
全站内容免费自由复制
注:下载文档有可能“只有目录或者内容不全”等情况,请下载之前注意辨别,如果您已付费且无法下载或内容有问题,请联系我们协助你处理。
微信: QQ: