昆腾StorNext增强大庆油田HPC集群性能
作者:IT168 存储频道
2008/8/27 0:00:00
主要优势
• 消除单一故障点 • 解决性能瓶颈问题 • 优化设备 • 提高资源利用率和整体效率
解决方案概述
• Quantum StorNext • Quantum Scalar® i2000 磁带库 • 惠普刀片 式服务器 集群 • 日立SAN 存储阵列
石油研究领域的巨人
大庆油田公司勘探开发研究院成立于 1964 年,现有 1800 多名石油工程技术人员,拥有多位国内外知名的地质学家、地球物理家和油藏工程师。在大庆油田发现和高产稳产的发展历程中,研究院承担了数以千计的重要研究课题,所取得的研究成果对大庆油田的油气勘探和生产具有重要意义,为大庆油田持续27年高产稳产5000 万吨作出了巨大贡献。
为了保持大庆油田持续稳定地增长稳产4000千万吨的优势,创建百年油田,研究院需要采用先进的 IT 技术作为发展动力。其地球物理开云全站官方下载 ( Geophysics Service Center, GSC) 拥有近千台服务器,许多是在油田地震数据处理应用中广泛采用的高性能计算 (HPC) 服务器。在三维地震叠前时间/深度偏移处理方面,广泛采用了基于 Linux 的 HPC 集群。
为了加快油气勘探的步伐,GSC 决定进一步增强在地震数据处理方面的能力,这就要求对集群系统的规模进行拓展。为此,新增了惠普公司的高性能刀片式服务器集群,并配合使用日立数据系统公司的 SAN 存储阵列。整个地震处理集群系统由656 台刀片式服务器和42台I/O服务器、高速 10 千兆位以太网和一个 SAN 磁盘存储阵列组成。安装集成了国际领先水平的地震数据处理软件 ,能够实现高分辨率地震数据处理和地震叠前时间/深度偏移处理。新的地震处理集群系统的采用大大加快了大庆油田公司在松辽盆地深层和海拉尔盆地的油气步伐。
1
采用 StorNext 解决方案,文件系统限制问题迎刃而解
随着地震数据计算量和磁盘空间的超常规增长,传统的单一节点 NFS 服务器已无法满足数据处理的要求。当采用 I/O 服务器在多个计算节点导出文件系统时,性能瓶颈问题就会凸显出来。另外,文件系统架构也存在着一个故障点。
Quantum 的 StorNext 软件是解决上述问题的最佳选择:其共享 SAN 文件系统拓扑结构能够充分发挥 StorNext 文件系统、StorNext Storage Manager 归档系统和 Quantum Scalar® i2000 磁带库的优势,从而达到优化系统性能、提高存储资源利用率和集群整体处理效率的目的。特别是在进行三维地震叠前时间/深度偏移处理时,共享文件系统的部署加上磁盘存储空间的合理使用,充分满足了研究院的大规模三维连片地震数据处理需求。
大庆油田公司勘探开发研究院的 张铁刚总工说:“StorNext 解决方案可有效解决了文件系统性能存在的瓶颈问题,同时消除原文件系统架构的单一故障点。因此,能够显著提高地震数据处理效率。”
通过实施 StorNext 解决方案,GSC 构建了一个大型地震数据处理系统,包括 698 台服务器(1,444 个CPU)、全新的 10Gbps 网络、576 个以太网端口、400TB 光纤通道网络磁盘阵列,以及一个 600TB Quantum Scalar® i2000 磁带库。集群中的每台服务器都运行着 StorNext 文件系统软件,因此,每台服务器都能够以高于 100MBps 的速度直接访问共享 FC 磁盘。
磁盘以及磁盘到磁带库的数据归档由 StorNext 元数据服务器进行管理。这些服务器可以管理共享文件系统元数据,满足各项常规数据的读/写需求,并能够执行不间断的数据迁移和检索。
大庆油田研究院的地震处理集群中总共安装了五套地震数据处理软件。对于传统共享文件系统而言,由于负载平衡问题,很难实现应用程序共享。而 StorNext 解决方案在文件共享期间提供了 I/O 负载平衡功能,有效消除了性能制约因素。所有 I/O 节点都可以同时访问相同的文件系统,无需排队等候,也不会出现不必要的延迟。这样,研究院就可以根据勘探开发的需要部署 I/O 节点资源,从而提高地震数据处理效率。
大庆油田公司勘探开发研究院技术专家冯保民评价到:“实施 StorNext 解决方案后,所有 I/O 节点都可以同时访问相同的文件系统,而无需排队等候。因此,五套地震数据处理软件能够同时共享原始地震数据,而不会出现任何不必要的延迟。此外,该解决方案还可通过多个不同的 I/O 节点来执行并行处理操作,以满足更高的性能需求。总之,StorNext 解决方案为提高地震数据处理的效率做出了巨大贡献。”
1
StorNext 解决方案赋予集群强大的处理能力
在部署 StorNext 解决方案之前,该研究院拥有 30 个 1TB 规模的文件系统。由于多个 I/O 节点无法访问相同的文件系统,这种系统设置严重制约了勘探研究工作。为了确保地震数据得到充分处理,大多数 I/O 节点都要访问这些不同的文件系统。而这给 I/O 节点带来了沉重的系统负荷,致使集群无法满足大规模地震数据处理的要求。
StorNext 文件系统能够与 SAN 中的共享存储池配合使用。这样,就可以通过多个不同的 I/O 节点进行地震数据处理操作,从而满足地震叠前时间/深度偏移处理对共享文件系统空间的巨大需求。
另外,StorNext 解决方案还可对地震数据进行归档、检索和保护,并能通过 Scalar® i2000 磁带库进行存储。GSC 可以根据具体参数(如进度表、工作区域、用户和关键处理标准等)将数据从在线 RAID 系统迁移至磁带,从而为其他作业释放磁盘空间。如果需要使用已归档的文件,可自动将其从磁带转移到磁盘上。此外,经过处理的数据的最终副本可复制到磁带库中,从而实现最终数据的离线存储和保护。
大庆油田公司勘探开发研究院简介:
大庆油田勘探开发研究成立于 1964 年,经过 40 多年的发展建设,,该研究院已成为技术门类齐全、研发实力雄厚、研究设备先进的中国最大的油气勘探开发研究机构之一。该研究院重视科研与生产,并致力于技术创新。油气勘探技术的发展进步成为大庆油田可持续发展的坚实基础。
大庆油田勘探开发研究院现有 1,800名石油工程人员,其中有 2 位国家级和部级“有突出贡献”的专家,9 位CNPC 高级专家,11 位技术专家,41 位学术和技术带头人。
1