ABOUT ME

-

Today
-
Yesterday
-
Total
-
  • BeeGFS 소개
    기술이야기/병렬파일시스템 (BeeGFS, Lustre, etc) 2022. 4. 28. 14:50

    최고의 병렬 파일 시스템

    BeeGFS는 하드웨어 독립적인 POSIX 병렬 파일 시스템(소프트웨어 정의 병렬 저장소라고도 함)으로 성능에 중점을 두고 개발되었으며 사용 용이성, 간단한 설치 및 관리를 위해 설계되었습니다. BeeGFS는 사용 가능한 소스 개발 모델(소스 코드는 공개적으로 사용 가능)에서 생성되어 자체 지원되는 Community Edition과 추가 기능이 있는 완전히 지원되는 Enterprise Edition을 제공합니다. 몇 가지만 예를 들자면, BeeGFS는 HPC, AI 및 딥 러닝, 미디어 및 엔터테인먼트, 생명 과학, 석유 및 가스를 포함한 모든 성능 지향 환경을 위해 설계되었습니다.


    BeeGFS 작동 방식

     

    BeeGFS는 ext4, xfs, zfs, Hadoop과 같은 일반적인 파일 시스템을 통해 사용자 공간에서 가벼운 고성능 서비스 데몬과 함께 작동합니다. 이를 통해 사용자는 최대 대역폭, 하드웨어 영역의 더 높은 성능을 제공하고 애플리케이션에 네트워크 와이어 속도를 제공할 수 있습니다. 기본 BeeGFS 클라이언트 및 서버 구성 요소는 Linux on x86, x86_64, AMD, ARM 및 OpenPower 또는 기타 CPU 아키텍처에서 사용할 수 있습니다.

    BeeGFS의 고유한 사용자 공간 아키텍처 개념을 통해 사용자는 메타데이터 액세스 대기 시간(예: 디렉토리 조회)을 최소로 유지하고 메타데이터를 여러 서버에 분산하여 각 메타데이터 서버가 전역 파일 시스템 네임스페이스의 일부를 저장할 수 있습니다.

    시스템의 서버와 디스크 수를 늘리면 소규모 클러스터에서 수천 개의 노드가 있는 엔터프라이즈급 시스템에 이르기까지 파일 시스템의 성능과 용량을 필요한 수준으로 원활하게 확장할 수 있습니다. 


    BeeGFS의 주요 특징

    BeeGFS는 사용자 데이터를 여러 서버에 투명하게 분산시킵니다. 시스템의 서버와 디스크 수를 늘리면   소규모 클러스터에서 수천 개의 노드가 있는 엔터프라이즈급 시스템에 이르기까지 필요한 수준으로 파일 시스템의 성능과 용량을 원활하게 확장 할 수 있습니다.

     

    분산 파일 콘텐츠 및 메타데이터

    BeeGFS의 가장 근본적인 장점 중 하나는 사용자 공간 아키텍처를 통해 클러스터의 아키텍처 병목 현상이나 잠금 상황을 엄격하게 방지한다는 것입니다. 이 개념을 통해 메타데이터 및 스토리지 수준에서 무중단 및 선형 확장이 가능합니다. 
    자세히 알아보기 (영문PDF)

     

    HPC 기술

    BeeGFS는 기본 RDMA를 지원하는 매우 효율적이고 확장 가능한 다중 스레드 코어 구성 요소를 기반으로 합니다. 파일 시스템 노드는 RDMA(InfiniBand, Omni-Path, RoCE 및 TCP/IP) 네트워크 연결을 동시에 제공할 수 있으며 이중 연결 경로 중 하나가 실패할 경우 자동으로 중복 연결 경로로 전환합니다.

     

    사용하기 쉬움

    BeeGFS는 커널 패치가 필요하지 않으며(클라이언트는 패치가 없는 커널 모듈이고 서버 구성 요소는 사용자 공간 데몬임) 그래픽 Grafana 대시보드와 함께 제공되며 필요할 때마다 운영 중인 시스템에 더 많은 클라이언트와 서버를 추가할 수 있습니다.

     

    고도의 동시 액세스에 최적화

    NFS와 같은 단순한 원격 파일 시스템은 동시 액세스가 높은 경우 심각한 성능 문제가 있을 뿐만 아니라 여러 클라이언트가 동일한 공유 파일에 쓸 때 데이터를 손상시킬 수도 있습니다. 이는 클러스터 애플리케이션의 일반적인 사용 사례입니다. BeeGFS는 높은 I/O 부하 또는 패턴의 상황에서 최적의 견고함과 성능을 제공하기 위해 이러한 사용 사례를 염두에 두고 특별히 설계되었습니다.

     

    모든 시스템의 클라이언트 및 서버

    BeeGFS를 실행하기 위해 특정 엔터프라이즈 Linux 배포 또는 기타 특수 환경이 필요하지 않습니다. 다른 사용 사례를 허용하는 XFS, ext4 또는 ZFS와 같은 표준 Linux 파일 시스템으로 포맷된 기존 파티션을 사용합니다.
    자세히 알아보기 (영문PDF)


     

    BeeGFS를 사용하는 이유

    BeeGFS는 다른 병렬 파일 시스템에 대한 배포가 쉬운 대안으로 널리 알려져 있으며 전 세계 수천 개의 사이트에 배포되어 HPC, AI를 포함하되 이에 국한되지 않는 모든 성능 지향 환경에서 모든 종류와 크기의 스토리지 시스템에 빠르게 액세스할 수 있습니다. 딥 러닝, 생명 과학, 석유 및 가스.

    BeeGFS 사용자 공간 아키텍처는 사용자가 성능 제한 없이 모든 IO 프로필 요구 사항을 관리할 수 있도록 하는 "최첨단"이며 가장 까다로운 HPC, AI 또는 비즈니스 크리티컬 애플리케이션을 실행하는 데 필요한 확장성과 유연성을 제공합니다.

    BeeGFS를 통해 고객은 확장 가능한 HPC 및 AI 인프라에 투자할 수 있으며, 이는 소규모 사이트에서 대규모 확장 환경까지 제공하여 하드웨어 구성 요소의 전체 대역폭을 완화합니다. BeeGFS는 워크플로우나 애플리케이션을 변경하지 않고도 새로운 데이터 분석 방법을 가능하게 하여 더 빠른 결과를 제공함으로써 생산성을 높입니다.

    성능

    작은 파일에서 큰 파일까지 균형이 잘 잡힌 파일

     

    확장성

    중단 없이 원활하게 파일 시스템 성능 및 용량 향상

     

    사용의 용이성

    기존 인프라와 쉽게 배포 및 통합

     

    견고함

    지속적인 운영을 가능하게 하는 고가용성 설계


    BeeOND로 데이터 극대화

     

    BeeOND는 클러스터 배치 시스템과 통합하여 컴퓨팅 작업의 일부인 컴퓨팅 노드의 내부 SSD/NVMe에 작업별로 임시 병렬 파일 시스템 인스턴스를 생성하도록 설계되었습니다.

    이러한 BeeOND 인스턴스는 매우 빠르고 사용하기 쉬운 임시 버퍼를 제공할 뿐만 아니라 임시 또는 임의 액세스 파일에 대한 많은 I/O 로드를 전역 클러스터 저장소에서 멀리 떨어뜨릴 수 있습니다. 이러한 기능을 추가하여 클라이언트 노드의 숙련도를 높이면 중요한 프로젝트의 속도가 엄청나게 빨라집니다.

     


    (주)이스파이스는 BeeGFS의 독일 본사 인증 파트너로서, BeeGFS에 대한 전반적인 컨설팅에서 구축/서비스까지 제공합니다.

    관심있으신 분들은 전화 02-573-1484~5 혹은 이메일 marketing@espice.co.kr로 연락주시기 바랍니다.

    '기술이야기 > 병렬파일시스템 (BeeGFS, Lustre, etc)' 카테고리의 다른 글

    BeeGFS 소개 자료  (0) 2022.10.18

    댓글

Designed by Tistory.