nvme-ssd

3 개의 포스트

aws

AWS Graviton5 프로세서 기반 Amazon EC2 C9g 및 C9gd 인스턴스 출시 | Amazon Web Services (새 탭에서 열림)

AWS가 AWS Graviton5 기반의 컴퓨팅 최적화 EC2 C9g 및 로컬 NVMe 스토리지를 갖춘 C9gd 인스턴스를 정식 출시했다. C9g는 이전 C8g보다 vCPU당 최대 25% 높은 성능과 더 빠른 메모리·대형 캐시·향상된 네트워크 성능을 제공하며, C9gd는 여기에 고속 로컬 SSD를 추가한다. 두 인스턴스는 배치 처리, HPC, 동영상 인코딩, 실시간 분석, CPU 기반 ML 추론, 에이전틱 AI 등에 적합하다. ## Graviton5 기반 성능 향상 - C9g는 이전 세대 C8g 대비 vCPU당 최대 25% 높은 성능을 제공한다. - DDR5 8800MT/s 메모리를 사용해 클라우드 프로세서 인스턴스 중 가장 빠른 메모리 성능을 제공한다. - L3 캐시가 5배 늘어나 데이터 대기 시간을 줄이고, 인메모리 분석과 실시간 애플리케이션의 처리량을 높인다. - Graviton4 기반 인스턴스 대비 패킷 처리 성능이 최대 3배 향상됐다. - 평균적으로 이전 세대보다 네트워크 대역폭은 최대 15%, EBS 대역폭은 최대 20% 높다. - 48xlarge는 네트워크 최대 100Gbps, EBS 최대 72Gbps를 지원하며, 이는 이전 세대 대비 최대 2배 수준이다. ## C9g와 C9gd의 용도 차이 - **C9g** - Amazon EBS를 스토리지로 사용하는 배치 작업, 동영상 인코딩, 분산 분석에 적합하다. - 높은 코어 수와 대형 캐시가 필요한 에이전틱 AI의 병렬 실행 환경과 CPU 중심 추론에 유리하다. - 실시간 분석, 게임, 과학 모델링, 광고 서버 등 CPU 집약적 워크로드에 활용할 수 있다. - **C9gd** - C9g의 컴퓨팅 성능에 로컬 NVMe SSD를 결합한 유형이다. - HPC 시뮬레이션의 임시 작업 공간, ML 추론 캐시, 광고 서버의 로컬 버퍼 등에 적합하다. - 로컬 스토리지 성능은 이전 세대 대비 최대 30% 향상됐다. ## 세부 네트워크·스토리지 기능 - 중간형부터 48xlarge까지 11개 크기와 베어메탈 옵션을 제공한다. - **Instance Bandwidth Configuration(IBC)**으로 EBS와 VPC 네트워크 간 대역폭 배분을 최대 25% 조정할 수 있다. - 데이터베이스나 캐시처럼 특정 대역폭 구성이 중요한 워크로드를 세밀하게 최적화할 수 있다. - ENA Express를 지원해 향상된 네트워킹을 제공한다. - 가상 인스턴스에는 최대 128개의 EBS 볼륨을 연결할 수 있다. - NVMe 인스턴스 스토어 사용 시 I/O 크기별 지연 시간 히스토그램과 1초 단위의 고해상도 성능 지표를 CloudWatch 또는 `nvme-cli`에서 추가 비용 없이 확인할 수 있다. ## Nitro Isolation Engine 적용 - C9g와 C9gd는 Nitro Isolation Engine을 탑재한 최초의 컴퓨팅 최적화 EC2 인스턴스다. - 이 기능은 AWS Nitro System의 구성 요소로, Rust로 구현된 Nitro Hypervisor 기반 격리 기능이다. - 가상 머신 간 메모리, CPU 레지스터 상태, I/O 장치 접근을 최소한의 API를 통해 중재해 격리를 강화한다. - 공식 검증 결과와 적용 범위는 AWS 기술 백서에서 확인할 수 있다. ## 제공 방식과 리전 - On-Demand, Spot, Dedicated Instance, Dedicated Host 및 Savings Plans를 지원한다. - 현재 미국 동부 오하이오·버지니아 북부, 미국 서부 오리건, 유럽 프랑크푸르트 리전에서 사용할 수 있다. - AWS Management Console, AWS CLI, AWS SDK로 생성할 수 있으며 추가 리전은 추후 제공될 예정이다. 워크로드가 CPU 처리량과 메모리 접근 속도를 중시한다면 C9g를, 고성능 로컬 임시 스토리지까지 필요하다면 C9gd를 우선 검토하는 것이 좋다. 실제 도입 전에는 애플리케이션을 Graviton5에서 벤치마크하고, IBC를 활용해 네트워크와 EBS 대역폭 구성을 조정하는 것이 권장된다.

aws

NVIDIA RTX PRO 4500 Blackwell 서버 에디션 GPU로 가속되는 Amazon EC2 G7 인스턴스 발표 | Amazon Web Services (새 탭에서 열림)

Amazon EC2 G7은 NVIDIA RTX PRO 4500 Blackwell Server Edition GPU와 6세대 Intel Xeon 프로세서를 결합한 GPU 인스턴스다. G6 대비 AI 추론 성능은 최대 4.6배, 그래픽 성능은 최대 2.1배 향상됐으며, 네트워크·스토리지·영상 처리 성능도 크게 개선됐다. AI 추론, 그래픽 렌더링, 영상 변환, VDI, 공간 컴퓨팅, 데이터 분석 등에 적합하다. ## NVIDIA Blackwell GPU 기반 성능 향상 - AWS 최초로 NVIDIA RTX PRO 4500 Blackwell Server Edition GPU를 지원한다. - GPU당 32GB 메모리를 제공하며, 인스턴스당 최대 8개 GPU와 총 256GB GPU 메모리를 구성할 수 있다. - G6 대비 GPU 메모리 용량은 1.33배, 메모리 대역폭은 2.45배 향상됐다. - 5세대 Tensor Core와 4세대 RT Core를 탑재해 AI 추론과 실시간 그래픽 처리를 가속한다. - G6 대비 AI 추론 성능은 최대 4.6배, 그래픽 성능은 최대 2.1배 높다. ## 네트워크와 로컬 스토리지 개선 - EFA(Elastic Fabric Adapter)를 지원하는 최대 700Gbps 네트워크 대역폭을 제공한다. - G6 대비 네트워크 처리량이 7배 증가해 다중 GPU·다중 노드 AI 및 분석 작업에 유리하다. - 최대 7.6TB의 로컬 NVMe SSD를 사용할 수 있다. - 대규모 모델과 데이터셋을 컴퓨팅 자원 가까이에 저장해 데이터 전송 지연과 처리 오버헤드를 줄인다. - 다중 GPU 환경에서는 NVIDIA GPUDirect P2P를, GPU와 네트워크·스토리지 간 통신에는 GPUDirect RDMA와 EFA를 지원한다. ## 영상 인코딩·디코딩 성능 - 9세대 NVENC와 6세대 NVDEC 엔진을 탑재했다. - 고해상도 영상 작업에 필요한 4:2:2 인코딩과 디코딩을 지원한다. - 동시 처리 가능한 영상 스트림 수가 G6 대비 1.5배 증가했다. - 영상 트랜스코딩, 스트리밍, 미디어 분석과 같은 작업에 적합하다. ## 인스턴스 구성 - 총 7개 크기로 제공된다. - 최대 사양: - NVIDIA RTX PRO 4500 GPU 8개 - GPU 메모리 256GB - vCPU 192개 - 시스템 메모리 768GiB - 네트워크 대역폭 700Gbps - 로컬 NVMe SSD 7.6TB - 12xlarge, 24xlarge, 48xlarge 크기는 Dedicated Instances도 지원한다. ## 지원 소프트웨어와 운영 환경 - AWS Deep Learning AMI와 NVIDIA Workstation AMI를 통해 사전 구성된 GPU 드라이버를 사용할 수 있다. - Amazon EKS에서 사용하려면 NVIDIA 드라이버 R595와 EKS 자동화 기능을 이용해 AMI를 구성해야 한다. - Amazon Linux, Ubuntu, RHEL, Windows Server를 지원한다. - DirectX, Vulkan, OpenGL 등 주요 그래픽 라이브러리와 호환된다. - Amazon EMR on EKS에서 GPU 가속 데이터 분석에도 활용할 수 있다. ## 제공 지역과 구매 방식 - 발표 시점에는 미국 동부 오하이오와 미국 서부 오리건 리전에서 사용할 수 있다. - 향후 리전 확대 여부는 AWS Capabilities by Region 페이지에서 확인할 수 있다. - On-Demand, Savings Plans, Spot Instances 방식으로 구매 가능하다. - 자세한 요금은 Amazon EC2 요금 페이지에서 확인해야 한다. G7은 GPU 메모리와 네트워크 대역폭이 중요한 AI 추론, 대규모 그래픽 처리, 영상 처리 및 분산 분석 작업에 특히 적합하다. 기존 G6에서 GPU·네트워크 병목을 겪고 있다면, 사용 리전과 실제 워크로드별 비용 대비 성능을 비교한 뒤 G7으로 이전하는 것이 좋다.

aws

이제 사용 가능: 새로운 AWS Graviton5 프로세서로 구동되는 Amazon EC2 M9g 및 M9gd 인스턴스 | Amazon Web Services (새 탭에서 열림)

AWS가 자체 설계한 Graviton5 프로세서 기반 EC2 M9g와 M9gd 인스턴스를 정식 출시했다. Graviton4 대비 최대 25% 높은 컴퓨팅 성능, 더 큰 캐시와 높은 메모리·네트워크·스토리지 대역폭을 제공하며, M9gd는 최대 11.4TB의 로컬 NVMe SSD를 추가한다. 특히 에이전트형 AI, 데이터베이스, 웹 애플리케이션처럼 CPU와 I/O를 동시에 많이 사용하는 워크로드의 성능과 에너지 효율 향상을 목표로 한다. ## Graviton5의 성능 및 설계 개선 - Graviton5는 AWS의 다섯 번째 자체 설계 Arm 프로세서다. - 최대 192개의 코어를 제공하며, 이전 세대보다 L3 캐시가 5배 커졌다. - 코어 간 지연 시간은 최대 33% 감소해 병렬 처리와 다수의 동시 작업에 유리하다. - DDR5-8800 메모리와 PCIe Gen6를 지원해 AWS 인스턴스 중 가장 빠른 메모리 성능을 제공한다. - Graviton4 대비 성능 향상 폭은 다음과 같다. - 전체 컴퓨팅 성능: 최대 25% - 웹 애플리케이션: 최대 35% - 머신러닝 추론: 최대 35% - 데이터베이스: 최대 30% - 성능 향상과 함께 에너지 효율도 개선해 비용 및 지속 가능성 목표 달성에 도움을 준다. ## 에이전트형 AI와 CPU 수요 대응 - AI가 단순 질의응답을 넘어 코드 실행, 도구 호출, 결과 평가, 다단계 작업 조율을 수행하면서 CPU 처리량의 중요성이 커지고 있다. - Graviton5는 다음 특성으로 에이전트형 AI에 적합하다. - 높은 코어 수로 다수의 실행 환경을 동시에 처리 - 대형 L3 캐시로 CPU 대기 시간 감소 - 높은 메모리 대역폭으로 데이터 처리량 향상 - 가속기가 CPU 작업을 기다리는 시간을 단축 - Meta는 실시간 추론, 코드 생성, 다단계 작업 조율을 위해 수천만 개 규모의 Graviton 코어를 배포할 계획이라고 밝혔다. - Honeycomb은 6개월간의 실제 운영 A/B 테스트에서 Graviton4 대비 코어당 처리량이 36% 향상됐다고 보고했다. ## M9g와 M9gd의 차이 ### M9g: 범용 컴퓨팅 중심 - vCPU 1개당 4GiB 메모리를 제공한다. - 다음과 같은 범용 워크로드에 적합하다. - 애플리케이션 서버와 마이크로서비스 - 중간 규모 데이터 저장소 - 게임 서버와 캐시 클러스터 - 컨테이너 애플리케이션 - 대규모 Java 애플리케이션 - 코드 저장소와 웹 애플리케이션 - 에이전트형 AI ### M9gd: 로컬 NVMe 스토리지 추가 - 최대 11.4TB의 로컬 NVMe SSD를 제공한다. - Graviton4 기반 M8gd보다 IOPS 및 스토리지 성능이 30% 향상됐다. - 낮은 지연 시간의 임시 또는 로컬 스토리지가 필요한 작업에 적합하다. - 캐시와 스크래치 파일 - 데이터 로깅 - 미디어 처리 - 배치 및 로그 처리 - 키-값 데이터 저장소 - 게임 서버와 마이크로서비스 - 컴퓨팅, 메모리, 네트워크, EBS 대역폭 사양은 동일한 크기의 M9g와 같다. ## 네트워크와 스토리지 대역폭 개선 - M9g와 M9gd는 이전 세대 대비 평균적으로 다음 대역폭을 제공한다. - 네트워크 대역폭: 최대 15% 증가 - EBS 대역폭: 최대 20% 증가 - 가장 큰 인스턴스 크기: 네트워크 대역폭 최대 2배 - Instance Bandwidth Configuration(IBC)을 지원한다. - EBS와 VPC 네트워크 사이의 대역폭 할당을 최대 25% 조정할 수 있다. - 데이터베이스 읽기·쓰기, 쿼리 처리, 로깅처럼 특정 I/O 비중이 큰 워크로드에 유용하다. - 컴퓨팅 성능 증가에 맞춰 데이터 이동과 저장장치 처리량도 함께 확장한 것이 특징이다. ## Nitro Isolation Engine을 통한 보안 강화 - M9g와 M9gd는 6세대 AWS Nitro System을 기반으로 한다. - 새롭게 도입된 Nitro Isolation Engine은 가상 머신 간 격리를 담당한다. - 메모리, CPU 레지스터 상태, I/O 장치 접근을 최소한의 API를 통해 제어한다. - 정형 검증(formal verification)을 사용해 특정 테스트 사례가 아니라 수학적으로 격리 동작을 검증한다. - AWS는 이를 통해 Nitro를 공식적으로 검증된 클라우드 하이퍼바이저로 발전시키고, 가상 머신 간 보안 격리에 대한 신뢰성을 높였다고 설명한다. ## 실제 고객 성과 - ClickHouse: 코드 변경 없이 M8g 대비 성능 36% 향상 - Honeycomb: Graviton4 대비 코어당 처리량 36% 향상 - HubSpot: MySQL 쿼리 수행 시간이 최대 60% 감소 - 이러한 사례는 데이터베이스, 분석, 관측성 등 다양한 운영 환경에서의 효과를 보여준다. ## 출시 지역과 구매 방식 - 현재 제공 지역: - 미국 동부 버지니아 - 미국 동부 오하이오 - 미국 서부 오리건 - 유럽 프랑크푸르트 - 구매 방식: - Savings Plans - On-Demand - Spot Instances - Dedicated Instances - Dedicated Hosts 기존 Arm 호환 애플리케이션이라면 M9g부터 성능을 검증하고, 로컬 SSD가 필요하면 M9gd를 선택하는 것이 적절하다. x86 기반 Java 애플리케이션은 AWS Transform을 활용해 호환성 분석, 재컴파일, 의존성 수정, 검증 과정을 자동화할 수 있으며, 도입 전에는 Graviton Savings Dashboard로 비용 절감 효과를 비교하는 것이 좋다.