Google Cloud·NVIDIA, A5X 11월 제공 예고…GPU 최대 96만개로 확대 계획

Google Cloud와 NVIDIA는 NVIDIA Vera Rubin 기반 A5X 인스턴스를 11월부터 정식 제공해 클라우드 고객의 AI 학습·추론·대규모 강화학습을 지원할 예정이라고 10월 21일 밝혔다.

강화학습은 상호작용으로 경험을 생성하고 결과를 평가한 뒤 모델을 갱신하는 과정을 반복하는 학습 방식이다. NVIDIA에 따르면 A5X는 Google Cloud의 AI Hypercomputer에 Vera Rubin을 통합하고 연산·네트워크·스토리지를 결합해 이 과정을 대규모로 지원한다.

NVIDIA에 따르면 A5X를 처음 이용한 고객은 AlphaGo를 만든 David Silver가 설립한 런던 소재 기술기업 Ineffable Intelligence다. David Silver Ineffable Intelligence 창업자 겸 최고경영자(CEO)는 “우리는 스스로의 경험을 통해 지속적으로 개선되는 슈퍼러너를 구축하고 있다”고 말했다. Ineffable Intelligence는 A5X로 대규모 강화학습과 경험을 통해 지속적으로 학습하는 시스템을 연구하고 있다.

Google Cloud는 A5X 제공 지역을 유럽으로 확대할 예정이다. NVIDIA는 Google Cloud가 여러 거점에 걸쳐 Vera Rubin 기반 인프라를 Rubin GPU 최대 96만개 규모로 확장할 계획이라고 설명했다.

A5X는 NVIDIA Vera Rubin NVL72, NVIDIA ConnectX-9 SuperNICs, Google Cloud Virgo Network와 Google Cloud의 4세대 액체냉각 기술을 결합해 대규모 에이전트형 추론과 강화학습 작업을 지원한다. David Silver는 Vera CPU와 Rubin GPU 사이, 랙 내부 Rubin GPU 사이의 고대역폭 연결과 연산 성능을 통해 강화학습 연구의 규모와 범위를 넓힐 수 있다고 밝혔다.

런던 소재 마케팅·커뮤니케이션 기업 WPP는 A5X에서 NVIDIA Nemotron 모델과 NVIDIA OpenShell을 활용한 창작 에이전트 참조 아키텍처를 시연했다. 이 에이전트는 대화형 요청을 영상 생성·해상도 향상·스타일 변경 등의 다단계 작업으로 구성하며, 실행 전에 사람의 승인을 받는다. NVIDIA에 따르면 WPP의 초기 시험에서는 통상 여러 노드로 구성된 클러스터가 필요했던 작업을 A5X 인스턴스 하나에서 실행했다.

NVIDIA OpenShell은 안전한 AI 에이전트를 위한 NVIDIA OpenShell Reference Architecture의 일부로, 접근 통제를 적용한 샌드박스에서 에이전트를 실행해 민감한 브랜드 자산과 창작 도구에 대한 접근 관리를 돕는다. NVIDIA는 기업이 자체 소유가 아닌 인프라에서 에이전트 시스템을 운영할 때도 독점 모델과 민감한 데이터를 보호해야 한다고 설명했다.

NVIDIA에 따르면 Google Cloud는 NVIDIA GB300 NVL72 기반 A4X Max 같은 베어메탈 인스턴스에서 랙 규모의 NVIDIA Confidential Computing을 제공하는 초기 클라우드 사업자 중 하나가 될 예정이다. Google Cloud는 NVIDIA RTX PRO 6000 Blackwell Server Edition GPU를 탑재한 G4 가상머신에서도 Confidential Computing을 정식 제공해 기밀 추론과 미세조정을 지원한다.

NVIDIA는 Vertebrae, Polaris Cloud, Confidential Core AI가 Confidential G4를 대화 프라이버시 보호, 검증 가능한 에이전트 실행, 정책에 따른 기업 인텔리전스에 활용하고 있다고 밝혔다. Google Cloud와 NVIDIA는 데이터센터의 가용 전력 한도 안에서 전력당 성능을 최적화하고 처리 용량을 확대하기 위해 Vera Rubin 기반 인프라에 NVIDIA DSX MaxLPS 기능을 적용하는 방안도 검토하고 있다.