황인훈: 미래의 통신 기지국은 분산형 AI 네트워크로 발전할 것으로 기대되며, 모든 통신 사업자는 AI 연산 능력을 제공할 것입니다

10월 21일, 엔비디아 CEO 황인훈은 베를린에서 열린 GTC 회의에서 앞으로 모든 통신 사업자가 AI 연산 능력을 제공할 것이라고 밝혔으며, 통신 기지국이 분산형 AI 네트워크로 발전할 가능성이 있다고 언급했습니다. 그는 AI 경제를 에너지, 연산 능력, AI 공장, 모델 및 애플리케이션으로 구성된 5층 케이크에 비유하며, 발표에서 연산 능력 층에는 엔비디아 한 회사의 로고만 나타난다고 지적했습니다. 다른 층에는 지멘스 에너지, 슈나이더 일렉트릭 등 에너지 기업과 AI 공장 건설업체 Nscale 및 Firebird, 유럽 AI 모델 회사 Mistral, 법률 AI 회사 Legora 및 번역 도구 DeepL 등이 포함됩니다. 황인훈은 또한 1GW 데이터 센터를 건설하는 비용이 현재 약 500억 달러로, 토지, 전력, 건축, 컴퓨팅 장비, 저장 및 냉각 등의 비용을 포함한다고 밝혔습니다.

동시에 엔비디아는 DSX Pod AI 공장을 출시하여 유럽 AI 인프라 배치를 가속화했습니다; DSX Pod는 배치 시간을 최단 14일로 단축할 수 있습니다; 유럽 산업 생태계는 엔비디아 DSX와 협력하여 세계에서 에너지 효율이 가장 높은 AI 공장을 구축하고 있습니다.

소개에 따르면, DSX AI 공장 플랫폼은 폐쇄 루프 액체 냉각 및 건식 냉각기를 사용하여 시설 냉각용 물의 양을 거의 제로에 가깝게 줄이며, 2GW 규모에서 매일 최대 5400만 리터의 물을 절약할 수 있습니다. DSX MaxLPS 소프트웨어는 운영자가 동일한 토큰 출력 하에서 최대 30%의 전력 소비를 줄이는 데 도움을 줄 수 있습니다.

엔비디아는 OpenShell 참조 아키텍처를 출시하여 베라 루빈 인프라, 베라 중앙 처리기(CPU), 블루필드-4 데이터 처리기(DPU) 및 OpenShell 보안 런타임 소프트웨어를 통합하여 기업이 대규모로 AI 에이전트를 구축, 운영 및 관리하고 그 행동을 모니터링 및 보안 제약을 시행할 수 있도록 지원합니다. 이 아키텍처는 블루필드-4에서 실행되는 NVIDIA Sentry 보안 프레임워크를 통해 에이전트 행동을 지속적으로 모니터링하며, 하드웨어 수준에서 보안 정책을 실행합니다. 에이전트가 소프트웨어로 설정된 경계를 넘으려 할 때, 시스템은 밀리초 단위로 이를 격리하고 실행을 중지할 수 있습니다. 엔비디아는 베라 루빈 NVL72 시스템이 에이전트 작업 부하 하에서 매 MW당 처리량이 이전의 30배에 이를 수 있으며, NVIDIA Sentry는 에이전트 수용 능력을 최대 20% 향상시킬 수 있다고 밝혔습니다. 이 아키텍처는 리눅스, 쿠버네티스, 마이크로소프트 윈도우 등 기업 환경을 지원하며 엣지 장치로 확장할 수 있습니다. 마이크로소프트, 구글 클라우드, 델 테크놀로지스, 시스코, OpenAI, 앤트로픽 등 기업들이 관련 협력에 참여하고 있습니다.

업데이트 중.......