CME 그룹이 스스로를 ‘세계 최대 파생상품 거래소’라고 소개하는 만큼, 물리적 장애로 글로벌 금융 시스템이 수 시간 중단된 이번 사건은 IT 리더에게 여러 교훈을 남겼다.

블룸버그는 지난달 29일 미국 일리노이 오로라 지역에 위치한 사이러스원(CyrusOne) 데이터센터 단지의 냉각 시스템에서 문제가 발생해, CME의 거래가 수 시간 동안 중단됐다고 밝혔다. 보도에 따르면 해당 데이터센터는 매일 수조 달러 규모의 파생상품 거래를 처리하는 핵심 허브로 알려져 있다. 관계자는 사건 당시 강추위에도 불구하고 “데이터센터 내부 온도가 약 38도를 넘어섰다”라고 전했다.

사이러스원은 “일리노이 오로라에 있는 시카고원(Chicago 1) 데이터센터의 운영을 안정적인 상태로 복구했다. 연속성을 강화하기 위해 냉각 시스템에 추가 이중화 장치를 설치했다”라고 설명했다.

그레이하운드리서치의 수석 애널리스트 산치트 비르 고기아는 이번 사태에 대해 “CME 거래 중단 사태는 거버넌스, 페일오버 로직, 환경 공학이 현대 인프라가 요구하는 운영 현실과 부합하지 않을 때, 데이터센터 내부의 단일 물리적 고장이 어떻게 글로벌 시장 혼란으로 확산되는지를 보여주는 사례”라고 말했다.

고기아는 “이번 사건은 예상치 못한 일이 아니었다. 냉각 시스템의 물리적 특성, 현대 컴퓨팅 환경에서 증가하는 열 부하, 그리고 냉각 및 환경 설비를 핵심이 아닌 주변 요소로 여겨온 오래된 관행이 맞물리면서 예측 가능한 형태로 발생했다”라고 설명했다.

그는 단순히 냉각 플랜트 고장으로 여러 냉각기가 동시에 멈춘 것을 넘어, 해당 설비의 백업 시스템까지 작동하지 않았다는 점이 근본적인 문제라고 지적했다. 그는 “문제가 발생해도 단일 장비에만 영향을 끼치도록 설계되고 테스트됐어야 할 이중화 장비 전반에서 연쇄적으로 고장이 발생했다. 급격한 온도 상승으로 장비가 위험 수준에 도달하면서 CME가 엔진을 가동 상태로 유지하는 것이 사실상 불가능해졌고, 열 곡선이 일정 지점을 넘어선 뒤에는 사람의 판단 속도가 상황을 따라가지 못했다”라고 말했다.

이중화 전략 재점검할 때

고기아는 “더 큰 문제는 CME가 부하를 넘겨받을 수 있는 보조 데이터센터를 갖추고 있었다는 점이다. 그러나 페일오버(시스템 대체 작동) 기준이 지나치게 높게 설정됐고 전환 절차도 수동으로 제어됐다”라면서, “즉시 백업을 가동하지 않고 냉각 문제가 자연적으로 해결되기를 기다린 결정은 오늘날 시장의 운영 속도를 따라가지 못하는 거버넌스 모델을 그대로 드러낸 사례”라고 설명했다.

그는 “열 관련 장애는 기존 재해복구 매뉴얼이 가정하는 방식으로 나타나지 않는다. 이런 장애는 몇 분 내에 급격히 악화되며, 시설이 제때 복구될지 파악하기도 어렵다. 사람의 확신에 의존하지 않는 자동화된 대응이 필요하다”라고 강조했다.

무어 인사이트 앤 스트래티지의 부사장이자 수석 애널리스트인 매트 킴벌은 “이번 사건은 IT 임원과 데이터센터 담당자 사이에서 때때로 발생할 수 있는 소통 문제도 드러냈다. IT 임원은 주로 서버와 애플리케이션이 돌아가는 IT 서비스 계층에 초점을 맞추지만, 데이터센터 담당자는 냉각, 전력, 공조 등 물리 인프라를 중심으로 바라본다”라고 말했다.

그는 특히 데이터센터에서 냉각, 전력, 화재 위험, 물리적 보안 등 운영 요소가 IT 임원의 관심 밖에 있는 경우가 많다고 진단했다. 그는 “설령 업무 영역 내의 일이라 하더라도 주요 관심사가 되는 경우는 드물다. IT 조직에 몸담고 있을 때도 이런 경향이 분명했다”라고 설명했다.

킴벌은 이어 “이번 사건은 조직이 이중화와 복원력을 새로운 관점에서 재점검해야 한다는 점을 보여준다”라고 조언했다. 그에 따르면 IT 조직은 일반적으로 애플리케이션, 서버, 워크로드, 많아야 클러스터 수준에서만 복원력과 이중화에 집중하곤 한다. 그러나 데이터의 가치가 높아지고 ‘비즈니스 크리티컬’이나 ‘미션 크리티컬’이라는 개념이 실질적인 의미를 갖게 된 만큼, 보다 넓게 인프라 전체 관점에서 살펴볼 필요가 있다는 의견이다.

위기 관리 교훈

킴벌은 지멘스 DCIM 같은 데이터센터 관리 도구를 예로 들며, 랙과 서버에 전력과 냉각을 공급하는 장비에서 상당한 양의 원격 측정 데이터를 수집할 수 있다고 설명했다. 그는 “머신러닝을 활용한 심층 원격 측정을 통해 장애를 사전에 예측할 수 있다. 사이러스원 데이터센터에서 발생한 냉각기 고장 역시 충분히 예측 가능했어야 한다. 페일오버가 실제로 가능하려면 이중화 장비가 운영에 직접 투입돼야 한다”라고 말했다.

인포테크리서치그룹의 수석 기술 고문 존 애넌드는 이번 사태에서 얻어야 할 중요한 교훈이 있다고 언급했다. 그는 “아웃소싱 데이터센터 업체 문제 때문에 CME 같은 대규모 기업조차 심각한 비즈니스 중단을 겪었다는 점은, 비즈니스 연속성 문제의 핵심이 ‘발생 여부’가 아닌 ‘언제 발생하느냐’에 있다는 사실을 분명히 보여준다”라고 분석했다.

그는 “사이러스원이 에퀴닉스나 NTT데이터만큼 대규모 업체는 아니지만, 최근 AWS와 클라우드플레어 사례에서도 알 수 있듯 규모가 크다고 해서 안전한 것이 아니다. 이번 사건은 DNS 같은 복잡한 문제도 아니고 비교적 단순한 HVAC 장애였지만, 근본 원인이 무엇이든 모든 기업은 재해복구와 비즈니스 연속성 계획을 갖춰야 한다”라고 강조했다.

또한 애넌드는 준비 여부 자체가 아니라, 계획을 실제로 이행하는 과정에서의 리스크를 관리하는 것이 중요하다고 조언했다. 그는 “어느 시점에 CME 그룹의 사고 대응 책임자는 보조 데이터센터로 페일오버하는 대신 사이러스원이 문제를 직접 해결하도록 기다리는 쪽을 선택했다”라며, “이는 확실하지만 짧은 서비스 중단 대신, 길게는 10시간에 이르는 불확실한 장애로 이어졌다”라고 말했다.

그는 ‘최선을 바라되 최악에 대비하라’라는 원칙을 모든 조직이 받아들여야 한다면서, “이번 사례는 콜로케이션 업체의 전문성과 규모를 떠나, 결국 CME 그룹이 내린 선택에 대한 책임은 스스로에게 있다는 점을 보여준다”라고 평가했다.

이어 애넌드는 “페일오버는 데이터 손실이나 평판 훼손 같은 리스크를 동반하며, 사이트를 다시 복구할 때 비용과 복잡성도 따른다. 이때 IT 부서의 의무는 조직 리더가 판단해야 할 리스크 수준을 맥락에 맞게 제시하는 것이다. 구체적으로는 현재 운영 중인 환경에서 다음 1시간 또는 4시간 안에 문제를 해결할 수 있을 가능성이 얼마나 되는지, 보조 데이터센터를 가동할 때 발생할 30분, 1시간, 2시간짜리 중단과 비교해 어떤 선택이 더 합리적인지를 따져야 한다”라고 조언했다.

점점 더 ‘뜨거워지는’ 업계

킴벌은 IT 임원들과 논의할 때마다 IT 환경을 전체적으로 바라보는 관점의 중요성을 강조한다고 말했다. 이는 서버와 애플리케이션이 작동하는 ‘랙 내부’뿐 아니라, 전력 예산, 전력 품질, 냉각 등 ‘랙 외부’ 인프라까지 함께 살펴야 한다는 의미다. 그는 기술 스택의 모든 층위에서 이중화가 확보돼야 하며, 전력망 수준에서 발생할 수 있는 문제까지 고려해야 한다고 설명했다. 그는 “최근 전력 문제 사례가 점점 더 빈번해지고 있다”라고 지적했다.

고기아는 “CIO와 IT 임원이 반드시 인식해야 할 점은 복원력이 더 이상 전략 문서에 추상적으로 적어두는 개념이 아니라, 일상 운영의 책임이 됐다는 사실이다. 업계는 말 그대로도 비유적으로도 ‘그 어느 때보다 뜨거워지고 있다’”라고 말했다.

그에 따르면 서버는 더 많은 전력을 소모하고, 칩은 더 많은 열을 내며, 냉각 설비는 한계치 근처에서 운영되고 있다. 고기아는 “여유가 적어지고 있는 만큼, 냉각 장애 발생률이 적다거나 서서히 진행된다는 기존 가정은 더 이상 유효하지 않다”라고 경고했다.

고기아는 “환경 시스템은 이제 소프트웨어 버그, 전력 중단, 네트워크 장애와 같은 위험과 동일한 수준에 있다. 그만큼의 투자와 점검이 필요하다”라고 강조했다. 이는 과거에 냉각을 단순한 인프라로만 취급했더라도 이제는 가용성 논의의 일부로 다뤄야 한다는 주장이다. 그는 “컴퓨팅 자원 주변의 물리적 환경은 디지털 구성 요소만큼이나 기업 운영 중단에 큰 영향을 미칠 수 있다”라고 덧붙였다.
dl-ciokorea@foundryco.com

엔비디아가 지난 1일 칩 설계 소프트웨어 기업 시놉시스(Synopsys)에 20억 달러를 투자한다고 발표했다. 이로써 엔비디아는 자사 NV링크와 경쟁할 표준을 개발하는 컨소시엄 참여 기업의 지분을 상당수 보유하는 이례적인 상황을 맞게 됐다.

시놉시스는 AMD, 인텔, 구글, 마이크로소프트, 메타 등 80곳 이상의 기업이 참여하는 UA링크 컨소시엄 이사회 멤버다. 이 컨소시엄은 데이터센터 내 AI 가속기를 연결하기 위한 개방형 대안을 마련해, 엔비디아의 독점 인터커넥트 기술인 NV링크를 대체할 표준을 구축하는 데 목적을 둔다.

엔비디아는 시놉시스의 전체 엔지니어링 소프트웨어 제품군에 자사 AI 기술을 통합하기 위한 파트너십 목적으로 이번 지분을 확보했다고 밝혔다.

한편 엔비디아는 지난 9월 인텔에 50억 달러를 투자하며 NV링크 지원 CPU의 설계를 요청했다. 인텔은 해당 계약에 앞서 경쟁 표준인 UA링크 공동 개발에 합의한 바 있다.

인텔과 마찬가지로, 칩 설계 기업 ARM도 UA링크 컨소시엄과 엔비디아의 NV링크 퓨전 생태계에 모두 합류한 상태다.

무어 인사이트 앤 스트래티지의 수석 애널리스트 안셸 사그는 이런 움직임을 엔비디아의 시장 주도권 유지 전략으로 해석했다. 사그는 “이 투자들은 모두 전략적이며, AMD가 CPU, GPU, 네트워크 분야에서 도전하는 가운데 엔비디아가 자사 생태계를 강화하려는 시도로 보인다”라고 말했다.

다만 기업 IT 리더가 우려하는 점은, 엔비디아가 UA링크 참여 기업의 지분을 확보함으로써 ‘엔비디아 독점 기술에 맞서기 위해 만들어진 개방형 표준’의 개발 방향에 영향을 미칠 수 있다는 것이다. 대규모 AI 인프라 투자를 계획 중인 기업은 개방형 표준이 벤더 종속을 피하고 경쟁력 있는 가격을 유지하는 데 핵심적이라고 보고 있다.

사그는 “UA링크 회원사이면서 엔비디아의 투자를 받는 기업이 증가할수록 UA링크 개발에는 더 큰 부담을 줄 수 있다”라고 진단했다.

UA링크에서 시놉시스의 핵심 역할

UA링크 컨소시엄은 AI 인프라에서 벤더 종속을 막기 위한 업계 최대 규모의 협력체다. 컨소시엄은 지난 4월 UA링크 200G 1.0 사양을 승인했으며, 컴퓨팅 포드 내부에서 최대 1,024개의 AI 가속기를 레인당 200Gbps 속도로 연결하는 개방형 표준을 제시했다. 이는 대규모 인프라 확장 기술 영역에서 엔비디아 NV링크와 정면으로 경쟁한다.

시놉시스의 역할은 특히 중요하다. 시놉시스는 지난 1월 UA링크 이사회에 합류했고, 지난해 12월에는 업계 처음으로 UA링크 설계 구성요소를 공개해 칩 설계 기업이 호환 가속기를 개발할 수 있도록 지원했다.

분석가들이 제기한 거버넌스 문제

가트너 부사장 가우라브 굽타는 현재 상황을 주목할 필요가 있다고 언급했다. 그는 “시놉시스는 컨소시엄의 핵심 파트너이자 UA링크의 주요 지적 재산(IP)를 보유한 기업이다. 따라서 엔비디아와의 거래는 UA링크의 향후 방향에 영향을 끼칠 수 있다. UA링크가 엔비디아의 NV링크와 직접 경쟁하는 표준이기 때문”이라고 말했다.

그레이하운드 리서치의 최고애널리스트 산치트 비르 고기아는 더 깊은 구조적 리스크를 지적했다. 고기아는 “시놉시스는 UA링크 컨소시엄에 단순히 참여하는 수준이 아니라 핵심 IP 공급자다. 이런 회사에 엔비디아가 주주로 들어오는 것은 중립성을 훼손할 위험이 있다”라고 분석했다.

고기아는 반드시 과반수의 지분을 보유해야만 영향력이 발생하는 것이 아니라고 강조했다. 그는 “상업적 이해관계가 맞춰지고 R&D 우선순위나 기술 개발 계획이 서로 연결되면서 간접적인 영향력이 생길 수 있다. 엔비디아가 해당 개발 파이프라인에 재정적으로 얽히면서, 독점 생태계와 경쟁하기 위해 만들어진 표준에 접근할 길을 확보한 셈”이라고 지적했다.

고기아는 이러한 인식만으로도 UA링크 참여 기업들의 신뢰를 약화시킬 수 있다고 경고했다. 그는 “향후 UA링크가 발전 속도를 늦추거나, NV링크와의 경쟁을 최소화하기 위해 설계를 타협할 가능성에도 대비해야 한다”라고 말했다.

고기아는 컨소시엄이 즉각 대응해야 한다고 주장했다. 그는 “UA링크가 신뢰성을 유지하려면 거버넌스를 강화하고, 시놉시스의 역할을 투명하게 공개하며, 필요하다면 방화벽 체계를 도입해야 한다. 다수 벤더가 참여하는 AI 클러스터의 미래와 인터커넥트 선택권이 여기에 달려있다”라고 진단했다.

양사의 입장

양사는 이번 파트너십이 네트워크 인프라가 아닌 AI 기반 엔지니어링 도구에 초점을 맞추고 있다고 강조했다. 협력을 통해 엔비디아 쿠다X(CUDA-X) 라이브러리가 시놉시스의 칩 설계, 분자 시뮬레이션, 전자기 분석 애플리케이션 전반에 통합될 예정이다.

사그는 “발표에는 NV링크나 네트워크 관련 내용이 전혀 없었고, 이번 협력은 IP보다는 소프트웨어 협력에 가깝다”라고 설명했다.

시놉시스 CEO 사신 가지는 발표 자리에서 투자금이 다시 엔비디아로 돌아가는 순환 구조가 아니라고 밝혔다. 가지는 “20억 달러를 엔비디아 GPU 구매에 사용할 계획이나 약속은 없다”라며, 이번 파트너십이 다른 칩 제조사와의 협력을 제한하지 않는다고 설명했다.

굽타는 이런 비독점적 구조가 일정 수준의 안도감을 준다고 평가했다. 그는 “두 회사는 기존처럼 생태계 전반의 다양한 파트너와 협력할 수 있다. 시놉시스는 AMD, 브로드컴, 주요 클라우드 업체 등 엔비디아와 경쟁하는 곳에도 계속 솔루션을 제공할 것”이라고 말했다.

엔비디아와 시놉시스 모두 이번 투자가 시놉시스의 UA링크 활동이나 컨소시엄 독립성에 어떤 영향을 줄지에 대해 언급하지 않았다. 다만 사그는 단기적으로 큰 변화는 없을 것으로 봤다. 그는 “표면적으로는 UA링크에 불리해 보이지만, 당장 시놉시스 전략이 바뀔 것 같지는 않다”라고 분석했다.

굽타는 엔비디아의 투자가 여러 목적을 동시에 갖고 있다고 분석했다. 그는 “엔비디아는 AI 혁신 속도를 높이기 위해 다양한 기업이 더 빠르게 나아갈 수 있도록 돕고 있다. 이는 결국 엔비디아가 자사 제품과 서비스의 시장 기회를 확장하는 데도 유리하게 작용한다”라고 평가했다.
dl-ciokorea@foundryco.com

미국 로렌스 리버모어 국립연구소의 엘 카피탄(El Capitan)은 세계에서 가장 빠른 슈퍼컴퓨터 자리를 지켰고, 시스템 확장을 통해 초당 1.8엑사플롭의 성능을 내면서 다른 시스템과의 격차를 더 벌렸다.

최신 톱500 목록에서도 엘 카피탄 뒤를 2위 프런티어(Frontier)와 3위 오로라(Aurora)가 이었다. 2025년 6월 톱500 목록과 비교해 10위권 시스템 구성은 그대로다. 최상위 시스템 3대 모두 미국 에너지부 산하 시설에 설치돼 있다.

엘 카피탄은 2024년 11월 목록에서 처음 1위로 데뷔했고, 이후 더 많은 프로세서를 추가하며 격차를 키웠다. 이번에는 초당 1.742엑사플롭을 기록했던 지난 6월보다 높아진 1.809엑사플롭의 성능을 기록했다. 현재 엘 카피탄은 총 1,134만 개 코어를 탑재했으며, 1.8GHz로 동작하는 24코어 AMD 4세대 에픽(EPYC) 프로세서와 AMD 인스팅트(Instinct) MI300A 가속기, 데이터 전송을 위한 HPE 슬링샷(HPE Slingshot) 인터커넥트를 기반으로 구성돼 있다.

2위 프런티어는 오크리지 국립연구소(Oak Ridge National Laboratory)에 설치돼 있으며, HPL 벤치마크에서 초당 1.353엑사플롭을 기록해 6월과 동일한 성능을 유지했다. 마찬가지로 HPE 크레이 EX235z(HPE Cray EX235z) 아키텍처를 기반으로 하며, AMD 3세대 에픽 64코어 2GHz 프로세서를 탑재하고 총 906만 6,176개 코어를 제공하며, 데이터 전송에는 HPE 슬링샷 인터커넥트를 사용한다.

3위 오로라는 아르콘 리더십 컴퓨팅 연구소(Argonne Leadership Computing Facility)에 설치돼 있으며, 6월과 같은 초당 1.012엑사플롭 성능을 기록했다. 오로라는 HPE 크레이 EX-인텔 엑사스케일 컴퓨트 블레이드(HPE Cray EX–Intel Exascale Compute Blade)를 기반으로 하며, 인텔 제온 CPU 맥스 시리즈(Intel Xeon CPU Max Series) 프로세서를 사용한다.

4위는 독일 유로HPC/율리히 슈퍼컴퓨팅센터(EuroHPC/Jülich Supercomputing Centre)의 주피터(JUPITER, JU Pioneer for Innovative and Transformative Exascale Research)이다. 주피터는 직전 목록 발표 당시에는 구축 중이었고, 부분 시스템 기준 HPL 예비 측정값으로 초당 793.4페타플롭을 기록했다. 현재는 전체 시스템 구축을 완료해 정확히 1엑사플롭 성능을 달성했다.

주피터는 엔비디아 그레이스 호퍼 GH200(Nvidia Grace Hopper GH200) 칩을 사용하고, 에비덴(Eviden)의 불세쿠아나 XH3000(BullSequana XH3000) 직접 액체 냉각 아키텍처를 기반으로 총 480만 1,344개 코어를 제공한다.

참고로, 첫 번째 톱500 목록은 1993년 6월 독일에서 열린 한 소규모 콘퍼런스를 위해 만들어졌다. 목록을 만든 연구팀은 이후에도 집계를 계속하기로 결정했고, 현재는 1년에 두 번 발표하는 정기 행사로 자리잡았다. 2025년 11월 톱500 목록의 주요 내용은 다음과 같다.

프로세서. 최상위 시스템은 10대는 AMD와 인텔 프로세서가 주류를 이뤘다. 엘 카피탄, 프런티어, HPC6, 루미, 알프스 등 5대가 AMD 프로세서를 사용하고, 오로라, 이글, 레오나르도 등 3대가 인텔 프로세서를 사용한다. 주피터 부스터는 그레이스 호퍼 슈퍼칩(Grace Hopper Superchip)을, 후가쿠는 ARM 기반 후지쯔 A64FX(Fujitsu A64FX) 독자 프로세서를 사용한다.

인터커넥트. 엘 카피탄, 프런티어, 오로라, HPC6, 알프스, 루미, 주피터 부스터 등 7대가 슬링샷(Slingshot) 인터커넥트를 사용한다. 이글과 레오나르도 2대 시스템은 인피니밴드(InfiniBand)를 사용하고, 후가쿠는 독자 토후(Tofu) 인터커넥트를 사용한다.

지리적 분포. 중국과 미국이 톱500 목록에서 가장 많은 시스템 수를 기록했다. 미국은 6월 이후 2대가 목록에서 빠지면서 총 171대가 남았다. 중국은 6대가 줄어 총 40대로 집계됐다. 독일도 40대로 감소했다. 대륙별로 보면 북미가 190대로 가장 많으며(6월보다 3대 증가, 모두 캐나다에서 추가됐다), 유럽이 153대(163대에서 감소), 아시아가 141대(6월보다 6대 증가)로 뒤를 이었다.
dl-ciokorea@foundryco.com

마이크로소프트(MS)가 코파일럿(Copilot)과 애저(Azure) AI 서비스의 용량 확대에 속도를 내는 가운데, 데이터센터와 AI 인프라 분야의 시니어 리더 2명이 회사를 떠난 것으로 나타났다. 이에 전력 집약적 AI 워크로드 수요를 어떤 인물이 감당하게 될지에 대한 우려가 제기되고 있다.

MS를 떠난 2명은 AI 인프라 총괄 니디 차펠과 에너지·데이터센터 연구를 맡아온 시니어 디렉터 션 제임스다. MS에서 6년 반 동안 근무한 차펠은 MS, 오픈AI, 앤트로픽의 워크로드를 지원하는 세계 최대 규모의 AI GPU 클러스터 구축을 총괄했다. 제임스의 경우 이후 엔비디아로 이직할 예정인 것으로 알려졌다.

시니어 리더의 연이은 퇴사는 MS가 기업 전반에서 급증하는 AI 사용량에 대응하기 위해 신규 데이터센터 부지 확보, 전력 공급 계약, 맞춤형 하드웨어 개발에 대규모 투자를 이어가고 있는 시점에 발생했다.

두 사람은 모두 MS의 AI 인프라 확장 전략을 이끌던 핵심 인력이었다. 동시에 MS는 다른 클라우드 업체와 마찬가지로 전력 공급 부족, 전력망 연결 지연, AI 확장을 뒷받침할 가속기 확보 난항 등 복합적인 인프라 제약에 부딪히고 있다.

이와 관련해 MS AI 부문 CEO 무스타파 술래이만은 X에 “신규 데이터센터 건설에 1,500만 노동 시간을 투입했다”라고 게재했다. 이에 테슬라 CEO 일론 머스크는 “그 방식이 과연 맞는 것이냐”라며 의문을 제기했다.

MS가 직면한 제약

업계 분석가들은 핵심 임원 2명의 연쇄 이탈이 AI 데이터센터 경쟁이 한층 치열해진 시점에서 MS에 적지 않은 부담을 줄 것이라고 봤다. 오픈AI의 거대 모델 수요가 빠르게 늘고, 구글이 인프라 규모를 공격적으로 확장하는 등 MS가 양쪽에서 압박을 받고 있기 때문이다.

카운터포인트리서치의 파트너 겸 공동 설립자 닐 샤는 “이 문제를 해결해 온 최고 수준의 전문가들을 잃은 것은 MS에 분명한 타격이 될 수 있다. 에너지 과제를 해결하는 일은 결코 단순하지 않으며, 두 사람이 더 큰 영향력을 행사할 수 있고 보상 측면에서 유리한 엔비디아 같은 곳에서 기회를 봤을 가능성도 있다”라고 분석했다.

한편 사이버미디어리서치 산업 연구 부문 VP 프라부 람은 MS가 여전히 AI 데이터센터 투자를 확대해 나갈 수 있는 생태계와 조직적 역량을 보유하고 있다고 평가했다.

그레이하운드 리서치의 수석 애널리스트 산치트 비르 고기아는 MS가 물리적 한계보다 더 빠른 속도로 AI 인프라를 확대하려는 상황에서 핵심 인력이 떠난 것이라고 설명했다.

그는 “떠난 임원들은 GPU 클러스터 설계, 데이터센터 엔지니어링, 전력 조달, 그리고 MS가 고밀도 AI 워크로드를 지원하기 위해 추진해 온 실험적 전력·냉각 방식의 핵심을 맡아온 인물들”이라고 말했다. 이어 “MS가 이미 공개적으로 인정한, 인프라 압박이 심화되는 지점과 시기가 맞물려 있다. GPU는 빠르게 도입되고 있지만 이를 수용할 데이터센터에 전력을 공급하는 작업이 따라가지 못하고 있으며, 이제는 칩 수급보다 전력 가용성이 더 큰 병목으로 부상했다”라고 설명했다.

엔비디아가 얻게 될 이점

반면 샤는 제임스의 엔비디아 합류가 중요한 신호라고 해석했다. 이제 영향력 있는 혁신이 특정 클라우드 업체가 아니라 벤더 생태계에서 나올 가능성이 커졌다는 설명이다.

샤는 “엔비디아가 더 효율적인 컴퓨트-투-랙(Compute-to-Rack) 설계를 통해 업계의 에너지 제약을 완화할 수 있다면, 그 효과는 기업 시장 전반으로 확산될 것”이라고 말했다.

고기아는 이번 퇴사가 AI 인프라 경쟁에서 에너지 시스템과 데이터센터 효율이 핵심 요소로 떠올랐다는 점도 보여준다고 분석했다. 그는 “MS의 전력·냉각 문제를 해결해 온 전문가가 엔비디아에 합류하면, 초대규모 AI 환경이 실제 높은 부하에서 어떻게 작동하는지 엔비디아가 더 깊이 파악하게 된다”라고 말했다. 이어 “이런 경험은 차세대 GPU 시스템의 구조, 열 관리, 그리고 차세대 AI 팩토리의 에너지 설계 방식에도 영향을 미치게 될 것”이라고 진단했다.
dl-ciokorea@foundryco.com

엔비디아 CFO 콜렛 크레스는 지난 주 실적 발표에서 “클라우드는 모두 매진됐고 엔비디아 GPU 설치 기반은 전부 가동되고 있다”라고 밝혀 주주들의 환호를 받았지만, AI 컴퓨팅 확장을 엔비디아에 의존해온 CIO와 데이터센터 관리자는 공급업체를 바꾸거나 계획을 수정해야 하는 상황에 놓였다.

이날 실적 발표에서 향후 12~18개월 내에 공급이 수요를 따라잡을 수 있는 현실적인 경로가 보이느냐는 질문을 받은 엔비디아 CEO 젠슨 황은 모든 것이 계획대로라고 강조하며, “공급망을 정말 잘 설계했다. 엔비디아 공급망에는 전 세계 거의 모든 기술 기업이 참여한다”라고 말했다.

하지만 모두가 이 주장에 동의하는 것은 아니다. 의문을 제기한 인물 가운데에는 포레스터의 수석 애널리스트 앨빈 응우옌이 있다. 응우옌은 “수요가 공급을 크게 초과하면서 엔비디아 GPU를 구하지 못할 때 어떻게 해야 하느냐”는 고객 문의를 여러 건 받았다고 말했다.

응우옌은 “온프레미스 환경에서는 AMD, 인텔, 커스텀 ASIC, CPU가, 클라우드에서는 TPU와 커스텀 ASIC이 대안이 될 수 있지만, AI 도입 규모가 커지면서 이런 선택지가 모든 기업의 요구를 충족하지 못할 가능성도 있다”라고 분석했다.

이어 “기업과 CIO가 필요한 AI 인프라를 확보하지 못하면 전체 AI 비전을 달성할 수 없으므로 실행 가능한 수준으로 목표를 재조정해야 한다. 세일즈포스, 서비스나우 같은 서비스 업체가 제공하는 AI 플랫폼을 활용하면 일부 요구 사항을 줄일 수 있다”라고 조언했다.

모든 것이 너무 빠르게 변화하고 있다

응우옌은 최고 IT 의사결정권자가 더 적은 인프라로도 동작하는 소형 모델을 살펴보고, 이를 실험해 미래 AI 판단 기준을 마련하는 방안을 고려해야 한다고 제안했다. 또한, 이 분야의 지속적인 혁신이 “기업이 인프라 구매 시점과 구성 방식에 따라 기술 부채를 줄이거나 오히려 쌓게 만들 수 있다”라며, “결국 상황에 따라 다르다는 말이 될 수밖에 없지만, 모든 흐름이 너무 빨라 정답은 시간이 지나야만 명확해진다”라고 설명했다.

무어 인사이츠 앤 스트래티지의 대표 애널리스트 매트 킴벌은 엔비디아 GPU 수급 문제는 중요한 질문이라고 평가했다. 킴벌은 “인프라 규모 적정화를 미리 검토했다면 피할 수 있는 어려움도 많다”라고 분석했다.

킴벌은 “엔비디아 칩(다른 칩도 마찬가지)은 성능 특성이 다르고, 와트당 성능과 비용 대비 성능도 다르다. 최신 GB300이 항상 최적의 선택지는 아니다. 특히 학습과 추론 환경을 나눠 보면 요구 사항에 따라 인프라 적정화를 적용하는 것이 훨씬 더 중요해진다”라고 강조했다.

이런 접근법의 이점은 최신 세대 칩만 바라보며 초대형 업체와 물량 확보 경쟁을 벌일 필요가 줄어든다. 킴벌은 “또한 엔비디아 칩이 항상 필요한지도 검토할 필요가 있다. 기술 업계에서는 이례적인 발언일 수도 있지만, 특히 추론 환경에서는 추론 인프라가 어떤 구조인지, 어디에 배치되는지, 어떤 워크로드인지 이해하는 것이 더 중요하다”라고 말했다.

예를 들어, 실시간 센서 기반 환경인 해상 시추 플랫폼에서는 ASIC 기반 솔루션이 더 적합할 수도 있다.

킴벌은 “엔비디아를 선택하지 말라는 의미가 아니다. 공급망 문제가 없더라도 AI 요구 사항을 전체적으로 살펴보고 적정한 가속 방식을 적용하는 것이 매우 바람직하다”라며, “클라우드는 항상 선택지가 된다. 클라우드 서비스 업체는 엔비디아 칩을 가장 먼저 공급받는 고객이므로 AI 수요를 충족하는 데 클라우드를 활용하는 것은 자연스러운 일이다”라고 덧붙였다.

CIO가 명심해야 할 핵심 과제 : 선제 대응

가트너의 애널리스트 가우라브 굽타는 “엔비디아는 공급망을 강하게 통제하고 있다고 주장하지만, 복잡성이 너무 높아 CIO가 우선순위로 모니터링해야 한다”라고 조언했다.

굽타는 “최첨단 웨이퍼, 고급 패키징, HBM처럼 잘 알려진 요소에서 부족이 발생할 수 있을 뿐 아니라, 열 관리, 액침 냉각, 서버 랙에 들어가는 소형 부품과 정밀 기계 부품 같은 잘 드러나지 않는 제약이 병목이 될 가능성이 있다. 또한 데이터센터를 운영하려면 전력 계획도 필수다”라고 설명했다.

또한, GPU 같은 컴퓨트 자원을 주문할 때 “대기줄 마지막에 서지 않기 위해” 선제적으로 대비하고 미리 계획해야 한다고 강조했다.

인포테크 리서치 그룹의 자문 펠로 스콧 비클리는 “전 세계가 엔비디아가 연간 약 2,500억 달러 수준에서 3,500억 달러, 궁극적으로는 5,000억 달러 이상으로 어떻게 성장할지 의문을 제기하기 시작했다. 엔비디아는 모든 칩이 매진됐고 재고가 있었다면 더 많이 판매했을 것이라고 분명히 말했다. 이런 복잡하고 취약한 공급망을 면밀히 검토하며 ‘GPU 출하량을 제한할 만한 중대한 장애가 발생하면 어떻게 되는가’라는 질문을 던지는 것은 타당하다”라고 말했다.

비클리는 공급망 위험이 “여러 형태로 존재하지만 엔비디아가 모든 공급업체에서 최우선 고객이기 때문에 생산 흐름을 보장하기 위해 과도한 자원이 배분되고 있다”고 분석했다. 또한 “공급망 교란이 발생한다면 공급업체의 공정이나 인력 문제가 아니라 자재 기반 문제가 될 가능성이 크다”라고 설명했다.

이어 “중장기적으로 가장 큰 교란 위험은 지정학적 사건이며, 중국-대만 사태, 러시아-우크라이나 분쟁 확대, 미중 무역전쟁 심화 등이 대표적인 경우다”라고 덧붙였다.

비클리는 경미한 장애의 경우, “엔비디아는 월가에 매우 보수적인 출하 목표를 제시하고 분기마다 이를 거의 항상 초과 달성한다. 이 전략은 인력·공정·지정학적 문제를 흡수할 여유를 제공한다. 출하량이 목표를 넘지 못할 수는 있지만 공급은 지속될 것”이라고 설명했다.

하지만, 비클리는 “가장 나쁜 시나리오에서 GPU 출하가 심각하게 제약되면, 대규모 클라우드 사업자만큼 영향력을 가진 기업이 아닌 이상 엔터프라이즈가 취할 대응책은 사실상 거의 없다”라고 덧붙였다.

기업은 ‘매우 긴 대기줄’에 합류하는 중

그레이하운드 리서치의 최고 애널리스트 산치트 비르 고기아는 이번 엔비디아 실적 발표가 “엔터프라이즈 AI의 병목은 더 이상 상상력이나 예산이 아니라 용량임을 확인했다”라고 평가했다. 고기아는 엔비디아가 분기 매출 570억 달러를 기록했으며, 이 중 510억 달러 이상이 데이터센터 고객 매출이지만 여전히 역대 최대 수준의 공급 제약을 인정했다고 설명했다.

고기아는 블랙웰과 블랙웰 울트라가 AI 인프라의 기본 통화처럼 자리 잡았지만, 주당 약 1천 개 GPU 랙을 생산해도 수요를 충족하지 못한다고 분석했다.

엔비디아의 장기 공급 및 용량 약정 규모는 약 503억 달러에 달하며, 다년 클라우드 서비스 계약도 260억 달러까지 증가해 향후 공급의 상당 부분이 이미 하이퍼스케일러와 첨단 연구소에 선점됐다. 따라서 엔터프라이즈는 개방 시장으로 진입하는 것이 아니라 긴 대기줄의 맨 뒤에 서는 셈이다.

공급 불균형은 칩만의 문제가 아니라 칩을 둘러싼 모든 요소의 문제이다. 여기에는 긴 제조 리드타임, 고급 패키징과 HBM의 제한적 가용성, 미래 용량 확보를 위한 대규모 선불금과 취소 불가 약정 등이 포함된다.

고기아는 CIO에게 가장 중요한 결정이 “AI 전략을 엔비디아 중심으로 설계할 것인지, 엔비디아 위험을 중심으로 설계할 것인지”라고 강조했다. 고기아는 두 선택지는 동일한 의미가 아니며, 엔비디아 중심 전략은 플랫폼을 황금률로 인정하고 12개월 선 주문, 동일 구성의 OEM 다수 활용, 재무팀과의 선불금 협의, 출하 일정 변동을 흡수할 수 있는 프로그램 타임라인 설계 등이 필요하다고 설명했다.

반대로 위험 중심 전략은 “엔비디아가 핵심이라는 점을 인정하되 유일한 경로가 될 수 없음을 받아들이고, 다변화를 논리적 논쟁이 아니라 회복 탄력성 확보 수단으로 다뤄야 한다”라고 강조했다.
dl-ciokorea@foundryco.com

MS가 ARM 기반 커스텀 CPU의 차세대 모델인 코발트200을 공개했다. 이는 x86 기반 인스턴스 의존도를 줄이고 데이터센터의 에너지 효율을 높이는 동시에, 클라우드 워크로드 성능을 개선하려는 전략의 일환이다.

MS는 이미 팀즈(Teams)와 디펜더(Defender) 같은 서비스 구동에 코발트 칩을 활용하고 있다. 또한 이를 가상 머신 형태로 기업 고객에게도 제공하고 있다. MS에 따르면 이번 2세대 커스텀 칩은 지난해 출시된 코발트100 대비 에너지 효율이 높아졌으며, 성능도 50% 향상됐다.

코발트100이 128개 코어에 자주 사용하는 데이터를 저장할 캐시 메모리가 없었던 것과 달리, 코발트200은 132개의 활성 코어와 코어당 3MB의 L2 캐시, 그리고 192MB의 L3 시스템 캐시를 갖췄다.

코발트200과 코발트100의 또 다른 구조적 차이는 제조 공정 세대다. 전작이 5나노 공정을 사용한 데 비해, 코발트200은 3나노 공정으로 제작됐다. 제조 공정이 고도화될수록 트랜지스터 밀도와 동작 속도, 전력 효율을 개선하기가 수월해진다.

이 같은 구조적 개선을 통해 코발트200은 실질적인 성능 향상을 이룰 것으로 기대되고 있다. 하이퍼프레임리서치의 애널리스트 스티븐 솝코는 이런 변화가 이전 세대 대비 총소유비용(TCO)을 낮추는 효과로도 연결될 것이라고 분석했다. 기업 고객이 더 적은 서버로 워크로드를 운영하는 이점을 얻을 수 있다는 설명이다.

솝코는 “예를 들어 1,000개 인스턴스로 구성된 클러스터는 최대 30~40% 수준의 TCO 개선 효과를 기대할 수 있다”라고 밝혔다. 그는 이를 통해 기업이 확보된 자원을 다른 워크로드나 프로젝트에 배분할 수 있다고 진단했다.

무어스트래티지앤인사이츠의 수석 애널리스트 맷 킴볼은 전력당 처리량 개선이 AI 추론, 마이크로서비스, 대규모 데이터 처리처럼 연산 집약적 워크로드에 특히 유리하게 작용할 수 있다고 봤다.

MS는 일부 고객이 이미 대규모 데이터 처리 워크로드에 코발트100 기반 가상 머신(VM)을 사용하고 있으며, 현재 전 세계 32개 애저(Azure) 데이터센터에 해당 칩이 배치돼 있다고 밝혔다.

코발트200의 공개로 MS는 AWS 그라비톤(Graviton) 시리즈, 최근 구글이 발표한 액시온(Axion) 프로세서와 직접 경쟁하게 된다. 두 제품 모두 ARM 아키텍처를 기반으로 클라우드 워크로드에서 가격 대비 성능을 끌어올리는 데 초점을 맞추고 있다.

MS를 포함한 주요 클라우드 업체가 데이터센터용 자체 칩을 설계하게 된 배경에는 AI와 클라우드 인프라 비용 급등, GPU 공급 제약이 크게 작용했다. 여기에 워크로드에 맞게 조정할 수 있고 에너지 효율까지 확보할 수 있는 맞춤형 아키텍처에 대한 수요가 높아진 점도 결정적인 요인으로 꼽힌다.

MS는 코발트200 CPU를 2026년 초 일부 애저(Azure) 가상 머신 제품군에 먼저 도입한 뒤 적용 범위를 확대할 예정이라고 밝혔다.
dl-ciokorea@foundryco.com