IBM은 기업 및 정부가 클라우드 업체의 데이터센터 위치에 의존하지 않고도 소버린 클라우드 배포에 대한 운영 통제권을 확보할 수 있도록 설계된 소프트웨어 스택 ‘소버린 코어(Sovereign Core)’를 출시했다. 이를 통해 CIO가 강화되는 규제 심사에 대응하고 컴플라이언스를 자동화하며, 데이터의 엄격한 위치 조건 아래에서 민감한 AI 워크로드를 실제 운영 환경에 배치할 수 있도록 지원하는 것을 목표로 하고 있다.

소버린 클라우드는 일반적으로 클라우드의 효율성을 활용하면서도 데이터와 IT 운영에 대한 통제권을 유지하는 데 초점을 맞춘다. 이는 데이터 위치 규제와 같은 현지 법규를 준수하는 동시에, 데이터와 운영, 보안에 대해 국가 또는 조직 차원의 완전한 통제를 보장하기 위해 대부분 특정 지역에 구축된다. 이상적으로는 격리된 클라우드 환경에서 운영되는 IT 인프라를 의미한다.

마이크로소프트나 구글의 소버린 클라우드가 전용 데이터센터를 기반으로 설계되는 것과 달리, IBM은 기업이나 정부가 배포하려는 모든 소프트웨어와 애플리케이션에 주권을 기본적으로 탑재하겠다는 입장이다. IBM은 오는 2월 기술 프리뷰 공개가 예정된 소버린 코어를 통해, 고객이 자체 하드웨어는 물론 지역 클라우드 업체나 다른 클라우드 환경에서도 워크로드를 실행할 수 있다고 밝혔다.

퓨처럼 그룹(Futurum Group)의 CIO 실무 책임자 디온 힌치클리프는 “이는 전통적인 소버린 클라우드라기보다는, 각 조직이 자체적으로 클라우드를 구축할 수 있도록 하는 소프트웨어 스택에 가깝다”라고 설명했다. 그는 소버린 코어가 온프레미스 데이터센터, 지역 내에서 지원되는 클라우드 인프라, IT 서비스 업체를 통한 환경 등 다양한 운영 환경에서 활용될 수 있다고 분석했다.

벤더 종속성 제거

분석가들은 이러한 접근 방식이 소버린 클라우드 관리 방식을 재정의하고, 벤더 종속성을 피하는 데 도움이 될 수 있다고 진단했다.

힌치클리프는 기존 소버린 클라우드 환경에서는 클라우드 업체가 업데이트나 접근 권한과 같은 핵심 운영 요소를 계속 통제하는 경우가 많다고 언급했다. 이로 인해 규제 리스크가 커질 뿐 아니라, 고객이 특정 업체의 아키텍처와 API, 컴플라이언스 도구에 종속되는 구조가 형성될 수 있다는 것이다.

또한 워크로드를 다른 환경으로 이전할 경우, 기존 업체의 신원 관리 체계와 암호화 키, 감사 추적 정보가 매끄럽게 이전되지 않는 문제가 발생할 수 있다. 힌치클리프는 이로 인해 CIO가 새로운 환경에서도 규제 요건을 충족하기 위해 거버넌스 체계를 다시 구축해야 하는 부담을 떠안게 된다고 지적했다.

반면 IBM의 소버린 코어는 암호화 키와 신원 관리, 운영 권한을 각 조직의 관할 영역 안에 유지할 수 있도록 함으로써 CIO에게 더 많은 통제권을 부여할 수 있다. 이런 구조로 인해 CIO는 거버넌스 체계를 다시 구축하지 않고도 클라우드 업체를 전환할 수 있다.

하이퍼프레임 리서치(HyperFRAME Research)의 AI 스택 총괄인 스테파니 월터는 규제 기관 주도의 감사가 점점 더 빈번해지고, 요구 수준도 강화되고 있다고 진단했다. 특히 유럽연합(EU)의 규제 당국은 기업의 규제 준수 약속만으로는 충분하지 않다고 보고, 실제 준수 여부를 입증할 수 있는 증거와 감사 기록, 상시적인 컴플라이언스 보고를 요구하고 있다.

힌치클리프는 소버린 코어가 자동화된 증거 수집과 지속적인 모니터링을 통해 이런 요구에 대응할 수 있다고 분석했다. 이를 통해 은행과 정부 기관, 방위 산업과 연관된 분야에서 발생하는 운영 부담을 줄이는 데도 도움이 될 수 있다고 평가했다.

소버린 AI 파일럿의 실제 배포 지원

분석가들은 소버린 코어가 기업의 AI 파일럿 프로그램을 실제 운영 환경에 배포하는 데도 힘을 실어줄 수 있다고 봤다. 특히 엄격한 데이터 위치 조건과 컴플라이언스 통제가 요구되는 AI 프로젝트에서 효과가 클 것이라는 분석이다.

HFS 리서치(HFS Research)의 CEO 필 퍼슈트는 대부분의 기업과 조직이 자체 데이터를 범용 AI 모델에 전달하는 데 여전히 부담을 느끼고 있다고 진단하면서, 동시에 GPU 기반 추론을 완전히 자체 주권 경계 안에서만 실행하는 것도 현실적으로 제약이 많은 상황이라고 설명했다.

이에 비해 소버린 코어의 기능과 역량은 기업 및 정부 조직이 내부 환경에서 AI 추론을 실행할 수 있도록 지원한다. 이를 통해 처리되는 데이터뿐 아니라 AI 모델 자체도 주권 요구사항을 충족할 수 있으며, 결과적으로 CIO가 주권을 확보하면서 AI를 파일럿 단계에서 운영 단계로 옮길 수 있는 기반을 제공한다고 퍼슈트는 설명했다.

시장 환경의 변화

소버린 코어는 IBM이 향후 AI 규제 강화 흐름을 염두에 두고 소버린 클라우드 시장 공략을 본격화하려는 전략으로 풀이된다. 동시에 마이크로소프트와 AWS, 구글 등 주요 클라우드 업체보다 한발 앞서 주도권을 잡으려는 의도도 담겨 있다.

힌치클리프는 “유럽이 규제를 강화하고 아시아태평양(APAC) 지역도 이를 뒤따르는 상황에서, IBM은 주권 문제가 기업의 AI 도입 여부를 가르는 핵심 요인이 될 것으로 보고 있다. 일부 기업에서는 비용이나 성능보다도 훨씬 더 중요한 요소가 될 수 있다”라고 설명했다.

특히 EU는 주요 클라우드 업체 대부분이 미국에 본사를 두고 있다는 점에서, 외국 기업이 데이터에 접근하거나 핵심 IT 시스템을 통제하는 것을 엄격하게 규제하고 있다.

EU 규제를 충족하기 위해 클라우드 업체는 보통 지역 통합 업체나 관리형 서비스 업체와 협력한다. 다만 힌치클리프에 따르면, 이 경우에도 기본 플랫폼에 대한 운영 통제권은 클라우드 업체가 유지하고, 파트너는 그 위에서 서비스 구축과 운영을 맡는 경우가 대부분이다.

IBM의 소버린 코어는 파트너가 고객을 대신해 전체 환경을 직접 운영할 수 있고, IBM은 운영 과정에 전혀 개입하지 않는 구조다. 힌치클리프는 이러한 접근이 규제 준수 측면에서 더 높은 신뢰성을 제공한다고 분석했다.

이와 관련해 IBM은 독일의 컴퓨타센터(Computacenter) 및 유럽 지역을 시작으로 전 세계 IT 서비스 업체와 협력을 확대할 계획이라고 밝혔다. IBM은 소버린 코어에 추가 기능을 더해 2026년 중반 정식 출시할 계획이다.
dl-ciokorea@foundryco.com

IBM has launched Sovereign Core, a software stack that aims to offer enterprises and governments full operational control over sovereign cloud deployments without relying on hyperscaler-managed regions.

Sovereign deployments, typically, try to combine cloud benefits with strategic autonomy. They are IT infrastructures that have been set up locally, ideally in isolated cloud environments, to ensure complete national or organizational control over data, operations, and security, while ensuring compliance with local laws, such as data residency regulations.

Unlike traditional sovereign clouds from Microsoft or Google that hinge on dedicated data center locations, IBM’s Sovereign Core, expected to be available in tech preview in February, is trying to make sovereignty an inherent property of any software or application that an enterprise or government wants to deploy, enabling customers to run workloads on their own hardware, local providers, or even other clouds.

“It’s less a sovereign cloud and more of a software stack to build your own sovereign cloud,” Dion Hinchcliffe, lead of the CIO practice at the Futurum Group, said, adding that Core can be used across environments, such as on-premises data centers, supported in-region cloud infrastructure, or through IT service providers.

Avoiding vendor lock-in

That shift in approach, according to analysts, could redefine how CIOs manage sovereign deployments and help them avoid vendor lock-in.

In traditional sovereign cloud deployments, hyperscalers retain control over critical operations like updates and access, creating regulatory risk and locking customers into provider-specific architectures, APIs, and compliance tools, Hinchcliffe said.

When workloads move, identity management, encryption keys, and audit trails tied to the old provider don’t transfer seamlessly, forcing CIOs to rebuild governance frameworks to meet regulatory requirements in the new environment, Hinchcliffe added.

In contrast, Sovereign Core is trying to offer more control to CIOs by allowing them to keep encryption keys, identity management, and operational authority within their jurisdiction, which should enable them to switch providers without rebuilding governance frameworks, Hinchcliffe pointed out.

Seconding Hinchcliffe, HyperFRAME Research’s leader of AI stack Stephanie Walter noted that the frequency and stringency of regulator-driven audits were increasing, specifically the EU: Regulators are no longer satisfied with promises of compliance but are seeking more evidence, audit trails, and continuous compliance reporting.

Sovereign Core, according to Hinchcliffe, could also help CIOs tackle these demands with automated evidence collection and continuous monitoring, reducing overhead for banks, government agencies, and defense-adjacent industries.

Boost for moving sovereign AI pilots to production

Analysts say Sovereign Core could help CIOs and their enterprises push their AI pilots into production, especially the ones that require strict data residency and compliance controls.

Most enterprises and organizations are hesitant to send proprietary data to a public AI model, and at the same can’t run GPU-backed inference completely inside their own sovereign boundary, said Phil Fersht, CEO of HFS Research.

Sovereign Core’s functionalities and capabilities, in contrast, will allow enterprises to run local AI inference inside their own four walls, ensuring the AI model is as “sovereign” as the data it’s processing, in turn providing CIOs with a credible landing zone to move AI from pilots into production under sovereign conditions, Fersht added.

Changing market dynamics

Sovereign Core could be a strategic move by IBM to double down on the sovereignty market ahead of broader AI regulation and surge ahead of hyperscalers such as Microsoft, AWS, and Google.

“With Europe tightening controls and APAC following, IBM is betting that sovereignty will be a major gating factor for enterprise AI adoption. For some companies, much more even than cost or performance,” Hinchcliffe said.

More so in Europe because regulations restrict foreign entities, such as the hyperscalers, which are all headquartered in the US, from having access to data or control over critical IT systems.

To comply with European regulations, hyperscalers typically work with local integrators and managed service providers, but retain operational control of the underlying platform while partners build and manage services on top, Hinchcliffe said.

IBM’s Sovereign Core takes a different approach: partners can operate the entire environment on behalf of the customer, with IBM stepping out of the operational loop altogether, ensuring more compliance with regulations, Hinchcliffe added.

To that extent, IBM said that it is planning to collaborate with IT service providers globally, starting with an initial rollout in Europe with Computacenter in Germany.

IBM plans to make Sovereign Core generally available around the middle of 2026 with additional capabilities, which are likely to be disclosed soon.