구글은 지난달 AI 칩 분야에서 두 차례에 걸쳐 의미 있는 변화를 만들어냈다. 첫 번째는 7세대 텐서 처리 장치(TPU)인 ‘아이언우드(Ironwood)’를 공개한 것이다. 이 칩은 추론 처리 성능을 크게 개선한 것이 특징으로, 해당 용도에 맞춰 맞춤 설계됐다. 아이언우드는 AI 처리에 필수적인 대규모 메모리 확장성과 높은 대역폭도 함께 제공한다.

두 번째 변화는 몇 주 뒤 전해졌으며, 영향력은 훨씬 컸다. 메타가 자체 하이퍼스케일 데이터센터를 위해 구글의 TPU를 대규모로 구매하는 방안을 검토하고 있다는 소문이 빠르게 확산됐다. 알려진 구매 규모는 약 10만 개에 이른다. 이와 함께 구글이 TPU의 외부 고객을 추가로 확보하려 할 것이라는 관측도 나왔다.

이 소식은 AI 실리콘 시장 전반에 파장을 일으켰고, 특히 엔비디아에 적지 않은 영향을 미쳤다. 엔비디아는 현재 시장에서 압도적인 지위를 차지하고 있는 만큼, 업계에서는 그 아성을 흔들 수 있는 계기라면 무엇이든 주목하는 분위기다. 실질적인 경쟁자가 등장할 가능성 자체가 시장의 관심을 끌기에 충분했다.

이런 전략은 지금까지 하이퍼스케일러들이 취해온 전략과는 분명히 다른 흐름이기도 하다. 대부분의 하이퍼스케일러는 범용 컴퓨팅이나 AI 처리를 위해 자체 맞춤형 실리콘을 개발해 왔지만, 그동안은 이를 외부에 판매하지 않고 내부 용도로만 활용해 왔다. 구글이 AI 프로세서 판매 사업에 나선다면, 기존 관행에서 벗어나는 중요한 전환점이 된다.

이 때문에 구글의 행보가 엔비디아와 AMD가 최대 고객인 구글, 아마존웹서비스(AWS), 마이크로소프트(MS)와 직접 경쟁하는 새로운 반도체 군비 경쟁을 촉발할 수 있는지에 대한 질문도 제기된다. 이에 대해 분석가들은 가능성은 있지만 현실화될 가능성은 높지 않다고 보고 있다.

시장조사업체 J.골드 앤드 어소시에이츠의 잭 골드 대표는 “구글이 TPU를 판매할 가능성은 있다”면서도 “엔비디아와 직접 경쟁에 나설 가능성은 없다”라고 설명했다. 그는 “TPU는 엔비디아와 정면 경쟁을 목표로 설계된 칩이 아니며, 상대적으로 소규모이거나 덜 집약적인 모델 처리를 겨냥한 제품”이라고 분석했다.

골드는 엔비디아 프로세서가 대규모 거대언어모델(LLM)을 처리하는 데 사용되는 반면, 구글 TPU는 LLM 학습 이후 단계인 추론 작업에 활용된다고 설명했다. 이 때문에 두 칩은 서로 경쟁 관계라기보다 역할이 다른 보완적 관계에 가깝다는 것이 그의 설명이다.

포레스터리서치의 선임 애널리스트 알빈 응우옌은 프로세서를 판매하고 이를 지원하는 일이 구글의 핵심 역량이라고 보기는 어렵지만, 이를 수행할 수 있는 기술과 경험은 갖추고 있다고 평가했다. 그는 “내가 알기로는 구글이 이미 일부 외부 기업에 TPU를 제공해 왔으며, 주로 전직 구글 출신이 설립한 스타트업이나 구글이 후원하는 스타트업이 대상이었다”라고 설명했다.

메타의 TPU 구매설과 관련해서는, 메타가 TPU를 어디에 활용하려는지가 핵심이라는 분석이 나온다. 골드는 “이미 모델을 구축했고 추론 워크로드를 운영하고 있다면 엔비디아 B100이나 B200은 과도한 선택일 수 있다”라고 말했다. 이어 “그렇다면 선택지는 무엇인가를 보게 되는데, 현재 추론 중심 칩을 개발하는 스타트업도 여럿 있고 인텔과 AMD 역시 이 방향으로 움직이고 있다”라며 “결국 각자의 환경에 최적화된 칩을 확보하는 것이 중요하며, 그런 점에서 구글의 TPU는 하이퍼스케일러 클라우드 환경에 맞게 최적화돼 있다”라고 설명했다.

응우옌은 자체 사용을 위한 칩을 만드는 것과 이를 외부에 판매하는 것은 전혀 다른 문제라고 지적했다. 그는 “칩 판매에는 이를 뒷받침할 인프라와 역량이 필요한데, 이 분야에서는 인텔과 AMD, 엔비디아가 구글보다 훨씬 앞서 있다”라고 분석했다.

그는 이어 “서비스 형태나 클라우드 서비스로 제공하는 경우라면 구글도 충분히 해낼 수 있다”면서도 “온프레미스 환경이나 고객이 직접 소유해 사용하는 방식은 구글이 새롭게 익혀야 할 역량”이라고 설명했다.

이런 이유로 응우옌은 자체 맞춤형 실리콘을 보유한 다른 하이퍼스케일러들 역시 칩 판매 사업에 나설 가능성은 크지 않다고 내다봤다. 그는 “막을 수 있는 요소는 없지만, 각 기업마다 안고 있는 과제가 다르다”라며 “MS, AWS, 오픈AI는 이미 다수의 파트너십을 맺고 있어, 칩을 판매할 경우 불가피하게 누군가와 경쟁 관계에 놓일 수 있다”라고 말했다.

골드 역시 AWS와 MS가 본격적으로 칩 사업에 뛰어들 가능성은 낮게 봤다. 그는 “그런 일이 벌어질 것이라고는 생각하기 어렵다”라며 “개인적으로는 그들에게 크게 설득력 있는 비즈니스 모델이라고 보이지 않는다”라고 분석했다.
dl-ciokorea@foundryco.com