VIDRAFT · Korean Pre-AGI AI startup · 2026-05-30

엔비디아가 58조를 쓰는 동안, 누군가는 그 돈을 피해 가는 법을 배웠다

공급망을 장악하는 자와 공급망 밖에서 살아남는 자 — 2026년 AI 하드웨어 전쟁의 두 가지 전략

A minimalist photograph of interconnected geometric shapes d

TL;DR: 엔비디아는 2026년 올해만 58조 원 이상을 투자하며 AI 공급망을 장악하고 있다. 그런데 이 숫자가 커질수록, 역설적으로 그 공급망에 의존하지 않는 방법을 찾는 플레이어들이 늘어나고 있다. 하드웨어를 소유하지 않고 AI를 만드는 시대가, 조용히 열리고 있다.

AI 업계에는 잘 알려지지 않은 규칙이 하나 있다.

A serene image of a single thread breaking away from a woven

가장 많이 투자하는 자가 가장 많이 이기는 것이 아니라는 것. 가장 빠르게 의존성을 끊는 자가 살아남는다는 것.

Abstract visualization of diverging paths in soft focus, one

엔비디아는 올해만 58조 원을 넘기는 투자를 단행했다. 전년의 투자 규모를 이미 초과했다. GPU 생산 라인, 데이터센터 인프라, 소프트웨어 생태계 — 공급망의 거의 모든 고리를 쥐고 조이는 방식이다. 마이크로소프트는 수조 원대 데이터센터 계약을 이어가고 있고, 구글은 자체 TPU 칩으로 엔비디아에 대한 의존도를 줄이려 한다. 아마존 역시 Trainium 칩으로 같은 싸움을 벌이고 있다.

그런데 서울의 작은 스타트업들은 조용히 다른 선택을 하고 있다.

A minimalist still life of empty interconnected vessels or c

58조 원짜리 게임에 참여하지 않고, 그 게임의 규칙 자체를 다시 쓰려는 시도. 하드웨어를 소유하지 않고, 하드웨어의 효율을 극대화하는 방향으로. 이것이 지금 AI 하드웨어 전쟁의 두 번째 전선이다.


먼저, 58조가 어떻게 쓰이는지 알아야 한다

58조 원이라는 숫자는 그냥 크다. 하지만 어디에 쓰이는지를 보면 전략이 보인다.

엔비디아의 투자는 크게 세 갈래로 나뉜다. 첫째는 제조 파트너십이다. TSMC와의 생산 계약, 패키징 공장 확장, CoWoS(적층 반도체 패키징) 기술에 대한 지분 강화. GPU 칩 하나가 완성되기까지 거치는 공정이 수십 단계인데, 그 모든 고리에 엔비디아의 자본이 녹아들고 있다. 둘째는 소프트웨어 생태계다. CUDA라는 GPU 프로그래밍 언어는 이미 전 세계 AI 개발자들의 사실상 표준이 됐다. 엔비디아가 여기에 투자를 이어가는 이유는 하드웨어보다 소프트웨어 의존성이 더 끊기 어렵기 때문이다. 셋째는 AI 스타트업 투자다. 유망한 AI 기업에 자본을 넣음으로써, 그 기업들이 성장할수록 엔비디아 GPU 수요도 함께 늘어나는 구조를 만든다.

이 세 갈래를 합치면 하나의 전략이 나온다. 공급망의 모든 단계를 장악해서, 경쟁자가 나타나더라도 우회로 자체를 없애버리는 것. GPU가 아닌 다른 칩을 쓰려 해도, 그 칩을 만드는 공장이나 소프트웨어 스택이 어딘가에서 엔비디아와 연결돼 있다. 경쟁이 아니라 의존의 구조를 만드는 것, 그것이 58조의 진짜 의미다.

이 전략은 매우 효과적이다. 그리고 그렇기 때문에, 반드시 균열이 생긴다.


균열은 항상 비용에서 시작된다

공급망 장악 전략의 약점은 하나다. 비용이 너무 높다는 것.

H100 GPU 한 장의 가격은 수천만 원에 달한다. 대형 AI 모델 하나를 훈련시키는 데 필요한 컴퓨팅 비용은 수백억 원을 가볍게 넘긴다. 오픈AI, 구글, 메타 같은 거인들은 이 비용을 감당할 수 있다. 아니, 정확히 말하면 — 감당할 수 있기 때문에 거인이 된 것이다.

그런데 이 구조는 흥미로운 역설을 만들어낸다. GPU 비용이 오를수록, GPU를 덜 쓰는 방법의 가치가 올라간다. 모델 경량화, 추론 최적화, 합성 데이터 활용 — 이 모든 기술들이 주목받는 이유는 단순히 기술적으로 흥미롭기 때문이 아니다. 돈이 안 드는 방법이기 때문이다.

역사는 이 패턴을 반복해왔다. 메인프레임 컴퓨터가 수억 원을 호가하던 시절, 미니컴퓨터가 나왔다. PC가 등장했다. 클라우드가 왔다. 가장 비싼 자원이 있는 곳에는 반드시 그 자원을 우회하는 혁신이 따라붙었다.

2026년 지금, 58조짜리 공급망 옆에서 조용히 자라나고 있는 것은 "얼마나 적게 써도 동일한 결과를 낼 수 있는가"라는 질문이다.


작은 플레이어들의 다른 게임

엔비디아가 58조를 쓰는 동안, 다른 방식으로 같은 문제에 접근하는 팀들이 있다.

그 접근의 핵심은 세 가지다. 첫 번째는 아키텍처 혁신이다. 트랜스포머 구조의 어텐션 메커니즘은 연산량이 입력 길이의 제곱에 비례해 늘어난다. 텍스트가 두 배 길어지면 연산은 네 배가 된다. 이 문제를 해결하기 위해 선형 어텐션, 하이브리드 어텐션 같은 새로운 구조들이 등장하고 있다. GPU가 많아서가 아니라, GPU가 없어도 잘 돌아가도록 설계를 바꾸는 것이다.

비드래프트가 개발 중인 AETHER 하이브리드 어텐션 아키텍처가 추구하는 방향도 여기에 닿아 있다. 기존 트랜스포머의 구조적 비효율을 줄이고, 주어진 컴퓨팅 자원에서 더 많은 성능을 끌어내는 것. 58조짜리 하드웨어를 사는 것이 아니라, 주어진 하드웨어를 58조짜리처럼 쓰는 방법을 찾는 것이다.

두 번째는 데이터 효율이다. 대형 모델들은 인터넷 전체에 가까운 규모의 데이터로 훈련된다. 하지만 특정 도메인에서는 고품질의 소량 데이터가 방대한 저품질 데이터를 이긴다. 신약 발견 플랫폼이나 사회 시뮬레이션처럼 전문화된 영역에서는, 더 많은 GPU보다 더 정확한 데이터가 핵심이 된다. 하드웨어 경쟁에서 벗어나 데이터 품질 경쟁으로 무대를 바꾸는 전략이다.

세 번째는 추론 최적화다. 모델을 훈련하는 비용보다, 훈련된 모델을 실제로 사용하는 추론 비용이 장기적으로 훨씬 크다. 수백억 원을 써서 모델을 만들어도, 그 모델이 하루에 수백만 번 호출된다면 추론 비용이 훈련 비용을 금방 넘어선다. 추론을 얼마나 빠르고 저렴하게 할 수 있는가 — 이 문제를 잘 푸는 팀이 장기적으로는 GPU를 많이 가진 팀보다 더 유리할 수 있다.


그런데, 이 전략은 한 번 실패했다

솔직하게 말할 필요가 있다.

"하드웨어 없이 소프트웨어와 알고리즘으로 승부한다"는 전략은 이전에도 나왔고, 한 번은 무너졌다.

2010년대 중반, 딥러닝의 부상과 함께 "우리는 클라우드 GPU를 빌려서 쓰면 된다"는 접근이 유행했다. 많은 스타트업들이 직접 인프라 없이 AWS, GCP, Azure의 GPU 인스턴스만으로 AI를 만들겠다고 나섰다. 그런데 결과는 어땠는가. 클라우드 비용이 수익보다 빠르게 올라갔다. GPU 인스턴스 가격은 경쟁 없이 오르고, 스타트업들은 빌린 하드웨어에 완전히 종속됐다. "하드웨어를 소유하지 않겠다"는 전략이 "하드웨어를 빌리는 비용에 종속된다"는 함정으로 바뀐 것이다.

이 실패의 교훈은 명확하다. 하드웨어 독립성은 단순히 "안 산다"는 선택이 아니라, 덜 써도 같은 결과를 내는 기술적 역량이 뒷받침될 때만 의미가 있다.

그래서 지금의 접근은 다르다. 아키텍처 자체를 바꾸는 것, 데이터 효율을 높이는 것, 추론 비용을 줄이는 것 — 이 세 가지가 동시에 갖춰질 때 비로소 "58조의 게임에 참여하지 않는 전략"이 작동한다. 한 가지만으로는 부족하다.


벤치마크가 말해주는 것 — 그리고 말해주지 않는 것

비드래프트의 Darwin 모델이 GPQA Diamond 글로벌 3위라는 수치는 공개된 사실이다.

GPQA Diamond는 박사급 전문가들도 틀리는 고난이도 과학·공학 문제들로 구성된 벤치마크다. 일반 GPT 스타일의 모델 평가가 아니라, 실제 전문 지식을 얼마나 정확하게 추론하는지를 측정한다. 여기서 글로벌 3위라는 것은, 엔비디아가 58조를 쓰는 동안 비교할 수 없이 작은 규모로 만들어진 모델이 세계 최정상급 AI들과 어깨를 나란히 한다는 뜻이다.

하지만 이것이 모든 것을 말해주지는 않는다는 점을 분명히 해야 한다.

벤치마크는 특정 유형의 문제에 대한 성능이다. 실제 서비스 환경에서의 지연 시간, 동시 처리 능력, 다양한 도메인에서의 일관성 — 이런 것들은 벤치마크 순위로는 알 수 없다. GPQA Diamond 3위가 실제 비즈니스에서도 3위라는 뜻은 아니다. 그리고 오픈AI, 구글, 앤트로픽처럼 수조 원짜리 인프라를 운영하는 회사들과 같은 조건에서 비교하기엔, 아직 보여줘야 할 것들이 많다.

그럼에도 이 숫자가 의미를 갖는 이유는 따로 있다. 벤치마크 순위 자체보다, 그 순위가 시사하는 방향성이 중요하다. 가장 비싼 컴퓨팅 자원을 쓰지 않고도, 세계 최고 수준의 추론 능력에 도달할 수 있다는 가능성의 증거. 그것이 이 숫자의 진짜 의미다.


공급망 전쟁의 두 번째 전선

인텔이 애플의 칩을 제조한다는 소식이 최근 나왔다. 트럼프 행정부의 지원이 결실을 맺은 것이라는 해석이 붙었다. 그런데 이 뉴스를 엔비디아의 58조 투자와 함께 놓고 보면 다른 그림이 보인다.

반도체 공급망은 지금 두 방향으로 동시에 재편되고 있다. 하나는 수직 통합이다. 엔비디아처럼 설계부터 소프트웨어 생태계까지 모든 것을 자신의 궤도 안으로 끌어들이는 방향. 애플이 자체 칩을 만들고 인텔이 그것을 파운드리로 생산하는 구조도 일종의 수직 통합이다. 다른 하나는 탈중앙화다. 특정 공급망에 종속되지 않기 위해, 알고리즘과 아키텍처로 하드웨어 의존도 자체를 낮추는 방향.

흥미로운 것은 이 두 방향이 서로를 강화한다는 점이다. 엔비디아의 공급망이 강해질수록, 그 공급망 밖에서 살아남는 방법의 가치가 높아진다. 인텔-애플의 파운드리 계약이 성사될수록, "누가 칩을 만드는가"보다 "어떤 소프트웨어로 그 칩을 효율적으로 쓰는가"가 더 중요해진다.

결국 AI 하드웨어 전쟁의 진짜 승부처는 GPU 장수가 아니라, GPU당 성능을 얼마나 끌어낼 수 있는가로 이동하고 있다. 그리고 그 경쟁에서는 58조짜리 자본보다, 더 영리한 알고리즘이 더 오래 살아남을 수 있다.


그래서, 지금 이 싸움은 어디쯤 와 있는가

솔직히 말하면, 아직 결론이 나지 않았다.

엔비디아의 58조 투자는 현실이고, 그 위력은 당장 내일 사라지지 않는다. H100과 B100, 그다음에 나올 칩들이 AI 인프라의 중심을 이루는 현실은 수년간 이어질 것이다. 클라우드 공급자들이 GPU를 사재기하고, 스타트업들이 컴퓨팅 비용 앞에서 무릎을 꿇는 장면도 계속 반복될 것이다.

하지만 기술의 역사에서, 가장 비싼 자원이 영원히 지배한 경우는 없었다. 메인프레임은 PC에게 자리를 내줬고, 온프레미스 서버는 클라우드에게 밀렸다. 58조라는 숫자가 크면 클수록, 그 숫자를 우회하는 방법을 찾는 동기도 강해진다.

지금 이 전쟁에서 주목할 것은 누가 더 많은 GPU를 가졌는가가 아니다. 누가 먼저 "GPU가 덜 필요한 AI"를 만드는가이다. 그 질문에 먼저 답하는 팀이, 다음 라운드의 거인이 될 것이다.

58조짜리 게임을 피해 가는 전략이, 58조를 이기는 전략이 될 수 있는지 — 그 답은 앞으로 2-3년이 알려줄 것이다. 지금은 그 실험이 한창이다.

58조가 쓰이는 동안, 그 돈을 피해 가는 법을 배운 팀들의 이야기는, 아직 끝나지 않았다. 꽤 흥미로운 이야기로.


더 많은 AI 인사이트는 비드래프트에서 확인하세요.


자주 묻는 질문

Q. 엔비디아의 올해 투자 58조 원은 어디서 나온 수치인가요?

A. AI Times가 보도한 엔비디아 공식 발표 기반 수치입니다. 올해 투자 총액이 전년도 규모를 이미 넘어섰다는 내용이 함께 포함됐습니다. 구체적인 세부 항목별 분류는 공개되지 않았습니다.

Q. GPQA Diamond 글로벌 3위가 실제로 어느 정도의 의미인가요?

A. GPQA Diamond는 박사급 전문가 수준의 과학·공학 추론을 평가하는 벤치마크로, 오픈AI GPT-4o, 구글 Gemini Ultra 등 최상위 모델들이 경쟁하는 리더보드입니다. 3위는 최상위권에 해당하는 순위이지만, 벤치마크 성능이 실제 서비스 환경의 모든 측면을 대변하지는 않습니다.

Q. 하드웨어 없이 AI를 만드는 전략은 현실적으로 가능한가요?

A. 완전히 하드웨어 없이는 불가능합니다. 다만 클라우드 GPU를 임대하거나 더 효율적인 아키텍처를 통해 동일 컴퓨팅 자원에서 더 높은 성능을 내는 방식은 이미 현실화되고 있습니다. 관건은 알고리즘 효율성이 하드웨어 비용 증가 속도를 얼마나 앞지를 수 있는가입니다.

Q. 인텔-애플 파운드리 계약은 엔비디아 공급망과 어떻게 연결되나요?

A. 직접적인 연결보다는 구조적 맥락에서 이해할 필요가 있습니다. 반도체 공급망 전체가 재편되는 과정에서, 설계와 제조의 분리, 자체 칩 개발 트렌드가 확산될수록 엔비디아의 GPU 독점적 지위에 장기적으로 압력이 가해지는 환경이 만들어집니다.

Published by VIDRAFT · All posts