루위(鹭羽), 아페이쓰(凹非寺) 발
양자위(量子位) | 공식 계정 QbitAI
방법이 없다! 실리콘밸리가 AI 연산력 다툼에 이미첫!저!히! 미!쳐!버!렸!다!
A사 CEO Dario Amodei조차 상대인 Meta의 문앞까지 낮은 자세로 찾아갔다:
친구야, 좀연산력다오。。。
결과가 어땠는지 아나? 저커버그는 정중히 거절했고, 머스크는 어부지리를 거뒀다:
SpaceX가엔비디아 GPU 브로커 역할을 하며 Anthropic에 연산력을 되팔아, 그야말로 큰돈을 벌어들였다——
8월 첫 실적 보고서가 호조를 보였는데, 분기 AI 사업 수입만25.61억 달러로, 전년 동기 대비 247% 증가했고 전기 대비는 두 배 이상 늘었다.
대단하다! 연산력을 위해 실리콘밸리가 이만큼 벼려졌다,대연합 시대가 당당히 도래했다.
예전에 온라인에서 얼마나 치열하게 싸웠든, 무대 뒤에서는 GW를 위해 허리를 굽혀야 한다.
굽힐 수밖에 없다, 옆집에서 뒤처진구글을。
보라. 27억 달러를 털어서 데려온 최고 과학자 Noam Shazeer가연산력 부족때문에 2년도 되지 않아 토마스 회전하듯 OpenAI로 뛰어갔다.
남들은 돈을 쓰면 최소한 소리라도 듣는데, 너희 구글은 순수하게 자선활동 하는 셈이다.(doge)
어쨌든 실리콘밸리는 이제 그 맛을 깨달았다:
인재를 붙잡을 수 있는지, 모델이 계속 선두를 유지할 수 있는지, AI가 실제 현금으로 수익을 낼 수 있는지…… 이런 문제들은 점점 더 손에 남은 연산력이 얼마나 되느냐에 달려 있다.
GPU가 실리콘밸리의 하드커런시로
예전에는 돈과 인재가 부족했지만, 이제 떠오르는 것은연산력 경제。
구글 같은 기술 거대 기업조차도 스타 연구원에게 충분한 GPU 자원이 제공되리라는 것을 보장할 수 없다.
말하자면Noam Shazeer가장 먼저 떠오르는 인물은 Transformer 8인방 중 한 명으로, 그는 2021년에 구글을 떠나 Character.AI를 설립하고 생성형 AI 챗봇 개발에 주력하고 있다.
2024년 구글은27억 달러, 거래를 통해 Shazeer의 복귀를 성사시켰으며, Gemini 공동 책임자로 임명했다.
이런 연구원이라면 본래 거대 기업들이 다투어 자원을 보장해줬어야 할 사람이다.
그러나 외신의 최신 보도에 따르면, 그의 팀 역시 연산 능력이 재분배되는 어려운 처지에 놓였으며, Shazeer는 어쩔 수 없이 경쟁 진영으로 옮겨가게 되었다.OpenAI。
우연의 일치인데, 그 전에하사비스또한 프로젝트의 컴퓨팅 파워 부족에 대해 오랫동안 불만을 표명해 왔으며, 이는 어느 정도 그가 DeepMind CEO직에서 물러나기로 한 결정에도 영향을 미쳤다.
현재 구글 내부에서는 자원 배분에 관해 큰 이견이 존재하며,세르게이 브린때때로 직접 개입하여 자원을 자신이 중요하다고 여기는 프로젝트에 재배분하기도 한다.
하지만 결국 근본적으로는 연산 자원이 부족한 것이므로 수입을 늘리고 지출을 줄이는 방법밖에 없다.
회사 외부의 경쟁은 업계 관계를 더욱 복잡하게 만들고 있다.
OpenAI, Anthropic과 같은 최고 스타트업들은 모델 성능을 겨루는 것은 물론, 데이터센터, 서버, 전력 공급 능력도 두고 경쟁해야 합니다.
~을Anthropic예를 들면, 그 모델의 연산 수요가 이미 워낙 커서 다른 모델 회사와 공급 논의를 해야 할 정도입니다.
올해 5월 SpaceX와 체결한 협약에 따르면 해당 월에 300메가와트를 초과하는 신규 용량을 확보하고, 22만 장의 엔비디아 GPU를 사용하며, 동시에 Claude Code와 API 사용 한도를 늘리기로 했습니다.
바꾸어 말하면, 이렇게 하는 목적은 바로백엔드가 더 많은 컴퓨팅 파워를 확보해 프런트엔드에 공급하도록 한다. 연산력은 확보되었고, 모델도 강해졌으며, 사용자도 남게 되었다.
그리자 모델 회사들의 경쟁에는 두 가지 논리가 동시에 작동하기 시작했다.
제품 차원에서는여전히 사용자와 개발 인재를 두고 다투고 있다.인프라 차원에서는누가 제때 자원을 제공하느냐에 따라 잠재적 협력 대상이 될 수 있다.
그렇다면 틈새에서 생존하는 소규모 AI 스타트업들은 어떨까?
이들의 상황은 더욱 극적이다.
이들 회사는 자체 데이터센터를 구축하기 어렵지만, 과거에는 AWS 등 클라우드 플랫폼의 GPU를 유연하게 임대하여사용한 만큼만 지불할 수 있었다.。
그러나 상위 AI 연구소들이 대규모로 컴퓨팅 자원을 확정 잠금하면서 일부 클라우드 서비스 업체들은 수년짜리 계약을 요구하기 시작했고, 계약 금액의 최대30%에 달하는 선급금을 요구하며, 심지어 스타트업에게 지급보증인을 찾으라고 요구하기도 했다.
이러한 여러 사정이 스타트업들을 딜레마에 빠지게 만들었다.
컴퓨팅 파워를 너무 많이 사면, 미래의 사용자 증가가 기대에 미치지 못할 경우 지속적으로 소모되는 현금이 물거품이 된다. 너무 적게 사면, 연산 자원이 없어 수요를 처리하지 못해 성장 기회를 놓칠 수 있다.
이런 상황은 오히려 새로운 비즈니스를 탄생시켰다.글로벌 컴퓨팅 파워 골드러시이다.
즉, 전 세계에서 아직 충분히 활용되지 않은 AI 서버 자원을 찾아, 이 컴퓨팅 파워를 필요로 하는 기업들에 임대해 주는 것이다.
예를 들어 대표적인 San Francisco Compute 회사는 미국 시골의 낡은 닭장에서 서버를 수거하러 다녔고,머스크도 **TSMC(台积电)**와 추가적인 컴퓨팅 파워 협력을 논의하기 시작했다.
실리콘밸리의 최상위 VC들도 직접 GPU를 비축하기 시작했다.YC는 7월에 산하 스타트업들을 위한 전용 GPU 클러스터를 출시했고, Radical Ventures는 투자받은 회사들이 공급업체 계약을 조정하도록 돕고 있다.
이는 모델을 훈련하거나 배포 중인 소규모 팀들에게 갈증을 조금이나마 해소해 주었다.
AI 컴퓨팅 파워 전쟁의 통제 불능
그러나막기보다는 풀어야 한다.컴퓨팅 파워에 이런 부족 상황이 나타난 데에는 사실 그 원인이 상당히 복잡하다.
OpenAI, Meta, 나아가 구글도 새로운 데이터센터를 적극적으로 건설하며미래에대규모 GPU 자원을 제공하겠다고 약속하고 있다.
그러나 모델의 급속한 수요 증가는 기다려주지 않는다. 이 시간차, 혹은 그려놓은 큰 그림이야말로 기업들이 여전히 이곳저곳에서 컴퓨팅 파워를 찾아다녀야 하는 이유 중 하나다.
사용자들이 AI를 사용하는 방식 역시 공급 압력을 모르는 사이에 가중시키고 있다.
올해부터,Agent가 일문일답을 대신해 사용자가 사용하는 핵심 패러다임이 되기 시작하면서, 연속적이고 장시간에 걸친 작업 과제가 서버에 더 많은 병렬 연산을 떠안게 하고 있다.
수요가 늘어난 뒤에는 칩 임대 시세까지 천지개벽 같은 변화가 일어났다.
SemiAnalysis가 올해 4월에 공개한 데이터에 따르면,H100의 1년 임대 계약 가격은 2025년 10월 저점이던 GPU당 시간당 1.70달러에서 2026년 3월에는 2.35달러로 상승했으며, 상승폭은 약40%。
GPU가 금에 비견된다는 말은 허황된 소리가 아니다.
즉시 인도 가능하고 안정적으로 운영되는 연산 능력이 부족한 데다 새로운 연산 능력은 아득히 멀리 있어, 이 두 가지가 함께 연산 능력 시장의 딜레마를 만들어냈다.
그리하여연산 능력 패권이 구체화되었다.
스타트업이 업계 거대 기업에 도전한다는 서사는 점점 시들어갈 것이며, 설령 누군가 로드맵이 있어도 컴퓨팅 자원이 부족하면 끝장이다.
눈에 띄는 것은,연산 능력이 AI 시대의 진입 장벽이 되고 있으며자체 인프라를 보유한 대기업의 우위를 강화하고 있다는 점이다.
연산 능력은 내 것이니 실력도 쥔 셈이다.
AI 제품을 만드는 사람들이 고려할 일도 늘었다. 제품을 아무도 쓰지 않을까 걱정하는 동시에, 사용자 증가 속도가 자신의 연산 능력 확장 속도를 넘어설까 봐도 걱정해야 한다.
하지만 딜레마는 곧 기회이기도 하다.삽을 파는 중간 계층은 신이 나 있다.
그렇지 않니, 젠황(老黃)?
참고 링크:
[1]
https://www.wsj.com/tech/ai/ai-computing-power-demand-a63da9b9?st=tzDj41
[2]
https://www.anthropic.com/news/higher-limits-spacex
[3]
https://newsletter.semianalysis.com/p/the-great-gpu-shortage-rental-capacity
— 끝 —