AI 데이터센터라고 하면 보통 거대한 부지와 수백 메가와트의 전력, 수만 개의 GPU를 떠올립니다. 실제로 지난 몇 년간 AI 인프라 경쟁은 거의 "더 크게"의 연속이었습니다. 더 큰 캠퍼스, 더 많은 GPU, 더 많은 전력, 더 오랜 전력계약.
그런데 최근 조금 다른 움직임이 나타나고 있습니다. 오픈AI의 대형 데이터센터를 건설한 것으로 유명한 크루소(Crusoe)가, 이번에는 트럭으로 운반할 수 있는 소형·모듈형 AI 데이터센터를 밀기 시작했습니다. 이름은 크루소 스파크(Crusoe Spark)입니다.
흥미로운 것은 크루소가 초대형 데이터센터 개발을 포기한 게 아니라는 점입니다. 오히려 회사는 6GW가 넘는 계약용량을 확보했고, 1GW 이상이 이미 가동 중이며, 총 계약가치도 1,400억 달러를 넘는다고 밝혔습니다. 최근에는 39억 달러를 새로 조달하면서 기업가치가 309억 달러까지 올라갔습니다.
즉 초대형 AI 캠퍼스를 계속 짓는 회사가, 동시에 작은 데이터센터를 만들고 있는 것입니다. 왜일까요.
저는 이 변화가 AI 산업의 다음 단계를 보여준다고 생각합니다. AI가 학습(training) 중심에서 추론(inference) 중심으로 넓어지면, 데이터센터의 형태도 달라질 수 있기 때문입니다.
1. 학습용 AI 데이터센터와 추론용 AI 데이터센터는 다르다
프론티어 AI 모델을 훈련시키려면 엄청난 연산량이 필요합니다. 수만 개의 GPU를 초고속 네트워크로 연결해야 하고, 전력밀도와 냉각성능도 매우 높아야 합니다.
그래서 학습용 데이터센터는 자연스럽게 대형화됩니다. 가능하면 한곳에 많은 GPU를 모으고, 초고속 네트워크로 연결하고, 대규모 전력을 안정적으로 공급해야 하기 때문입니다. 실제로 크루소가 오픈AI를 위해 지은 텍사스 애빌린(Abilene) 캠퍼스는 100메가와트가 넘는 건물들을 이어붙여 1.2기가와트 규모에 이르고, 오픈AI가 최신 모델을 훈련한 곳으로 알려져 있습니다.
하지만 추론은 조금 다릅니다. 이미 학습된 모델을 실제 서비스에 사용하는 단계에서는, 모든 연산을 반드시 한곳의 초대형 클러스터에서 처리할 필요는 없습니다. 사용자가 있는 곳과 가까운 곳에서 연산하는 것이 지연시간 측면에서 더 유리할 수도 있고, 워크로드에 따라 대규모 학습클러스터보다 작은 단위로 분산하는 편이 효율적일 수도 있습니다.
그래서 AI 인프라는 앞으로 '초대형 학습 캠퍼스'와 '분산형 추론 인프라'라는 이중 구조로 갈 가능성이 있습니다. 크루소의 스파크는 바로 후자의 가능성을 보여주는 사례입니다.
2. 크루소 스파크는 무엇이 다른가
크루소 스파크는 공장에서 미리 만들어 트럭으로 운반하는 모듈형 AI 데이터센터입니다. 크기를 가늠해보면 스파크 한 대는 약 1메가와트 규모로, 화물 컨테이너보다 조금 큰 정도입니다. 앞서 본 애빌린 캠퍼스가 1.2기가와트였으니, 스파크는 그 1천분의 1 수준입니다. 이 대비가 이 글의 핵심입니다. 같은 회사가 한쪽에서는 기가와트급을, 다른 쪽에서는 메가와트급을 만들고 있는 것입니다.
전통적인 데이터센터는 부지를 확보하고, 건물을 짓고, 전기·냉각·네트워크 설비를 현장에서 설치해야 합니다. 반면 스파크는 상당 부분을 공장에서 제작한 뒤, 전력이 있는 곳으로 가져가 설치하는 방식입니다. 크루소는 이를 '모듈형 AI 팩토리(modular AI factory)'라고 부르며, 대형 캠퍼스뿐 아니라 스파크까지 포함해 자체 AI 인프라 포트폴리오를 확장하겠다고 밝혔습니다.
이런 방식의 장점은 명확합니다.
첫째는 속도입니다. 공장에서 표준화된 설비를 반복 생산하면, 현장에서 처음부터 모든 것을 구축하는 것보다 배치시간을 크게 줄일 수 있습니다. 크루소는 건설에 몇 년이 걸리던 것을 몇 주 단위로 줄이고, 스파크를 연간 100대가량 찍어내는 것을 목표로 하고 있습니다.
둘째는 유연성입니다. 초대형 데이터센터를 지을 만큼 큰 부지가 없어도, 전력이 확보된 곳이라면 상대적으로 작은 단위로 배치할 수 있습니다. 태양광이나 재활용 전기차 배터리, 가스 발전, 심지어 소형 원자로까지 다양한 전력원과 결합할 수 있는 점도 특징입니다.
셋째는 노동력 문제입니다. 대형 데이터센터 개발에는 건설을 위한 많은 인력을 필요로 합니다. 모듈화는 현장 공사 비중을 줄여 이런 부담을 낮출 수 있습니다.
그리고 여기에, 겉으로 잘 드러나지 않는 네 번째 장점이 있습니다. 최근 미국에서는 초대형 데이터센터가 들어설 때마다 인근 지역사회의 반발이 커지고 있습니다. 막대한 전력과 물 사용, 소음, 부지 규모 때문입니다. 작고 분산된 스파크는 이런 대형 단지에 대한 민원을 어느 정도 우회할 수 있습니다.
3. 왜 지금 이런 제품이 나오는가
가장 중요한 이유는 AI 수요의 성격이 바뀌고 있기 때문입니다.
초기 AI 붐에서는 대부분의 관심이 모델 학습에 집중됐습니다. 챗GPT, Claude, Gemini 같은 더 큰 모델을 만들기 위해 얼마나 많은 GPU를 쓰는지가 중요했습니다. 하지만 모델이 실제 서비스에 들어가면 상황이 달라집니다. 사용자가 늘어날수록 비용의 상당 부분은 추론에서 발생합니다. 질문 하나에 답하고, 코드를 생성하고, 영상과 이미지를 만들고, AI 에이전트가 계속 작업을 수행하는 모든 과정이 추론입니다.
크루소도 이 수요를 정확히 겨냥하고 있습니다. 회사의 매니지드 추론(managed inference) 매출은 2026년 들어 연환산 1억 달러를 넘어섰고, 스파크의 초기 고객 중에는 영상 생성 AI 스타트업처럼 사용자 근처에서 빠른 추론이 필요한 곳들이 있습니다.
즉 AI 산업의 중심이 '모델을 만드는 것'에서 '만들어진 모델을 수억 명이 매일 사용하는 것'으로 넓어지고 있는 것입니다. 그리고 이 변화는 데이터센터의 설계에도 영향을 줍니다.
4. 초대형 데이터센터가 사라지는 것은 아니다
스파크 같은 모듈형 데이터센터가 나온다고 해서 초대형 AI 캠퍼스가 사라지는 것은 아닙니다.
크루소가 대표적입니다. 회사는 여전히 대형 캠퍼스를 적극적으로 개발하고 있고, 오픈AI 관련 애빌린 프로젝트와 마이크로소프트용 대형 프로젝트도 진행하고 있습니다.
따라서 변화의 핵심은 '대형 데이터센터에서 소형 데이터센터로'의 단순한 교체가 아닙니다. 오히려 '중앙집중형 대형 학습시설'과 '분산형 추론시설'이 함께 커지는 구조에 가깝습니다. 클라우드 컴퓨팅과 엣지컴퓨팅이 동시에 존재하는 것과 비슷합니다.
5. AI 인프라도 결국 '용도별 분화'가 시작되는 것일 수 있다
지금까지 우리는 AI 데이터센터를 하나의 시장처럼 봤습니다. 하지만 앞으로는 더 세분화될 가능성이 있습니다.
훈련용 데이터센터, 추론용 데이터센터, 기업 전용 AI 인프라, 정부·국방용 컴퓨팅, 지역별 저지연 서비스, 온프레미스 AI, 모듈형 AI 팩토리. 워크로드가 달라질수록 요구되는 전력밀도와 네트워크, 냉각방식, 입지조건도 달라집니다.
즉 앞으로 중요한 질문은 "AI 데이터센터가 얼마나 더 커질까"보다, "어떤 AI 업무를 어디서 처리하게 될까"일 수 있습니다.
6. 투자자 관점에서는 무엇이 달라질까
이 변화가 현실화되면, AI 인프라 수혜주를 보는 방법도 달라질 수 있습니다.
초대형 캠퍼스 중심의 투자에서는 대규모 변압기, 고압 송전, 대형 냉각, 초고속 네트워크, 대규모 GPU 클러스터가 중요합니다. 반면 모듈형·분산형 추론 인프라가 커지면, 표준화된 전력설비, 모듈형 냉각, 소형 무정전전원장치(UPS), 네트워크 장비, 조립식 데이터센터, 지역단위 전력연계 같은 영역의 중요성이 더 커질 수 있습니다.
즉 AI 인프라 투자도 '데이터센터가 커진다'라는 하나의 테마에서, 'AI 워크로드별로 어떤 인프라가 필요한가'를 구분하는 단계로 넘어갈 수 있습니다.
7. 크루소의 진짜 변화는 '크기'보다 사업모델이다
크루소는 원래 2018년 크립토 사업으로 시작했습니다. 석유·가스전에서 버려지는 플레어가스를 이용해 비트코인을 채굴하는 사업이 출발점이었습니다.
이후 AI 인프라로 방향을 틀었고, 지금은 데이터센터 개발과 운영, GPU 클라우드, 추론 서비스까지 수직계열화하고 있습니다. 시장에서는 크루소를 AI에 특화된 클라우드와 데이터센터 서비스를 제공하는 대표적인 '네오클라우드(neocloud)' 기업 중 하나로 분류합니다.
최근 39억 달러의 신규 투자도 단순히 대형 캠퍼스 확장만을 위한 것이 아닙니다. 회사는 대형 AI 팩토리부터 스파크 같은 모듈형 시설까지 모두 확대하겠다고 밝혔습니다. 이건 크루소가 단순한 데이터센터 개발사에서 'AI 인프라 플랫폼'으로 가려 한다는 의미로 볼 수 있습니다.
앞서 저는 다른 글에서, AI 산업이 이제 기술 경쟁을 넘어 거대한 자본조달 경쟁으로 넓어지고 있다는 이야기를 한 적이 있습니다. 크루소처럼 데이터센터를 짓는 회사가 수십억 달러를 조달하고, 상장까지 검토하는 것이 그 흐름의 한 단면입니다. 이번 스파크 이야기는 여기에 한 가지를 더합니다. 그 막대한 자본이 '더 큰 것'만이 아니라 '더 빠르고, 더 표준화된 것'에도 향하고 있다는 것입니다.
8. 데이터센터도 '공장제품'이 될 수 있을까
저는 여기서 가장 흥미로운 질문이 하나 생깁니다. 데이터센터도 결국 공장에서 찍어내는 제품이 될 수 있을까.
지금까지 데이터센터는 부동산 개발에 가까웠습니다. 부지를 찾고, 설계하고, 인허가를 받고, 건물을 짓고, 전력과 냉각설비를 설치했습니다. 프로젝트마다 상당 부분이 달랐습니다.
하지만 스파크 같은 모델이 성공한다면, 데이터센터의 일부는 점점 '설계 → 표준화 → 공장생산 → 운송 → 설치'라는 제조업의 흐름을 닮아갈 수 있습니다. 그렇게 되면 경쟁력도 달라집니다. 누가 더 좋은 부지를 확보했느냐뿐 아니라, 누가 더 빠르게 생산하고, 누가 더 표준화하고, 누가 더 낮은 비용으로 반복 배치할 수 있느냐가 중요해집니다. 이건 데이터센터 산업 자체의 성격을 바꿀 수 있는 변화입니다.
맺으며
AI 데이터센터는 계속 커지고 있습니다. 크루소 역시 6GW가 넘는 계약용량을 확보하며 초대형 프로젝트를 계속 추진하고 있습니다. 그런데 동시에 이 회사는, 트럭에 실어 나를 수 있는 작은 AI 데이터센터를 만들기 시작했습니다.
처음에는 모순처럼 보입니다. 하지만 AI 산업을 학습과 추론으로 나눠 보면 오히려 자연스럽습니다. 프론티어 모델을 훈련하는 곳은 더 커질 수 있습니다. 반면 이미 학습된 모델을 실제 사용자에게 제공하는 인프라는 더 분산되고, 더 작아지고, 더 표준화될 수 있습니다.
그래서 앞으로 AI 데이터센터 시장을 볼 때는 "얼마나 큰 데이터센터를 짓는가"만 볼 것이 아니라, "무슨 AI 업무를 어디에서 처리하는가"를 봐야 할지도 모르겠습니다. 어쩌면 AI 인프라의 다음 경쟁은 더 큰 데이터센터를 짓는 경쟁이 아니라, 필요한 곳에 필요한 크기의 컴퓨팅을 얼마나 빨리 가져다 놓을 수 있는가의 경쟁으로 넓어지고 있는 것인지도 모르겠습니다.
※ 본 글의 수치·일정은 2026년 9월 18일 시점의 공개 자료를 기준으로 하며, 시장 상황에 따라 달라질 수 있습니다.
※ 본 글은 정보 공유를 위한 것이며, 특정 자산에 대한 매수·매도 권유가 아닙니다.