Satya Nadella

사티아 나델라 – 마이크로소프트는 AGI를 어떻게 준비하는가 (How Microsoft is Preparing for AGI)

ByThe Context

원문: Satya Nadella, How Microsoft is preparing for AGI (Nov 2025) 전문은 원문에서 확인하실 수 있습니다. 아래 글은 번역이 아니라, 사티아 나델라의 논증을 한국어로 재구성한 정리입니다.

글의 배경과 개요

사티아 나델라(Satya Nadella)는 마이크로소프트(Microsoft)의 최고경영자이고, 이 대담은 드와케시 파텔(Dwarkesh Patel)이 진행하는 팟캐스트에 2025년 11월 공개됐습니다. 반도체·데이터센터 분석으로 알려진 세미애널리시스(SemiAnalysis) 창업자 딜런 파텔(Dylan Patel)이 공동 진행자로 참여했고, 대담은 조지아주 애틀랜타에 막 완공된 페어워터(Fairwater) 2 데이터센터 투어에서 시작합니다. 나델라가 답하려는 질문은, 범용인공지능(AGI)으로 가는 길이 정말 열린다면 그 길목에서 돈은 어느 층에 쌓이고 마이크로소프트는 그중 어디에 서 있어야 하는가입니다. 그는 인프라, 모델, 애플리케이션이라는 세 개 층을 차례로 짚으면서, 가치가 모델 한 층으로 전부 빨려 들어간다는 통념을 반박하는 쪽으로 논증을 끌고 갑니다. 그 과정에서 깃허브(GitHub) 코파일럿(Copilot)의 점유율 급락, 자체 모델 MAI의 현재 위치, 2024년 하반기의 데이터센터 임대 중단 결정, 오픈AI(OpenAI)와 다시 맺은 계약의 조건 같은 불편한 숫자와 선택이 차례로 도마에 오릅니다. 마지막 절은 미국 기술 스택에 대한 세계의 신뢰라는, 기술보다 정치에 가까운 주제로 끝납니다.

핵심 내용 정리

  • 나델라는 AI를 산업혁명 이후 가장 큰 사건으로 보면서도 아직 초기 국면이며, 진짜 경제성장은 기술이 아니라 일의 방식이 바뀐 뒤에야 나타난다고 말합니다.
  • 그는 산업혁명이 200년에 걸쳐 한 일을 20-25년으로 압축하는 것이 자신이 바라는 속도라고 밝힙니다.
  • 구독, 소비량 과금, 광고, 거래 수수료 같은 과금 방식 자체는 달라지지 않고, 달라지는 것은 매출원가와 가격의 계층 구조라고 봅니다.
  • 그는 모델 계층이 모든 마진을 가져간다는 전망에 동의하지 않으며, 오픈소스라는 견제 장치와 데이터 유동성 때문에 모델 회사가 승자의 저주에 빠질 수 있다고 주장합니다.
  • 마이크로소프트의 사무용 도구 사업은 사람이 쓰는 도구 사업에서 에이전트에게 컴퓨터와 신원과 저장소를 제공하는 인프라 사업으로 바뀐다고 전망합니다.
  • 한 모델 회사의 전용 호스팅 업체가 되는 길을 택하지 않았고, 여러 모델을 받아낼 수 있는 대체 가능한 설비와 롱테일 수요를 겨냥해 건설 계획을 조정했다고 설명합니다.
  • 그는 모델 성능보다 미국과 미국 기업의 기술 스택을 세계가 장기 공급자로 신뢰하느냐가 승부를 가를 것이라고 말합니다.

페어워터 2, 지금 세계에서 가장 강력한 데이터센터

이 대담은 애틀랜타에 막 지어진 페어워터 2 데이터센터를 돌아보는 장면에서 시작합니다. 드와케시 파텔과 딜런 파텔은 이 시설을 외부에 처음 공개하는 자리에 초대받았습니다. 마이크로소프트는 페어워터를 한 동이 아니라 여러 동 짓고 있고, 각 동에는 엔비디아(NVIDIA)의 GB200과 GB300이 수십만 장씩 들어갑니다. 서로 연결된 건물을 모두 합치면 총 2기가와트가 넘는 용량이 되며, 한 동만 떼어 놓아도 현재 존재하는 어떤 AI 데이터센터보다 강력하다는 것이 드와케시 파텔의 설명입니다.

마이크로소프트 클라우드·AI 부문 총괄 부사장 스콧 거스리(Scott Guthrie)는 학습 용량을 18-24개월마다 10배로 키우는 것을 목표로 삼아 왔다고 말합니다. 그 기준에서 보면 이 건물은 GPT-5를 학습시킬 때 쓴 설비의 10배에 해당합니다. 규모를 가늠할 수 있는 다른 지표로 그는 광학 부품을 듭니다. 이 건물 한 동에 들어간 네트워크 광학 부품의 양이 2년 반 전 전 세계 애저(Azure) 데이터센터 전체에 들어간 양과 거의 맞먹는다는 것입니다. 나델라는 여기에 네트워크 연결이 500만 개쯤 된다고 덧붙입니다.

리전 안의 사이트들과 두 리전 사이를 잇는 대역폭을 두고, 드와케시 파텔은 이것이 미래의 스케일링에 거는 큰 베팅인지, 서로 다른 두 리전을 통째로 써야 할 만큼 거대한 모델을 예상하는 것인지 묻습니다. 나델라의 답은 목표가 대규모 학습 작업을 위해 플롭스를 한데 모으는 것이고 그러려면 사이트들을 묶어야 한다는 쪽입니다. 다만 그는 현실에서는 학습에만 쓰이지 않는다고 선을 긋습니다. 같은 설비가 데이터 생성에도, 추론에도 여러 방식으로 쓰이며, 한 가지 작업에만 영원히 쓰이는 일은 없다는 것입니다.

거스리는 바로 옆에서 짓고 있는 페어워터 4도 같은 1페타비트 네트워크에 올려 두 동을 아주 빠른 속도로 연결할 수 있게 하고, 다시 AI 광역망으로 여러 페어워터가 지어지는 밀워키까지 잇는다고 설명합니다. 나델라는 이 구조에서 모델 병렬과 데이터 병렬이 눈에 보인다고 말합니다. 캠퍼스 안의 슈퍼팟들이 학습 작업에 맞게 설계돼 있고, 광역망을 타면 위스콘신 데이터센터까지 끌어와 전부를 하나의 학습 작업에 투입할 수 있다는 뜻입니다.

아직 서버도 랙도 들어오지 않은 빈 셀 앞에서 딜런 파텔이 셀당 랙 수와 건물당 셀 수를 묻자 거스리는 둘 다 공개하지 않는다고 답하고, 딜런 파텔은 위층에서 직접 세어 보겠다고 응수합니다. 소음이 심한 층을 지나며 돈이 어디로 가는지 이제 보이느냐는 질문에, 나델라는 자신은 소프트웨어 회사를 운영하는 사람인데 소프트웨어 회사에 온 것을 환영한다는 식으로 받아넘깁니다. 이어 드와케시 파텔이 GB200과 NV링크(NVLink)를 쓰기로 정하고 나면 남는 설계 여지가 얼마나 되는지 묻습니다.

나델라는 모델 구조와 최적화된 물리적 설계가 서로 맞물려 있다는 점을 짚고, 바로 그 점이 두렵기도 하다고 말합니다. 베라 루빈 울트라(Vera Rubin Ultra) 같은 새 칩이 나오면 전력 밀도가 완전히 달라지고 냉각 요건도 완전히 달라지기 때문입니다. 그래서 그는 모든 설비를 하나의 규격에 맞춰 짓고 싶지 않다고 말하며, 한 번에 규모를 키워 그 규모에 묶이기보다 시간축을 따라 나눠서 규모를 키우는 쪽이 맞다고 정리합니다.

해설 여기서 오가는 용어 몇 가지를 풀어 두면 이후 논의가 훨씬 또렷해집니다. GB200과 GB300은 엔비디아가 중앙처리장치(CPU)와 그래픽처리장치(GPU)를 한 묶음으로 설계한 최신 학습용 가속기이고, NV링크는 그 칩들을 한 랙 안에서 묶어 사실상 하나의 거대한 연산기처럼 쓰게 해 주는 고속 연결 규격입니다.

모델 병렬은 모델 자체를 쪼개 여러 장비에 나눠 얹는 방식이고, 데이터 병렬은 같은 모델의 복제본에 서로 다른 데이터를 흘려보내는 방식입니다. 앞쪽은 칩 사이의 통신 속도에 민감해 한 건물 안에서 처리해야 하고, 뒤쪽은 상대적으로 느슨해 도시를 건너뛴 연결로도 감당이 됩니다. 거스리가 말한 1페타비트 네트워크와 밀워키까지 잇는 광역망이 바로 이 둘을 공간적으로 나눠 배치하기 위한 장치입니다.

[관점] 나델라가 말한 시간축 분산은 기술적 취향이 아니라 회계와 투자 판단의 문제입니다. 데이터센터 투자비의 대부분은 수명이 짧은 가속기에 들어가고, 이 자산은 보통 5-6년에 걸쳐 감가상각됩니다. 한 세대에 맞춰 2기가와트를 한꺼번에 지어 버리면, 다음 세대 칩의 전력 밀도와 냉각 요건이 달라지는 순간 아직 장부에 남아 있는 건물이 최신 작업을 받지 못하는 상태가 됩니다.

투자자 입장에서 이 발언은 설비투자 규모보다 그 설비가 몇 세대를 받아낼 수 있는가를 보라는 신호로 읽힙니다. 같은 금액을 쓰더라도 세대 교체를 흡수하도록 지은 설비와 한 세대에 최적화한 설비는 투하자본이익률(ROIC)이 전혀 다르게 나옵니다. 이 주제는 뒤의 하이퍼스케일 사업 절과 설비투자 절에서 나델라가 직접 숫자를 들어 다시 꺼냅니다.

AGI 시대의 사업 모델

딜런 파텔은 과거의 기술 전환을 나열하며 질문을 엽니다. 철도, 인터넷, 호환 부품, 산업화, 클라우드로 이어지는 동안 기술이 발견된 시점부터 경제 전체에 퍼지기까지 걸리는 시간은 계속 짧아졌습니다. 이 팟캐스트에 나온 많은 사람은 이번이 마지막 기술 혁명이고 이번만은 완전히 다르다고 믿습니다.

시장에서도 3년 만에 하이퍼스케일러들이 2026년에 집행할 설비투자가 5,000억 달러 규모로 치솟았는데, 이는 속도 면에서 과거 어느 혁명과도 비교되지 않습니다. 그런데 나델라의 화법은 AGI가 온다고 외치는 부류와 사뭇 다르고, 딜런 파텔은 그 차이를 알고 싶어 합니다.

나델라는 먼저 자신도 느끼는 흥분에서 출발합니다. 어쩌면 산업혁명 이후 가장 큰 사건일 수 있다는 전제를 그도 깔고 있습니다. 다만 그는 아직 초기 국면이라는 사실에 발을 붙이고 있습니다. 쓸모 있는 것을 만들었고 좋은 성질들이 보이며 스케일링 법칙이 작동하는 듯하고 계속 작동하리라 낙관하지만, 그중 일부는 진짜 과학적 돌파를 필요로 하고 나머지 상당 부분은 공학의 문제라는 것입니다.

그는 여기에 더해 지난 70년의 컴퓨팅 역시 우리를 움직여 온 행진이었다는 시각을 보탭니다. 그러면서 카네기멜런대학교(Carnegie Mellon University)의 튜링상 수상자 라지 레디(Raj Reddy)가 AGI라는 말이 나오기 전부터 써 온 비유를 소개합니다. AI는 수호천사이거나 인지 증폭기여야 한다는 비유입니다.

나델라는 이 비유를 좋아한다고 말합니다. 인간에게 주는 효용이 무엇이냐는 질문으로 되돌아가면 결국 인지를 증폭하고 곁에서 지켜 주는 것이며, 그렇게 보면 이것은 도구라는 설명입니다. 물론 이것은 도구 이상이라며 신비주의로 갈 수도 있지만, 과거에도 인간만 하던 일을 기계가 대신한 사례는 많았다는 것이 그의 응수입니다.

드와케시 파텔은 정의 논쟁에 갇히지 말자면서 다른 각도를 제시합니다. 5년이든 10년이든 20년이든 언젠가 기계가 사티아 토큰을 생산하고, 마이크로소프트 이사회가 그 토큰의 가치를 높게 평가하는 날이 온다는 설정입니다. 딜런 파텔이 나델라를 인터뷰하느라 그 경제적 가치를 얼마나 낭비하고 있느냐고 농담을 보태자, 드와케시 파텔은 사티아 토큰의 API 비용은 감당할 수 없을 것이라고 받습니다.

그가 짚는 핵심은 이것입니다. 지금 모델은 100만 토큰당 몇 달러 또는 몇 센트 수준인데, 사티아 토큰 100만 개의 가치가 그보다 훨씬 크다면 그 사이에는 어마어마한 마진 확장 여지가 있습니다. 그 마진이 어디로 가고 마이크로소프트는 어느 층에서 그 마진에 관여하느냐가 질문입니다.

나델라의 답은 경제성장의 그림이 어떻게 그려지느냐로 되돌아갑니다. 기업이라는 조직은 어떤 모습이 되고 생산성은 어떻게 변하느냐가 먼저라는 것입니다. 그는 산업혁명도 70년의 확산을 거친 뒤에야 성장률에 나타났다는 점을 상기시킵니다. 이번에는 기술이 빨리 퍼진다 해도 진짜 성장은 일과 일의 산출물과 업무 흐름 자체가 바뀌는 지점까지 확산이 도달해야 나타난다는 것이 그의 조건입니다. 그래서 그는 기업이 실제로 달라지기 위해 치러야 하는 변화 관리 비용을 과소평가해서는 안 된다고 못 박습니다.

그다음 그는 질문을 뒤집습니다. 앞으로 인간과 인간이 생산하는 토큰은 더 큰 레버리지를 갖게 되느냐는 것입니다. 그는 두 진행자에게 기술 없이 지금 규모의 세미애널리시스나 이 팟캐스트를 운영할 수 있었겠느냐고 묻고, 불가능했을 것이라고 스스로 답합니다. 그렇다면 남는 질문은 그 규모가 다시 10배가 되느냐인데, 그는 틀림없이 그렇게 된다고 봅니다.

매출이든 청취자 수든 어떤 지표를 쓰든 그런 일이 벌어질 것이고, 산업혁명이 70년 혹은 150년에 걸쳐 한 일이 20년이나 25년 안에 일어날 수 있다는 것입니다. 운이 좋다면 200년에 걸친 변화를 20년으로 압축하고 싶다는 것이 그가 말하는 희망입니다.

여기서 딜런 파텔이 사업 모델 쪽으로 화제를 돌립니다. 마이크로소프트는 아마도 역사상 가장 성공한 소프트웨어 회사이자 가장 큰 서비스형 소프트웨어(SaaS) 회사이고, 윈도우(Windows) 라이선스와 디스크를 팔던 시절에서 마이크로소프트 365(Microsoft 365) 구독을 파는 시절로 이미 한 번 전환을 거쳤습니다. 그런데 지금 또 한 번의 전환이 진행 중입니다.

SaaS는 사용자 한 명이 늘어날 때 드는 추가 비용이 지극히 낮고 비용의 대부분이 연구개발과 고객 획득에 들어가는 사업인데, AI는 매출원가(COGS)가 너무 높아 이 모델을 완전히 깨뜨립니다. 마이크로소프트를 제외한 SaaS 기업들의 주가가 크게 부진했던 이유가 여기 있다는 것이 그의 진단입니다. 그러면서도 코파일럿은 월 20달러에 팔고 있는 상황을 어떻게 넘어설 것인지 묻습니다.

나델라는 과금 장치 자체는 비슷하게 남는다는 데서 출발합니다. 소비자 영역부터 쭉 늘어놓고 보면 광고 단위가 있고, 거래 수수료가 있고, AI 기기를 만드는 쪽에는 하드웨어 매출총이익이 있고, 소비자와 기업 각각의 구독이 있고, 소비량 과금이 있습니다. 그는 이것들이 여전히 전부 계량기라고 말합니다. 달라지는 것은 구독이라는 말의 내용입니다. 사람들이 구독을 좋아한 이유는 예산을 잡을 수 있기 때문인데, 구독은 본질적으로 일정한 소비 권리를 묶어 놓은 이용권이라는 것입니다.

그렇다면 구독에 얼마만큼의 소비량을 붙일지는 가격 결정의 문제가 됩니다. 그는 코딩 구독 상품들이 이미 그렇게 짜여 있다고 지적합니다. 프로 등급과 표준 등급으로 나뉘는 구조가 바로 그것이고, 가격과 마진 구조는 그런 식으로 계층화될 것이라는 전망입니다. 마이크로소프트로서는 이 모든 계량기에 걸쳐 사업을 하고 있다는 점이 다행이라고 그는 말합니다. 어떤 범주에서 어떤 모델이 통할지는 시간이 말해 줄 것이라는 정리입니다.

마지막으로 그는 SaaS 쪽에서 자신이 오래 생각해 온 대목을 꺼냅니다. 오피스 365(Office 365)의 가입자당 평균매출(ARPU)이 낮다는 사실이 실은 좋은 일이라는 것입니다. 서버에서 클라우드로 넘어가던 시기에 그들이 스스로에게 던졌던 질문은 비관적이었습니다. 오피스 라이선스와 오피스 서버를 쓰던 같은 사용자를 그대로 클라우드로 옮기기만 하고 매출원가까지 떠안으면, 마진이 줄어드는 정도가 아니라 근본적으로 덜 수익성 있는 회사가 되는 것 아니냐는 걱정이었습니다.

그런데 실제로 벌어진 일은 정반대였습니다. 클라우드로 옮기자 시장이 미친 듯이 커졌습니다. 인도에서는 서버를 거의 팔지 못했는데, 클라우드에서는 인도의 누구나 서버를 쪼개어 사는 방식으로 IT 비용을 감당할 수 있게 됐습니다. 그가 미처 몰랐다고 말하는 대목은 셰어포인트(SharePoint) 밑에 깔리는 저장장치에 사람들이 쓰던 돈의 규모입니다. 한때 EMC의 최대 사업 부문이 셰어포인트용 스토리지 서버였을 수도 있다는 것이고, 그 비용은 클라우드로 가면서 사라졌습니다.

그것은 현금이 먼저 나가는 운전자본이었기 때문에, 그 부담이 걷히자 시장은 폭발적으로 넓어졌습니다. 나델라는 AI도 그렇게 될 것이라고 봅니다. 코딩을 예로 들면, 깃허브와 비주얼 스튜디오 코드(Visual Studio Code)로 수십 년에 걸쳐 쌓아 올린 규모를 코딩 어시스턴트가 단 1년 만에 따라잡았습니다. 그가 보기에 앞으로 벌어질 일도 같은 종류이며, 시장 자체가 엄청나게 커진다는 것입니다.

해설 딜런 파텔이 매출원가를 문제 삼는 이유는 SaaS라는 사업 모델의 구조 때문입니다. 전통적인 구독 소프트웨어는 사용자가 한 명 늘어도 추가로 드는 비용이 사실상 0에 가까워서, 초기 개발비와 영업비를 넘긴 뒤에는 매출총이익률이 80% 안팎까지 올라갑니다. 그래서 투자자들은 이 업종을 성장률과 유지율만 보고 평가해 왔습니다.

그런데 AI 기능은 사용자가 쓸 때마다 추론 연산이 실제로 돌아가므로 사용량에 비례해 비용이 발생합니다. 월 20달러 정액 상품에 무거운 모델 호출을 무제한으로 붙이면 많이 쓰는 고객일수록 회사가 손해를 보는 구조가 됩니다. 나델라가 구독을 소비 권리의 묶음으로 재정의하고 등급제를 강조하는 것은, 이 역전을 가격 설계로 흡수하겠다는 뜻입니다.

[관점] 나델라가 말한 70년의 시차는 경제학에서 오래 다뤄 온 주제입니다. 1980년대에는 컴퓨터가 생산성 통계를 제외한 모든 곳에서 보인다는 말이 돌았고, 범용기술(GPT)이 총요소생산성(TFP)에 나타나기까지는 조직과 업무 설계가 함께 바뀌는 긴 과정이 필요하다는 것이 이후 연구의 공통된 결론이었습니다. 생산성 J커브라는 개념도 같은 현상을 가리킵니다. 무형투자가 선행되는 동안 측정된 생산성은 오히려 눌려 있다가 뒤늦게 튀어 오른다는 것입니다.

투자 관점에서 이 발언은 양날의 칼입니다. 확산에 시간이 걸린다는 인식은 설비투자의 회수 기간을 길게 잡는다는 뜻이고, 이는 지금의 현금흐름 압박을 견디는 논리가 됩니다. 반대로 시차가 길다는 말은 지금 집행한 자본이 실적으로 돌아오기까지 몇 분기가 아니라 몇 년이 걸릴 수 있다는 자인이기도 합니다. 나델라가 이 대담 내내 숫자보다 조직 변화를 먼저 말하는 데에는 그런 긴장이 깔려 있습니다.

[반론] 확산이 느리다는 나델라의 진단보다 한 걸음 더 비관적인 쪽도 있습니다. 대런 애스모글루(Daron Acemoglu)는 「The Simple Macroeconomics of AI」에서 현재 기술로 AI가 자동화할 수 있는 과업이 전체 노동의 일부에 그치고, 그중 상당수는 성과를 평가하기 어려운 업무라고 봅니다. 그는 이 계산을 쌓아 향후 10년간 총요소생산성 증가분이 1%에 한참 못 미치는 수준에 머문다는 추정을 내놓았습니다.

그 추정이 맞는다면 200년을 20년으로 압축한다는 나델라의 희망은 성립하기 어렵습니다. 반대편에는 다리오 아모데이(Dario Amodei)처럼, AI 자체가 과학과 조직 변화의 속도를 끌어올리기 때문에 과거 범용기술의 확산 곡선을 그대로 대입하면 안 된다는 주장도 있습니다. 나델라의 위치는 두 극단 사이, 낙관의 방향은 공유하되 속도에 대해서는 유보를 다는 자리입니다.

코파일럿, 점유율을 잃으면서도 커지는 시장

드와케시 파텔은 앞 절의 낙관에 단서를 답니다. 시장이 커지는 것은 맞는데 그 매출 중 마이크로소프트에 닿는 몫도 함께 커지느냐는 물음입니다. 그가 드는 사례가 코파일럿입니다. 딜런 파텔의 추정에 따르면 2025년 초만 해도 깃허브 코파일럿의 매출은 5억 달러 수준이었고 가까운 경쟁자가 없었습니다.

그런데 지금은 클로드 코드(Claude Code)와 커서(Cursor)가 코파일럿과 비슷한 10억 달러 안팎에 올라섰고, 코덱스(Codex)도 7억-8억 달러로 따라붙고 있습니다. 마이크로소프트가 접근할 수 있는 모든 표면을 통틀어, 코파일럿류 제품이 가진 우위가 무엇이냐는 질문입니다.

나델라는 먼저 그 차트가 마음에 든다고 말합니다. 이유는 두 가지입니다. 하나는 아직 마이크로소프트가 맨 위에 있다는 것이고, 다른 하나는 거기 적힌 회사들이 전부 최근 4-5년 사이에 생겨난 회사라는 것입니다. 그는 후자를 가장 좋은 신호로 봅니다. 새 경쟁자와 새로운 실존적 위협이 생겼고, 지금 자신들을 죽일 수 있는 상대가 볼랜드(Borland)가 아니라 클로드와 커서라는 사실 자체가 올바른 방향에 서 있다는 증거라는 것입니다.

그가 보기에 아무것도 없던 상태에서 이 규모까지 온 것이 바로 시장 확장이며, 클라우드 때와 같은 종류의 일입니다. 코딩과 AI가 결합한 이 범주는 가장 큰 범주 가운데 하나가 될 것이고, 그는 이를 소프트웨어 공장 범주라고 부릅니다. 어쩌면 지식노동보다 클 수도 있다면서, 그 가능성에 대해 열린 태도를 유지하고 싶다고 말합니다. 경쟁이 험해질 것이라는 지적은 타당하지만, 가지고 있던 자산을 이 규모로 전환시켰다는 점은 다행이고 이제 경쟁하면 된다는 입장입니다. 직전 분기 실적 발표에서 구독자가 2,000만에서 2,600만으로 늘었다는 점을 들어 그는 가입자 증가의 방향에 만족한다고 밝힙니다.

그런데 나델라가 더 흥미롭게 보는 지점은 따로 있습니다. 경쟁사 도구들이 쏟아 내는 그 많은 코드의 저장소가 결국 어디로 가느냐는 것입니다. 전부 깃허브로 갑니다. 저장소 생성과 풀 리퀘스트를 비롯한 모든 지표에서 깃허브는 사상 최고치에 있습니다. 그는 이 구조를 열린 상태로 유지하고 싶다고 말하며, 깃허브의 성장과 자사 제품의 성장을 뒤섞어 셈하지 않겠다고 덧붙입니다.

초당 한 명꼴로 개발자가 깃허브에 합류하고 있고, 그중 80%는 그냥 거기 있다는 이유만으로 어떤 식으로든 깃허브 코파일럿 작업 흐름 안으로 들어온다는 것이 그가 인용한 통계입니다. 기본값으로 켜져 있는 코드 리뷰 에이전트를 쓰게 되는 경우도 많아서, 구조적으로 여러 번의 기회가 생긴다는 설명입니다. 여기서 그는 깃허브가 가진 원형 요소들을 꺼냅니다. 깃(Git)에서 시작해 이슈와 액션으로 이어지는 이 기능들은 전부 저장소를 중심으로 짜여 있기 때문에 강력하고 아름답다는 것이 그의 표현이고, 마이크로소프트는 그 기반을 확장하려 합니다.

대담 직전 주에 열린 깃허브 유니버스(GitHub Universe)에서 발표한 에이전트 HQ가 그 개념적 구상입니다. 그 안의 미션 컨트롤에 들어가면 작업을 던져 넣을 수 있습니다. 나델라는 이를 여러 AI 에이전트를 묶어 파는 케이블 TV에 비유합니다. 코덱스, 클로드, 코그니션(Cognition)의 제품, 그록(Grok) 등 누구의 에이전트든 하나의 구독에 묶여 들어오고, 사용자는 과업을 발주한 뒤 각자의 독립된 브랜치에서 일하는 에이전트들을 조종하고 관찰하면 된다는 구상입니다.

그는 바로 이 지점이 가장 큰 혁신의 무대가 되리라고 봅니다. 지금 그가 원하는 것은 여러 에이전트를 동시에 쓰고, 그 결과물을 소화하고, 그러면서도 자기 저장소에 대한 통제를 놓지 않는 것입니다. 코딩 에이전트가 만들어 낸 것을 빠르게 훑고 분류하고 방향을 잡아 줄 일종의 상황판이 필요하다면, 그것은 비주얼 스튜디오 코드와 깃허브, 그리고 미션 컨트롤이라는 제어 평면 위에 올라갈 새 기능들 사이에서 만들어질 것입니다. 여기에 관측 기능이 붙습니다. 어느 에이전트가 언제 어떤 코드베이스에 무슨 일을 했는지 추적하는 기능이 모든 도입 기업에 필요해질 것이고, 그는 거기에 기회가 있다고 말합니다.

그러면서도 혁신하지 못하면 무너진다는 점은 인정하며, 적어도 아직 맨 위에 있는 동안에는 그 차트가 마음에 든다고 되풀이합니다. 딜런 파텔은 그 논리의 약한 고리를 짚습니다. 누구의 코딩 에이전트가 이기든 깃허브는 계속 자라겠지만, 그 시장의 성장률은 연 10-20% 수준이라는 것입니다. 국내총생산 증가율을 크게 웃도는 훌륭한 복리 성장 사업이기는 해도, AI 코딩 에이전트 시장의 속도와는 비교가 되지 않습니다.

그의 계산으로는 2024년 말 깃허브 코파일럿 혼자서 만들던 연환산 5억 달러가, 지금은 깃허브 코파일럿, 클로드 코드, 커서, 코그니션, 윈드서프(Windsurf), 리플릿(Replit), 오픈AI의 코덱스를 합쳐 2025년 4분기 기준 50억-60억 달러로 뛰었습니다. 10배입니다. 이어 그는 소프트웨어 에이전트의 전체 시장 규모가 개발자에게 지급하는 2조 달러의 임금인지, 아니면 세상의 모든 기업이 이제 더 많은 소프트웨어를 만들 수 있게 되므로 그보다 더 큰지 묻습니다.

마이크로소프트가 그 몫의 일부를 가져가리라는 데에는 이견이 없지만, 문제는 불과 1년 만에 100%에 가깝던, 적어도 50%를 훌쩍 넘던 점유율이 25% 아래로 내려왔다는 사실입니다. 마이크로소프트가 계속 이긴다는 확신을 어디서 얻을 수 있느냐는 질문입니다.

나델라는 여기에 타고난 권리는 없다고 답합니다. 혁신하러 가자는 말 외에 다른 자신감의 근거는 없다는 것입니다. 다만 그가 운 좋게 쥐고 있다고 보는 것은 이 범주가 과거 자신들이 높은 점유율을 가졌던 어떤 시장보다도 훨씬 크다는 사실입니다. 비주얼 스튜디오 코드에서 높은 점유율을 가졌고 깃허브 저장소에서도 그랬으며 그것은 좋은 시장이었지만, 훨씬 넓어진 시장에서 괜찮은 점유율을 갖는 쪽이 낫다는 논리입니다.

그는 같은 구조를 다른 사례로 보여 줍니다. 클라이언트-서버 시대의 서버 컴퓨팅에서 마이크로소프트는 높은 점유율을 가졌고, 하이퍼스케일에서는 그보다 훨씬 낮은 점유율을 갖고 있습니다. 그런데 후자는 규모 자체가 몇 자릿수 더 큰 사업입니다. 점유율이 예전만큼 강하지 않아도 경쟁하는 시장이 더 많은 가치를 만들어 내는 한 마이크로소프트는 괜찮았다는 실존 증명이 있고, 승자도 여럿일 수 있다는 것입니다.

결국 경쟁력을 갖춰야 한다는 지적은 받아들이며, 그래서 그는 깃허브를 모든 에이전트가 모이는 장소로 만드는 에이전트 HQ에 큰 기대를 겁니다. 승자가 하나이고 구독도 하나일 필요는 없으며, 그 회사들 가운데 일부는 마이크로소프트와 함께 성공할 수 있다는 것이 그의 마무리입니다.

해설 나델라가 깃허브의 원형 요소를 강조하는 이유는 코딩 도구 시장의 층위가 둘로 나뉘어 있기 때문입니다. 위층은 코드를 실제로 써 주는 에이전트이고, 아래층은 그 코드가 쌓이고 검토되고 배포되는 저장소와 작업 흐름입니다. 커서나 클로드 코드가 위층에서 점유율을 가져가더라도, 그 결과물은 대부분 아래층인 깃허브에 올라갑니다.

풀 리퀘스트는 수정한 코드를 본 가지에 합치자고 제안하는 절차이고, 이슈와 액션은 할 일을 추적하고 검사·배포를 자동으로 돌리는 장치입니다. 미션 컨트롤이 노리는 자리는 여기입니다. 사람이 짜던 코드가 여러 에이전트의 동시 산출물로 바뀌면, 무엇이 언제 어느 가지에서 바뀌었는지 가려내는 관제 기능의 값어치가 코드 작성 자체보다 커질 수 있다는 계산입니다.

[관점] 1년 만에 점유율이 100% 가까이에서 25% 아래로 내려간 사건을 두고 시장이 커졌으니 괜찮다고 말하는 것은, 주가를 보는 쪽에서는 그대로 받아들이기 어려운 설명입니다. 구글 클라우드(Google Cloud)와 아마존웹서비스(AWS)를 상대로 한 애저의 사례가 그 변명이 통했던 경우이기는 합니다. 다만 그때는 마이크로소프트가 뒤늦게 올라타며 점유율을 늘린 쪽이었고, 지금 코딩 도구에서는 선두에서 밀려 내려오는 쪽입니다.

나델라가 제시한 안전망은 점유율이 아니라 통행료 구조입니다. 누가 이기든 코드가 깃허브를 지나가고, 그 위에 관제와 관측 계층을 깔아 과금한다는 그림입니다. 이 그림의 약점은 딜런 파텔이 그대로 지적한 대로, 통행료 사업은 연 10-20%로 자라고 에이전트 사업은 10배로 자란다는 속도 차이입니다. 투자자가 확인해야 할 숫자는 구독자 2,600만이라는 총량보다, 깃허브 매출에서 에이전트 과금이 차지하는 비중이 분기마다 올라가는지 여부입니다.

[한국 관점] 이 구도는 국내 소프트웨어 업계에 두 갈래로 다르게 작동합니다. 한쪽에서는 시스템통합(SI)과 수탁개발이 큰 비중을 차지하는 산업 구조상, 코딩 에이전트의 생산성 향상이 인건비 기반 단가 산정과 정면으로 부딪칩니다. 투입 인월로 값을 매기는 계약에서 산출이 몇 배가 되면, 그 이익은 공급사가 아니라 발주처로 흘러가기 쉽습니다.

다른 한쪽에는 보안 규제가 있습니다. 금융과 공공 부문에서는 망 분리와 소스코드 반출 제한 때문에 외부 저장소와 외부 모델을 그대로 쓰기 어렵고, 그래서 사내 설치형 도구에 대한 수요가 따로 생깁니다. 나델라가 그리는 그림이 저장소를 중심에 둔 관제 계층의 장악이라면, 국내에서는 그 계층이 깃허브가 아니라 사내 시스템 위에 얹힌 형태로 열릴 여지가 있습니다. 코드를 누가 더 잘 쓰느냐보다, 코드가 어디에 쌓이고 누가 그 흐름을 관리하느냐를 보는 편이 낫다는 뜻입니다.

마진은 어느 층에서 부풀어 오르는가

드와케시 파텔은 이 질문이 깃허브만의 문제가 아니라 오피스를 비롯한 마이크로소프트 소프트웨어 전체의 문제라고 전제합니다. 그는 두 가지 미래상을 제시합니다. 하나는 모델이 계속 발목 잡힌 상태로 남아서 사람이 늘 눈으로 확인하고 손을 대야 하는 세계입니다. 다른 하나는 지금 2분짜리 과업을 하는 모델이 10분, 30분을 거쳐 며칠치 일을 자율적으로 해내는 세계입니다.

뒤쪽이라면 모델 회사들은 어떤 사용자 인터페이스든 쓰고 플랫폼 사이를 옮겨 다니는 동료 한 명에 대한 접근권을 수천 달러에 팔게 됩니다. 그렇다면 왜 마진이 모델 회사로 가지 않고 AI가 똑똑해질수록 덜 중요해지는 스캐폴딩 쪽에 남는다는 것이냐는 질문입니다.

나델라는 좋은 지적이라고 인정하면서, 가치가 모델로 전부 옮겨 가는지 아니면 스캐폴딩과 모델이 나눠 갖는지는 시간이 답할 문제라고 말합니다. 다만 그는 유인 구조가 뚜렷해진다는 점을 짚습니다. 그가 드는 예는 깃허브 코파일럿의 자동 선택 설정입니다. 자신이 구독을 사 두면 이 기능이 요청에 맞춰 모델을 고르고 최적화하며, 완전히 자율적으로 작동할 수도 있고 여러 모델에 걸쳐 토큰을 차익 거래하듯 골라 가며 과업을 끝낼 수도 있다는 것입니다.

이 논리를 밀고 가면 범용재화가 되는 쪽은 모델입니다. 오픈소스 모델이 있으니 체크포인트 하나를 골라 자기 데이터를 얹을 수 있고, 커서든 마이크로소프트든 자체 모델을 갖기 시작하는 흐름이 이미 보인다는 것이 그의 관찰입니다. 그렇게 되면 대부분의 과업을 그쪽으로 넘기게 됩니다. 그래서 그는 한쪽 논변을 이렇게 정리합니다. 지능의 들쭉날쭉함과 발목 잡힌 부분을 처리하는 일이 오늘의 스캐폴딩인데, 그 층을 이기면 데이터의 유동성을 쥐게 되므로 모델 쪽으로 수직 통합해 내려갈 수 있다는 것입니다.

구조적으로 세상에는 언제나 상당히 쓸 만한 오픈소스 모델이 있을 것이고, 그것을 쓸 데이터와 스캐폴딩만 갖추면 된다는 것이 그의 판단입니다. 그래서 그는 반대편 논변도 세웁니다. 모델 회사라면 승자의 저주에 빠질 수 있다는 것입니다. 온갖 어려운 일을 해내고 믿기 어려운 혁신을 이뤘는데, 복제본 하나만 나오면 그 성과가 범용재화가 되어 버립니다. 그러면 근거 데이터와 컨텍스트 엔지니어링을 쥐고 데이터 유동성을 가진 쪽이 그 체크포인트를 가져다 학습시키면 그만입니다. 그는 두 방향 모두 논변이 성립한다고 덧붙입니다.

딜런 파텔은 이를 두 개의 세계관으로 정리합니다. 하나는 모델이 많고 오픈소스가 존재하며 모델 간 차이가 승패에 영향을 주긴 하지만 결국 스캐폴딩이 이기게 해 준다는 쪽입니다. 다른 하나는 모델이야말로 핵심 지식재산이고 모두가 접전 중이라는 쪽입니다. 그는 매출 그래프가 후자를 뒷받침한다고 봅니다. 오픈AI의 매출은 앤트로픽(Anthropic)과 비슷한 수준의 코딩 모델을 갖춘 뒤에야 치솟기 시작했다는 것입니다.

그가 내미는 더 강한 증거는 마진입니다. 앤트로픽의 추론 매출총이익률은 2025년 한 해 동안 40%에 한참 못 미치는 수준에서 60%를 넘는 수준으로 올라갔다는 것이 그의 추정입니다. 중국산 오픈소스 모델이 어느 때보다 많고 오픈AI와 구글, xAI의 그록까지 모두 경쟁력을 갖췄는데도 모델 계층의 마진은 오히려 크게 벌어졌습니다. 이 사실을 어떻게 보느냐는 질문입니다.

나델라는 몇 해 전에는 모델을 감싸기만 해도 회사를 세울 수 있다는 말이 돌았지만 그 생각은 모델 성능과 도구 사용 능력이 올라오면서 이미 폐기됐다고 인정합니다. 그런데 오피스 365를 보면 사정이 다르다며 엑셀 에이전트를 예로 듭니다. 이것은 사용자 인터페이스 층의 껍데기가 아니라 중간 계층에 들어가는 모델이라는 설명입니다. GPT 계열의 지식재산을 모두 쓸 수 있으므로, 그것을 오피스 시스템의 중간 계층에 심어 엑셀(Excel)과 그 안의 모든 것을 본래 구조 그대로 이해하도록 가르친다는 것입니다.

그가 강조하는 것은 화면의 픽셀만 보는 수준과의 차이입니다. 추론 과업을 맡기려면 모델이 자기가 저지른 추론 실수를 바로잡을 수 있어야 하는데, 그러려면 픽셀이 아니라 어떤 수식을 틀렸는지를 보고 이해해야 합니다. 그래서 이 작업은 프롬프트 몇 줄을 붙인 껍데기 층이 아니라 중간 계층에서 엑셀의 도구들을 가르치는 방식으로 이뤄집니다. 그는 능숙한 엑셀 사용자가 된다는 것이 무엇인지를 마크다운 문서로 정리해 모델에게 기술로 가르친다고 설명합니다.

나델라는 이 구조를 AI 두뇌에 빗댑니다. 전통적인 의미의 엑셀 업무 로직을 만드는 데서 그치지 않고, 그 로직에 도구 사용법을 아는 모델로 인지 계층을 감싸는 일이라는 것입니다. 그렇게 되면 엑셀은 분석가 한 명과 모든 도구 사용법을 함께 묶어서 출시되는 셈이고, 모두가 이런 식의 제품을 만들게 됩니다. 모델 회사들도 그 앞에서 경쟁해야 한다는 것이 그의 결론입니다. 값을 높게 매기면 이런 도구를 만드는 쪽에서 다른 모델로 갈아타 버리기 때문입니다.

한 모델이 나머지를 압도적 격차로 앞서면 그때는 승자독식이 맞지만, 하이퍼스케일 경쟁처럼 여러 모델이 경쟁하고 오픈소스라는 견제가 작동하는 한 모델 위에 가치를 쌓을 공간은 충분하다는 것입니다. 그는 마이크로소프트의 포지션을 세 층으로 정리합니다. 먼저 여러 모델을 떠받치는 하이퍼스케일 사업을 합니다. 다음으로 앞으로 7년간 오픈AI 모델에 접근할 수 있고 그 위에서 혁신할 수 있으므로, 완전한 유연성을 가지고 쓸 수 있는 프런티어급 모델을 보유한 것이나 마찬가지라고 봅니다.

여기에 MAI로 자체 모델을 더하므로 모델 계층은 언제나 확보돼 있습니다. 마지막으로 보안, 지식노동, 코딩, 과학 영역에서 자체 응용 스캐폴딩을 짓는데, 이것은 모델을 감싸는 껍데기가 아니라 모델이 응용 프로그램 안으로 감싸여 들어가는 형태입니다.

드와케시 파텔은 여기서 그 구상이 AI 역량의 미래를 반영하지 못한 것 아니냐고 되묻습니다. 화면을 캡처할 수는 있어도 각 셀의 수식 안을 들여다보지 못하는, 오늘의 모델을 전제로 삼은 그림이라는 지적입니다. 더 나은 사고 모형은 모델이 사람만큼 컴퓨터를 잘 쓰게 되는 상황이라는 것입니다. 엑셀을 쓰는 지식노동자는 수식을 들여다보고, 다른 소프트웨어를 쓰고, 필요하면 오피스 365와 다른 프로그램 사이에서 데이터를 옮깁니다. 그렇다면 엑셀과의 통합은 그다지 중요하지 않게 됩니다.

나델라는 자신이 말한 바가 바로 그것이라고 답합니다. 엑셀은 애초에 분석가를 위한 도구로 만들어졌으니, 분석가 노릇을 할 AI에게도 쓸 도구가 있어야 한다는 논리입니다. 드와케시 파텔이 그 도구는 사람이 쓰는 것과 같은 컴퓨터라고 받자, 나델라는 자신이 만드는 것은 그 분석 도구들을 쓰는 법을 미리 알고 태어난 AI 에이전트 형태의 분석가라고 정리합니다. 사람이 엑셀을 쓰면서 곁에 두는 것이냐는 확인에 그는 아니라고, 완전히 자율적인 쪽이라고 답합니다.

그러면서 그는 회사의 미래를 두 개의 세계로 나눠 펼쳐 보입니다. 첫째는 도구 사업입니다. 사람이 컴퓨터를 가지고 엑셀을 쓰며, 앞으로는 코파일럿도 두고 그 코파일럿이 에이전트들을 거느리지만, 조종은 여전히 사람이 하고 모든 것이 사람에게 돌아옵니다. 둘째는 회사가 AI 에이전트에게 연산 자원을 통째로 할당하고 그 에이전트가 완전히 자율적으로 일하는 세계입니다. 이 자율 에이전트에게도 같은 도구들이 몸처럼 붙어 있는데, 날것의 컴퓨터만 쥐여 주는 것보다 도구를 쓰게 하는 편이 토큰 효율이 높기 때문입니다.

여기서 나델라는 이 대담에서 가장 멀리 나가는 전망을 내놓습니다. 오늘 최종 사용자용 도구 사업인 마이크로소프트의 사업이, 에이전트가 일하는 것을 떠받치는 인프라 사업이 된다는 것입니다. 그는 마이크로소프트 365 밑에 깔아 둔 것들이 여전히 그대로 쓸모 있다고 말합니다. 저장할 곳, 보관할 곳, 찾아낼 곳, 그 모든 활동을 관리할 곳은 에이전트에게도 필요하기 때문입니다. 새로운 인프라라는 것이 그의 표현입니다.

드와케시 파텔이 그 말을 정리합니다. 컴퓨터를 실제로 조작할 수 있는 미래의 AI라면 마이크로소프트와 제휴하지 않아도 마이크로소프트 소프트웨어를 쓸 수 있지만, 마이크로소프트의 인프라 위에서 일한다면 더 낮은 계층의 접근 권한을 주어 같은 일을 더 효율적으로 하게 해 준다는 뜻이냐는 확인입니다. 나델라는 전적으로 그렇다고 답하며 가상화의 역사를 끌어옵니다. 서버가 있었고 가상화가 나왔으며 그 뒤 서버는 훨씬 더 많아졌습니다. 도구를 최종 산물로 보지 말고, 사람이 쓰는 그 도구 밑에 깔린 기반 전체를 보라는 것입니다. 그 기반이 AI 에이전트의 출발점이기도 한데, 에이전트에게도 컴퓨터가 필요하기 때문입니다.

실제로 눈에 띄게 성장하는 영역이 거기라고 그는 말합니다. 오피스 산출물을 자율 에이전트 방식으로 만드는 회사들이 윈도우 365(Windows 365)를 할당받고 싶어 하는 것입니다. 에이전트에게 컴퓨터를 한 대 배정하려는 수요입니다. 그래서 최종 사용자 컴퓨팅 인프라 사업이 생기고, 그 사업은 사용자 수보다 빠르게 자랄 것이라고 그는 봅니다. 사용자당 과금 사업이 어떻게 되느냐는 질문에 대한 그의 답은 사용자당이 아니라 에이전트당으로 보라는 것입니다. 에이전트마다 컴퓨터와 그에 딸린 보안 장치, 신원이 필요하고, 관측과 관리 계층이 거기에 들어간다는 설명입니다.

딜런 파텔은 여기에 다른 각도를 댑니다. 모델 회사들은 엑셀을 쓰거나 아마존에서 물건을 사거나 항공권을 예약하도록 모델을 훈련시킬 환경을 만들고 있는데, 동시에 이전 작업도 훈련시키고 있다는 것입니다. 당장 가장 값나가는 일이 그쪽이기 때문입니다. 메인프레임 기반 시스템을 표준 클라우드로 옮기고, 엑셀로 굴리던 데이터베이스를 SQL이 붙은 진짜 데이터베이스로 바꾸고, 워드(Word)와 엑셀로 하던 일을 더 프로그래밍답고 효율적인 형태로 바꾸는 일입니다.

사람도 할 수 있지만 개발자를 투입하기에는 수지가 맞지 않아 방치돼 온 일들입니다. 그렇게 되면 오피스 생태계의 사용량은 메인프레임 생태계가 그랬듯 크게 줄어들 수 있다는 것입니다. 다만 그는 메인프레임도 지난 20년간 실제로는 성장했다는 단서를 답니다.

나델라는 그 지적에 전적으로 동의한다고 말한 뒤, 상당 기간은 혼종의 세계가 이어진다고 답합니다. 사람은 도구를 쓰고, 그 도구는 도구를 쓰는 에이전트와 함께 일해야 하며, 양쪽은 서로 소통해야 합니다. 내가 만든 산출물 중 무엇을 사람이 봐야 하는가 같은 문제가 입력과 출력 양쪽에서 현실적인 고려 사항이 된다는 것입니다. 그래서 그냥 다른 데로 옮겨 갔다는 식으로 끝나지 않고, 혼종 상태에서 살아야 한다는 것이 그의 답입니다.

그는 그것만으로는 답이 되지 않는다는 점도 스스로 인정합니다. 에이전트끼리 일하며 완전히 최적화된 새로운 효율적 프런티어가 실제로 열릴 수 있기 때문입니다. 그런데 에이전트끼리 일할 때도 필요한 기본 요소가 무엇이냐고 그는 되묻습니다. 저장 시스템이 필요한지, 그 저장 시스템에 전자증거개시 기능이 필요한지, 관측 기능이 필요한지, 여러 모델을 쓰면서 하나의 신원 체계를 유지할 장치가 필요한지를 묻는 것입니다. 그가 보기에 이것들은 오늘 오피스 시스템을 떠받치는 바로 그 핵심 레일이고, 미래에도 그대로 필요합니다.

데이터베이스 이야기가 나오자 그는 반가워합니다. 엑셀 전부에 데이터베이스가 뒤를 받치게 하고 싶고 그것도 당장 그렇게 되기를 바란다는 것입니다. 그는 데이터베이스가 크게 자랄 영역이라고 봅니다. 오피스 산출물이 더 잘 구조화되고, 에이전트 덕분에 정형과 비정형 데이터를 결합하는 일이 수월해지면 그 밑의 인프라 사업이 커진다는 논리입니다. 그 소비를 전부 에이전트가 일으킨다는 점이 달라질 뿐입니다.

이 모든 것이 모델 회사가 그때그때 만들어 내는 소프트웨어일 수도 있는데, 그는 마이크로소프트 역시 그런 모델 회사 중 하나가 될 것이라고 말합니다. 모델과 인프라를 함께 지어 공급하는 몇몇 회사 사이의 경쟁이 될 수 있다는 것입니다.

해설 여기 나오는 스캐폴딩이라는 말은 모델 위에 얹히는 응용 계층 전체를 가리킵니다. 모델에게 어떤 맥락을 넣어 줄지 고르고, 쓸 수 있는 도구를 붙여 주고, 틀린 답을 걸러 내고, 사람이 결과를 검토할 수 있게 만드는 작업이 전부 여기 들어갑니다. 모델이 똑똑해질수록 이 층이 얇아진다는 것이 드와케시 파텔의 전제이고, 데이터를 쥔 쪽이 이 층을 통해 모델을 갈아 끼울 수 있다는 것이 나델라의 반론입니다.

체크포인트는 학습 도중 또는 완료 시점에 저장한 모델 가중치의 한 판본을 뜻합니다. 가중치가 공개된 모델이 꾸준히 나오는 한, 응용 계층을 쥔 쪽은 자기 데이터로 그 판본을 추가 학습시켜 자체 모델로 만들 수 있습니다. 나델라가 말하는 데이터 유동성은 그렇게 모델을 바꿔 끼울 때 함께 따라오는 자산, 즉 그 조직이 축적한 문서와 업무 기록과 피드백을 가리킵니다.

[관점] 딜런 파텔이 내민 앤트로픽의 마진 수치는 나델라의 범용재화론을 정면으로 반박하는 숫자입니다. 범용재화화가 진행 중이라면 경쟁자가 늘어날수록 마진이 눌려야 하는데, 실제로는 중국산 가중치 공개 모델이 쏟아지는 동안에도 추론 매출총이익률이 40% 미만에서 60% 이상으로 올라갔기 때문입니다. 이는 가격 경쟁보다 추론 최적화에 따른 원가 하락이 더 빨랐다는 뜻이거나, 코딩처럼 성능 차이가 곧바로 돈으로 환산되는 영역에서는 가격 민감도가 낮다는 뜻입니다.

다만 매출총이익률만으로 모델 계층의 승리를 단정하기는 이릅니다. 이 수치는 연구개발비와 학습 비용을 뺀 뒤의 숫자가 아니고, 모델 회사들은 차기 모델 학습에 그보다 훨씬 큰 금액을 계속 투입하고 있기 때문입니다. 나델라가 말하는 승자의 저주는 바로 그 비대칭을 가리킵니다. 프런티어를 미는 비용은 선두가 부담하고, 뒤따르는 쪽은 그 성과의 복제본을 훨씬 싸게 쓸 수 있다는 것입니다. 어느 쪽이 맞는지는 모델 세대 간 격차가 좁아지는 속도가 결정할 문제입니다.

[이해관계] 가치가 한 층에 쏠리지 않고 세 층에 나뉜다는 주장은 마이크로소프트의 현재 위치와 정확히 맞아떨어집니다. 이 회사는 인프라와 응용 계층에서는 선두이지만 모델 계층에서는 선두가 아니며, 뒤 절에서 드와케시 파텔이 확인하듯 자체 모델 MAI는 공개 평가 순위에서 한참 아래에 있습니다. 모델이 범용재화가 된다는 전망이 맞는다면 이 약점은 전략적 선택으로 바뀌고, 틀린다면 구조적 취약점으로 남습니다.

동시에 나델라는 오픈AI의 성공에도 직접적인 지분을 갖고 있습니다. 2025년 10월 말 완료된 오픈AI의 공익법인(PBC) 전환으로 마이크로소프트는 약 27%의 지분을 보유하게 됐고, 모델과 제품에 대한 지식재산권은 2032년까지 이어집니다. 이 대담에서 그가 말한 7년이라는 기간이 바로 그것입니다. 모델 계층이 이기든 응용 계층이 이기든 양쪽에 발을 걸쳐 둔 셈이며, 그의 균형 잡힌 화법은 그 위치에서 나옵니다.

MAI, 뒤처진 자체 모델을 어떻게 설명할 것인가

드와케시 파텔은 숫자를 들고 들어옵니다. 대담 두 달 전 공개된 마이크로소프트 AI의 최신 모델이 챗봇 아레나(Chatbot Arena)에서 36위라는 것입니다. 오픈AI 모델에 대한 지식재산권을 쥐고 있고, 이론적으로는 오픈AI의 단일 저장소를 통째로 복제하거나 그 모델을 증류할 권리도 있는데, 선도적 모델 회사를 갖는 것이 전략의 큰 축이라면 왜 이렇게 뒤처져 있느냐는 질문입니다.

나델라는 먼저 오픈AI 모델을 모든 제품에서 최대한 쓰겠다는 점을 분명히 합니다. 앞으로 7년 내내 유지할 핵심 방침이고, 그냥 쓰는 데 그치지 않고 가치를 얹겠다는 것입니다. 앞 절에서 말한 분석가와 엑셀 에이전트가 그런 작업이고, 거기에 강화학습 파인튜닝을 하고 고유한 데이터 자산을 얹어 GPT 계열 위에 중간 학습을 돌려 역량을 키우겠다는 설명입니다.

MAI 모델에 대해 그는 새 계약 덕분에 입장을 분명히 할 수 있게 됐다고 말합니다. 세계 최고 수준의 초지능 팀을 꾸려 높은 야심으로 밀고 가겠다는 것입니다. 다만 동시에 지금 이 시기를 두 자산을 영리하게 조합하는 데 쓰겠다고 덧붙입니다. 한쪽 끝은 철저히 제품 지향으로, 다른 쪽 끝은 철저히 연구 지향으로 간다는 것입니다. 그가 가장 피하고 싶은 일은 명확합니다. GPT 계열에 접근할 수 있는데 똑같은 것을 다시 만드느라 플롭스를 중복해서 태우는 일은 하지 않겠다는 것입니다.

그래서 GPT 계열을 만드는 데 들어가는 플롭스는 그 가치를 최대로 뽑아내는 데 쓰고, MAI의 플롭스는 다른 곳에 배분합니다. 그가 드는 예가 이미지 모델입니다. 이미지 부문 순위에서 9위에 올랐고, 비용 최적화 목적으로 코파일럿과 빙(Bing)에 들어가 쓰이고 있습니다. 코파일럿에 들어간 음성 모델도 마찬가지로 성격을 입혀 제품에 맞게 최적화한 결과물입니다.

텍스트 모델에 대해서는 그가 직접 맥락을 붙입니다. 같은 평가판에 처음 올렸을 때 13위로 데뷔했는데, H100 1만 5,000장 정도만 써서 만든 아주 작은 모델이었다는 것입니다. 핵심 역량과 지시 따르기를 비롯한 기본기를 증명하고 당시 최고 수준에 맞출 수 있는지 확인하는 것이 목적이었습니다. 그는 이 결과가 스케일링 법칙을 전제할 때 플롭스를 더 주면 무엇을 할 수 있는지 보여 준다고 해석합니다. 다음 단계는 음성과 이미지와 텍스트에서 해 온 작업을 합치는 옴니 모델이고, 그것이 MAI의 다음 기착지입니다.

MAI 로드맵에 대한 그의 정리는 이렇습니다. 일급 초지능 팀을 짓고, 그중 일부 모델은 계속 공개된 형태로 내놓습니다. 그 모델들은 지연 시간과 비용 면에서 유리하기 때문에 자사 제품에 쓰이거나, 특별한 역량을 갖춘 쪽으로 쓰입니다. 그리고 초지능으로 가는 행군에 필요한 앞으로의 대여섯 내지 일고여덟 번의 돌파에 대비하기 위해 진짜 연구를 하되, 그 위에서 작업할 수 있는 GPT 계열이라는 이점은 계속 활용한다는 것입니다.

딜런 파텔은 시간을 7년 뒤로 돌립니다. 오픈AI 모델에 더는 접근할 수 없게 된 시점에, 마이크로소프트가 선도적 AI 연구소를 갖추려면 무엇을 해야 하느냐는 질문입니다. 지금까지 스케일링이나 추론 같은 돌파는 오픈AI가 냈고, 트랜스포머처럼 근본적인 것은 구글이 냈습니다. 게다가 이것은 인재 싸움이기도 합니다.

그는 메타(Meta)가 인재 확보에 200억 달러가 넘는 돈을 썼고, 앤트로픽이 2024년에 구글의 블루시프트(Blueshift) 추론팀을 통째로 데려갔으며, 메타가 더 최근에 구글의 대규모 추론·사후학습 팀을 빼 갔다는 사례를 듭니다. 인프라에 1,000억 달러를 쓴다면 그 인프라를 쓸 사람에게도 상응하는 금액을 써야 한다는 논리입니다. 지금 중복 투자를 피하는 자본 효율성은 현명해 보이지만, 돈줄을 열기로 했을 때 곧바로 상위 다섯 안에 들어갈 수 있다고 누가 확신하겠느냐는 것입니다.

나델라는 세계 최고 수준의 팀을 지을 것이고 이미 꾸려지기 시작했다고 답합니다. 그가 호명하는 이름은 무스타파 술레이만(Mustafa Suleyman), 카렌 시모니언(Karén Simonyan), 제미나이(Gemini) 2.5의 사후학습을 많이 담당했던 아마르 수브라마니아(Amar Subramanya), 구글 딥마인드(Google DeepMind)에서 멀티미디어 작업을 해 온 난도 더 프레이타스(Nando de Freitas)입니다. 그는 대담이 있던 주에 술레이만이 연구소의 방향을 좀 더 구체적으로 공개할 것이라고 예고합니다.

그러면서 그는 세상이 알아줬으면 하는 것을 두 가지로 요약합니다. 첫째는 여러 모델을 떠받치는 인프라를 짓는다는 것입니다. 하이퍼스케일 관점에서 오픈소스든 오픈AI든 그 밖의 어디서 나온 모델이든, 세상이 필요로 하는 모든 모델을 감당할 수 있는 가장 큰 규모의 설비를 갖추는 것이 하나의 과업입니다. 둘째는 자체 모델 역량입니다. 제품에는 오픈AI 모델을 쓰면서 자체 모델을 만들기 시작하고, 깃허브 코파일럿에서 앤트로픽 모델을 쓰듯 다른 프런티어 모델을 제품 안에 감싸 넣는 경우도 있을 것입니다. 결국 중요한 것은 특정 과업 앞에서 제품이 받는 평가이며, 거기서 거꾸로 되짚어 필요한 수직 통합의 범위를 정하면 된다는 것입니다. 시장에 제품이 잘 먹히기만 하면 비용은 언제든 최적화할 수 있다는 것이 그의 순서입니다.

드와케시 파텔은 여기서 더 근본적인 반론을 꺼냅니다. 지금은 학습과 추론이 구분돼 있지만 앞으로 인간 수준의 지능을 기대한다면, 인간은 일하면서 배운다는 사실을 고려해야 한다는 것입니다. 나델라의 토큰이 값진 이유도 마이크로소프트에서 쌓은 30년의 지혜와 경험 때문입니다. 모델이 인간 수준에 이르면 일하면서 계속 배우는 능력을 갖게 될 텐데, 그렇게 되면 앞선 모델 회사에 가치가 몰린다는 것이 그의 예상입니다.

한 모델의 복제본이 경제 전역에 깔려 모든 직무를 배우고, 인간과 달리 그 배움을 한 모델로 합칠 수 있기 때문입니다. 이것은 지속 학습이 만들어 내는 지수적 되먹임 고리이고 거의 지능 폭발처럼 보인다는 것입니다. 그 시점에 마이크로소프트가 선도적 모델 회사가 아니라면, 모델을 갈아 끼우면 된다는 말은 의미가 옅어지는 것 아니냐는 질문입니다.

나델라는 그 전제가 성립한다면 결론도 인정합니다. 세상에서 가장 널리 깔린 단 하나의 모델이 모든 데이터를 보면서 지속 학습을 한다면 그것으로 게임은 끝이고 가게 문을 닫으면 된다는 것입니다. 다만 그가 보는 현실은 그렇지 않습니다. 어느 한 모델이 아무리 우세해도 오늘 세상은 그런 상태가 아니며, 코딩만 해도 여러 모델이 쓰이고 그런 경향은 날이 갈수록 강해진다는 것입니다. 그는 데이터베이스에 빗댑니다. 하나의 데이터베이스가 모든 곳에 쓰이는 날이 올 것 같지만 실제로는 용도마다 다른 종류가 배치된다는 것입니다.

그는 지속 학습의 네트워크 효과 자체는 인정합니다. 그것을 그는 데이터 유동성이라고 부릅니다. 다만 그 효과가 모든 영역에서, 모든 지역에서, 모든 고객 구간에서, 모든 범주에서 동시에 일어나겠느냐고 되물으며 네 번 모두 아니라고 답합니다. 그래서 그는 설계의 여지가 워낙 넓어 기회도 충분히 남는다고 봅니다.

이어 그는 질문의 본질을 자기 식으로 다시 세웁니다. 인프라와 모델과 스캐폴딩 세 층에 역량을 갖추되, 그것을 수직으로 쌓인 한 덩어리가 아니라 각 층의 목적에 맞게 따로 조합할 수 있어야 한다는 것입니다. 그가 드는 경고는 구체적입니다. 하나의 모델에 최적화된 인프라를 지었다가 그 모델이 뒤처지면 지어 놓은 인프라 전체가 낭비가 됩니다. 전문가 혼합(MoE) 같은 돌파가 한 번 일어나면 그 네트워크 구성 전체가 창밖으로 날아가는데, 한 모델 구조에 맞춰 집행한 자본이라면 그 한 번의 변주에 무너진다는 것입니다.

그래서 인프라는 자사 모델 계열이든 외부 모델 계열이든 무엇이 오든 받아낼 수 있어야 하고, 하이퍼스케일 사업을 진지하게 할 생각이라면 열려 있어야 한다는 결론이 나옵니다. 반대로 모델 회사를 진지하게 할 생각이라면, 사람들이 그 모델 위에서 무엇을 할 수 있게 할 것인지를 고민해 독립 소프트웨어 공급사 생태계를 만들어야 합니다. 모든 범주를 자기가 다 차지하겠다는 생각이 아니라면 그 길밖에 없고, 그러지 않으면 API 사업이 없어지며 결국 어디에나 깔린 플랫폼 회사가 되지 못한다는 것입니다.

그가 보기에 산업 구조 자체가 사람들을 전문화로 밀어붙이며, 마이크로소프트는 각 층에서 실력으로 경쟁해야지 세 층을 수직으로 합쳐 단번에 판을 끝내겠다고 생각해서는 안 됩니다. 그런 일은 일어나지 않는다는 것이 그의 마지막 말입니다.

해설 여기 나오는 순위들은 사용자가 두 모델의 답을 나란히 놓고 더 나은 쪽을 고르게 한 뒤 그 승패를 점수로 환산하는 공개 평가판의 결과입니다. 분야별로 텍스트, 이미지, 음성 순위가 따로 매겨지고, 실험실 벤치마크와 달리 실제 사용 경험에 가깝다는 평을 받지만 답변 길이나 말투 같은 요소에 흔들린다는 비판도 있습니다.

나델라가 H100 1만 5,000장이라는 숫자를 굳이 꺼낸 이유도 여기 있습니다. 프런티어 모델 한 세대를 학습시키는 데 10만 장 단위의 가속기가 동원되는 상황에서, 그 7분의 1 수준으로 만든 작은 모델이 13위에 데뷔했다는 사실을 역량의 증거로 제시한 것입니다. 순위 자체보다 투입 대비 성과를 보라는 주장이며, 36위라는 숫자에 대한 그의 간접적인 답변이기도 합니다.

[반론] 지속 학습의 네트워크 효과가 여러 영역에 분산된다는 나델라의 전망에는 정면으로 맞서는 입장이 있습니다. 레오폴드 아셴브레너(Leopold Aschenbrenner)는 「Situational Awareness」에서 선두 연구소가 확보한 컴퓨트와 알고리즘 우위가 복리로 누적되며, 일정 지점을 넘으면 격차가 좁혀지는 것이 아니라 벌어진다고 주장했습니다. 그의 그림에서 2위 집단은 선두를 따라잡는 것이 아니라 선두가 만들어 낸 결과물을 받아 쓰는 위치로 밀려납니다.

대니얼 코코타일로(Daniel Kokotajlo) 등이 쓴 「AI 2027」도 비슷한 구조를 그립니다. AI가 AI 연구를 자동화하기 시작하면 선두 연구소의 연구 속도 자체가 배수로 뛰고, 그 격차가 다시 다음 모델의 격차로 이어진다는 것입니다. 두 경우 모두 핵심 가정은 나델라가 부정한 바로 그 지점입니다. 학습의 결과가 한 모델로 합쳐지는 효과가 분야와 지역을 가리지 않고 작동한다는 전제입니다. 반대로 안드레이 카파시(Andrej Karpathy)처럼 지속 학습이야말로 현재 모델에 가장 크게 빠져 있는 조각이며 그 때문에 AGI가 10년 뒤의 일이라고 보는 쪽도 있어서, 이 논쟁은 시점과 분산 여부 두 축에서 동시에 갈립니다.

[한국 관점] 나델라가 이 절에서 풀어 놓은 계산은 국내 사업자들이 지난 몇 년간 반복해 마주한 선택과 같은 모양입니다. 자체 파운데이션 모델을 끝까지 밀 것인가, 아니면 외부 프런티어 모델 위에 응용과 데이터를 쌓을 것인가입니다. 마이크로소프트조차 7년간 외부 모델을 쓰면서 자체 플롭스는 작고 특화된 모델에 배분하기로 했다는 점은, 모든 것을 자체 개발해야 한다는 전제를 다시 보게 만듭니다.

다만 그대로 옮겨 오기 어려운 조건도 분명합니다. 한국은 공공과 금융 부문의 데이터 반출 규제, 한국어와 국내 제도에 특화된 성능 요구, 그리고 외부 모델 공급이 끊기는 상황에 대한 대비라는 세 가지 이유로 자체 모델을 유지할 근거를 갖고 있습니다. 나델라의 논리에서 빌려 올 만한 대목은 자체 모델을 포기하라는 쪽이 아니라, 플롭스를 어디에 배분할지 구분하라는 쪽입니다. 범용 성능 경쟁에서 상위권을 노리는 투자와, 특정 과업에서 비용과 지연 시간으로 이기는 작은 모델에 대한 투자는 전혀 다른 성격의 지출입니다.

하이퍼스케일 사업이란 무엇인가

딜런 파텔은 2024년 상황을 되짚습니다. 2023년 마이크로소프트는 누구보다 일찍 움직여 데이터센터 임대와 착공, 전력 확보까지 자원을 싹쓸이했고, 그 속도대로라면 2026년이나 2027년에, 늦어도 2028년에는 아마존(Amazon)을 제치고 최대 인프라 사업자가 될 참이었습니다. 그런데 2024년 하반기에 마이크로소프트는 크게 멈췄습니다. 가져가기로 했던 임대 부지를 여럿 놓아 버렸고, 그 자리를 구글과 메타, 일부는 아마존과 오라클(Oracle)이 가져갔습니다.

세계 최대급 데이터센터 안에 앉아 있으니 전부를 멈춘 것은 아니지만 분명 작업을 중단한 부지들이 있었는데, 왜 그랬느냐는 질문입니다.

나델라는 하이퍼스케일 사업이 대체 무엇인가라는 물음으로 되돌아갑니다. 그들이 내린 핵심 결정은 애저를 AI의 모든 단계에 두루 훌륭한 플랫폼으로 만들겠다는 것이었습니다. 학습부터 중간 학습, 데이터 생성, 추론까지 전부를 감당하려면 설비가 서로 바꿔 쓸 수 있어야 하고, 바로 그 요구 때문에 특정 세대에 묶인 용량을 대규모로 짓는 일을 하지 않게 됐다는 설명입니다.

그는 여기에 한 가지 전제를 덧붙입니다. 지금까지 18개월마다 오픈AI의 여러 모델을 위한 학습 용량을 10배로 키워 왔고 그 궤도에서 벗어나지 않는 것이 관건이지만, 더 중요한 것은 균형이라는 것입니다. 학습만이 아니라 전 세계에 모델을 서빙할 수 있어야 한다는 뜻입니다. 결국 수익화 속도가 다음 투자를 계속 댈 수 있게 해 주기 때문입니다. 게다가 인프라는 여러 모델을 떠받칠 수 있어야 합니다. 그렇게 결론이 서자 그들은 지금의 경로로 방향을 바로잡았습니다.

지금의 경로를 보면 착공은 오히려 늘었다고 그는 말합니다. 직접 짓든, 임대하든, 서비스형 GPU로 빌리든 확보할 수 있는 관리형 용량은 최대한 사들이고 있습니다. 다만 수요와 서빙 필요, 그리고 자체 학습 수요가 보이는 곳에 맞춰 짓습니다. 그가 피하려 한 것은 분명합니다. 한 회사의 전용 호스팅 업체가 되어 거래처 하나짜리 거대한 수주 잔고를 떠안는 일은 하고 싶지 않았다는 것입니다. 그런 것은 사업이 아니며, 그럴 바에는 그 회사와 수직 통합하는 편이 맞다는 논리입니다.

오픈AI가 성공적인 독립 회사가 될 상황이었고 그것은 훌륭한 일이며 이치에도 맞습니다. 메타도 외부 용량을 쓸 수 있지만 결국은 자체 설비로 갈 것이고, 규모가 큰 회사는 누구든 스스로 하이퍼스케일러가 됩니다. 그래서 그는 하이퍼스케일 설비와 자체 연구용 컴퓨트를 짓는 쪽으로 조정했고, 그 선택에 대단히 만족한다고 말합니다.

또 하나의 이유는 세대 문제입니다. 한 세대에 엄청난 규모로 묶이고 싶지 않았다는 것입니다. GB200을 막 보았고 GB300이 오고 있으며, 베라 루빈과 베라 루빈 울트라에 이르면 랙당 전력과 열당 전력이 완전히 달라져 데이터센터의 모습 자체가 달라집니다. 냉각 요건도 마찬가지입니다. 그래서 한 세대, 한 계열만을 위한 기가와트를 통째로 지어 둘 수 없다는 것이고, 속도 조절과 대체 가능성, 입지, 작업 부하의 다양성, 고객의 다양성이 전부 중요해집니다.

그는 여기에 수익 구조와 직결된 관찰을 덧붙입니다. 모든 AI 작업은 AI 가속기만으로 돌아가지 않고 다른 많은 것을 함께 필요로 하며, 실은 마이크로소프트의 마진 상당 부분이 그 다른 것들에서 나온다는 것입니다. 그래서 애저를 작업 부하의 롱테일에 강한 플랫폼으로 만들려 하는데, 그것이 바로 하이퍼스케일 사업이기 때문입니다. 물론 최고 사양의 학습을 위한 베어메탈 영역에서도 경쟁력을 갖춰야 하지만, 그것이 나머지 사업을 밀어내서는 안 됩니다.

고객 다섯 곳과 계약 다섯 건을 맺어 그들의 베어메탈 서비스가 되어 주는 것은 마이크로소프트의 사업이 아니라는 것이 그의 선 긋기입니다. 다른 누군가에게는 좋은 사업일 수 있고 그건 좋은 일이지만, 마이크로소프트가 하는 일은 롱테일을 받는 하이퍼스케일 사업이며 그 안에서 자사 모델을 포함한 일부 모델을 위해 선도적인 베어메탈 서비스를 갖추겠다는 것입니다.

딜런 파텔은 대체 가능성이라는 말에 다른 각도의 질문을 겁니다. 인구 밀집지 가까이, 지금 앉아 있는 애틀랜타 같은 곳에 두고 싶은 것은 알겠는데, AI 과업의 시간 지평이 길어질수록 그게 얼마나 중요하냐는 것입니다. 추론 프롬프트는 30초, 딥리서치는 30분, 소프트웨어 에이전트는 언젠가 몇 시간에서 며칠이 걸릴 텐데, 사람과 주고받는 간격이 그렇게 길어지면 위치가 A든 B든 C든 무슨 상관이냐는 물음입니다.

나델라는 바로 그 점이라고 답합니다. 그것이 애저 리전의 모습과 리전 사이의 네트워크를 다시 생각하는 이유라는 것입니다. 모델 역량과 토큰 사용 방식이 동기적으로든 비동기적으로든 변해 갈 때 자리를 잘못 잡고 있으면 안 되기 때문입니다. 그 위에 데이터 소재지 관련 법이 겹칩니다. 유럽연합 사안이 대표적이어서 그들은 EU 데이터 경계라는 것을 만들어야 했고, 그 결과 비동기 호출이라 해도 아무 데로나 왕복시킬 수 없게 됐습니다.

그래서 고밀도의 지역별 거점이 필요해지고 거기에 전력 비용 같은 변수가 붙습니다. 그는 상대의 지적이 전적으로 옳다고 인정하며 앞으로 설비 구성이 진화해야 한다고 말합니다. 첫째 기준은 달러당 와트당 토큰, 즉 경제성입니다. 거기에 사용 패턴을 겹쳐 봐야 하는데, 동기인지 비동기인지가 그 축입니다. 그리고 연산과 저장의 관계가 또 다른 축입니다.

어떤 작업에서는 지연 시간이 중요하므로 저장소가 가까이 있어야 합니다. 세션 데이터든 자율 작업이든 코스모스 DB(Cosmos DB) 같은 것이 근처에 있어야 한다는 뜻이고, 이런 고려들이 모여 하이퍼스케일 사업의 모양을 결정합니다.

딜런 파텔은 숫자를 다시 꺼냅니다. 중단 전 세미애널리시스가 예측했던 2028년 마이크로소프트의 용량은 12-13기가와트였는데 지금은 9.5기가와트 수준입니다. 그런데 그보다 더 중요한 사실이 있다며 그는 오라클을 가리킵니다. 마이크로소프트의 5분의 1 규모였던 오라클이 2027년 말이면 마이크로소프트보다 커진다는 것입니다. 마이크로소프트 수준의 투하자본이익률은 아니지만 오라클은 35%의 매출총이익률을 내고 있습니다. 이 사업이 마이크로소프트의 사업이 아닐 수는 있어도, 거절하고 우선매수권을 넘기면서 결과적으로 하이퍼스케일러 하나를 만들어 준 것 아니냐는 지적입니다.

나델라는 오라클이 사업을 일군 성과를 깎아내릴 생각이 없고 잘되기를 바란다고 답합니다. 그가 이미 답한 바는 하나라는 것입니다. 시간 지평이 제한된 잔여 수행의무를 안고 한 모델 회사의 호스팅 업체가 되는 일은 자신들에게 맞지 않았다는 것입니다. 그가 강조하는 기준은 시간의 단위입니다. 앞으로 5년에 무엇을 할지가 아니라 앞으로 50년에 무엇을 할지를 따져야 한다는 것입니다.

그들은 그 기준으로 결정했고, 오픈AI와의 파트너십과 현재 하는 일에 만족하며 괜찮은 수주 잔고도 있습니다. 실제로 마이크로소프트는 오라클 용량을 사는 쪽이기도 하다고 그는 덧붙입니다. 세미애널리시스가 집계하는 AWS나 구글과 자사의 수치를 자신도 챙겨 보며 유용하다고 여기지만, 그 숫자를 쫓아갈 이유는 없다는 것입니다. 한때의 매출총이익만 보고 쫓을 일이 아니라, 마이크로소프트가 고유하게 소화할 수 있고 소화하는 것이 합당한 수주가 무엇인지를 보겠다는 것이 그의 기준입니다.

드와케시 파텔은 한 걸음 더 물러서 묻습니다. 다른 조건이 같다면 소수 연구소에 베어메탈을 대 주는 것보다 마진 높은 롱테일 고객을 두는 편이 나은 사업이라는 점은 받아들이지만, 산업이 어느 쪽으로 가고 있느냐가 문제라는 것입니다. 점점 똑똑해지는 AI로 가는 길이 맞는다면, 오픈AI와 앤트로픽과 딥마인드가 플랫폼이 되고 수많은 기업이 그 위에서 사업을 하는 모양이 되지 않겠느냐는 것입니다. 그들에게는 베어메탈이 필요하지만 플랫폼은 그들입니다. 그렇다면 애저를 직접 쓰는 롱테일은 대체 누구냐는 질문입니다.

나델라의 답은 그 모델들이 전부 애저에 올라와 있다는 것입니다. 오픈소스 모델과 오픈AI 모델을 함께 쓰고 싶은 작업이라면 애저 파운드리(Azure Foundry)에 가서 모델을 할당받고, 처리량을 예약하고, 코스모스 DB와 SQL 데이터베이스를 붙이고, 저장소와 연산을 받으면 됩니다. 그것이 실제 작업의 모습이며, 진짜 작업은 모델에 API를 한 번 호출하는 것으로 끝나지 않습니다. 응용 프로그램을 짓고 띄우려면 이 모든 것이 필요하고, 그것이 하이퍼스케일 사업이라는 설명입니다.

모델 회사들조차 무언가를 만들려면 그것들이 필요하지 토큰 공장만 있어서 되는 것이 아닙니다. 그록이든 오픈AI든 오픈소스 모델이든 애저 파운드리에서 함께 할당받아 응용 프로그램을 지으면 된다는 것입니다. 모델 회사에 날것의 베어메탈을 파는 사업은 그와 별개의 사업이고, 마이크로소프트도 그 사업에 발을 담그고 있지만 나머지를 밀어내지 않도록 한도를 둔다는 것이 그의 정리입니다.

딜런 파텔은 두 가지로 압박합니다. 왜 둘 다 하면 안 되느냐가 하나이고, 2028년 용량이 추정치보다 3.5기가와트 적은데 그 몫을 오픈AI의 학습과 추론에 쓰지 않더라도 애저와 마이크로소프트 365와 깃허브 코파일럿을 돌리는 데 쓸 수 있지 않았느냐가 다른 하나입니다.

나델라는 위치를 바꿔 짓고 싶었을 수도 있다고 답합니다. 아랍에미리트에, 인도에, 유럽에 짓고 싶을 수 있다는 것입니다. 규제 요구와 데이터 주권 요구 때문에 지금 실제로 용량이 부족한 곳이 있고 전 세계에 지어야 하며, 미국 내 용량도 대단히 중요해서 전부 짓고 싶다고 그는 말합니다. 다만 2030년을 내다볼 때 그는 마이크로소프트 사업의 전 지구적 형태를 자사 수요와 외부 수요로 나눠 봅니다. 외부 수요는 다시 프런티어 연구소들이 원하는 양과, 여러 모델을 위해 지어야 할 추론 용량, 그리고 자체 연구용 컴퓨트로 나뉩니다. 중단은 짓기 싫어서가 아니라, 작업 부하의 종류와 지역, 시점을 조금 다르게 가져가고 싶다는 판단이었다는 것이 그의 설명입니다.

기가와트는 계속 늘릴 것이고 문제는 속도와 위치라고 그는 말합니다. 그리고 그 위에서 무어의 법칙을 어떻게 탈 것인가를 묻습니다. 2027년에 3.5기가와트를 과잉으로 지을 것인가, 아니면 2027년과 2028년에 나눠 펼 것인가의 문제입니다. 엔비디아와 일하면서 얻은 가장 큰 배움 중 하나가 세대 교체 속도가 빨라졌다는 사실이었고, 그것이 큰 변수였습니다. 한 세대에 4-5년의 감가상각으로 묶이고 싶지 않았다는 것입니다.

그는 젠슨 황(Jensen Huang)의 조언 두 가지를 전합니다. 하나는 빛의 속도로 실행하라는 것입니다. 애틀랜타 데이터센터의 실행이 그 사례로, 장비를 받아 실제 작업에 넘기기까지 90일이 걸렸습니다. 그렇게 세대마다 규모를 키워 가면 5년쯤 뒤에는 훨씬 균형 잡힌 구성이 됩니다. 대규모 산업 설비처럼 흐름이 만들어져서, 한 시점에 몰아 짓고는 한참을 쉬는 식으로 한쪽으로 기울지 않게 된다는 것입니다. 한곳에 몰린 설비는 학습에는 좋아도 추론에는 맞지 않을 수 있고, 비동기 작업이라 해도 유럽이 텍사스까지의 왕복을 허용하지 않기 때문에 서빙이 안 되는 상황이 생깁니다.

딜런 파텔은 마지막으로 모순을 겨눕니다. 그 말과 최근 몇 주의 행보를 어떻게 맞춰 보느냐는 것입니다. 아이리스에너지(Iris Energy)와 네비우스(Nebius), 람다랩스(Lambda Labs)와 계약을 발표했고 몇 건이 더 남아 있는데, 직접 짓는 대신 네오클라우드에서 빌리는 쪽으로 용량을 확보하고 있다는 지적입니다.

나델라는 괜찮다고 답합니다. 수요가 눈에 보이고 그것을 사람들이 짓고 있는 자리에서 채울 수 있다면 좋은 일이라는 것입니다. 임대도 하고, 맞춤 건설도 받고, 용량이 없는데 필요한 곳에서는 다른 누군가가 가진 서비스형 GPU도 쓴다는 설명입니다. 더 나아가 그는 모든 네오클라우드가 마이크로소프트 마켓플레이스에 들어오는 것을 환영한다고 말합니다. 그들이 용량을 올려 두면 애저를 통해 들어온 고객이 그 네오클라우드를 쓰게 되고 이는 그들에게 큰 승리이며, 동시에 그 고객은 연산과 저장, 데이터베이스를 비롯한 나머지를 애저에서 쓰게 됩니다. 전부를 자기가 집어삼키겠다는 생각은 전혀 없다는 것이 그의 마무리입니다.

해설 여기서 거듭 나오는 베어메탈은 가상화 계층 없이 서버를 통째로 빌려주는 방식을 말합니다. 대형 연구소가 모델을 학습시킬 때 요구하는 형태가 이것인데, 빌려주는 쪽에서 보면 마진이 얇은 임대업에 가깝습니다. 반대로 롱테일이라 부르는 쪽은 수많은 기업 고객이 모델 호출과 함께 데이터베이스, 저장소, 보안, 신원 관리 같은 주변 서비스를 함께 쓰는 형태이고, 그 주변 서비스에서 마진이 나옵니다. 나델라가 마진의 상당 부분이 가속기가 아닌 다른 것들에서 나온다고 말한 대목이 이 구분을 가리킵니다.

잔여 수행의무는 계약은 맺었으나 아직 매출로 인식하지 않은 금액을 뜻하는 회계 용어로, 클라우드 사업자들이 미래 매출의 가시성을 보여 줄 때 쓰는 지표입니다. 그가 이것을 한 회사와의 계약을 거절한 이유로 든 것은, 수주 잔고의 크기보다 그 잔고가 몇 곳에 집중돼 있고 몇 년짜리인지가 사업의 질을 결정한다고 보기 때문입니다.

[관점] 이 절은 결과만 놓고 보면 마이크로소프트가 2024년 하반기에 가장 큰 성장 기회의 일부를 경쟁자에게 넘긴 사건에 대한 해명입니다. 오라클이 5분의 1 규모에서 2년 만에 추월한다는 전망은 그 자체로 주주들에게 설명을 요구하는 숫자입니다. 나델라가 제시한 방어 논리는 세 가지로 요약됩니다. 집중도 위험, 세대 교체에 따른 감가상각 위험, 그리고 마진이 가속기가 아닌 주변 서비스에서 나온다는 사업 구조입니다.

세 가지 모두 이론적으로는 탄탄하지만, 검증 시점은 다르게 옵니다. 집중도 위험은 특정 고객이 흔들릴 때, 세대 위험은 베라 루빈 세대가 실제로 배치될 때, 마진 논리는 애저의 AI 매출에서 주변 서비스 비중이 드러날 때 판가름 납니다. 반대로 수요가 계속 넘치는 국면이 몇 년 더 이어진다면, 지금의 신중함은 뒤늦게 네오클라우드에서 비싸게 빌려 오는 비용으로 되돌아옵니다. 대담 말미에 딜런 파텔이 네오클라우드 계약을 들어 압박한 지점이 정확히 그것입니다.

[한국 관점] 나델라가 든 이유 가운데 한국 시장과 가장 직접 맞닿는 것은 데이터 소재지와 지역별 고밀도 거점입니다. 비동기 작업이라도 유럽에서 미국으로 왕복시킬 수 없다는 그의 설명은, 금융과 공공 부문에 망 분리와 클라우드 보안인증 체계를 둔 한국에도 그대로 적용되는 논리입니다. 국내에 리전을 두고 그 안에서 모델과 저장소와 데이터베이스를 함께 제공하는 쪽이 유리해진다는 뜻이고, 이는 글로벌 사업자와 국내 사업자 모두에게 같은 방향의 압력으로 작용합니다.

반면 그가 말한 전력당 토큰이라는 경제성 기준은 국내에 불리하게 작동합니다. 산업용 전기요금과 송배전 제약, 수도권 집중에 따른 입지 규제가 겹쳐 있어, 같은 설비라도 단위 전력당 비용이 미국 남부나 북유럽보다 높게 나옵니다. 결국 한국은 지연 시간과 규제 때문에 반드시 국내에 있어야 하는 작업을 받는 거점이 되기 쉽고, 대규모 학습처럼 위치를 가리지 않는 작업은 바깥으로 나가는 구도가 굳어질 가능성이 큽니다. 국내 데이터센터 논의에서 총량보다 어떤 종류의 작업을 받을 설비인지를 먼저 따져야 하는 이유가 여기 있습니다.

자체 칩과 오픈AI 계약의 조건

드와케시 파텔은 데이터센터의 비용 구조에서 질문을 엽니다. 5-6년을 놓고 보면 감가상각되는 이 자산이 데이터센터 총소유비용(TCO)의 75%를 차지하고, 젠슨 황은 그 위에서 75%의 마진을 가져갑니다. 그래서 하이퍼스케일러들이 하나같이 하려는 일은 자체 가속기를 개발해 이 압도적인 장비 비용을 줄이고 마진을 올리는 것입니다.

딜런 파텔이 현황을 붙입니다. 구글이 가장 오래 해 왔고 가장 앞서 있어서 자체 텐서처리장치(TPU)를 500만-700만 개 규모로 만들 예정이고, 아마존은 300만-500만 개를 보고 있습니다. 그런데 마이크로소프트가 자체 칩을 주문하는 수량은 그에 한참 못 미칩니다. 프로그램을 돌린 기간은 비슷한데 내부 칩에서 무슨 일이 벌어지고 있느냐는 질문입니다.

나델라는 먼저 전제를 뒤집습니다. 새 가속기에 가장 큰 경쟁자는 엔비디아의 이전 세대 제품이라는 것입니다. 설비 전체를 놓고 그가 보는 기준은 총소유비용이고, 자체 칩에도 그 잣대를 그대로 들이댑니다. 그는 마이아(Maia) 200의 데이터를 막 들여다봤는데 좋아 보인다고 말하면서도, 연산 쪽에서 배운 것이 있다고 덧붙입니다. 인텔(Intel)을 많이 쓰다가 AMD를 들였고 그다음 자체 칩 코발트(Cobalt)를 들였습니다.

그렇게 규모를 키웠으므로, 적어도 핵심 연산 영역에서는 자체 반도체를 만들어 세 종류를 균형 있게 굴리는 방법에 대한 실존 증명을 갖고 있다는 것입니다. 그는 구글과 아마존도 엔비디아를 산다는 점을 지적합니다. 엔비디아가 혁신하고 있고 그것이 범용 제품이며 모든 모델이 거기서 돌고 고객 수요가 거기 있기 때문에 당연한 일이라는 것입니다. 반대로 자체 수직 통합 제품을 만들려면 자기 모델이 있어야 합니다. 학습이든 추론이든 그 모델로 칩을 쓰고 수요를 스스로 만들어 내거나 보조해 줘야 하므로, 규모를 적정하게 잡는 것이 중요해집니다.

그래서 마이크로소프트가 택한 방식은 자체 MAI 모델과 자체 반도체 사이에 닫힌 고리를 만드는 것입니다. 그는 바로 그것이 자체 반도체를 만들 자격을 준다고 봅니다. 자기가 하는 일에 맞춰 마이크로아키텍처를 직접 설계하고 자기 모델의 속도에 발맞춰 가는 구조입니다. 여기에 더해 오픈AI가 돌리는 칩 프로그램에 마이크로소프트가 접근할 수 있다는 점을 그는 좋은 소식으로 듭니다. 그러니 마이크로소프트에 아무것도 없으리라고 생각하는 것은 맞지 않다는 것입니다.

딜런 파텔이 그 접근 권한의 수준을 묻자 나델라는 전부라고 답합니다. 그 지식재산을 통째로 받는 것이냐, 그렇다면 못 받는 것은 소비자 하드웨어뿐이냐는 확인에 그는 그렇다고 답합니다. 그러면서 그는 마이크로소프트도 오픈AI를 출발시키기 위해 적잖은 지식재산을 넘겼다는 점을 덧붙입니다. 두 회사가 슈퍼컴퓨터를 함께 지었고 마이크로소프트가 그들을 위해 만들었으며 그들이 그 덕을 본 것은 마땅한 일이었는데, 이제 오픈AI가 시스템 수준에서까지 혁신하면 그 전부에 접근할 수 있다는 것입니다. 먼저 그들이 만든 것을 그들을 위해 구현하고, 그다음 마이크로소프트가 그것을 확장하는 순서입니다.

그래서 그는 질문을 자기 식으로 바꿔 답합니다. 마이크로소프트는 엔비디아에게 빛의 속도로 실행해 주는 훌륭한 파트너가 되고자 한다는 것입니다. 솔직히 그 설비 자체가 생명줄이기 때문입니다. 젠슨 황이 마진으로 아주 잘하고 있는 것은 분명하지만 총소유비용에는 여러 차원이 있고, 마이크로소프트는 그 총소유비용을 잘 다루는 회사가 되려 합니다. 그 위에서 오픈AI 계열과 MAI 계열, 그리고 시스템 설계를 함께 엮되, 양쪽 모두에 대한 지식재산권을 쥐고 있다는 점을 전제로 삼겠다는 것입니다.

화제는 그 권리의 다른 조항으로 넘어갑니다. 드와케시 파텔은 며칠 전 다른 인터뷰에서 나델라가 오픈AI와 맺은 새 계약에서 상태를 갖지 않는 API 호출에 대한 독점권을 갖는다고 말한 대목을 꺼냅니다. 과연 상태가 전혀 없는 호출이라는 것이 있느냐는 의문입니다. 방금도 복잡한 작업에는 기억과 데이터베이스와 저장소가 필요하다고 말했는데, ChatGPT가 세션에 무언가를 저장한다면 그것은 더 이상 상태가 없는 호출이 아니지 않느냐는 것입니다.

나델라는 바로 그것이 이유라고 답합니다. 전략적 결정이었고 동시에 오픈AI가 컴퓨트를 조달하는 데 필요한 유연성을 배려한 결과라는 설명입니다. 그는 오픈AI를 서비스형 플랫폼(PaaS) 사업과 서비스형 소프트웨어 사업을 함께 가진 회사로 보라고 말합니다. 서비스형 소프트웨어 사업은 ChatGPT이고, 플랫폼 사업은 API입니다. 그 API는 애저 전용이고, ChatGPT 쪽은 어디서든 돌릴 수 있습니다.

딜런 파텔은 그 틈을 파고듭니다. 오픈AI가 원하는 누구와도 제휴해 서비스형 소프트웨어 제품을 만들 수 있느냐는 것입니다. 나델라는 제휴 상대가 상태를 갖지 않는 API를 쓰고자 한다면 그것을 얻을 수 있는 곳은 애저라고 답합니다. 상태를 갖는 형태로 함께 제품을 만들 길이 있어 보인다는 지적에도 그는 그런 경우에도 애저로 와야 한다고 못 박습니다. 이 모든 것이 파트너십에서 서로 무엇을 소중히 여기는가라는 정신에서 나왔고, 동시에 오픈AI가 필요로 한 유연성을 보장하는 좋은 파트너가 되고자 했다는 설명입니다.

딜런 파텔이 구체적인 사례를 듭니다. 세일즈포스(Salesforce)가 오픈AI를 통합하려는데 API를 통하는 것이 아니라 함께 모델을 학습시키고 그 결과를 아마존에 배포한다면 허용되느냐는 것입니다. 나델라의 답은 그런 맞춤 계약이라면 애저에서 돌려야 한다는 것입니다. 미국 정부를 비롯해 몇 가지 예외를 두기는 했지만 그 밖에는 애저로 와야 한다는 것이 그의 설명입니다.

해설 하이퍼스케일러들이 자체 칩을 만드는 이유는 단가 자체보다 마진 이전에 있습니다. 데이터센터에 들어가는 돈의 대부분이 가속기 구매로 나가고 그 공급자가 높은 마진을 가져가는 구조에서는, 클라우드 사업자의 수익이 사실상 칩 회사로 흘러갑니다. 구글이 텐서처리장치를 10년 가까이 밀어 온 것도, 아마존이 트레이니엄(Trainium)을 키우는 것도 그 흐름을 자기 안에 묶어 두려는 시도입니다.

나델라가 말한 닫힌 고리는 그 시도가 성립하기 위한 조건을 가리킵니다. 자체 칩은 범용성이 떨어지므로 외부 고객이 쉽게 쓰지 않고, 따라서 그 칩을 채울 수요를 스스로 만들어야 합니다. 자기 모델이 없으면 그 수요가 생기지 않습니다. 구글이 제미나이를, 아마존이 앤트로픽 물량을 각자의 칩에 태울 수 있었던 것과 달리, 마이크로소프트가 자체 칩 주문에서 뒤처진 배경에는 자체 모델 계층이 늦었다는 사정이 깔려 있습니다.

[관점] 상태를 갖지 않는 API라는 표현은 법률 문서가 아니라 대담에서 나온 요약이므로 그대로 받아들이기에는 모호합니다. 실무에서 거의 모든 의미 있는 작업은 대화 기록이나 사용자 데이터 같은 상태를 어딘가에 쌓아 두고 이뤄지기 때문입니다. 그런데 나델라의 설명을 따라가면 그 모호함은 마이크로소프트에 불리하게 작동하지 않습니다. 상태가 없는 호출은 애저 전용이고, 상태를 갖는 맞춤 협업도 애저로 와야 한다면, 실제로 애저를 벗어나는 것은 ChatGPT라는 소비자 제품 하나로 좁혀집니다.

투자자 입장에서 확인할 지점은 그래서 두 가지입니다. 하나는 오픈AI의 매출 가운데 소비자 구독이 차지하는 비중이고, 다른 하나는 기업용 API와 맞춤 배포가 차지하는 비중입니다. 전자가 커질수록 마이크로소프트의 독점 조항이 담아내는 몫은 줄어듭니다. 오픈AI가 다른 클라우드와 대형 계약을 잇달아 맺을 수 있었던 것도 이 구분 덕분이며, 나델라가 오픈AI의 조달 유연성을 배려했다고 말한 대목이 바로 그 양보를 가리킵니다.

[이해관계] 나델라가 엔비디아를 생명줄이라고 부르면서 동시에 자체 칩의 잠재력을 말하는 이중 화법에는 실제 이해관계가 걸려 있습니다. 마이크로소프트는 엔비디아 최상위 고객 가운데 하나여서 신제품 물량 배정에서 불리해지는 상황을 감당하기 어렵고, 동시에 가속기 비용을 줄이지 못하면 클라우드 마진이 계속 눌립니다. 젠슨 황의 마진을 공개적으로 인정하면서도 총소유비용에는 여러 차원이 있다고 덧붙인 것은, 공급자를 자극하지 않으면서 협상의 여지를 남기는 화법으로 읽힙니다.

오픈AI 칩 프로그램에 전부 접근할 수 있다는 답변 역시 자사 약점을 메우는 자리에서 나왔습니다. 자체 칩 주문량이 경쟁사에 크게 못 미친다는 지적에 대한 대답이 자체 개발의 성과가 아니라 파트너의 설계에 대한 접근 권한이었기 때문입니다. 2025년 10월 재계약으로 모델과 제품 관련 지식재산권이 2032년까지 유지되고 소비자 하드웨어만 제외된다는 점은 양사 발표로 확인되지만, 반도체 설계가 그 권리 안에서 어디까지 포괄되는지는 공개된 조건만으로는 확정하기 어렵습니다.

설비투자 폭발, 소프트웨어 회사가 산업이 될 때

드와케시 파텔은 공장 안을 오가며 나델라가 했던 말을 꺼냅니다. 마이크로소프트를 소프트웨어 회사로 생각할 수 있지만 지금은 산업 기업이 되어 가고 있다는 말입니다. 설비투자가 쏟아지고 건설이 이어지며, 지난 2년 동안 설비투자는 세 배가 됐습니다. 그 추세를 그대로 연장하면 거대한 산업적 폭발이 됩니다.

딜런 파텔은 다른 하이퍼스케일러들이 돈을 빌리고 있다는 점을 덧붙입니다. 메타는 루이지애나 건으로 200억 달러 규모의 차입을 했고 회사채도 발행했습니다. 모두의 잉여현금흐름이 0을 향해 가는 것이 분명해 보이는데, 마이크로소프트에서는 최고재무책임자 에이미 후드(Amy Hood)가 그런 시도를 가만두지 않을 것 아니냐는 농담 섞인 질문입니다.

나델라는 구조 변화라는 지적 자체는 맞고 그 변화가 거대하다고 인정합니다. 그가 쓰는 표현은 이렇습니다. 마이크로소프트는 이제 자본집약적인 동시에 지식집약적인 사업이 됐다는 것입니다. 그리고 그는 두 가지를 연결합니다. 지식을 써서 자본 지출의 투하자본이익률을 끌어올리는 것이 과제라는 것입니다.

그는 하드웨어 진영이 무어의 법칙을 훌륭하게 마케팅해 왔다고 인정하면서도, 자신들의 실적 발표에서 제시한 수치를 봐 달라고 말합니다. 같은 GPT 계열을 두고 달러당 와트당 토큰으로 측정한 처리량이 소프트웨어 개선만으로 분기마다, 해마다 크게 올라갔다는 것입니다. 5배, 10배, 어떤 경우에는 40배에 이릅니다. 최적화 여지가 그만큼 크기 때문이며, 이것이 바로 지식 집약도가 자본 효율로 바뀌어 나오는 장면이고 그들이 통달해야 할 영역이라는 것입니다.

그는 자주 받는 질문 하나를 꺼냅니다. 옛날 방식의 호스팅 업체와 하이퍼스케일러의 차이가 무엇이냐는 질문인데, 그의 답은 소프트웨어입니다. 자본집약적인 것은 맞지만 시스템에 대한 지식과 작업 부하별·설비별로 최적화하는 소프트웨어 역량이 있는 한 다르다는 것입니다. 앞 절에서 말한 대체 가능성이라는 것도 설비의 문제가 아니라 소프트웨어의 문제라고 그는 설명합니다.

돌아가던 작업을 비우고 다른 작업을 배치하는 능력, 그 스케줄링 알고리즘을 관리하는 능력이 세계 최고 수준이어야 하는 대목입니다. 그래서 마이크로소프트는 여전히 소프트웨어 회사로 남지만 사업의 성격은 달라졌고, 결국 마이크로소프트가 가진 현금흐름이 두 팔을 모두 제대로 휘두를 수 있게 해 준다는 것이 그의 답입니다.

드와케시 파텔은 나델라의 시간관을 정리해 되묻습니다. 단기적으로는 일이 오래 걸리고 들쭉날쭉하리라는 쪽에 무게를 두면서도, 장기적으로는 AGI와 초인공지능(ASI)을 말하는 사람들이 결국 옳고 샘 올트먼(Sam Altman)이 언젠가 맞는다고 보는 것 같다는 것입니다. 그래서 더 넓은 질문을 던집니다. 5년이면 감가상각되는 자산에 막대하게 투자해야 하는 하이퍼스케일러로서, 올트먼이 3년 안에 온다고 보는 것을 당신은 2040년쯤으로 본다면 그 세계에서 합리적인 행동은 무엇이냐는 물음입니다.

나델라의 답은 회계에서 출발합니다. 연구용 컴퓨트에 대한 배분이 따로 있어야 하고, 그것은 연구개발을 하듯 다뤄야 하며 솔직히 그렇게 회계 처리하는 것이 가장 낫다는 것입니다. 그냥 연구개발비로 보고, 연구용 컴퓨트를 얼마로 잡고 어떤 속도로 키울지를 물어야 한다는 것입니다. 2년이든 16개월이든 기간을 정해 한 자릿수 자릿값을 올리는 식의 목표를 잡으면 되고, 이것은 최소 조건에 해당하는 연구개발비라는 설명입니다. 나머지는 전부 수요가 이끕니다. 수요를 앞질러 짓는 것은 허용되지만 수요 계획이 완전히 어긋나서는 안 된다는 것이 그가 둔 단서입니다.

드와케시 파텔은 바로 그 수요 계획의 신뢰성을 묻습니다. 연구소들이 2027-2028년에 1,000억 달러 매출을 전망하고 그 뒤로도 해마다 두세 배씩 성장한다고 내다보는데 그것을 믿느냐는 것입니다.

나델라의 답은 냉정합니다. 지금 시장에는 온갖 유인이 작동하고 있고 그럴 만하다는 것입니다. 자금을 조달하려는 독립 연구소가 무엇을 하겠느냐고 그는 되묻습니다. 컴퓨트 비용을 비롯한 청구서를 내려면 돈을 모아야 하고, 그러려면 어떤 숫자를 내놓아야 한다는 것입니다. 그리고 그는 그것을 좋은 일로 봅니다. 누군가 위험을 감수해 자금을 대는 것이고, 실적 없이 위험만 있는 상황도 아니라는 것입니다.

오픈AI든 앤트로픽이든 성과를 보여 왔으므로 그들이 해낸 일에 대해 그는 흡족해하며, 마이크로소프트는 그 회사들과 큰 규모의 거래 관계를 맺고 있으니 더욱 좋은 일이라고 덧붙입니다. 그러면서 그는 결국 두 가지로 요약합니다. 하나는 연구개발에 배분하는 일입니다. 앞서 나온 인재 문제가 여기 걸립니다. AI 인재는 프리미엄이 붙어 있으므로 거기에 써야 하고 컴퓨트에도 써야 합니다.

연구자 한 명당 GPU 비율이 높아야 한다는 것이 그의 표현이고, 그것이 이 시대에 선도적인 연구개발 회사가 되기 위한 조건입니다. 그 규모를 키워 나가야 하고, 그러려면 그것이 통념이 되기 한참 전부터 키울 수 있는 재무구조를 갖춰야 합니다. 다른 하나는 수요를 예측하는 법을 아는 것입니다.

해설 나델라가 말한 달러당 와트당 토큰은 같은 전력과 같은 비용으로 얼마나 많은 토큰을 만들어 내는지를 재는 지표입니다. 같은 칩 위에서도 배치 처리 방식, 캐시 재사용, 양자화, 스케줄링을 다듬으면 처리량이 몇 배로 뛰기 때문에, 하드웨어 세대 교체만큼이나 소프트웨어 개선이 원가에 영향을 줍니다. 그가 이 숫자를 강조하는 이유는 명확합니다. 설비투자 규모가 같아도 그 위에서 뽑아내는 산출이 다르면 투하자본이익률이 달라진다는 것입니다.

연구용 컴퓨트를 연구개발비로 보자는 제안도 회계상 의미가 작지 않습니다. 설비투자로 잡으면 자산으로 올라가 수년에 걸쳐 감가상각되지만, 연구개발비로 보면 그해 비용으로 털어 냅니다. 전자는 당장의 이익을 덜 깎는 대신 나중에 상각 부담을 남기고, 후자는 지금 이익을 깎는 대신 뒷날 쓸모없어진 자산이 장부에 남는 위험을 줄입니다. 나델라가 굳이 회계 처리 방식을 언급한 것은, 수요가 보장되지 않는 지출과 수요에 따라 집행하는 지출을 장부에서부터 구분해 두자는 주장입니다.

[관점] 이 절은 지금 AI 설비투자 논쟁의 핵심 쟁점을 압축해 보여 줍니다. 자산 수명이 5년인데 수요 계약은 그보다 짧고, 그 수요의 상당 부분이 아직 적자인 연구소들의 전망치에 기대고 있다는 구조입니다. 나델라의 답변에서 눈여겨볼 대목은 연구소들의 매출 전망을 믿느냐는 질문에 믿는다고 답하지 않았다는 점입니다. 그는 대신 그런 숫자가 나오는 유인 구조를 설명했고, 자기 회사는 그 숫자가 아니라 자체 수요 계획에 맞춰 짓는다고 말했습니다.

이 거리 두기는 앞 절의 임대 중단 결정과 하나로 이어집니다. 연구소의 전망을 그대로 설비 계획으로 옮긴 사업자는 그 전망이 흔들릴 때 함께 흔들리고, 수요 계획을 따로 세운 쪽은 덜 흔들립니다. 다만 나델라 스스로 밝혔듯 마이크로소프트도 그 연구소들과 큰 규모의 거래 관계를 맺고 있어서 완전히 분리된 위치는 아닙니다. 하워드 막스(Howard Marks)가 버블을 논할 때 반복해서 짚은 순환거래 구조, 즉 설비를 파는 쪽이 사는 쪽에 자금을 대고 그 자금이 다시 설비 구매로 돌아오는 고리도 이 산업에서 이미 관찰되는 현상입니다.

[한국 관점] 이 대목은 국내 투자자에게 두 갈래의 관찰 지점을 줍니다. 첫째는 전력당 토큰이라는 기준이 메모리 수요의 성격을 바꾼다는 점입니다. 추론 비중이 커질수록 연산 성능보다 메모리 대역폭과 용량이 병목이 되고, 고대역폭 메모리(HBM)와 서버용 메모리 수요는 학습 설비 증설 속도보다 추론 트래픽 증가 속도에 더 민감해집니다. 설비투자 총액만 보는 접근보다 작업 부하의 구성 변화를 보는 접근이 국내 반도체 실적을 가늠하는 데 더 유용하다는 뜻입니다.

둘째는 나델라가 반복한 세대 교체 속도입니다. 세대가 빨라질수록 메모리 규격도 빨리 바뀌고, 신규 규격에 먼저 진입한 공급사와 그렇지 못한 공급사의 실적 격차가 과거보다 짧은 주기로 벌어집니다. 하이퍼스케일러가 한 세대에 묶이지 않으려 하는 것과 같은 이유로, 공급망에 속한 기업도 한 세대의 점유율로 몇 년을 보장받기 어려워졌다고 보는 편이 안전합니다.

세계는 미국 기업을 믿고 AI를 맡길 것인가

딜런 파텔은 지난 30년의 구도를 먼저 깝니다. 미국은 여러 기술 스택을 지배해 왔습니다. 윈도우는 중국에서도 개인용 컴퓨터의 주 운영체제로 깔려 있고, 리눅스(Linux)라는 오픈소스가 있긴 해도 윈도우는 어디에나 있으며 워드도 마찬가지입니다. 마이크로소프트를 비롯한 미국 기업들은 유럽과 인도, 동남아시아, 중남미, 아프리카에 데이터센터를 지으며 바깥에서 성장해 왔습니다.

그런데 지금은 양상이 다르다는 것이 그의 지적입니다. 미국 행정부는 닷컴 버블에는 관심이 없었지만, AI에 대해서는 미국 행정부도 세계 각국 정부도 대단히 민감합니다. 미국과 중국의 양극 구도가 자리를 잡는 가운데 유럽과 인도를 비롯한 여러 나라가 자기들도 소버린 AI를 갖겠다고 선언하고 있습니다. 1990년대처럼 중요한 나라가 미국 하나뿐이어서 미국 기업이 어디서나 팔고 마이크로소프트가 큰 이득을 보던 세계에서, 유럽이나 인도나 싱가포르를 당연히 가져갈 수 없는 세계로 넘어왔는데 어떻게 헤쳐 나갈 것이냐는 질문입니다.

나델라는 이것이 대단히 중요한 대목이라고 답합니다. 그가 보기에 미국 기술 산업과 미국 정부의 최우선 과제는 선도적인 혁신을 해내는 것만이 아니라, 미국 기술 스택에 대한 신뢰를 세계 곳곳에서 함께 쌓는 것입니다. 그가 자주 든다는 비율이 여기서 나옵니다. 미국은 세계 인구의 4%, 국내총생산의 25%, 시가총액의 50%를 차지하는 나라이고, 그 비율을 한번 들여다보고 곱씹어 보라는 것입니다.

그가 말하는 그 50%는 결국 신뢰에서 나옵니다. 자본시장이든 기술이든, 시대마다 중요한 분야를 책임지고 이끌어 온 방식이든, 세계가 미국에 대해 가진 신뢰가 그 수치를 만들었다는 것입니다. 그래서 그 신뢰가 깨지면 그날은 미국에 좋은 날이 아닙니다. 그는 거기서 출발해야 한다고 말하면서, 도널드 트럼프(Donald Trump) 대통령도 백악관도 데이비드 색스(David Sacks)도 그 점을 이해하고 있다고 덧붙입니다.

그래서 그는 미국 정부와 기술 산업이 함께 자본을 세계 곳곳에 걸어 두는 일이라면 무엇이든 환영한다고 말합니다. 나아가 그는 미국 정부가 미국 기업의 해외직접투자를 자기 공적으로 내세우기를 바란다고 말합니다. 가장 적게 언급되지만 미국이 해야 할 최고의 마케팅이라는 것입니다. 미국으로 들어오는 해외직접투자만 이야기할 것이 아니라, 지금 가장 앞선 분야인 AI 공장들이 전 세계에 세워지고 있다는 사실, 그리고 그것을 세우는 주체가 미국과 미국 기업이라는 사실을 알려야 한다는 것입니다.

거기서 출발해 다른 합의를 쌓아 가면 된다고 그는 말합니다. 연속성과 각국의 정당한 주권 우려, 즉 데이터 소재지와 실질적인 결정권과 프라이버시 보장을 다루는 합의입니다. 그는 마이크로소프트가 유럽에 한 약속들을 읽어 볼 만하다고 권합니다. 유럽연합과 유럽 국가들이 주권을 갖도록 자사의 하이퍼스케일 투자를 어떻게 운영할지에 대해 일련의 약속을 했다는 것입니다.

프랑스와 독일에는 소버린 클라우드를 짓고 있고, 애저에는 소버린 서비스라는 이름으로 고객이 직접 키를 관리하는 서비스를 제공하며 여기에 기밀 컴퓨팅이 따라붙습니다. GPU에서의 기밀 컴퓨팅은 엔비디아와 함께 해낸 작업이라고 그는 덧붙입니다. 그래서 기술과 정책 양쪽에서 미국 기술 스택에 대한 신뢰를 쌓을 수 있다는 데 대단히 낙관한다는 것이 그의 답입니다.

드와케시 파텔은 앞서 나온 지속 학습의 네트워크 효과를 이 구도에 포개 봅니다. 각국이 한두 개 모델이 확실히 가장 낫다는 것을 인정하고 쓰되, 가중치는 자국 안에 두라는 법을 만들까요, 아니면 모델 자체를 자국에서 학습시키라고 밀어붙일까요. 그가 드는 비유는 반도체입니다. 반도체는 경제에 지극히 중요하고 다들 자국산을 갖고 싶어 하지만 TSMC가 그냥 더 낫기 때문에, 결국 타이완에 가서 사 옵니다. AI도 그렇게 되느냐는 질문입니다.

나델라는 결국 중요한 것은 자국 경제 안에서 AI를 써서 경제적 가치를 만들어 내는 일이라고 답합니다. 확산 이론이 말하는 바가 그것이며, 선도 산업을 갖는 것이 아니라 선도 기술을 써서 자기만의 비교우위를 만들어 내는 능력이 핵심이라는 것입니다. 다만 각국은 그 상태가 끊기지 않기를 바랍니다. 그래서 그는 한 모델이 통제 없이 전면 배치되는 상황에 대한 견제가 늘 존재할 것이라고 봅니다. 오픈소스가 언제나 있을 것이고 정의상 여러 모델이 존재한다는 것입니다.

그것이 사람들이 연속성을 요구하고 집중 위험을 피하는 방식입니다. 여러 모델을 두고 오픈소스도 확보해 두면, 각국은 자기 데이터와 데이터 유동성을 다른 모델로 옮길 수 있으니 최고의 모델을 폭넓게 배포해도 걱정하지 않아도 된다고 느끼게 됩니다. 그가 꼽는 시장 구조의 두 동인은 집중 위험과 주권이고, 주권은 곧 결정권을 뜻합니다.

딜런 파텔은 그 논리가 반도체에는 존재하지 않는다고 반박합니다. 모든 냉장고와 자동차에 타이완에서 만든 칩이 들어가 있다는 것입니다. 나델라가 지금까지는 그랬다고 받자, 딜런 파텔은 더 밀어붙입니다. 타이완이 끊기면 자동차도 냉장고도 더는 없고, TSMC 애리조나 공장은 생산량의 의미 있는 몫을 대체하지 못한다는 것입니다. 그래서 주권이라는 말은 다소 허울이며, 가질 만한 가치가 있고 중요하긴 하지만 진짜 주권은 아니고 우리는 세계 경제 안에 산다는 것이 그의 결론입니다.

나델라는 그 말이 회복력에 대해 아무것도 배우지 못했다고 말하는 것과 같다고 응수합니다. 그가 보기에 미국을 포함한 어떤 국가도 이 시점에서는 핵심 공급망의 자급도를 높이기 위해 할 수 있는 일을 할 것입니다. 그래서 다국적 기업으로서 그는 그것을 최우선 요구 사항으로 다뤄야 하고, 그러지 않으면 그 나라의 장기적인 정책 이해를 존중하지 않는 것이 됩니다. 단기적으로 각국이 실용적인 결정을 내리지 않으리라는 말은 아닙니다. 세계화를 되감을 수는 없고 모든 자본 투자를 그런 식으로 그런 속도로 할 수도 없습니다.

그러면서도 그는 뒤집어 생각해 보라고 말합니다. 워싱턴에 나타나 반도체 공장을 하나도 짓지 않겠다고 말한다면 그 사람은 미국에서 쫓겨날 것이고, 다른 모든 나라에서도 마찬가지라는 것입니다. 그러니 기업은 배운 교훈을 존중해야 합니다. 팬데믹이 우리를 깨웠든 무엇이든, 사람들은 세계화가 공급망을 지구적으로 엮어 대단히 효율적으로 만들어 준 것은 훌륭했지만 회복력이라는 것이 있고 그것을 원한다고 말하고 있습니다.

그래서 그 기능은 지어질 것이고, 남는 문제는 속도라는 것이 그의 정리입니다. 손가락을 튕겨 TSMC의 모든 공장과 역량을 애리조나로 옮길 수는 없지만 계획은 있을 것이고 그 계획은 존중받아야 합니다. 그는 자신의 관점을 고집하며 상대의 관점을 무시하기보다, 세계가 지금 서 있는 자리와 앞으로 가려는 방향을 그대로 만나고 싶다고 말합니다.

드와케시 파텔은 그 말을 정리해 봅니다. 각국이 데이터 소재지와 프라이버시를 요구할 테고, 마이크로소프트는 그 나라들과 관계를 맺어 왔고 주권형 데이터센터를 세우는 전문성이 있으므로 주권 요구가 커지는 세계에 유독 잘 맞는 회사라는 뜻이냐는 것입니다. 나델라는 유독 특권적이라는 식으로 말하고 싶지 않다고 답합니다. 그는 그것을 수십 년 동안 공들여 온 사업상의 요구 사항으로 보며 앞으로도 그렇게 하겠다고 말합니다.

미국 정부가 웨이퍼 투입을 미국 내 팹에 더 배분해 달라고 하면 진지하게 받아들이고, 유럽의 데이터 경계 문제도 진지하게 받아들인다는 것입니다. 각국이 주권을 중시하는 정당한 이유를 존중하고 소프트웨어와 물리적 설비 양면에서 그에 맞춰 짓는 것이 자신들이 할 일이라는 결론입니다.

딜런 파텔이 마지막 질문을 던집니다. 미국과 중국의 양극 세계로 가면 상대는 아마존이나 앤트로픽이나 구글만이 아니라는 것입니다. 미국은 어떻게 신뢰를 다시 쌓고, 마이크로소프트는 무엇을 해서 미국 기업이 당신들의 주 공급자가 될 것이라고 말할 수 있느냐는 물음이며, 바이트댄스(ByteDance)와 알리바바(Alibaba), 딥시크(DeepSeek)와 문샷(Moonshot AI) 같은 중국 기업과의 경쟁은 어떻게 보느냐는 질문입니다.

드와케시 파텔이 거기에 덧붙입니다. AI가 공급망 전반에 걸쳐 빠르게 지어 올려야 하는 산업적 설비투자 경쟁이 되고 있다면, 그 말을 들을 때 떠오르는 나라는 중국이라는 것입니다. 이듬해에 초인공지능으로 단번에 도약하는 것이 아니라 수십 년의 건설과 인프라가 이어진다면 중국이 유리한 세계가 아니냐는 물음입니다.

나델라의 답은 짧습니다. 방금 그 질문이야말로 미국 기술에 대한 신뢰가 가장 중요한 요소인 이유를 보여 준다는 것입니다. 어쩌면 모델의 성능조차 아닐 수 있습니다. 당신이라는 회사를, 당신의 나라와 그 제도를 장기 공급자로 믿을 수 있느냐가 관건이며, 그것이 세계를 얻는 요인일 수 있다는 것이 그의 마지막 답입니다. 드와케시 파텔은 거기서 끝맺기 좋은 말이라며 대담을 마칩니다.

해설 여기 나오는 소버린 클라우드와 소버린 서비스는 데이터와 암호 키, 운영 권한을 그 나라 안에 묶어 두는 상품군을 가리킵니다. 핵심 장치가 고객이 직접 키를 관리하는 구조와 기밀 컴퓨팅입니다. 기밀 컴퓨팅은 연산이 이뤄지는 순간에도 데이터가 암호화된 보호 영역 안에 머무르게 해서, 설비를 운영하는 사업자조차 내용을 들여다볼 수 없게 만드는 기술입니다. 그가 GPU에서의 기밀 컴퓨팅을 따로 언급한 것은, 저장과 전송 구간만이 아니라 모델이 실제로 돌아가는 구간까지 그 보호를 넓혔다는 뜻입니다.

웨이퍼 투입은 반도체 공장이 생산을 시작하는 원판의 물량을 뜻합니다. 미국 정부가 이 배분을 국내 팹으로 더 돌려 달라고 요구한다는 그의 언급은, 클라우드 사업자가 칩 구매자이자 공급망 정책의 대상이 되었다는 사실을 보여 줍니다.

[관점] 나델라가 내세운 신뢰론에는 그 스스로 건드리지 않은 긴장이 있습니다. 미국은 같은 시기에 신뢰를 자산으로 내세우면서 수출통제와 관세, 투자 심사를 공격적으로 확대해 왔습니다. 가장 앞선 칩과 모델에 누가 접근할 수 있는지를 미국이 결정한다는 사실 자체가, 다른 나라들이 소버린 AI를 말하게 만든 직접적인 원인이기도 합니다. 미국 기업이 세운 AI 공장을 미국의 공적으로 홍보하자는 그의 제안은, 받는 쪽에서는 의존의 증거로도 읽힙니다.

그럼에도 그가 내린 결론은 투자 관점에서 곱씹을 만합니다. 모델 성능의 격차가 분기 단위로 좁혀지는 국면에서, 몇 년짜리 설비 계약을 맺는 고객이 최종적으로 비교하는 것은 벤치마크 점수가 아니라 공급의 지속성이라는 것입니다. 이는 클라우드 사업의 해자가 기술이 아니라 각국 규제 당국과 쌓아 온 관계와 물리적 설비에 있다는 주장이기도 합니다. 그 해자는 모방하기 어렵지만, 공급자의 본국이 정치적으로 신뢰를 잃는 순간 함께 흔들린다는 점에서 기술적 해자보다 외부 요인에 취약합니다.

[한국 관점] 한국은 이 논의의 양쪽에 동시에 서 있는 드문 나라입니다. 소버린 AI를 요구하는 쪽이면서, 동시에 딜런 파텔이 말한 공급망 집중의 한 축을 이루는 쪽이기 때문입니다. 고대역폭 메모리(HBM)와 첨단 공정 메모리에서 한국 기업이 차지하는 비중은 타이완의 파운드리 집중과 성격이 같아서, 회복력을 명분으로 각국이 자국 생산을 늘리려 할 때 그 압력이 한국 기업에도 그대로 향합니다. 나델라가 미국 정부의 웨이퍼 투입 요구를 진지하게 받아들인다고 말한 대목은, 그 압력이 고객사의 조달 정책을 통해 전달된다는 것을 보여 줍니다.

동시에 국내에서는 공공과 금융 부문의 클라우드 보안인증 체계, 데이터 국외 이전 제한, 국가 차원의 AI 컴퓨팅 확충 논의가 나델라가 말한 주권 요구의 한국판으로 작동하고 있습니다. 그가 제시한 처방은 자체 모델을 전부 갖추라는 쪽이 아니라, 모델을 갈아 끼울 수 있는 상태를 유지하라는 쪽입니다. 특정 공급자의 모델과 인프라에 업무 흐름 전체가 묶이지 않도록 데이터와 평가 체계를 자기 쪽에 두는 설계가, 국내 기관에는 자체 모델 개발만큼이나 현실적인 주권 확보 수단이 됩니다.

원문: Satya Nadella, How Microsoft is preparing for AGI (Nov 2025) 전문은 원문에서 확인하실 수 있습니다.

참고할만한 글

Similar Posts