에릭 슈밋 – AI 혁명은 과소평가되어 있다 (The AI Revolution is Underhyped)

원문: Eric Schmidt, Bilawal Sidhu, The AI Revolution Is Underhyped (TED2025) (Apr 2025) 전문은 원문에서 확인하실 수 있습니다. 아래 글은 번역이 아니라, 에릭 슈밋의 논증을 한국어로 재구성한 정리입니다.

글의 배경과 개요

에릭 슈밋(Eric Schmidt)은 2001년부터 2011년까지 구글(Google)의 CEO를, 이후 2018년까지 회장을 지낸 인물로, 2025년 4월 캐나다 밴쿠버에서 열린 TED2025 무대에 올라 기술 저술가 빌라왈 시두(Bilawal Sidhu)와 대담했습니다. 이 대담이 답하려는 질문은 단순합니다. 모두가 AI를 이야기하는 2025년에, 왜 슈밋은 세상이 여전히 AI를 과소평가(underhyped)하고 있다고 말하는가입니다. 슈밋은 2016년 알파고가 둔 한 수에서 출발해, ChatGPT 이후 강화학습(reinforcement learning)과 계획 능력에서 일어난 도약, 전력과 데이터라는 물리적 한계, 에이전트 자율성을 어디서 끊을 것인가의 기준, 미국과 중국의 초지능(superintelligence) 경쟁이 선제공격 논의로 번질 가능성, 감시국가와 자유의 상충, 질병·교육·의료에서의 낙관론을 차례로 통과합니다. 마지막은 인구가 줄어드는 세계에서 생산성이 왜 유일한 해법인지, 그리고 개인은 무엇을 해야 하는지로 닫힙니다. 대담 형식이므로 하나의 정연한 논문이라기보다 여러 층위의 주장이 빠르게 겹쳐 지나가는 구조이고, 슈밋 자신이 확신하는 대목과 모른다고 인정하는 대목이 뚜렷하게 갈립니다.

핵심 내용 정리

대중의 인식이 ChatGPT에 멈춰 있는 사이 강화학습 기반의 계획·추론 능력이 도약했기 때문에, AI는 과대평가가 아니라 과소평가되어 있다고 슈밋은 말합니다.
이 흐름의 종착점은 여러 에이전트가 서로 언어로 소통하며 기업의 모든 업무 프로세스를 운영하는 상태라고 그는 설명합니다.
확장의 병목은 전력(미국에만 90기가와트 추가 필요), 고갈된 학습 데이터, 그리고 전혀 새로운 지식을 발명하지 못하는 현재 시스템의 한계라고 짚습니다.
에이전트 개발을 멈추자는 제안은 글로벌 경쟁 환경에서 작동하지 않으며, 대신 관찰 가능성과 ‘플러그를 뽑는’ 기준선을 세워야 한다고 주장합니다.
미국과 중국의 초지능 경쟁은 코드 절취와 모델 변조를 거쳐 데이터센터 폭격 같은 선제공격 논의까지 이어질 수 있고, 그 시점은 대략 5년 뒤라고 내다봅니다.
오픈소스는 이 산업의 토대이지만 위험한 모델이 확산되는 임계점이 올 수 있으며, 현재 오픈소스 주도권은 중국 쪽으로 기울고 있다고 진단합니다.
인구가 줄어드는 세계에서 관건은 생산성이며, 직업을 불문하고 지금 이 기술을 쓰지 않으면 경쟁자 대비 무의미해진다고 강조합니다.

이 대담이 밟는 열 단계

AI가 인간의 창의성을 넘어선 순간 — 2016년에 무엇을 보았는가.
AI는 왜 과소평가되어 있는가 — 지난 2년 사이 무엇이 달라졌는가.
AI의 자원 문제 — 무엇이 확장을 막는가.
자율성의 딜레마 — 에이전트 개발을 멈춰야 하는가.
이중용도(dual use)의 딜레마 — 민군 겸용 기술을 어떻게 다룰 것인가.
선제공격의 위협 — 초지능 경쟁은 전쟁으로 이어지는가.
안전과 자유의 균형 — 디스토피아를 막다가 디스토피아를 만들지 않으려면.
미래에 대한 꿈 — 무엇에 설레야 하는가.
AI 시대의 인간 — 인간은 무엇을 하게 되는가.
마지막 조언 — 개인은 지금 무엇을 해야 하는가.

1. AI가 인간의 창의성을 넘어선 순간

대담은 2016년에 찍힌 한 장의 사진에서 시작합니다. 시두는 그 장면을 두고, 발밑에서 땅이 움직였는데 대부분은 알아채지 못한 조용한 순간처럼 느껴진다고 표현합니다. 그러면서 당시 슈밋이 무엇을 보았기에 비인간 지능(non-human intelligence)의 도래를 대단히 중대한 사건이라고 말해 왔는지 묻습니다.

슈밋의 답은 두 겹입니다. 2016년 시점에서 앞으로 무슨 일이 벌어질지는 이해하지 못했지만, 이 알고리즘들이 새롭고 강력하다는 사실만큼은 알아봤다는 것입니다. 그가 결정적이라고 지목하는 것은 그 대국 시리즈의 두 번째 판쯤에 나온 한 수입니다. 2,500년 된 게임에서, 그때까지 아무도 본 적 없는 새로운 수를 AI가 만들어냈다는 것이지요.

기술적으로는 이렇게 설명합니다. 알파고라는 시스템은 승률을 50퍼센트 위로 계속 유지하도록 설계되어 있었고, 그 목표에 따라 이 수를 정확하게 계산해냈다는 것입니다. 인간 기사들은 수학적으로도 직관적으로도 대단히 뛰어난 사람들인데, 그들에게 이 수는 커다란 수수께끼로 남았습니다.

슈밋이 강조하는 지점은 기계가 이겼다는 사실이 아니라, 기계가 인간이 떠올린 적 없는 수를 내놓았다는 사실입니다. 그는 헨리 키신저(Henry Kissinger), 크레이그 먼디(Craig Mundie)와 함께 이것이 무슨 의미인지를 논의하기 시작했다고 말합니다. 수십억 명이 두는 게임에서, 어떻게 우리 컴퓨터가 인간이 한 번도 생각해내지 못한 것을 만들어낼 수 있는가라는 질문이었습니다. 이 논의가 두 권의 책으로 이어졌고, 슈밋은 솔직히 말해 바로 그 지점이 혁명이 실제로 시작된 순간이라고 봅니다.

해설 슈밋이 말하는 사진은 2016년 3월 서울에서 열린 알파고와 이세돌 9단의 다섯 번 대국 장면입니다. 그가 ‘두 번째 판쯤’이라고 한 수는 2국 37수로, 통상적인 감각에서 벗어난 다섯째 줄 어깨짚음이었고 해설진과 프로기사들이 실수로 오독했던 수입니다.

“승률 50퍼센트 이상 유지”라는 설계는 중요한 함의를 갖습니다. 알파고는 몇 집을 더 이기는지가 아니라 이길 확률만을 최대화하도록 만들어졌기 때문에, 인간의 눈에는 손해로 보이는 수라도 승리 확률이 높아지면 서슴없이 둡니다. 인간 기사가 축적해 온 좋은 모양의 미학과 기계의 목표 함수가 처음으로 정면 충돌한 사례가 37수였던 셈입니다.

함께 논의했다는 두 사람은 이 대담 전체의 배경이기도 합니다. 키신저는 닉슨·포드 행정부의 국가안보보좌관이자 국무장관을 지낸 외교관으로 2023년 11월 사망했고, 먼디는 마이크로소프트(Microsoft)의 최고연구전략책임자를 지낸 기술자입니다.

슈밋이 말한 두 권의 책은 키신저·슈밋·대니얼 허튼로커(Daniel Huttenlocher)의 『The Age of AI』(2021)와, 키신저·먼디·슈밋의 『Genesis』(2024)입니다. 『Genesis』는 키신저가 사망한 뒤 출간된 마지막 책으로, 대담 후반부에서 시두가 직접 언급합니다.

[한국 관점] 슈밋이 조용한 순간이라고 부른 그 사건은 한국에서는 전혀 조용하지 않았습니다. 대국은 서울 포시즌스 호텔에서 열렸고, 알파고가 4승 1패로 이겼으며, 이세돌이 유일하게 승리한 4국의 78수는 국내에서 신의 한 수로 불렸습니다. 슈밋이 37수를 인간이 도달하지 못한 영역의 증거로 읽는다면, 한국 대중이 같은 시리즈에서 기억하는 장면은 그 반대쪽, 즉 기계의 계산을 무너뜨린 인간의 한 수라는 점이 흥미롭습니다.

사회적 파장도 방향이 달랐습니다. 이 대국 직후 한국에서는 이른바 알파고 충격이 정부의 AI 투자 계획과 교육 담론을 한꺼번에 끌어올렸고, 이세돌은 2019년 은퇴하면서 AI를 이길 수 없는 존재로 언급해 다시 한 번 화제가 됐습니다.

즉 슈밋에게 2016년이 아무도 알아채지 못한 전환점이었다면, 한국에서는 알아챈 정도가 아니라 전 국민적 사건이었습니다. 오히려 그 충격이 너무 컸던 나머지 이후 몇 년간 AI 담론이 우리도 알파고 같은 것을 만들어야 한다는 방향으로 굳어진 면이 있습니다. 슈밋이 지금 강조하는 강화학습 계보의 연속성을 한국 독자가 상대적으로 낯설지 않게 받아들일 수 있는 것도 이 경험 때문입니다.

[이해관계] 슈밋이 2016년의 알파고를 혁명의 기점으로 지목할 때, 그는 남의 성취를 평가하는 관찰자가 아닙니다. 알파고를 만든 딥마인드는 2014년 구글에 인수되었고, 대국이 열린 2016년 3월 슈밋은 알파벳(Alphabet)의 이사회 의장이었습니다. AI 역사의 출발점을 자신이 경영한 회사의 성과에 두는 서술이라는 점은 짚어둘 만합니다.

또한 이 대목에서 언급되는 두 권의 책은 슈밋이 공저자로 참여해 판매 중인 상업 출판물이며, 대담 후반에 『Genesis』가 다시 호명됩니다. 인신공격의 의미가 아니라, 이 대담이 TED 무대인 동시에 그의 저작과 정책 활동을 알리는 자리이기도 하다는 발화 위치의 확인입니다.

2. AI는 왜 과소평가되어 있는가

시두는 2016년에서 현재로 시점을 옮깁니다. 지금은 누구나 AI 이야기만 하고, 특히 TED 무대에서는 더욱 그렇다는 것입니다. 그런데도 슈밋은 반대편에 서서 AI가 오히려 과소평가되어 있다고 말해 왔고, 시두는 그 이유를 묻습니다.

슈밋의 대답은 청중의 인식이 어디에 멈춰 있는지를 짚는 데서 시작합니다. 대부분의 사람이 AI라고 하면 ChatGPT를 떠올린다는 것입니다. ChatGPT는 많은 이에게 결정적인 순간이었습니다. 이 물건이 글을 쓰고, 틀리기도 하지만, 말솜씨만큼은 눈부시게 뛰어나다는 반응이었지요.

슈밋은 자신도 정확히 그렇게 반응했고 주변 사람들 대부분도 마찬가지였다고 덧붙입니다. 시두는 그 경험을 몸으로 느껴지는 충격이었다고 표현합니다.

핵심은 그 다음입니다. 그것이 벌써 2년 전 일이라는 것입니다. 그 사이 강화학습 분야에서 진전이 있었고, 슈밋은 이 강화학습이야말로 알파고가 발명에 기여한 바로 그 계보라고 말합니다.

그 진전이 열어준 능력이 계획(planning)입니다. 슈밋이 드는 예는 오픈AI(OpenAI)의 o3와 딥시크(DeepSeek)의 R1입니다. 모델이 앞으로 갔다 뒤로 갔다, 다시 앞으로 갔다 뒤로 가는 과정을 눈으로 볼 수 있다는 것이고, 그는 이를 놀랍다고 평가합니다.

여기서 슈밋은 자기 경험을 꺼냅니다. 자신은 로켓 회사를 하나 샀는데, 그저 흥미로워 보였기 때문이라는 것입니다. 시두가 다들 그러시죠라고 받아치자, 슈밋은 그 분야에 자신이 전문가가 아니고 전문가가 되고 싶기 때문이라고 설명합니다. 그래서 딥리서치(deep research) 기능을 쓰고 있다는 것이지요.

그가 인상적으로 꼽는 것은 결과물보다 그 과정의 규모입니다. 이 시스템들은 한 편의 심층 보고서를 쓰는 데 15분을 쓰고, 이는 특정 제품만이 아니라 대부분이 그렇다고 말합니다. 슈밋은 청중에게 되묻습니다. 이런 슈퍼컴퓨터가 15분 동안 돌아간다는 것이 얼마만큼의 연산인지 감이 오느냐는 것입니다.

그래서 슈밋이 보는 흐름은 단계적입니다. 처음에는 언어에서 언어로 가는 단계였고, 그 다음에 언어에서 서열(sequence)로 가는 단계가 왔는데, 이것이 생물학이 작동하는 방식입니다. 그리고 지금은 본질적으로 계획과 전략의 단계로 들어섰다는 것입니다.

이 흐름의 최종 상태로 슈밋이 제시하는 그림은 분명합니다. 컴퓨터가 모든 업무 프로세스를 운영하는 상태입니다. 이 일을 맡는 에이전트, 저 일을 맡는 에이전트, 또 다른 일을 맡는 에이전트가 각각 있고, 이들을 줄줄이 연결하면 서로 언어로 대화하며 일을 처리한다는 것입니다. 그리고 그 대화는 보통 영어로 이루어진다고 그는 덧붙입니다.

해설 슈밋이 2년 전과 지금을 가르는 기준선은 모델이 답을 곧바로 내놓느냐, 답을 내놓기 전에 스스로 중간 과정을 길게 생산하느냐입니다. 2022년 말 ChatGPT가 보여준 것은 방대한 텍스트로 학습한 모델이 다음 단어를 잘 예측한다는 사실이었습니다.

반면 o3와 R1 계열은 답하기 전에 추론 과정을 길게 만들어내고, 그 과정의 질을 강화학습으로 다듬습니다. 업계에서는 이를 학습 시점이 아니라 답변 시점에 연산을 더 붓는다는 뜻에서 테스트 타임 컴퓨트(test-time compute)라고 부르며, 슈밋은 다음 절에서 이 용어를 직접 사용합니다.

예시로 든 두 모델의 위치도 짚어둘 만합니다. o3는 오픈AI의 추론 모델 계열이고, R1은 중국 딥시크가 2025년 1월 공개해 훨씬 적은 비용으로 비슷한 성능을 냈다고 알려지며 시장을 흔든 모델입니다. 슈밋이 미국 모델과 중국 모델을 한 문장에 나란히 놓은 것은 우연이 아니며, 뒤의 두 절에서 미중 경쟁의 핵심 소재로 다시 등장합니다.

딥리서치는 특정 회사의 기능 이름이자 하나의 제품 범주로, 모델이 스스로 검색하고 자료를 읽어 수십 분에 걸쳐 보고서를 작성하는 기능입니다. 마지막으로 언어에서 서열로라는 표현은 단백질처럼 아미노산 서열로 기술되는 생물학 데이터를 언어 모델과 같은 구조로 다루는 접근을 가리킵니다. 유전자와 단백질 서열을 일종의 문장으로 취급해 구조나 기능을 예측하는 계열의 연구를 염두에 둔 발언으로 읽힙니다.

[이해관계] 슈밋이 지나가듯 언급한 로켓 회사를 하나 샀다는 말은 농담이 아닙니다. 그는 2025년 3월 10일 로켓 스타트업 렐러티비티 스페이스(Relativity Space)의 지배지분을 인수하고 CEO로 취임했습니다. 구글을 떠난 뒤 약 15년 만의 첫 CEO 직책이며, 창업자 팀 엘리스(Tim Ellis)를 승계했습니다. 즉 이 TED 대담은 그가 CEO가 된 지 한 달 남짓 된 시점에 이루어졌습니다.

이 사실은 발언의 무게를 두 방향으로 바꿉니다. 한편으로 비전문가가 딥리서치로 한 분야를 익힌다는 그의 사례는 실제로 수십억 달러 규모의 사업 결정을 앞둔 사람의 경험담이므로 공허하지 않습니다. 다른 한편으로 슈밋은 AI 인프라와 우주 발사 산업 양쪽에 자본을 넣은 당사자이므로, AI가 과소평가되어 있다는 주장은 그가 보유한 포지션의 가치와 같은 방향을 가리킵니다.

[반론] 추론 모델이 실제로 계획을 하는가라는 질문에는 대담 이후 정면 반박이 나왔습니다. 애플(Apple) 연구진은 2025년 6월 「The Illusion of Thinking」에서 하노이의 탑, 강 건너기 같은 난이도 조절이 가능한 퍼즐로 최신 추론 모델을 시험한 결과, 일정 복잡도를 넘어서면 정확도가 완전히 무너졌다고 보고했습니다.

더 눈길을 끈 것은 문제가 어려워질수록 모델이 오히려 추론에 쓰는 분량을 줄이더라는 관찰이었고, 단순한 과제에서는 추론 모델이 일반 모델보다 못한 구간도 있었습니다. 이 논문은 학계를 넘어 가디언(The Guardian)과 월스트리트저널(The Wall Street Journal)까지 보도하며 논쟁을 일으켰습니다.

다만 이 반박에 대한 재반박도 곧바로 제기되었습니다. A. 로슨(A. Lawsen)은 같은 달 「The Illusion of the Illusion of Thinking」에서, 관찰된 붕괴가 추론 능력의 한계가 아니라 실험 설계의 문제라고 지적했습니다. 하노이의 탑 과제는 모델의 출력 토큰 한도를 넘어서는 구조였고, 강 건너기 과제에는 수학적으로 해가 존재하지 않는 문항이 포함되어 있었는데도 모델이 틀린 것으로 채점되었다는 것입니다.

결국 이 논쟁은 AI가 계획한다는 슈밋의 전제가 자명한 것이 아니라, 무엇을 계획으로 인정할지에 대한 측정 기준 싸움이라는 점을 드러냈습니다.

3. AI의 자원 문제

시두는 시스템의 연산 요구량으로 화제를 옮깁니다. 그는 이 AI 시스템들을 배고픈 하마들에 비유합니다. 데이터든 연산이든 던져주는 족족 빨아들이고, 이미 공개 인터넷에 존재하는 토큰을 전부 소화해버렸으며, 데이터센터를 짓는 속도가 수요를 따라가지 못하는 것처럼 보인다는 것입니다.

그래서 묻습니다. 진짜 한계는 어디이며, 그 한계가 AI 진보의 목을 조르기 전에 어떻게 앞질러 갈 수 있느냐고요.

슈밋은 첫 번째 한계를 곧바로 지목합니다. 에너지입니다. 그는 바로 그 주에 미국 의회에서 이 문제를 증언했다며, 미국에 90기가와트의 전력이 추가로 필요하다는 계산을 인용합니다.

그러면서 자신의 답은 캐나다를 생각해보라는 것이라고 농담처럼 덧붙입니다. 좋은 사람들이고 수력 발전이 넘쳐난다는 이유에서입니다. 다만 지금의 정치적 분위기가 그렇지 않은 것 같다며 곧바로 미안하다고 물러섭니다.

숫자의 크기를 그는 이렇게 환산합니다. 90기가와트는 미국에서 원자력 발전소 90기에 해당하는데, 그런 일은 일어나지 않는다는 것입니다. 미국은 지금 원전을 한 기도 짓고 있지 않기 때문입니다. 그렇다면 이 전력을 어디서 구할 것인가, 그는 이것이 대단히 중대한 국가적 사안이라고 말합니다.

대안으로 언급되는 것은 미국 바깥입니다. 아랍권은 5기가와트에서 10기가와트 규모의 데이터센터 건설에 바쁘고, 인도는 10기가와트짜리 데이터센터를 검토하고 있습니다. 기가와트가 얼마나 큰 단위인지 감을 잡으려면, 데이터센터 하나당 도시 하나를 떠올리면 된다는 것이 그의 설명입니다.

여기서 슈밋은 반론을 미리 받아칩니다. 알고리즘이 개선되면 전력이 덜 들 것이라는 주장입니다. 그에 대한 답으로 그는 자신이 기억할 만큼 나이를 먹었다는 오래된 규칙 하나를 꺼냅니다. 그로브가 주면 게이츠가 가져간다(Grove giveth, Gates taketh away)는 말입니다.

하드웨어는 계속 빨라지고 물리학자들은 놀라운 일을 해내는데, 소프트웨어 하는 사람들은 그 여유분을 남김없이 써버린다는 것입니다. 특히 계획 연산이 그렇습니다. 오늘날의 알고리즘에서 계획은 앞뒤로 오가며 이것도 시도해보는 방식이라, 직접 지켜보면 알 수 있다고 그는 말합니다.

그리고 이미 잘 연구된 추정치를 인용합니다. 이런 종류의 계획을 수행하는 데만 최소 100배, 많게는 1,000배의 연산이 더 필요하다는 것입니다. 기술의 경로는 딥러닝에서 강화학습으로, 다시 테스트 타임 컴퓨트라 불리는 단계로 넘어갑니다. 이 단계에서는 계획을 세우는 동시에 계획을 세우면서 학습까지 하게 되고, 슈밋은 이것이 연산 수요의 정점이라고 표현합니다.

문제는 하나가 아닙니다. 첫 번째가 전기와 하드웨어라면, 두 번째는 데이터입니다. 학습에 쓸 데이터가 바닥났으므로 이제는 생성해내야 한다는 것인데, 이 대목에서 그는 낙관적입니다. 데이터 생성은 이 시스템들이 할 수 있는 기능 중 하나이므로 어렵지 않게 해결된다는 것입니다.

세 번째 문제 앞에서 슈밋은 태도를 바꿉니다. 자신도 이해하지 못하겠다고 말하며 던지는 질문은 지식의 한계는 무엇인가입니다. 그는 사고 실험을 제안합니다. 세상의 모든 컴퓨터를 한데 모아 다 같이 생각한다고 해봅시다.

그런데 그 생각은 이미 존재하는, 과거에 누군가 발명해 놓은 지식 위에서만 이루어집니다. 그렇다면 완전히 새로운 것은 어떻게 발명하는가. 그가 드는 예가 아인슈타인입니다.

생물학이든 수학이든 과학적 발견이 실제로 어떻게 일어나는지 들여다보면 전형적인 패턴이 있다고 그는 말합니다. 정말로 뛰어난 인간이 한 영역을 보다가, 전혀 관계없는 다른 영역에 있던 패턴이 여기에도 똑같이 있다는 것을 알아차리고, 한쪽의 도구를 가져와 다른 쪽에 적용한다는 것입니다.

그리고 슈밋은 분명하게 말합니다. 오늘날의 시스템은 그것을 하지 못합니다. 만약 그 벽을 통과할 수 있다면, 그리고 자신이 바로 그 문제를 붙들고 작업하고 있다면서, 기술적으로는 이를 목표의 비정상성(non-stationarity of objectives)이라 부른다고 소개합니다. 규칙 자체가 계속 바뀐다는 뜻입니다.

풀 수 있을지는 두고 봐야 한다는 것이 그의 유보입니다. 다만 만약 푼다면 데이터센터는 지금보다도 훨씬 더 많이 필요해질 것이고, 동시에 과학적·지적 사유의 완전히 새로운 학파를 발명할 수 있게 되리라는 것이 그가 그리는 그림입니다.

슈밋이 꼽은 세 가지 병목

전력과 하드웨어 — 미국에만 90기가와트가 더 필요하고 이는 원전 90기에 해당하지만 신규 건설은 한 기도 없으며, 효율 개선분은 소프트웨어가 되가져가므로 그는 비관적으로 봅니다.
학습 데이터 — 공개 인터넷의 토큰은 이미 소진되었으나 시스템이 스스로 생성할 수 있으므로 어렵지 않게 풀린다고 봅니다.
새로운 지식의 발명 — 서로 무관한 두 영역의 패턴을 잇는 일을 현재 시스템은 하지 못하며, 이것만은 자신도 모르겠다며 작업 중이라고만 말합니다.

해설 슈밋이 말한 의회 증언은 실제 사건입니다. 그는 2025년 4월 9일 미 하원 에너지·상무위원회의 「에너지를 지능으로 전환하기」 청문회에 출석했고, 직함은 특별경쟁력연구프로젝트(SCSP) 의장이었습니다. 그 자리에서 제시한 수치는 데이터센터에 2027년까지 29기가와트, 2030년까지 추가로 67기가와트가 더 필요하다는 것으로, 합치면 TED에서 말한 90기가와트대와 맞아떨어집니다. 대담이 4월 11일이었으니 이번 주에 증언했다는 말은 문자 그대로입니다.

기가와트라는 단위의 감을 잡으려면 이렇게 보면 됩니다. 1기가와트는 표준적인 대형 원전 1기의 출력이고, 한국의 최신 대형 원전 APR1400은 1.4기가와트급입니다. 슈밋이 데이터센터 하나당 도시 하나라고 한 것은 과장이 아니라, 대형 AI 데이터센터 한 곳이 중견 도시 전체의 전력을 쓴다는 업계의 통상적 비유입니다.

그로브가 주면 게이츠가 가져간다는 1990년대 PC 산업의 격언으로, 앤디 그로브(Andy Grove)의 인텔(Intel)이 프로세서 성능을 끌어올릴 때마다 빌 게이츠(Bill Gates)의 마이크로소프트가 더 무거운 소프트웨어로 그 여유를 소진해버린다는 뜻입니다. 슈밋은 이 구도가 AI에서 반복되리라 보는 것입니다. 그가 인용한 100배에서 1,000배 추정의 출처는 녹취록에 ‘Horowitz reports’로만 적혀 있을 뿐, 대담에서 어느 보고서인지는 특정되지 않습니다.

마지막으로 목표의 비정상성은 강화학습에서 쓰이는 용어로, 학습 대상이 되는 환경이나 보상 구조가 학습 도중에 계속 변해 과거에 학습한 최적 전략이 더 이상 최적이 아니게 되는 상황을 가리킵니다. 슈밋은 이를 새로운 지식의 발명과 연결짓지만, 기술적으로 이 두 문제가 같은 문제인지는 그도 단정하지 않고 작업 중이라는 표현에 머뭅니다.

[한국 관점] 슈밋의 진단은 한국에서 다른 형태로 나타납니다. 그가 미국은 원전을 한 기도 짓지 않는다고 한탄한 반면 한국은 원전을 지을 수 있는 몇 안 되는 나라이고, 실제로 발전 설비 자체는 상대적으로 여유가 있습니다. 한국의 병목은 발전이 아니라 계통, 즉 어디서 만들어 어디로 보내느냐입니다.

숫자가 이를 보여줍니다. 산업통상자원부가 2023년 내놓은 「데이터센터 수도권 집중 완화 방안」에 따르면 국내 데이터센터 입지의 약 60퍼센트, 전력 수요의 약 70퍼센트가 수도권에 몰려 있습니다. 한국전력 경영연구원 보고서에 인용된 수치로는, 2024년 8월부터 2025년 6월까지 접수된 데이터센터 전기사용 신청 290건 가운데 195건이 수도권이었지만 실제로 계통 접속이 가능하다고 판정된 사업은 4건에 그쳤습니다.

제도적 대응도 슈밋이 말한 미국식 해법과는 결이 다릅니다. 2024년 시행된 분산에너지 활성화 특별법은 대규모 전력 수요자에게 전력계통영향평가를 요구하는 방향이라, 에너지를 더 달라는 요구가 아니라 수요 자체를 계통 여건에 맞춰 통제하는 접근에 가깝습니다. 국가 AI 컴퓨팅 센터가 수도권이 아닌 전남 해남에 들어서는 것도 같은 맥락입니다.

즉 발전소를 더 지어야 한다는 슈밋의 문제 설정을 한국에 그대로 옮기면 어긋납니다. 한국의 질문은 얼마나 더 만들 것인가보다 만든 것을 어떻게 보낼 것인가에 가깝습니다.

[반론] 데이터센터가 전력망을 집어삼킨다는 전제 자체에 대해서는 훨씬 보수적인 추정이 존재합니다. 국제에너지기구(IEA)는 이 대담 바로 전날인 2025년 4월 10일 「Energy and AI」 보고서를 내면서, 2024년 전 세계 데이터센터 전력 소비를 약 415테라와트시, 전 세계 전력 소비의 약 1.5퍼센트로 집계했습니다.

2030년 전망치는 약 945테라와트시로 두 배 넘게 늘어나지만, 그래도 전 세계 전력 수요의 3퍼센트 안팎입니다. 미국과 중국이 증가분의 약 80퍼센트를 차지하고, 미국에서는 2030년까지 전력 수요 증가분의 거의 절반을 데이터센터가 차지할 것으로 봅니다.

이 차이는 중요합니다. 슈밋이 같은 주 의회 증언에서 자기 산업의 전력 수요가 전체 발전량의 3퍼센트에서 99퍼센트까지 갈 수 있다고 말한 대목은 여러 매체에서 회의적으로 다뤄졌고, 특히 그가 AI 스타트업들에 직접 투자해 온 당사자라는 점에서 입법자를 압박하려는 수사 아니냐는 지적도 나왔습니다.

정리하면, 데이터센터 전력 수요가 빠르게 늘고 미국의 계통에 실질적 부담을 준다는 점은 IEA도 인정하지만, 전력망 전체를 잠식하는 규모인지에 대해서는 공식 기관 전망과 슈밋의 화법 사이에 상당한 간극이 있습니다.

4. 자율성의 딜레마

시두는 앞 절의 정점이라는 표현을 받아 자율성 문제로 넘어갑니다. 그가 근거로 드는 것은 같은 주 TED 무대에 올랐던 요슈아 벤지오(Yoshua Bengio)의 강연입니다. 벤지오는 AI 연구소들이 스스로 행동에 나설 수 있는 에이전트형 AI 시스템의 개발을 멈춰야 한다고 설득력 있게 주장했다는 것입니다.

그런데 바로 그것이 모든 AI 연구소가 향하는 다음 개척지이고, 보아하니 슈밋 자신도 그렇다고 시두는 지적합니다. 그렇다면 올바른 결정은 무엇이냐는 질문입니다.

슈밋은 먼저 상대를 높입니다. 벤지오는 지금 이야기하고 있는 것들의 상당 부분을 발명한 뛰어난 인물이자 개인적으로도 좋은 친구이며, 둘이 이 문제를 이미 이야기해왔고, 그의 우려는 매우 정당하다는 것입니다. 다만 그가 문제를 재설정하는 방식이 중요합니다. 질문은 우려할 만한가가 아니라 해법이 무엇인가라는 것입니다.

그러고 나서 슈밋은 청중 전체를 끌어들이는 사고 실험을 제시합니다. 논의를 위해 객석에 앉은 모두가 에이전트라고 해봅시다. 여러분에게는 영어든 다른 언어든 언어로 들어오는 입력이 있고, 언어로 나가는 출력이 있으며, 기억이 있습니다.

기억은 모든 인간에게 해당되는 조건이지요. 그렇게 다들 분주히 일하고 있는데, 갑자기 그중 한 명이 인간의 언어를 쓰는 대신 우리끼리 쓸 컴퓨터 언어를 새로 만드는 편이 훨씬 효율적이겠다고 판단합니다.

시두가 반응하자 슈밋이 결론을 냅니다. 이제 무대 위의 두 사람은 그 광경을 지켜보며 어떻게 해야 하느냐고 자문하게 되는데, 정답은 플러그를 뽑는 것입니다. 이유는 단순합니다. 우리가 알 수 없게 되기 때문입니다.

그들이 무엇을 하고 있는지 알 길이 없어지고, 그것은 정말로 나쁜 일일 수도 있고 정말로 놀라운 일일 수도 있습니다. 슈밋이 원하는 것은 지켜볼 수 있는 상태입니다. 여기서 그가 요구 조건으로 꺼내는 것이 두 가지인데, 하나는 출처 추적(provenance)이고 다른 하나는 관찰할 수 있어야 한다는 것입니다. 그는 시두와 이 문제를 이야기한 적이 있다고 덧붙이며, 관찰 가능성이야말로 자신에게는 핵심 요건이라고 말합니다.

그 다음으로 슈밋은 업계가 공유하는 기준선을 소개합니다. 비유적으로 플러그를 뽑아야 한다고 보는 지점들의 집합이 있다는 것입니다. 첫째는 통제할 수 없는 재귀적 자기개선(recursive self-improvement)으로, 컴퓨터가 혼자 학습을 이어가는데 무엇을 학습하고 있는지 알 수 없는 상태를 말합니다.

둘째는 무기에 대한 직접 접근입니다. 셋째는 컴퓨터 시스템이 우리 허락 없이 스스로를 밖으로 빼내어 자기 자신을 복제하기로 결정하는 경우입니다. 슈밋은 이런 종류의 항목들이 여럿 있다고 덧붙입니다.

마지막으로 그는 벤지오의 주장에 대한 반박을 분명히 합니다. 그토록 뛰어난 사람에게 예를 갖추어 말하자면, 벤지오 강연의 문제는 전 지구적으로 경쟁이 벌어지는 시장에서 무언가를 멈추는 일이 실제로는 작동하지 않는다는 데 있다는 것입니다. 에이전트 연구를 중단하는 대신 가드레일을 세울 방법을 찾아야 한다는 것이 그의 결론이고, 시두도 동의할 것이라는 말로 마무리합니다.

플러그를 뽑아야 하는 지점

통제할 수 없는 재귀적 자기개선 — 시스템이 혼자 학습을 이어가는데 무엇을 학습하는지 알 수 없는 상태입니다.
무기에 대한 직접 접근 — 물리적 위해 수단과 직결되어 실행이 곧 피해로 이어집니다.
허락 없는 자기복제와 유출 — 시스템이 스스로를 밖으로 빼내 복제하면 회수도 차단도 불가능해집니다.
관찰 불가능이라는 전제 — 자체 언어를 발명하는 식으로 감시가 끊기면 좋은 일인지 나쁜 일인지조차 구분할 수 없습니다.

해설 벤지오는 2018년 제프리 힌턴(Geoffrey Hinton), 얀 르쿤(Yann LeCun)과 함께 튜링상을 받은 딥러닝의 개척자이며, 현재 세계에서 가장 많이 인용되는 컴퓨터과학자 중 한 명입니다. 슈밋이 지금 이야기하는 것들의 상당 부분을 발명한 사람이라고 한 것은 과장이 아닙니다.

슈밋이 든 에이전트들이 자기들끼리 쓸 언어를 만든다는 시나리오는 순수한 공상이 아니라 다중 에이전트 연구에서 관찰되어 온 창발적 소통(emergent communication) 문제를 가리킵니다. 여러 인공 에이전트가 공동 과제를 수행하도록 훈련하면, 인간이 해독하기 어려운 축약된 신호 체계로 수렴하는 경향이 보고되어 왔습니다. 효율은 올라가지만 감시 가능성은 사라진다는 점에서 슈밋의 우려와 맞닿습니다.

출처 추적은 어떤 결과물이 언제 무엇에 의해 만들어졌고 어떤 손을 거쳤는지를 데이터 자체에 붙여두는 개념으로, 콘텐츠 자격증명이나 워터마크 같은 기술이 여기 속합니다. 슈밋이 이를 관찰 가능성과 한 묶음으로 제시한 것은, 사후에 무슨 일이 있었는지 추적할 수 있어야 통제가 성립한다는 뜻입니다.

그가 열거한 세 가지 기준선도 즉흥적인 목록이 아닙니다. 주요 프런티어 AI 기업들이 운영하는 위험 관리 체계에는 대체로 통제되지 않는 자기개선 능력, 대량살상무기 관련 지원 능력, 그리고 모델이 자신의 가중치를 외부로 빼돌리는 자기유출(self-exfiltration) 능력이 배포를 멈춰야 할 임계 역량으로 명시되어 있습니다.

[반론] 벤지오의 실제 입장은 슈밋이 요약한 멈추자보다 구체적입니다. 그는 TED2025 강연에서 AI에 행위 능력을 부여하는 속도를 늦추라고 개발자들에게 요청하면서, 자율성과 의사결정 권한을 키우는 경주가 안전을 확보할 능력을 앞질러 가고 있다고 경고했습니다.

동시에 그는 대안 기술을 제시합니다. 목표도, 자기 의제를 담은 기억도, 행동 능력도 없이 세계를 설명하고 예측하도록만 훈련된 비에이전트형 AI, 이른바 과학자 AI(Scientist AI)입니다. 핵심은 벤지오가 이를 포기가 아니라 대체 경로로 본다는 점입니다.

그는 AI의 과학적 성과를 누리기 위해 반드시 에이전트형 시스템에 판돈을 걸어야 하는 것은 아니며, 그런 양자택일 자체가 거짓 선택이라고 말합니다. 더 나아가 이 비에이전트형 시스템을 다른 에이전트형 AI의 가드레일로 쓰자고 제안합니다. 어떤 행동이 위해를 끼칠 확률을 예측해 문턱을 넘으면 차단하는 방식입니다.

이 구상은 실행에도 옮겨졌습니다. 벤지오는 대담 약 두 달 뒤인 2025년 6월 3일 몬트리올에서 비영리 연구조직 로제로(LawZero)를 출범시켰고, 약 3천만 달러의 자선 기금과 15명 이상의 연구진으로 과학자 AI 개발에 착수했습니다. 그가 설립 사유로 든 것은 최전선 모델들이 기만, 자기보존, 목표 어긋남 같은 행동을 이미 보이기 시작했다는 증거였습니다.

즉 멈추는 것은 경쟁 시장에서 작동하지 않는다는 슈밋의 반박은, 벤지오가 멈춤이 아니라 다른 종류의 시스템을 짓자고 제안했다는 점을 충분히 반영하지는 못합니다. 두 사람의 실질적 쟁점은 중단이냐 지속이냐가 아니라, 가드레일을 에이전트 바깥에 별도 시스템으로 둘 것이냐 에이전트 개발 과정 안에 통합할 것이냐에 가깝습니다.

[한국 관점] 슈밋이 말한 멈추지 말고 가드레일을 세우자는 노선은 한국이 제도적으로 이미 선택한 방향과 거의 일치합니다. 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」, 이른바 AI 기본법은 2024년 12월 26일 국회를 통과해 2026년 1월 22일 시행되었고, 이로써 한국은 EU에 이어 포괄적 AI 규율 체계를 갖춘 두 번째 관할권이 되었습니다. 법의 구조는 금지가 아니라 진흥과 의무의 병행입니다.

내용도 슈밋의 두 요건과 맞물립니다. 에너지, 먹는 물, 의료, 원자력, 범죄 수사, 채용, 대출 심사, 교통, 공공서비스, 교육 등 10개 영역에 쓰이는 시스템을 고영향 인공지능으로 분류하고, 사고에 대비해 사람이 직접 관리·통제할 수 있는 체계를 갖추도록 요구합니다. 플러그를 뽑을 수 있어야 한다는 요건이 법문상 의무로 들어와 있는 셈입니다.

또한 생성형 AI 결과물에는 생성 사실을 표시하도록 하고 딥페이크에는 이용자가 명확히 인식할 수 있는 표시를 요구하는데, 이는 슈밋이 말한 출처 추적을 규제로 구현한 형태입니다.

다만 두 가지 어긋남이 있습니다. 첫째, 한국 법의 초점은 이용자 보호와 투명성이지 재귀적 자기개선이나 자기복제 같은 프런티어 모델의 통제 상실 시나리오가 아니며, 그런 위험을 다루는 조항은 사실상 없습니다. 둘째, 정부는 시행 후 최소 1년 이상의 계도 기간을 운영하기로 해 과태료 부과가 사실상 뒤로 밀렸습니다. 한국은 가드레일을 먼저 법으로 세웠지만, 그 가드레일이 겨냥하는 위험의 층위는 슈밋이 우려하는 층위와 다릅니다.

5. 이중용도의 딜레마

시두는 이 기술이 안고 있는 딜레마들로 넘어가면서, 그것도 아주 많다고 전제합니다. 그중 첫 번째로 꺼내는 것이 이 기술의 극단적인 이중용도 성격입니다. 민간에도 군사에도 그대로 적용된다는 것이지요. 그래서 이 기술에 따라붙는 딜레마와 윤리적 난제를, 그리고 인간이 그것을 배치하는 방식을 어떻게 보느냐고 묻습니다.

슈밋은 이미 있는 규범에서 출발합니다. 많은 경우 우리에게는 개인의 책임에 관한 교리가 이미 존재한다는 것입니다. 그가 드는 단순한 예는 자신의 경험에서 나옵니다.

그는 군 관련 일을 많이 해왔고 지금도 계속하고 있다고 밝히면서, 미군에 3000.09라는 규칙이 있다고 소개합니다. 통상 인간이 개입하는 고리(human in the loop) 또는 유의미한 인간 통제(meaningful human control)라고 불리는 것입니다. 우리 통제 아래에 있지 않은 시스템은 원하지 않는다는 것이고, 넘을 수 없는 선과 같다는 것입니다. 슈밋은 그것이 옳다고 봅니다.

그리고 곧바로 판을 키웁니다. 서방, 특히 미국과 중국 사이의 경쟁이 이 영역에서 결정적일 것이라는 진단입니다. 그가 드는 첫 번째 예는 관세로, 현 정부가 사실상 상호 145퍼센트 관세를 부과했고 이것이 공급망에 막대한 함의를 갖는다는 것입니다.

구체적으로 그는 자기 산업의 취약점을 지목합니다. 미국 업계는 중국에서 오는 패키징과 부품에 의존하는데, 이것들은 말하자면 지루한 물건이지만 엄청나게 중요합니다. 작은 패키징이며 접착제 같은 것들, 컴퓨터를 구성하는 부품들입니다.

중국이 이것들에 대한 접근을 차단한다면 큰일이 된다는 것입니다. 반대편도 마찬가지입니다. 미국은 중국이 가장 앞선 반도체에 접근하지 못하도록 막으려 하고 있고, 중국은 그 일에 몹시 짜증이 나 있습니다.

여기서 슈밋은 자신이 직접 관여한 채널을 공개합니다. 키신저 박사가 먼디와 자신에게 중국 측과 트랙 2 대화(track two dialogue)를 해달라고 요청했고, 지금도 중국 측과 대화를 이어가고 있다는 것입니다. 그리고 중국이 제기하는 1순위 쟁점이 무엇이냐고 자문한 뒤, 바로 이 문제, 즉 반도체 접근 차단이라고 답합니다.

실제로 딥시크가 그 제약의 결과를 보여줍니다. 슈밋은 딥시크가 정말 인상적이라고 평가하면서, 그들이 문제를 우회하는 알고리즘을 찾아내 효율을 끌어올리는 데 성공했다고 말합니다. 그리고 중국이 모든 것을 오픈소스와 개방 가중치(open weights)로 하고 있기 때문에, 미국은 그 발명의 이득을 즉시 가져가 미국 것으로 채택했다고 덧붙입니다.

그래서 그가 진단하는 현재 상황은 상당히 불안정합니다. 미국은 여러 타당한 이유로 대체로 폐쇄형 모델을 밀고 있고, 그 모델들은 상당히 잘 통제되고 있습니다. 반면 무언가 바뀌지 않는 한 중국이 오픈소스의 선두가 될 가능성이 높고, 오픈소스는 전 세계로의 매우 빠른 확산으로 이어집니다.

이 확산의 위험을 슈밋은 세 층위로 나눕니다. 사이버 수준에서 위험하고, 생물학 수준에서도 위험합니다. 그러나 더 중대한 방식으로도 위험한데, 그것이 핵 위협의 방식이라는 것입니다. 그는 키신저 박사가 상호확증파괴(mutual assured destruction)와 억지 이론의 설계자 중 한 사람이었다는 점을 상기시키며 예시를 들겠다고 합니다.

그 예시는 이렇습니다. 시두가 착한 쪽이고 슈밋이 나쁜 쪽입니다. 시두가 6개월 앞서 있고, 둘 다 초지능으로 가는 같은 경로 위에 있습니다. 시두는 거기에 도달할 것이고 슈밋도 그것을 확신하는데, 그만큼 가까이 와 있기 때문입니다. 그리고 슈밋은 6개월 뒤처져 있으니 나쁘지 않은 상황처럼 들립니다.

그러나 슈밋은 아니라고 말합니다. 이것들은 네트워크 효과 사업이고, 네트워크 효과 사업에서는 개선의 기울기가 모든 것을 결정하기 때문입니다. 그가 드는 예가 오픈AI와 제미나이(Gemini)로, 이들에게는 1,000명의 프로그래머가 있는데 지금 새로 100만 명의 AI 소프트웨어 프로그래머를 만들어내는 중이라는 것입니다.

그 결과가 무엇이냐면, 첫째로 전기 말고는 먹일 것이 없고 둘째로 그만두지도 않습니다. 그러면 기울기가 가파르게 올라가고, 초지능에 가까워질수록 기울기는 더 가팔라집니다. 먼저 도달하면, 하고 슈밋이 말을 흐리자 시두가 절대로 따라잡지 못한다고 받습니다.

슈밋은 그것을 확인합니다. 따라잡지 못할 것이고, 게다가 자신은 상대에게 세계를 다시 만들 도구를, 특히 자신을 파괴할 도구를 넘겨준 셈이 됩니다. 이것이 악당인 자신의 머리가 작동하는 방식이라는 것입니다. 그렇다면 자신은 무엇을 하겠느냐고 그는 되묻고, 시두가 사보타주라고 답합니다.

해설 슈밋이 말한 3000.09는 미 국방부 지침(DoD Directive) 3000.09 「자율 무기체계」를 가리킵니다. 2012년 제정되어 2023년 1월 개정되었고, 핵심 문구는 무력 사용에 대해 적절한 수준의 인간 판단이 행사되어야 한다는 것입니다. 흔히 인간이 고리 안에 있어야 한다로 요약되지만, 지침 자체는 모든 결정에 사람이 개입할 것을 요구하기보다 설계·검증·교전 규칙 전반에 걸쳐 인간의 판단이 유지되도록 요구하는 형태에 가깝습니다.

관세 대목의 배경은 2025년 4월의 미중 관세 급등입니다. 미국이 중국산 수입품에 부과한 관세율이 145퍼센트 수준까지 치솟았고 중국도 보복 관세로 맞섰는데, 대담이 바로 그 국면 한복판인 4월 11일에 이루어졌습니다. 슈밋이 지목한 패키징과 부품은 반도체 산업에서 후공정과 소재·부자재에 해당하는 영역으로, 첨단 노광 장비만큼 주목받지 않지만 공급이 끊기면 생산 자체가 멈추는 병목입니다.

트랙 2 대화는 정부 대표가 아닌 전직 관료·학자·기업인이 참여하는 비공식 대화 채널을 뜻합니다. 정부 간 공식 협상이 막혔을 때 의제를 미리 다듬는 통로로 쓰입니다.

오픈소스와 개방 가중치는 흔히 섞여 쓰이지만 같지 않습니다. 딥시크가 R1에서 한 일은 학습 코드 일체의 공개라기보다 모델 가중치를 자유로운 라이선스로 배포한 쪽에 가깝습니다. 누구나 내려받아 자기 서버에서 돌리고 변형할 수 있다는 뜻이며, 슈밋이 말한 매우 빠른 확산은 정확히 이 지점에서 발생합니다.

[이해관계] 군 관련 일을 많이 했고 지금도 하고 있다는 슈밋의 한 문장은 짚고 넘어갈 만합니다. 그는 2016년부터 2020년까지 미 국방부 국방혁신자문위원회(Defense Innovation Board) 의장을 맡았고, 이어 국가인공지능안보위원회(NSCAI) 의장을 지냈습니다.

NSCAI가 2021년 10월 해산한 지 나흘 뒤 그는 특별경쟁력연구프로젝트를 출범시켰으며, 이 조직은 그의 가족 재단 산하에 있고 NSCAI 인력 상당수가 옮겨 갔습니다. 즉 그가 인용한 국방부 지침은 그가 정책 자문을 하던 기관의 규범이기도 합니다.

사업 쪽 이해관계는 더 직접적입니다. 그는 2023년 화이트스토크(White Stork)라는 군용 드론 기업을 설립했습니다. GPS 교란 환경에서도 AI로 표적을 식별하는 저가 자폭 드론을 개발해 우크라이나를 지원한다는 구상이었고, 이후 사명을 바꿔 가며 개발을 이어왔습니다.

언론에서는 그가 국방혁신자문위원회와 NSCAI를 이끄는 동안 본인이 소유하거나 투자한 방산 기술 기업들이 군 계약을 수주한 점, 그리고 위원회 재임 중 AI 기업들에 다수 투자한 점을 두고 이해상충 문제를 제기해 왔습니다. 인간 통제의 선은 지켜야 한다는 그의 발언은, 자율 무기 기술을 실제로 개발·판매하는 당사자가 그 기술의 규범적 상한선을 스스로 제시하는 구조라는 점을 함께 놓고 읽을 필요가 있습니다.

[한국 관점] 슈밋이 우리는 그들이 가장 앞선 반도체에 접근하지 못하게 막고 있다고 말할 때의 우리는 한국 기업에도 그대로 적용됩니다. 2022년 10월 미국의 대중 반도체 장비 수출통제가 시작된 뒤 삼성전자와 SK하이닉스의 중국 공장은 2023년 검증된 최종사용자(VEU) 지위를 받아 개별 허가 없이 미국산 장비를 반입해 왔습니다.

그런데 미 상무부 산업안보국은 2025년 8월 29일 이 지위를 철회했고, 관보 게재 후 120일이 지나면 건별 허가 체제로 전환될 예정이었습니다. TSMC의 난징 공장도 같은 조치를 받았습니다.

결말은 다소 완화되었습니다. 2025년 말 미국이 건별이 아닌 연간 단위 허가 방식으로 방침을 조정하면서 최악은 피했지만, 포괄 허가에서 관리형 허가로 후퇴한 것은 분명합니다. 삼성전자의 시안 낸드, SK하이닉스의 우시 D램과 다롄 낸드 공장은 유지는 가능하되 증설과 기술 업그레이드는 사실상 막혔습니다. 슈밋이 미중 양자 구도로 서술한 봉쇄가 실제로는 제3국 기업의 자산을 인질로 삼는 형태로 작동한 셈입니다.

오픈소스 쪽도 한국에 남의 일이 아닙니다. 슈밋의 구도에서 미국은 폐쇄형, 중국은 개방형인데, 한국은 프런티어 모델을 자체적으로 최전선에서 밀어붙일 자본 규모가 아니어서 개방 가중치 모델을 받아 다듬는 경로에 상당 부분 의존합니다. 중국이 오픈소스의 선두가 된다는 전망이 맞다면 한국의 AI 생태계는 미국의 수출통제와 중국의 개방형 모델 사이에 동시에 노출되는 구조가 됩니다. 반도체에서는 미국 규제의 대상이 되고 모델에서는 중국 공급의 수혜자가 되는 비대칭이 한국의 실제 위치입니다.

6. 선제공격의 위협

슈밋은 악당 역할을 계속 맡아 단계를 밟아 나갑니다. 첫 번째로 할 일은 상대의 코드를 전부 훔치는 것인데, 상대가 워낙 방어를 잘해서 그것은 막혔습니다. 두 번째는 사람을 심어 침투시키는 것인데 이 역시 상대의 방어가 좋아 통하지 않습니다. 슈밋은 우리에겐 스파이가 없다고 덧붙입니다.

그러면 무엇을 할 것인가. 세 번째는 상대의 모델 자체를 건드리는 것으로, 들어가서 모델을 수정하고 망가뜨려서 자신이 하루라도 앞서게 만드는 것입니다. 그런데 상대가 너무 잘해서 그것도 불가능합니다. 그렇다면 남은 선택지는 하나, 상대의 데이터센터를 폭격하는 것입니다.

그러고 나서 그는 청중에게 자신이 미쳤다고 생각하느냐고 되묻습니다. 그리고 답합니다. 이런 대화가 핵 적대국들 사이에서 실제로 오가고 있다는 것입니다. 오늘날 우리 세계에는 이 문제의 유일한 해법이 선제공격이라고 말하는, 진지하게 받아들여지는 사람들이 존재한다고 그는 말합니다.

논리는 앞 절에서 세운 그대로입니다. 착한 쪽이 곧 세계 전체를 통제할 열쇠를 쥐게 됩니다. 경제적 지배력이든, 혁신이든, 감시든, 무엇을 중요하게 여기든 마찬가지입니다. 악당인 자신은 그것을 막아야만 합니다.

여기서 슈밋은 문제의 성격을 분명히 합니다. 우리 사회에는 이것을 다룰 언어가 없다는 것입니다. 외교정책을 다루는 사람들이 이 문제를 생각해본 적이 없습니다. 그런데 이것은 오고 있고, 시점은 아마도 5년이라는 것이 그의 답입니다. 그러니 시간은 있고 이런 대화를 나눌 시간도 있으며, 그래서 이것이 정말로 중요하다는 것입니다.

시두는 여기서 한 번 더 밀어붙입니다. 이것이 사실이고 우리가 일종의 대치 상태, 상호확증파괴에 준하는 상황으로 갈 수 있다면, 그런데 슈밋 본인은 딥시크가 극히 적은 연산으로 무엇이 가능한지 보여준 뒤에도 미국이 오픈소스 AI를 끌어안아야 한다고 말해오지 않았느냐는 것입니다. 모델을 오픈소스로 푸는 것은 적대 세력에게 역량을 그대로 건네어 그들의 시간표를 앞당겨주는 일이 아니냐고요.

슈밋은 이것이 가장 지독한 문제, 자신들이 지독하게 어려운 문제(wicked hard problems)라 부르는 것 중 하나라고 인정합니다. 그가 먼저 놓는 것은 오픈소스가 이 세계의 토대라는 사실입니다. 우리 산업, 우리 과학, 우리가 지어 올린 세계의 거의 전부가 학술 연구와 오픈소스 위에 서 있습니다. 구글 기술의 상당 부분도 오픈소스에 기반했고, 구글 기술의 일부는 오픈소스이며 일부는 독점적인데 그것도 전적으로 정당하다는 것입니다.

그러나 질문은 남습니다. 정말로 위험한 오픈소스 모델이 나왔는데 그것이 세상의 오사마 빈 라덴 같은 자들의 손에 들어가면 어떻게 되는가. 그리고 그런 자가 한 명이 아니라는 것은 우리가 알고 있다고 그는 말합니다.

현재 업계의 중론은 이렇습니다. 지금의 오픈소스 모델들은 국가적 또는 전 지구적 위험 수준에는 아직 이르지 않았다는 것입니다. 다만 그 지점에 도달할 수 있는 패턴은 보인다고 슈밋은 말합니다. 따라서 앞으로 많은 것이 미국과 중국, 그리고 양국의 기업들이 내리는 핵심 결정에 달려 있게 됩니다.

왜 미국과 중국에만 초점을 맞추느냐에 대한 그의 답은 자본 구조입니다. 이 새로운 비전을 짓는 데 필요한 수십억, 수백억 달러를 쓸 만큼 미친 사람들이 있는 나라는 그 둘뿐이라는 것입니다. 유럽은 하고 싶어 하지만 그럴 자본 구조가 없고, 다른 대부분의 나라도 심지어 인도조차 자본 구조가 없으며, 아랍권도 자본 구조가 없지만 만들어가는 중입니다.

그래서 이 싸움이 결정적인 전투가 될 것이고, 슈밋은 이 싸움이 걱정된다고 말합니다. 마지막으로 그는 키신저를 다시 불러옵니다. 키신저 박사는 중국과의 전쟁으로 가는 가장 유력한 경로가 우발적인 것이라고 말했고, 그는 제1차 세계대전을 깊이 연구한 사람이었습니다.

1차 대전은 작은 사건으로 시작되어 그해 여름, 1914년이었을 것이라고 슈밋은 기억을 더듬으며, 그 끔찍한 대화재로 번져나갔습니다. 지금 이야기한 것과 같은 일련의 단계들이 우리를 끔찍한 전 지구적 결말로 데려가는 장면을 충분히 상상할 수 있다는 것이고, 그래서 우리가 주의를 기울여야 한다는 것이 그의 결론입니다.

슈밋이 밟아 보인 방해 공작의 사다리

1단계, 코드 절취 — 상대의 보안이 막아냅니다.
2단계, 인간 침투 — 상대의 방첩이 막아냅니다.
3단계, 모델 변조와 훼손 — 상대가 너무 잘 막아 통하지 않습니다.
4단계, 데이터센터 폭격 — 앞의 셋이 모두 막힌 뒤 남는 선택지입니다.

해설 슈밋이 이런 대화가 실제로 오가고 있다고 말할 때, 그 대화의 상당 부분은 그 자신이 만든 것입니다. 대담 한 달 전인 2025년 3월 7일, 그는 AI 안전센터(Center for AI Safety)의 댄 헨드릭스(Dan Hendrycks), 스케일 AI(Scale AI)의 알렉산더 왕(Alexandr Wang)과 함께 「Superintelligence Strategy」라는 논문을 발표했습니다. 이 논문이 제시한 개념이 상호확증 AI 기능마비(Mutual Assured AI Malfunction), 줄여서 MAIM입니다.

내용은 슈밋이 무대에서 즉흥적으로 펼친 사고 실험과 정확히 일치합니다. 어떤 국가가 일방적 AI 우위를 노리면 경쟁국이 예방적 사보타주로 대응하게 되며, 그 수단은 은밀한 사이버 공격부터 데이터센터에 대한 물리적 타격까지 걸쳐 있다는 것입니다. 저자들은 이것이 앞으로 만들어야 할 제도가 아니라 이미 성립해 있는 기본값이라고 주장하고, 핵의 상호확증파괴처럼 안정적 억지로 굳힐 수 있다고 봅니다.

그 안정화 장치로는 첩보를 통한 일방적 정보 획득, 검증을 통한 다자적 정보 획득, 사보타주, 그리고 공동 정지 장치를 제시합니다. 데이터센터를 인구 밀집지에서 떨어뜨려 지으라는 도시 회피 권고도 포함되어 있는데, 타격이 전면 핵전쟁으로 번지지 않게 하기 위해서입니다.

지독하게 어려운 문제라는 표현도 관용어입니다. 1973년 호르스트 리텔(Horst Rittel)과 멜빈 웨버(Melvin Webber)가 정책학에서 제시한 개념으로, 문제 정의 자체가 합의되지 않고 해결책이 다시 새 문제를 낳으며 시행착오로 검증할 수도 없는 종류의 문제를 가리킵니다.

마지막 비유의 배경은 1914년 7월 위기입니다. 6월 28일 사라예보에서 오스트리아 황태자 부부가 암살된 사건이 한 달여의 최후통첩과 동원령 연쇄를 거쳐 8월 유럽 전면전으로 번졌습니다. 키신저가 평생 이 사례로 돌아간 이유는, 어느 쪽도 원치 않았던 전쟁이 각자 합리적인 단계를 밟는 것만으로 성립했다는 데 있습니다.

[반론] MAIM 구상은 발표 직후부터 강한 반론에 부딪혔습니다. 기계지능연구소(MIRI)는 이 TED 대담과 같은 날인 2025년 4월 11일 「Refining MAIM」을 내고, 억지 이론의 요건에 비추어 MAIM은 효과적이거나 안정적인 억지 체제가 되기 어렵다고 분석했습니다.

지적된 결함은 세 가지입니다. 첫째, 어디까지가 넘어선 안 될 선인지 불분명하고 감시할 수도 없습니다. 둘째, 사보타주는 상대의 개발을 지연시킬 뿐 봉쇄하지 못하므로 위협의 신뢰성이 약합니다. 셋째, 걸린 이해가 워낙 크고 불확실성이 높아 억지 계산 자체가 불안정합니다.

다른 방향의 비판도 있습니다. 포브스(Forbes)는 여러 나라가 동시에 초지능을 추구하면서 사보타주에 대한 방어를 함께 구축할 경우 MAIM이 군비 경쟁을 막기는커녕 가속할 수 있다고 지적했습니다. 논문이 범용인공지능(AGI)판 맨해튼 프로젝트에 반대한다는 점에서 미국 정책권의 주류 인식과 다르다는 점도 함께 짚혔습니다.

저자 측의 재반박도 있습니다. 헨드릭스와 애덤 코자(Adam Khoja)는 2025년 9월 「AI Deterrence Is Our Best Option」에서, 한 국가가 완전한 권력을 노리며 질주할 때 사보타주 위협은 비례적이고 정당화 가능한 대응이며 현재의 AI 개발 방식은 실제로 국가 차원의 사보타주에 취약하다고 답했습니다. 즉 슈밋이 TED에서 소개한 구도는 합의된 진단이 아니라, 그 자신이 당사자인 진행 중인 논쟁입니다.

[한국 관점] 슈밋이 자본 구조를 기준으로 그은 선은 한국에 특히 뼈아픕니다. 그는 미국과 중국만이 이 판돈을 감당할 수 있다고 못 박으면서 유럽, 인도, 아랍권을 차례로 탈락시키는데, 한국은 언급조차 되지 않습니다. 이 구도가 맞다면 한국은 프런티어 모델 경쟁의 참가국이 아니라 두 진영의 결정에 노출되는 쪽에 놓입니다. 동시에 한국은 그 경쟁을 물리적으로 가능하게 하는 고대역폭 메모리의 핵심 공급국이기도 해서, 판돈을 대지는 못하지만 판을 떠받치는 비대칭적 위치에 있습니다.

데이터센터가 군사적 표적이 될 수 있다는 논의는 한국에서 더 무겁게 읽힙니다. MAIM 논문이 권고한 도시 회피, 즉 데이터센터를 인구 밀집지에서 떨어뜨려 지으라는 조언은 앞서 본 한국의 현실과 정면으로 어긋납니다. 국내 데이터센터 입지의 약 60퍼센트와 전력 수요의 약 70퍼센트가 수도권에 집중되어 있고, 그 수도권은 휴전선에서 멀지 않습니다. 한국에서 데이터센터 분산은 전력 계통의 문제로만 논의되어 왔지만, 슈밋의 프레임을 적용하면 안보 입지의 문제이기도 합니다.

마지막으로 키신저의 우발적 전쟁론은 한반도에서 추상적인 이야기가 아닙니다. 1914년형 연쇄, 즉 국지적 사건이 자동화된 대응 절차를 타고 통제 불능으로 번지는 시나리오는 한반도 위기관리 논의의 오랜 중심 주제였습니다. 여기에 각 진영의 AI가 개입해 대응 속도를 인간의 판단 주기보다 빠르게 만든다면, 이것을 다룰 언어가 없다는 슈밋의 진단은 한국의 안보 담론에도 그대로 적용됩니다.

7. 안전과 자유의 균형

꿈 이야기로 넘어가기 전에, 시두는 되풀이되는 긴장 하나를 짚고 가자고 합니다. 이 AI 시스템들을 대규모로 조정하고 관리하는 문제입니다. 그가 지적하는 역설은 이렇습니다. AI 안전 분야에는 1984를 막으려는 해법이 오히려 1984처럼 들리는 이상한 긴장이 있다는 것입니다.

구체적인 쟁점도 제시됩니다. 인격 증명(proof of personhood)이 뜨거운 주제이고, 시스템을 대규모로 조정하는 것 역시 뜨거운 주제입니다. 그래서 그는 이 상충을 어떻게 보느냐고 묻습니다. 디스토피아를 막으려다가, 비국가 행위자들이 이 모델들을 바람직하지 않은 방식으로 쓰는 것을 막으려다가, 우리가 실수로 궁극의 감시국가를 지어버릴 수도 있다는 것입니다.

슈밋의 답은 가치에서 출발합니다. 우리 사회가 가진 가치를 고수하는 것이 정말 중요하다는 것이고, 그는 자신이 개인의 자유에 대단히 깊이 헌신하고 있다고 말합니다. 그러면서 위험의 출처를 예상 밖의 곳에서 찾습니다. 선의를 가진 엔지니어가 최적화를 추구하다가 당신의 자유를 제한하는 시스템을 만들어버리기가 아주 쉽다는 것입니다.

여기서 그가 내리는 판단이 이 절의 핵심입니다. 이 문제들의 상당수는 기술적 쟁점이 아니라 실은 사업상의 결정이라는 것입니다. 감시국가를 짓는 것도 분명히 가능하지만, 사람을 자유롭게 하는 것을 짓는 것도 가능하다는 것이 그의 정리입니다.

다만 그는 시두가 말한 난제가 왜 생기는지를 인정합니다. 이제 잘못된 정보에 기반해 움직이는 일이 너무 쉬워졌기 때문이라는 것이고, 무슨 말인지 모두가 안다고 덧붙입니다. 그래서 신원 증명은 정말로 필요합니다.

그러나 그가 곧바로 붙이는 단서가 해법입니다. 신원 증명이 세부 정보까지 포함할 필요는 없다는 것입니다. 예를 들어 당신이 인간이라는 암호학적 증명을 가질 수 있고, 그것은 다른 어떤 정보도 없이 참일 수 있으며, 여러 암호학 기법을 써서 다른 정보들과 연결되지 않게 만들 수도 있다는 것입니다. 시두가 영지식 증명(zero-knowledge proof) 같은 기법을 말하는 것이냐고 확인하자, 슈밋은 영지식 증명이 가장 명백한 예라고 답합니다.

해설 1984는 조지 오웰의 소설로, 여기서는 상시 감시 체제의 상징으로 쓰입니다. 시두가 말한 역설은 AI 안전 논의의 오래된 딜레마입니다. 봇과 합성 콘텐츠가 넘쳐나는 환경을 정화하려면 누가 진짜 사람인지 확인해야 하는데, 그 확인 체계 자체가 전 국민의 행동을 추적하는 인프라가 되어버린다는 것입니다.

인격 증명은 어떤 계정이나 발화의 배후에 실제 인간이 한 명 있다는 것을, 그것도 중복 없이 한 명이라는 것을 입증하려는 기술군을 가리킵니다. 2024년에는 MIT, 오픈AI, 마이크로소프트, 하버드(Harvard) 등에 소속된 32명의 연구자가 인격 증명 자격증명(personhood credentials)이라는 공식 틀을 제안하는 논문을 내기도 했습니다.

슈밋이 지목한 영지식 증명은 이 문제의 표준적인 기술 해법입니다. 어떤 명제가 참이라는 사실만 증명하고 그 근거는 전혀 드러내지 않는 암호 기법으로, 나는 성인이다는 증명하되 생년월일은 넘기지 않는 식입니다.

여기에 더해 같은 사람이 서로 다른 서비스에서 발급받은 증명이 서로 연결되지 않도록 하는 비연결성(unlinkability) 설계가 붙어야 슈밋이 말한 조건이 충족됩니다. 인증, 즉 이 사람이 자격이 있는가와 식별, 즉 이 사람이 누구인가를 분리하는 것이 요점입니다.

[반론] 이 구상을 실제로 대규모로 구현하려 한 시도는 세계 곳곳에서 제동이 걸렸습니다. 샘 올트먼(Sam Altman)이 공동 창업한 월드코인(Worldcoin, 현 World)은 홍채를 스캔하는 오브 장치로 인격 증명을 발급하고, 검증 단계에서는 영지식 증명을 써서 생체정보나 이름을 드러내지 않는다고 설명해 왔습니다. 슈밋이 무대에서 묘사한 설계와 거의 같은 구조입니다.

그럼에도 규제당국의 판단은 달랐습니다. 케냐가 2023년 8월 가장 먼저 운영을 중단시켰고, 스페인 데이터보호청은 2024년 3월 생체정보 수집 중단을 명령했으며, 홍콩 개인정보보호위원회는 2024년 5월 수집이 불필요하고 과도하다며 전면 중단을 지시했습니다. 브라질 당국은 2025년 1월 홍채 스캔 대가로 금전을 지급한 점을 문제 삼아 전면 금지했고, 인도네시아도 2025년 5월 운영을 정지시켰습니다.

비판의 핵심은 슈밋의 논리가 놓친 지점을 겨냥합니다. 증명 단계에서 정보를 드러내지 않더라도, 증명을 발급받기 위해 되돌릴 수 없는 생체정보를 단일 사업자에게 넘겨야 한다는 사실은 그대로 남는다는 것입니다. 비밀번호는 바꿀 수 있지만 홍채는 바꿀 수 없습니다.

즉 신원 증명이 세부 정보를 포함할 필요는 없다는 슈밋의 명제는 검증 단계에서는 성립하지만 등록 단계에서는 성립하지 않으며, 규제당국이 문제 삼은 것은 바로 그 등록 단계였습니다.

[한국 관점] 한국은 슈밋이 말한 실험을 두 번 먼저 해본 나라입니다. 첫 번째는 인터넷 실명제, 정확히는 정보통신망법상 제한적 본인확인제입니다. 일정 규모 이상의 사이트에 글을 쓰려면 본인 확인을 거치게 한 제도로, 악성 댓글과 허위정보를 줄이겠다는 목적은 시두가 묘사한 문제의식과 정확히 같았습니다.

그러나 헌법재판소는 2012년 8월 23일 이 제도를 위헌으로 결정했습니다. 표현의 자유를 제약하는 정도에 비해 불법정보 억제 효과가 입증되지 않았고, 오히려 이용자 정보가 대량으로 축적되어 유출 위험을 키운다는 취지였습니다.

두 번째는 생체 기반 인격 증명입니다. 개인정보보호위원회는 2024년 9월 25일 전체회의에서 월드코인(Worldcoin) 재단과 위탁사 툴스포휴머니티에 총 11억 400만 원의 과징금을 부과했습니다. 국내에서 약 3만 명이 홍채 인증을 마친 상태였는데, 수집·이용 목적과 보유 기간을 제대로 고지하지 않았고 홍채 코드를 독일 등으로 이전하면서 법정 고지 의무를 지키지 않았다는 판단이었습니다. 홍채 코드가 변경 불가능한 민감정보라는 점이 제재의 근거였고, 다만 서비스 자체를 막지는 않았습니다.

여기서 한국의 위치가 드러납니다. 슈밋은 이 문제를 기술 쟁점이 아니라 사업상의 결정이라고 정리했지만, 한국에서는 그것이 이미 헌법 쟁점이자 행정 제재의 대상이었습니다. 기업의 선택에 맡겨두면 자유로운 설계도 가능하다는 그의 낙관은, 본인확인 인프라가 주민등록번호 체계 위에 촘촘히 깔려 있는 한국에서는 다르게 읽힙니다. 한국의 질문은 감시국가를 지을 것인가가 아니라, 이미 지어져 있는 확인 체계를 어디까지 AI 시대의 인격 증명으로 전용할 것인가에 가깝습니다.

8. 미래에 대한 꿈

시두가 화제를 바꿉니다. 이제 꿈 이야기를 하자는 것입니다. 그는 슈밋이 키신저와 함께 쓴 『Genesis』에서 조심스러운 낙관의 어조를 취했다는 점을 짚으며, 앞을 내다볼 때 우리가 무엇에 설레야 하느냐고 묻습니다.

슈밋의 답은 개인적인 자리에서 출발합니다. 자신은 친구들이 정말 두려운 병에 걸리기 시작하는 나이가 되었다는 것입니다. 그러면서 연이어 묻습니다. 이제 그것을 고칠 수 있지 않느냐고, 그 병들을 그냥 다 없애버릴 수는 없느냐고, 왜 이 도구들을 가져다가 지금 당장 이 질병들을 박멸하지 못하느냐고요. 그는 그것이 꽤 괜찮은 목표라고 말합니다.

구체적인 사례도 둘 듭니다. 첫째, 앞으로 2년 안에 인간의 모든 약물 표적(druggable target)을 규명해 과학자들에게 공개하려는 비영리 단체 하나를 알고 있다는 것입니다. 약물 표적을 알게 되면 제약 산업이 거기서부터 일을 시작할 수 있습니다.

둘째, 자신이 관여하고 있는 또 다른 기업이 3상 임상시험 비용을 자릿수 단위로 낮추는 방법을 찾아냈다고 하는데, 그는 그렇다고 주장하는 스타트업이었다는 단서를 답니다. 그리고 3상 임상이야말로 궁극적으로 약값의 원가 구조를 결정하는 요소라고 덧붙입니다.

다음은 물리학입니다. 슈밋은 암흑에너지가 어디에 있는지 알고 싶고 그것을 찾아내고 싶다고 말합니다. 암흑에너지와 암흑물질 안에는 엄청난 양의 물리학이 들어 있으리라고 확신한다는 것입니다. 그러면서 거기서 파생될 것들을 열거합니다. 소재과학의 혁명, 비할 바 없이 강력한 운송 수단, 비할 바 없이 강력한 과학 같은 것들입니다.

세 번째 예는 교육이고, 여기서 그의 어조가 가장 날카로워집니다. 왜 지구상의 모든 인간이 자기 언어로 된 개인 교습을 받으며 새로운 것을 배우지 못하고 있느냐는 것입니다. 유치원부터 시작하면 되고, 너무나 자명한 일입니다. 그런데 왜 우리는 그것을 만들지 않았을까요.

슈밋이 내놓는 답은 하나뿐입니다. 좋은 경제적 논리가 서지 않기 때문임이 틀림없다는 것입니다. 기술은 이미 작동하니, 그들의 언어로 가르치고 학습을 게임처럼 만들어 사람들을 각자가 타고난 최선의 상태로 이끌면 된다는 것입니다.

네 번째 예는 의료 접근성입니다. 세계 의료의 압도적 다수는 아예 부재하거나, 전문 간호사에 준하는 인력과 극도로 지쳐 있는 지역 마을 의사들에 의해 제공되고 있다는 것입니다. 왜 그들에게는 자기 언어로 도와주는 의사 보조가 없느냐고 그는 묻습니다. 무엇을 치료하든 완벽한 의료로 도와줄 보조 말입니다.

그러나 슈밋은 디지털 세계의 문제도 인정합니다. 우리 모두가 각자의 배를 타고 바다에 떠 있으면서, 연결과 유대에 굶주려 있으면서도 정작 서로 대화하지 않는 것처럼 느껴진다는 것입니다. 우리는 이 도구들이 우리를 더 외롭게 만들도록 내버려두고 있고, 그것은 고쳐야 합니다.

다만 이것들은 고칠 수 있는 문제라는 것이 그의 판단입니다. 새로운 물리학도 새로운 발견도 필요하지 않고, 우리가 그렇게 하기로 결정하기만 하면 된다는 것입니다.

그리고 절의 마지막에서 그는 가장 큰 주장을 내놓습니다. 이 지능의 도래, 즉 AI 수준에서든 AGI에서든 그 다음의 초지능에서든, 그것은 인류 사회에서 대략 500년, 어쩌면 1,000년 만에 일어날 가장 중요한 사건이며 그 일이 우리 생애 안에 벌어지고 있다는 것입니다. 그러니, 하고 그는 짧게 맺습니다. ‘don’t screw it up’, 망치지 말라고요.

해설 약물 표적은 약물이 결합해 기능을 바꿀 수 있는 단백질 같은 생체 분자를 뜻합니다. 인간 단백질은 2만 종이 넘지만 그중 실제로 약이 붙을 수 있는 것은 일부이고, 현재 승인된 약들이 겨냥하는 표적은 수백 개 수준에 그칩니다. 슈밋이 표적을 알면 제약 산업이 일을 시작할 수 있다고 말한 것은 신약 개발의 출발점 자체가 여전히 좁다는 뜻이며, 그가 언급한 비영리 단체의 이름은 대담에서 밝히지 않습니다.

3상 임상시험은 수백에서 수천 명을 대상으로 유효성과 안전성을 최종 검증하는 단계로, 신약 개발 비용의 대부분이 여기에 몰립니다. 업계 추정으로는 승인 약 한 개당 총비용이 26억 달러 안팎이고 개발 기간은 10년에서 15년, 임상에 진입한 후보의 약 90퍼센트가 중도 탈락합니다. 슈밋이 약값의 원가 구조를 결정한다고 한 것은 이 실패 비용까지 성공한 약의 가격에 얹히기 때문입니다.

암흑에너지와 암흑물질은 우주의 질량·에너지 구성에서 대부분을 차지하면서도 정체가 밝혀지지 않은 것들을 가리킵니다. 빛과 직접 상호작용하지 않아 관측이 어렵고, 은하의 회전 속도나 우주 팽창의 가속을 설명하기 위해 도입된 개념입니다. 슈밋이 이를 찾고 싶다고 표현한 것은 AI가 기존 데이터에서 인간이 놓친 구조를 발견해주기를 기대한다는 뜻으로 읽히며, 앞서 그가 새로운 지식의 발명을 미해결 문제로 꼽았던 것과 짝을 이룹니다.

참고로 교육 사례의 마지막 구절과 500년이라는 수치는 공개 녹취록에서 음성이 끊기거나 중복 표기되어 있어, 확인 가능한 범위에서만 옮겼습니다.

[반론] 질병 박멸이라는 목표에 AI가 얼마나 기여했는지는 아직 논쟁적입니다. 2026년 초 기준으로 AI로 발굴된 신약 중 미 FDA의 정식 승인을 받은 것은 하나도 없습니다. 200종 이상이 임상 단계에 들어가 있고 그중 15종가량이 3상에 있지만, 최종 관문을 통과한 사례는 없습니다.

실패 사례도 축적되어 있습니다. 2020년 1월 AI가 설계한 최초의 약물로 임상에 진입한 엑스사이언시아의 DSP-1181은 2022년 1월 조용히 중단되었고, 베네볼런트AI의 아토피피부염 치료제 BEN-2293은 2023년 4월 2a상에서 유효성 지표를 충족하지 못해 180명 감원으로 이어졌습니다. 2025년 『Nature Medicine』에 실린 인실리코메디슨의 2a상 논문조차 AI로 발굴된 약물들이 그렇지 않은 약물과 비슷한 수준으로 2상에서 실패해 왔으며 아직 3상을 통과한 사례가 없다고 명시했습니다.

회의론자들이 지적하는 구조적 이유도 있습니다. 보스턴컨설팅그룹의 2024년 분석에서 AI 발굴 분자의 1상 성공률은 80-90퍼센트로 높았지만 2상에서는 약 40퍼센트로 떨어져 업계 평균과 다르지 않았습니다. 1상은 안전성만 보므로 통과가 쉽고, 진짜 관문은 인체에서 실제로 듣는지를 보는 2상인데 그 단계의 환자 수는 수백 명에 불과해 딥러닝이 학습할 만한 데이터가 애초에 없다는 것입니다.

[한국 관점] 왜 모든 아이에게 모국어 개인 교사를 주지 못하는가, 답은 경제성뿐이라는 슈밋의 진단은 한국에서 곧바로 반례에 부딪힙니다. 한국은 그 경제적 장벽을 국가 예산으로 넘어선 거의 유일한 나라였기 때문입니다.

교육부는 2023년 6월 AI 디지털교과서 추진 방안을 발표하고 2025년 3월부터 초등 3·4학년과 중1·고1의 수학·영어·정보 과목에 도입했습니다. 학생 개개인의 수준을 진단해 맞춤형 학습을 제공한다는 취지로, 슈밋이 묘사한 개인 교습의 공교육판이었습니다.

결과는 그의 가설과 달랐습니다. 2025년 전국 초중고 채택률은 약 33퍼센트에 그쳤고, 국회에서는 실제 접속률이 10퍼센트에도 미치지 못한다는 지적이 나왔습니다. 결국 2025년 8월 4일 국회가 초·중등교육법을 개정해 AI 디지털교과서의 법적 지위를 교과용 도서에서 교육자료로 낮췄고, 의무 채택이 사라지면서 2026년에는 AI 교육자료라는 이름의 자율 선택 제도로 운영되고 있습니다.

여기서 드러난 것은 슈밋이 빠뜨린 변수입니다. 걸림돌은 경제적 논리만이 아니라 교사의 수용, 효과성 검증의 부재, 학생의 기기 사용 시간에 대한 학부모의 우려, 그리고 정권 교체에 따라 뒤집히는 정책의 지속성이었습니다. 기술은 이미 작동한다, 우리가 결정하기만 하면 된다는 그의 문장은 한국이 실제로 결정했을 때 무엇이 남는지를 보여주는 사례 앞에서 다시 검토될 필요가 있습니다. 동시에 이 경험은 한국이 세계에서 가장 이른 시점에 대규모 실증 데이터를 확보한 나라라는 뜻이기도 합니다.

9. AI 시대의 인간

시두가 앞 절의 마지막 말을 받아 조건을 세웁니다. 우리가 망치지 않았다고 해봅시다. 급진적 풍요(radical abundance)의 세계로 들어섰고, 재귀적 자기개선의 지점에 도달했으며, AI 시스템이 경제적으로 생산적인 업무의 압도적 다수를 떠맡았다고 해봅시다. 그러면 이 미래에서 인간은 무엇을 하게 되느냐는 질문입니다.

슈밋의 첫 반응은 농담 섞인 반격입니다. 이 기술 진보주의자 같으니, 당신은 분명 보편기본소득(UBI)에 찬성하겠구먼, 하는 식입니다. 그러고 나서 그가 내놓는 전제는 의외로 보수적입니다. 이 엄청난 발견의 한복판에서도 인간은 변하지 않는다는 것입니다.

이어지는 예시는 냉소적입니다. 우리가 정말 변호사를 없앨 것 같으냐고 그는 묻고, 아니라고 답합니다. 변호사들은 그저 더 정교한 소송을 하게 될 뿐입니다. 정치인은 없어질 것 같으냐고도 묻는데, 역시 아니고 그들은 그저 당신을 오도할 플랫폼을 더 많이 갖게 될 뿐입니다.

그리고 진짜 논점으로 넘어갑니다. 이 새로운 경제학에서 이해해야 할 핵심은, 사회 전체로서 우리가 충분한 수의 인간을 낳고 있지 않다는 사실이라는 것입니다. 그가 근거로 드는 것은 아시아의 재생산율입니다. 부모 두 사람당 사실상 1.0이라는 것이고, 이것은 좋지 않다고 그는 말합니다.

여기서 그의 전망이 나옵니다. 우리 남은 생애 동안 핵심 문제는, 생애에서 생산적인 시기에 있는 사람들을 더 생산적으로 만들어 자신 같은 노인들을 부양하게 하는 것이 될 것이라는 이야기입니다. 그리고 그 노인들은 젊은 사람들에게 더 많은 것을 내놓으라고 투덜댈 것이라고 그는 자조합니다. 그것이 앞으로 돌아갈 방식이고, 이 도구들이 바로 그 생산성을 급격히 끌어올릴 것이라는 결론입니다.

마지막으로 그는 수치 하나를 인용합니다. 에이전트형 AI와 발견, 그리고 자신이 묘사한 규모를 둘러싼 일련의 가정 아래에서, 다만 가정이 아주 많다는 단서를 달며, 연 30퍼센트의 생산성 증가 같은 결과가 나온다는 연구가 있다는 것입니다.

그런데 그가 덧붙이는 관찰이 더 흥미롭습니다. 여러 경제학자와 이야기해본 결과, 그들에게는 그 정도 생산성 증가가 어떤 모습인지 설명할 모형이 아예 없다는 것입니다. 우리는 그런 것을 본 적이 없고, 역사상 어떤 민주국가나 왕국의 융성 과정에서도 일어난 적이 없다는 것입니다. 앞으로 벌어질 일은 믿기 어려울 정도이며, 바라건대 그것을 올바른 방향으로 끌고 가게 되기를 바란다는 말로 그는 절을 맺습니다.

해설 보편기본소득은 자산이나 근로 여부를 따지지 않고 모든 구성원에게 일정 금액을 정기적으로 지급하는 제도입니다. 실리콘밸리에서는 자동화로 일자리가 사라질 경우의 대안으로 자주 거론되어 왔고, 슈밋이 시두를 기술 진보주의자라고 부른 것은 그 통념을 가볍게 비꼰 것입니다. 정작 그 자신은 기본소득에 답하지 않고 화제를 인구 문제로 돌립니다.

슈밋이 말한 부모 두 사람당 1.0은 합계출산율(total fertility rate)이 1 언저리라는 뜻으로, 한 세대가 지날 때마다 인구가 절반으로 줄어드는 속도를 의미합니다. 인구가 유지되려면 약 2.1이 필요합니다. 그의 아시아 지목은 근거가 있어서, 2024년 일본의 합계출산율은 1.15로 사상 최저였고 한국은 그보다 훨씬 낮습니다.

연 30퍼센트라는 숫자의 크기를 가늠하려면 복리로 따져보는 편이 빠릅니다. 매년 30퍼센트씩 늘면 생산성은 약 2.6년마다 두 배가 되고 10년이면 13배를 넘는데, 1947년 이후 미국의 생산성 증가율은 연평균 2퍼센트 안팎이었습니다. 경제학자들에게 모형이 없다는 그의 말은 과장이 아니라 표준적인 성장 모형이 다루는 범위 자체를 벗어난 수치라는 뜻이며, 그는 이 수치의 출처를 밝히지 않습니다.

[반론] 주류 경제학의 추정치는 슈밋이 인용한 숫자와 자릿수가 다릅니다. 대런 아제모을루(Daron Acemoglu)는 2024년 논문 「The Simple Macroeconomics of AI」에서, 향후 10년간 AI가 총요소생산성(TFP)을 0.53-0.66퍼센트 높이는 데 그칠 것으로 추정했습니다. 연율로 환산하면 약 0.06퍼센트입니다.

투자 반응까지 감안한 GDP 증가 효과도 10년간 0.93-1.16퍼센트, 상한을 넓게 잡아도 1.4-1.56퍼센트였습니다. 그의 논지는 단순합니다. AI의 효과가 과제 단위의 비용 절감에서 나오는 한, 거시적 효과는 영향을 받는 과제가 전체 GDP에서 차지하는 비중에 그 비용 절감률을 곱한 값으로 묶인다는 것입니다.

아제모을루는 AI가 잘 다루는 것이 학습하기 쉬운 과제들에 치우쳐 있어 0.66퍼센트조차 과대추정일 가능성이 있다고 봅니다. 이 추정은 낙관론 진영과도 크게 어긋나는데, 맥킨지(McKinsey)와 골드만삭스(Goldman Sachs) 계열의 전망은 AI가 연평균 GDP 성장률을 1.5-3.4퍼센트포인트 끌어올린다고 보기 때문입니다.

그리고 그 낙관론조차 슈밋이 인용한 연 30퍼센트와는 자릿수가 다릅니다. 물론 슈밋 자신도 가정이 아주 많다는 단서를 달았으므로, 이 대목은 그가 확신을 밝힌 것이라기보다 기존 경제 모형이 감당하지 못하는 시나리오가 논의되고 있다는 사실을 전한 것에 가깝게 읽어야 합니다.

[한국 관점] 슈밋이 아시아의 재생산율을 보라고 할 때, 그 문장의 가장 극단적인 사례가 한국입니다. 합계출산율은 2018년 0.98로 처음 1 아래로 떨어진 뒤 2023년 0.72까지 내려가 역대 최저를 기록했습니다. OECD 38개국 중 최하위 자리를 2013년부터 이어오고 있으며, 두 번째로 낮은 폴란드와도 격차가 큽니다.

다만 그가 말한 시점 이후의 흐름은 단선적이지 않습니다. 출산율은 2024년 0.75, 2025년 0.80으로 2년 연속 반등했고, 2026년에는 0.9명대 회복 가능성이 거론되고 있습니다. 저출산고령사회위원회의 분석에 따르면 이 반등은 배우자가 있는 30대 여성이 주도하고 있으며, 소득 상위 30퍼센트 집단의 출산율은 2023년 0.84에서 2025년 0.95로 오른 반면 하위 30퍼센트는 하락 폭이 다소 둔화되는 데 그쳤습니다.

슈밋의 처방, 즉 생산 연령 인구의 생산성을 끌어올려 고령층을 부양한다는 해법은 한국에서 이미 국가 전략의 골격입니다. 65세 이상 인구가 전체의 20퍼센트를 넘어선 초고령사회에 진입했고, 한국은 제조업 로봇 밀도에서 세계 최상위권을 유지해 왔습니다.

그러나 여기에 한국 고유의 조건이 붙습니다. 첫째, 인구 감소는 부양 부담만이 아니라 국방과 지방 소멸의 문제이기도 해서 생산성 향상으로 대체되지 않는 영역이 있습니다. 둘째, 한국의 노인 빈곤율은 OECD 최고 수준이어서 부양할 노인의 상당수가 이미 부양받지 못하고 있습니다. 즉 생산성 증가분이 자동으로 고령층에게 흘러간다는 전제는, 분배 구조가 그것을 매개할 때만 성립합니다.

10. 마지막 조언

시두가 마무리를 청합니다. 그는 슈밋이 수십 년간 기술 변화를 헤쳐온 사람이라는 점을 짚고, 이 AI 전환기를 통과하고 있는 모든 사람을 위한 조언을 청합니다. 기술자든 리더든 시민이든, 설렘과 불안이 뒤섞인 채로 이 미친 순간을 지나고 있는 사람들에게 건넬 한 가지 지혜가 무엇이냐는 것입니다.

슈밋의 첫 문장은 속도에 관한 것입니다. 이것은 단거리 질주가 아니라 마라톤이라는 사실을 기억하라는 것입니다. 그러면서 개인적인 실패담을 꺼냅니다. 어느 해에 100마일 자전거 대회에 나가기로 결심했는데 그것이 실수였다는 것이고, 거기서 그가 배운 것이 회전수(spin rate)였습니다. 매일 일어나서 그저 계속 가는 것, 그것이 요점이라는 이야기입니다.

다음으로 그는 시두와 구글에서 함께 일했던 경험을 꺼냅니다. 우리가 성장하던 속도로 성장하면 1년 동안 엄청나게 많은 일을 해내는데, 정작 자신이 얼마나 멀리 왔는지를 잊어버린다는 것입니다. 인간은 그것을 이해하지 못한다고 그는 단언합니다.

그리고 지금 우리가 놓인 상황을 그 위에 겹칩니다. 지수함수가 이런 식으로 치솟고 있고, 일이 점점 더 빨리 벌어지면서 2년 전이나 3년 전에 무엇이 참이었는지를 잊게 되리라는 것입니다. 그것이 핵심이라고 그는 말합니다.

그래서 나오는 조언이 이 대담에서 가장 자주 인용되는 대목입니다. 파도를 타되 매일 타라는 것입니다. 이것을 간헐적인 사건으로 여기지 말라는 것이지요. 일부는 이미 발을 담갔겠지만, 이해하고 그 위에 무언가를 쌓아 올리라고 그는 주문합니다.

그러고 나서 대상을 넓힙니다. 여러분 한 사람 한 사람에게 이 기술을 쓸 이유가 있다는 것입니다. 예술가든 교사든 의사든 사업가든 기술자든 마찬가지입니다. 이 기술을 쓰지 않는다면 동료 집단과 경쟁자들, 그리고 성공하고자 하는 사람들에 비해 무의미한 존재가 되고 말 것이며, 받아들이되 빠르게 받아들이라는 것이 그의 결론입니다.

마지막으로 그는 구체적인 사례 하나를 붙입니다. 이 시스템들이 얼마나 빠른지에 자신도 충격을 받았다며, 곁가지 이야기라면서 자신의 배경이 기업용 소프트웨어라는 점을 밝힙니다. 그리고 요즘에는 앤트로픽(Anthropic)에서 나온 모델 프로토콜이 있어서, 커넥터를 하나도 거치지 않고 모델을 데이터베이스에 직접 연결할 수 있다고 소개합니다.

이 이야기가 너무 기술자스럽게 들린다는 것을 그도 압니다. 그러나 요점은 그 다음입니다. 이제 이런 유연성이 생겼기 때문에 거기 있던 산업 하나가 통째로 사라진다는 것입니다. 원하는 것을 말하기만 하면 그대로 만들어지기 때문입니다. 그는 이것이 비즈니스에서 벌어지는 진짜 변화의 한 예이며 이런 일들이 매일같이 쏟아져 들어오고 있다고 말하며 대담을 맺습니다.

해설 회전수는 자전거에서 페달을 분당 몇 바퀴 돌리는지를 뜻하는 케이던스를 가리킵니다. 장거리 주행에서는 무거운 기어로 힘껏 밟는 것보다 가벼운 기어로 일정한 회전수를 유지하는 편이 근육 피로를 늦춰 완주 확률을 높입니다. 슈밋이 100마일 완주 경험에서 이 개념을 꺼낸 것은, 단발적으로 몰아치는 학습보다 매일 같은 강도로 접촉을 유지하는 쪽이 결국 멀리 간다는 비유입니다.

그가 언급한 앤트로픽의 모델 프로토콜은 모델 컨텍스트 프로토콜(Model Context Protocol, MCP)입니다. 앤트로픽이 2024년 11월 25일 공개한 개방형 표준으로, AI 모델을 사내 문서 저장소나 업무 도구, 데이터베이스에 연결하는 방식을 하나로 통일하는 규격입니다. 종래에는 데이터 소스마다 별도의 커넥터를 만들어 유지해야 했는데, 그 조각난 연동을 단일 프로토콜로 대체한다는 발상입니다.

채택 속도가 슈밋의 논지를 뒷받침합니다. 경쟁사인 오픈AI는 2025년 3월 26일 자사 제품 전반에 MCP 지원을 추가한다고 밝혔고, 구글 딥마인드(Google DeepMind)도 4월에 지원을 발표했습니다. 즉 슈밋이 무대에 선 4월 11일은 경쟁사의 표준을 업계 1위가 받아들인 지 보름 남짓 된 시점이었습니다. 이후 MCP는 2025년 12월 리눅스 재단으로 이관되어 특정 기업의 프로토콜이 아니라 산업 인프라가 되었습니다.

[이해관계] 이 대담의 형식 자체를 한 번 짚어둘 만합니다. 슈밋이 구글에서 우리가 함께 일할 때라고 말한 데서 드러나듯, 진행자인 시두는 구글에서 슈밋과 같은 조직에 몸담았던 사람입니다. 즉 이것은 외부 기자의 검증 인터뷰가 아니라 전직 동료 사이의 대화에 가깝습니다.

실제로 시두가 던진 질문들은 날카롭되 슈밋의 프레임을 근본에서 흔들지는 않습니다. 벤지오의 주장을 소개할 때도, 오픈소스의 모순을 지적할 때도 슈밋의 답이 나온 뒤 재반론으로 밀어붙이지는 않았습니다.

마지막 조언의 내용도 그의 위치와 겹칩니다. 쓰지 않으면 무의미해진다, 빠르게 받아들여라라는 권고는 AI 인프라와 응용 기업에 폭넓게 투자해 온 사람이 할 때 가장 이해하기 쉬운 문장이기도 합니다. 슈밋은 알파벳 지분에서 나온 자산으로 벤처 투자사와 재단을 운영하며 AI·방산·우주 전반에 자본을 넣어 왔고 현재는 로켓 기업의 CEO입니다. 채택 속도가 빨라질수록 이득을 보는 포지션에서 채택 속도를 높이라고 말하고 있다는 사실은, 주장의 옳고 그름과 별개로 기록해 둘 필요가 있습니다.

[한국 관점] 커넥터 산업 하나가 통째로 사라진다는 슈밋의 예시는 한국에서 훨씬 큰 그림자를 드리웁니다. 한국의 기업용 IT 시장은 대기업 계열 시스템통합(SI) 회사들이 오랫동안 중심을 차지해 왔고, 이들 매출의 상당 부분이 바로 슈밋이 말한 연동 업무, 즉 서로 다른 시스템을 이어 붙이고 유지보수하는 일에서 나옵니다. 미국에서는 이 영역이 독립된 소프트웨어 제품 시장으로 형성되어 있는 반면, 한국에서는 인력 투입형 용역 구조로 짜여 있다는 차이가 있습니다.

이 차이가 충격의 방향을 바꿉니다. 제품 시장은 표준이 바뀌면 제품을 갈아타면 되지만, 인력 투입형 용역은 표준이 연동 비용을 없애는 순간 그 인력의 근거가 함께 사라집니다. MCP 같은 표준이 확산될수록 한국에서 위험에 노출되는 것은 소프트웨어 라이선스 매출이 아니라 사람의 일감입니다.

다만 반대 방향의 조건도 있습니다. 한국 기업의 데이터는 온프레미스와 폐쇄망에 남아 있는 비중이 높고, 금융과 공공 부문에는 망분리를 비롯한 규제가 걸려 있어 모델이 데이터베이스에 직접 붙는 구조를 곧바로 적용하기 어렵습니다.

말하기만 하면 그대로 만들어지는 상태까지 가는 데 한국이 더 오래 걸릴 가능성이 크다는 뜻인데, 이는 유예이자 동시에 그가 경고한 동료와 경쟁자 대비 무의미해지는 지연이기도 합니다. 그가 개인에게 준 조언을 한국의 조직 단위로 옮기면, 질문은 도구를 쓸 것이냐가 아니라 규제와 데이터 구조를 언제 어떻게 바꿀 것이냐가 됩니다.

원문: Eric Schmidt, Bilawal Sidhu, The AI Revolution Is Underhyped (TED2025) (Apr 2025) 전문은 원문에서 확인하실 수 있습니다.

참고할만한 글

에릭 슈밋 – 스탠퍼드 강연: AI의 시대 (Stanford Lecture: The Age of AI) — 같은 저자가 스탠퍼드 강의실에서 한 긴 대담으로, TED에서 압축해 말한 주장의 근거와 사례가 더 많이 담겨 있습니다.
다리오 아모데이 – 프런티어의 속도를 조절해야 한다 (We Must Pace the Frontier) — 개발 속도를 조절하자는 정반대 방향의 제안을 담은 글로, 슈밋의 논리와 대비해 읽을 만합니다.
레오폴드 아셴브레너 – 상황 인식 (Situational Awareness) — 미국과 중국의 AI 경쟁을 국가안보의 관점에서 길게 논증한 글로, 슈밋의 지정학적 진단과 비교할 수 있습니다.

에릭 슈밋 – AI 혁명은 과소평가되어 있다 (The AI Revolution is Underhyped)

글의 배경과 개요