벤 뷰캐넌 – 정부는 AGI가 온다는 걸 안다 (The Government Knows AGI is Coming)

원문: Ben Buchanan, The Government Knows A.G.I. is Coming (The Ezra Klein Show) (Mar 2025)
전문은 원문에서 확인하실 수 있습니다. 아래 글은 번역이 아니라, 벤 뷰캐넌의 논증을 한국어로 재구성한 정리입니다.

글의 배경과 개요

에즈라 클라인(Ezra Klein)은 뉴욕타임스(The New York Times) 오피니언 칼럼니스트이자 팟캐스트 에즈라 클라인 쇼(The Ezra Klein Show)의 진행자이고, 벤 뷰캐넌(Ben Buchanan)은 조 바이든(Joe Biden) 행정부 4년 내내 백악관에서 일하며 AI 특별보좌관을 지낸 인물입니다. 이 대담은 2025년 3월, 정권이 도널드 트럼프(Donald Trump)에게 넘어간 직후에 공개됐습니다. 대담이 답하려는 질문은 둘입니다. 정부 안에서 정보를 가장 가까이에서 본 사람이 보기에 범용인공지능(AGI)은 정말 임박했는가, 그리고 미국은 거기에 얼마나 준비돼 있는가입니다. 두 사람은 임박했다는 판단에서 출발해 국가안보, 감시와 민주주의, 수출통제와 딥시크, 안전 규제와 가속, 노동시장 충격을 차례로 지나가며 정책이 있어야 할 자리에 무엇이 비어 있는지를 확인합니다.

핵심 내용 정리

클라인은 AI 연구소와 정부 양쪽에서 AGI가 2-3년 안에 온다는 말을 반복해 들었고, 사회는 준비돼 있지 않다고 말합니다.
뷰캐넌은 AGI라는 용어를 꺼리면서도, 인지 과업 대부분을 해내는 시스템이 트럼프 임기 안에 나올 가능성이 높다고 말합니다.
뷰캐넌은 AI가 국방부 예산으로 길러지지 않은 첫 혁명적 기술이어서, 정부가 기술을 이해하고 방향을 형성할 역량을 기본값으로 갖지 못했다고 진단합니다.
중국보다 먼저 도달해야 한다는 전제에는 두 사람이 모두 동의하지만, 뷰캐넌은 수출통제로 번 시간을 질주가 아니라 안전과 조율에 써야 한다고 말합니다.
뷰캐넌은 딥시크(DeepSeek)를 둘러싼 언론의 과열이 정당하지 않았고, 중국은 여전히 컴퓨트 제약에 묶여 있으므로 통제의 나사를 더 조여야 한다고 봅니다.
뷰캐넌은 안전과 기회가 근본적으로 충돌한다는 이분법에 반대하며, 철도의 안전 기준이 오히려 철도를 키웠다고 말합니다.
뷰캐넌은 노동시장 충격이 불균등하게 올 것이며 바이든 행정부도 답을 갖지 못했고, 재훈련도 보편기본소득(UBI)도 충분한 답이 아니라고 인정합니다.

2-3년 안에 온다는 말

사람들이 찾아와 같은 말을 한다

클라인은 지난 몇 달 동안 이상한 경험을 반복했다는 말로 대담을 엽니다. AI 연구소에서, 또 정부에서 일하는 사람들이 서로 약속한 적도 없이 각자 찾아와 똑같은 말을 했다는 것입니다. 정말로 곧 일어난다는 말이었습니다. 여기서 말하는 것은 AGI, 곧 거의 모든 과업에서 거의 모든 인간보다 나은 AI 시스템입니다.

예전에 이들은 5-10년, 길게는 10-15년을 말했는데 이제는 2-3년 안을 말합니다. 많은 사람이 아직 모르지만 AI는 트럼프의 두 번째 임기 안에 큰 사건이 될 것이고, 클라인은 그 판단이 맞다고 봅니다. 그리고 우리는 준비돼 있지 않습니다. 준비한다는 것이 무엇을 뜻하는지조차 분명하지 않기 때문입니다. 노동시장이 어떻게 반응할지, 어느 나라가 먼저 도달할지, 전쟁과 평화에 각각 무엇을 의미할지 아무도 모릅니다.

세상에 다룰 일이 많지만, 훗날 이 시대를 돌아볼 때 결국 중요했던 것은 이 일이었다고 말하게 될 가능성이 상당하다고 클라인은 말합니다. 그 앞과 뒤가 서로 다른 세계가 되는 사건의 지평선(event horizon)이라는 것입니다. 그에게 연락해 온 사람 중 하나가 뷰캐넌이었습니다. 바이든 행정부가 끝난 뒤 많은 전직 관료가 자기들이 해낸 좋은 일을 알리려고 전화를 걸어 왔는데, 뷰캐넌은 앞으로 올 것을 경고하려는 쪽이었습니다.

[이해관계]
뷰캐넌은 2021년부터 2025년까지 바이든 백악관에서 일했고, 국가안보회의에서 AI 특별보좌관과 기술·국가안보 담당 국장을 맡았으며 백악관 과학기술정책실(OSTP)에서도 보조 국장을 지냈습니다. 이 대담에서 그가 옹호하는 수출통제와 대통령 행정명령, 국가안보각서(National Security Memorandum)는 모두 그 자신이 설계와 집행에 관여한 정책입니다.

지금은 존스홉킨스대학교(Johns Hopkins University) 국제관계대학원 교수이고, 그 전에는 조지타운대학교(Georgetown University) 안보·신흥기술센터(CSET)에서 사이버AI 프로젝트를 이끌었습니다. AI와 사이버안보, 국가안보를 다룬 책을 세 권 썼습니다. 기업이 아니라 학계와 정부만 오간 경력이라는 점은, 그가 이것이 기업의 과장이 아니라고 말할 때 실제로 기대는 근거이기도 합니다.

추세선은 분명했다

뷰캐넌이 말하는 것은 엄청나게 유능한 AI 시스템입니다. AGI라는 용어 자체는 좋아하지 않지만, 앞으로 몇 년 안에 그 말에 들어맞는 것이 나올 가능성이 꽤 높다고 봅니다. 이것이 늘 기업의 과장이거나 억측이었다는 시각이 있는데, 백악관이라는 분명히 기업이 아닌 자리에서 본 추세선은 매우 분명했다고 그는 말합니다. 대통령의 지휘 아래 백악관이 하려 한 일은, 그런 시스템이 도착하기 전에 미국 정부와 사회를 준비시키는 것이었습니다.

이 대목에서 클라인은 뷰캐넌이 AGI라고 말할 때마다 그 용어를 싫어한다는 단서를 달면 좋겠다고, 그래야 학습 데이터에 박힐 것이라고 농담합니다. AGI의 표준 정의는 인간이 하는 거의 모든 인지 과업을 해낼 수 있는 시스템입니다. 뷰캐넌은 앞으로 4년 안에 그 정의를 그대로 충족하는 것이 나올지는 모르겠다고 말합니다. 다만 폭이 놀라운 수준이고 깊이도 있어서, 인지 분야를 가리지 않고 어떤 경우에는 인간의 능력을 넘어서는 시스템은 보게 될 것이라고 봅니다.

클라인이 인지적으로 까다로운 직업에서 인간을 대체할 수 있는 시스템이냐고 확인하자, 뷰캐넌은 그렇다고, 또는 그런 직업의 핵심 부분을 대체하는 것이라고 답합니다. AGI라는 말은 꺼리면서도 그에 해당하는 시스템이 트럼프 임기 안에 나온다고 보는 것이 전직 최고 AI 보좌관의 전망입니다.

클라인은 자신도 회의론자로서 묻는 것이 아니라고 말합니다. 다만 그런 세계에 정신적으로 살아보는 일은 여전히 어렵고, 뷰캐넌도 같다고 답합니다. 그러면서 클라인은 최근에 딥리서치(deep research)를 써본 경험을 꺼냅니다. 매디슨식 헌정 체제와 오늘날의 고도로 양극화되고 전국화된 정당 사이의 긴장을 주제로 보고서를 요청했더니, 몇 분 만에 나온 결과물이 자신이 함께 일해 온 대단히 유능한 프로듀서들이 며칠에 걸쳐 만들 결과물의 중간값 정도는 됐다고 말합니다. 그는 이것이 값비싼 요금제에서만 쓸 수 있어 대부분의 사람은 써보지 못했을 것이라는 단서를 답니다.

해설
클라인이 말한 딥리서치는 오픈AI(OpenAI)가 2025년 2월 초에 내놓은 기능입니다. 질문을 받으면 스스로 웹을 돌며 여러 출처를 읽고 출처를 단 보고서를 작성하는 방식이고, 출시 당시에는 월 200달러짜리 상위 요금제에서 월 100회 한도로만 쓸 수 있었습니다. 대담이 공개되기 직전인 2월 말에야 보급형 유료 요금제로 확대됐습니다.

코딩을 많이 하는 회사들의 이야기도 같은 방향입니다. 클라인이 들은 바로는 올해 말이나 내년 말이면 대부분의 코드를 사람이 쓰지 않게 될 것으로 그들은 예상합니다. 클라인은 이것이 노동시장에 영향을 주지 않을 길이 보이지 않는다고 말하고, 뷰캐넌은 자신이 노동경제학자는 아니라고 전제하면서도 그 말이 맞다고 봅니다.

뷰캐넌이 즐겨 인용하는 윌리엄 깁슨(William Gibson)의 문장이 하나 있습니다. 미래는 이미 와 있고, 다만 고르게 퍼지지 않았을 뿐이라는 말입니다. 이 기술을 직접 붙잡고 써보지 않으면 지금 그것이 얼마나 좋은지 알기 어렵습니다. 그리고 더 중요한 사실은 오늘이 앞으로 가장 나쁜 날이라는 점입니다. 앞으로는 나아지기만 하고, 백악관이 추적하던 것도 다음 백악관과 미국 전체가 짧은 시간 안에 따라잡아야 할 것도 바로 그 동학입니다.

국방부가 돈을 대지 않은 첫 기술

뷰캐넌이 검토하거나 집행한 거의 모든 AI 정책을 관통하는 지적 축이 하나 있습니다. AI는 오랜만에 처음으로, 국방부 예산으로 길러지지 않은 혁명적 기술이라는 것입니다. 지난 100년을 돌아보면 핵무기, 우주, 인터넷 초기, 마이크로프로세서 초기, 대규모 항공, 레이더, GPS가 모두 국방부 돈에서 나왔고, 목록은 훨씬 깁니다.

그 중심적 역할이 국방부와 미국 정부에 두 가지를 주었습니다. 하나는 기술 자체에 대한 이해이고, 다른 하나는 그 기술이 어디로 갈지를 형성할 역량입니다. AI에서는 그 이해도 그 역량도 기본값으로는 주어지지 않습니다.

[반론]
이 대담에 대해서는 AI 회의론 쪽에서 반박이 나왔습니다. 게리 마커스(Gary Marcus)는 서브스택(Substack) 뉴스레터에 쓴 「Ezra Klein’s new take on AGI – and why I think it’s probably wrong」에서, 클라인이 지나친 확신을 가지고 AGI 임박을 선언했다고 비판했습니다.

클라인이 그렇게 믿게 된 이유를 끝까지 제대로 밝히지 못했고, 딥리서치를 써본 긍정적 경험을 언급한 것 말고는 업계와 정부 사람들이 그렇게 말한다는 수준에 머물렀다는 지적입니다.

중국보다 먼저라는 전제

유일하게 다투지 않는 전제

클라인은 미국에서 AI를 둘러싼 논쟁이 많지만 거의 다투어지지 않는 것이 하나 있다고 짚습니다. 사실상 보편적으로 합의되고, 그의 표현으로는 정책을 지배하고 통제하는 우선순위입니다. 중국보다 먼저 AGI에 도달해야 한다는 것입니다. 왜 그런지를 묻자 뷰캐넌은 AGI 혹은 변혁적 AI(transformative AI)에 도달하면 그 아래로 심대한 경제적·군사적·정보적 역량이 따라 나온다고 답합니다. 미국이 AI를 계속 선도하는 일은 미국 국가안보에 근본적이라는 것입니다.

그가 적잖이 떠올렸다는 문장은 존 F. 케네디(John F. Kennedy)의 1962년 라이스대학교(Rice University) 연설에서 나옵니다. 사람들은 10년 안에 달에 가겠다는 대목, 쉬워서가 아니라 어렵기 때문에 간다는 대목만 기억합니다.

그런데 뷰캐넌이 더 낫다고 보는 문장은 연설 끝에 있습니다. 우주과학이든 핵과학이든 모든 기술은 그 자체의 양심을 갖고 있지 않으며, 그것이 선의 힘이 될지 악의 힘이 될지는 인간에게 달려 있다는 말입니다. 그리고 미국이 우위의 자리를 차지해야만 이 새로운 바다가 평화의 바다가 될지 새롭고 끔찍한 전쟁터가 될지를 결정하는 데 힘을 보탤 수 있다는 것입니다.

뷰캐넌은 AI에도 그 말이 맞다고 봅니다. 이 기술에는 엄청난 불확실성이 있고, 자신은 AI 전도사가 아니며 거대한 위험이 있다고 생각한다고 분명히 합니다. 그래도 기술이 어디로 갈지를 형성하는 데 미국이 맡을 근본적 역할이 있다는 것입니다. 이는 국제적으로 일하지 말자거나 중국과 일하지 말자는 뜻이 아니고, 대통령 행정명령에도 AI 안전에서라면 경쟁자와도 협력할 뜻이 있다는 문장이 들어 있습니다. 다만 미국이 저버릴 수 없는 역할이 있다는 것은 그가 꽤 깊이 믿는 바입니다.

중국이 먼저 도달한 세계

클라인이 그 세계를 그려 달라고 하자 뷰캐넌은 정보 분석과 사이버 작전이라는 좁은 사례를 꺼냅니다. 훨씬 강력한 AI 능력을 가지면 공격과 방어 양쪽에서 사이버 작전을 더 잘하게 된다는 것은 이미 공개적으로 알려진 이야기입니다. 사이버 작전이란 적의 네트워크에 침입해 정보를 수집하는 일인데, 수집량이 충분히 커지면 그 분석도 AI가 도울 수 있습니다.

그래서 백악관은 미국 국방고등연구계획국(DARPA)을 통해 AI 사이버 챌린지(AI Cyber Challenge)라는 큰 사업을 벌였습니다. 방어에 초점을 맞춘 것은, AI가 사이버 작전을 수행하는 방식 자체를 근본적으로 바꿀 수 있다고 보기 때문입니다. 중국이 공격과 방어 양쪽에서 그 능력을 갖는데 미국은 갖지 못한 세계에서는 살고 싶지 않다는 것이 뷰캐넌의 답입니다. 국가안보 경쟁의 핵심을 이루는 다른 여러 영역에서도 사정은 같다고 그는 덧붙입니다.

[사후 맥락]
뷰캐넌이 언급한 AI 사이버 챌린지는 오픈소스 코드에서 취약점을 자동으로 찾아 고치는 시스템을 겨루는 2년짜리 경연이었습니다. 대담이 공개되고 다섯 달 뒤인 2025년 8월, 라스베이거스에서 열린 해커 콘퍼런스 데프콘 33(DEF CON 33)에서 결선이 끝났습니다.

우승은 400만 달러를 받은 팀 애틀랜타(Team Atlanta)였고, DARPA는 결선에 오른 시스템들을 오픈소스로 공개해 방어하는 쪽이 곧바로 쓸 수 있게 하겠다고 밝혔습니다. 균형을 방어 쪽으로 옮기려 했다는 그의 설명은, 적어도 이 사업에서는 공개 도구라는 결과물로 남았습니다.

공격이 유리해지는 전환기

클라인은 이미 대부분의 사람과 기관이 유능한 국가 행위자 앞에서는 꽤 해킹 가능한 상태라고 봅니다. 전부는 아니어도 많은 경우에 그렇습니다. 이제 그 국가 행위자들은 해킹을 더 잘하게 되고, 인간 해커보다 훨씬 많은 수의 AI 해커를 둘 수 있으니 수행할 수 있는 양도 커집니다. 국가가 염탐하려는 대상만이 아니라 온갖 나쁜 행위자들이 이 시스템의 변종을 갖게 되는 상황까지 포함해, 보통 사람으로서 훨씬 더 취약한 세계로 들어가는 것이냐고 그는 묻습니다.

뷰캐넌의 답은 양쪽을 다 봅니다. 해킹이란 소프트웨어에서 취약점을 찾아내 그것을 악용해 불법 접근을 얻는 일이고, 더 강력한 AI는 그 모든 단계를 쉽게 만들어 공격 측에 이점을 줍니다. 동시에 더 강력한 AI는 방어 측에서도 애초에 더 안전한 코드를 쓰게 하고, 발견될 수 있는 취약점의 수를 줄이고, 들어온 해커를 더 잘 탐지하게 해줍니다. 백악관은 그 균형을 가능한 한 방어 쪽으로 옮기려 했다고 그는 말합니다.

그래도 앞으로 몇 년의 전환기에 생길 일 하나는 인정합니다. 최신 AI 방어 기법의 혜택을 보지 못하는 낡은 레거시 시스템이 더 유능해진 공격자 앞에서 전체적으로 더 취약해지는 기간이 온다는 것입니다.

[한국 관점]
이 전환기 논리는 한국에서 더 날카롭게 작동할 수 있습니다. 공공·금융처럼 오래된 시스템을 오래 운영해 온 조직은 최신 방어 기법을 적용하기 어려운 만큼, 공격 쪽 자동화의 이득을 그대로 맞는 쪽에 설 수 있습니다. 뷰캐넌이 말한 비대칭은 국가 간 경쟁이기 이전에 같은 사회 안에서 시스템의 신구 격차로 먼저 나타납니다.

방어 쪽에도 한국이 들어 있다는 점은 짚어 둘 만합니다. AI 사이버 챌린지에서 우승한 팀 애틀랜타는 조지아공대를 중심으로 KAIST, 포스텍, 삼성리서치의 연구자들이 함께 꾸린 다국적 팀이었습니다. 자동화된 취약점 탐지와 패치라는 영역에서 한국 연구 인력이 프런티어에 있다는 사실은, 이 기술의 공격 쪽만 보고 논의를 끝내지 않아도 되는 근거입니다.

연구소 자체가 약한 고리다

클라인은 질문을 뒤집습니다. 많은 사람이 걱정하는 쪽은 AI 연구소 자체의 보안입니다. 다른 나라가 오픈AI의 최신 시스템을 손에 넣는 일은 대단히 가치가 큽니다. 그런데 연구소 사람들은 한편으로는 그것이 문제라는 걸 알면서도, 다른 한편으로 진짜 보안을 지키며 일하는 것은 몹시 성가신 일이라고 말합니다.

뷰캐넌도 지난 4년 동안 휴대폰을 들고 들어갈 수 없는 보안실에서 일했고, 그것이 성가시다는 데는 의심의 여지가 없다고 말을 보탭니다. 클라인은 연구소의 이 취약성을 어떻게 느끼느냐고 묻습니다.

해설
보안실은 민감 구획 정보 시설(SCIF)을 가리킵니다. 기밀 정보를 다루기 위해 도청과 전자적 유출을 막도록 설계된 방이고, 휴대폰이나 개인 전자기기를 들고 들어갈 수 없습니다.

뒤에 뷰캐넌이 꺼내는 국가안보각서는 국가안보 영역에서 행정명령에 해당하는 효력을 갖는 문서입니다. 2024년 10월에 서명됐고, AI를 미국에 근본적으로 중요한 영역으로 규정하면서 연구소의 보안과 정부의 AI 활용 범위를 함께 다뤘습니다. 트럼프 행정부는 이 문서를 폐기하지 않았다고 뷰캐넌은 대담에서 밝힙니다.

뷰캐넌은 이 문제를 걱정한다고 답합니다. 해킹 위험이 있고, 위험은 그것만이 아닙니다. 적절한 샌프란시스코 하우스파티에 가면 사람들이 모델 자체를 공유하지는 않더라도 자기들이 쓰는 기법에 대해서는 어느 정도 이야기를 하고, 그 기법에는 엄청난 가치가 있습니다.

그리고 이 문제도 결국 앞서의 관통선으로 돌아옵니다. 국가안보에 관련되고 어쩌면 세계를 바꿀 기술인데 정부의 후원 아래 나오지 않았기 때문에, 정부가 붙여 온 보안 요건이라는 각인이 여기에도 없다는 것입니다. 백악관은 대통령이 서명한 국가안보각서로 연구소들에 이 점을 알리려 했고, 미국 정부로서 그 임무를 돕고 싶다고 말했습니다. 각서가 2024년 10월에 서명된 탓에 그 위에 무엇을 쌓을 시간은 많지 않았지만, 뷰캐넌은 이것이 트럼프 행정부에도 우선순위라고 봅니다. 그는 미래를 발명하고 있는 미국 기업을 보호하는 일보다 더 초당적인 일은 상상하기 어렵다고 말합니다.

정보를 처리하는 능력이 힘이 될 때

위성 이미지는 쌓이는데 읽을 사람이 없다

클라인이 자주 듣는다는 또 하나의 차원은 정보의 처리입니다. 소련과 미국이 벌이던 첩보전에 견주면 지금은 데이터가 비교할 수 없이 많습니다. 위성 데이터가 있고, 서로 도청하지 않는다고 말해 두지만 당연히 서로 도청하며 들어오는 온갖 것이 있습니다. 그런데 그 분야를 더 잘 아는 사람들의 말로는 인간이 거대한 병목이고, 지금 그 데이터를 분석하는 것은 꽤 초보적인 프로그램들입니다.

그 모든 것을 들이마시고 패턴을 찾아낼 수 있는 진짜 지능적인 시스템이 생긴다는 것은, 바깥에서 보는 사람들이 짐작하는 것보다 훨씬 큰 힘의 균형 변화라는 견해가 있습니다. 뷰캐넌은 이 점에서 백악관이 꽤 공개적이었다고 답합니다. 대통령이 서명한 국가안보각서가 이것을 미국에 근본적으로 중요한 영역이라고 못 박았습니다. 미국이 매일 수집하는 위성 이미지의 양은 자신도 정확히 모를 만큼 엄청난데, 그것을 다 훑어볼 인간이 없다는 사실은 공개적으로 밝혀 왔다고 그는 말합니다. 설령 그렇게 한다 해도 끔찍한 일자리일 것이라는 말도 붙입니다.

세계 각지의 분쟁지역과 항로를 찍은 이미지를 자동으로 분석하고, 가장 흥미롭고 중요한 것을 인간이 검토하도록 올려 주는 역할이 AI에 있습니다. 한 수준에서 보면 소프트웨어가 원래 하던 일 아니냐고 말할 수 있고 어느 정도는 맞는 말입니다. 다른 수준에서 보면 그 소프트웨어가 유능할수록, 즉 분석의 자동화가 유능할수록 같은 데이터에서 뽑아내는 정보 우위가 커집니다. 그리고 그것이 결국 미국을 더 나은 위치에 놓는다는 것이 뷰캐넌의 설명입니다.

[한국 관점]
수집은 늘었는데 읽을 사람이 없다는 문제는 한국도 비켜 가기 어렵습니다. 한국도 독자 정찰위성 전력을 갖추기 시작하면서 수집하는 영상이 늘고 있는데, 늘어난 영상을 읽어 내는 일은 결국 판독 역량의 문제로 돌아옵니다. 자동 분석 역량이 어느 수준이냐가 동맹 안에서 정보를 주고받을 때의 위치를 상당 부분 결정하게 됩니다.

뒤에 나오는 감시 문제도 한국에서는 체감이 다릅니다. 생활 공간의 영상 기록이 촘촘하고 식별 체계가 행정과 민간에 두루 깔려 있는 만큼, 완벽에 가까운 집행이 기술적으로 가능해지는 지점이 더 가까이 있다는 점을 따져 봐야 합니다.

분석이 좋아지면 수집의 유인이 올라간다

클라인은 그 1차와 2차 결과가 함께 놀랍다고 말합니다. 강력한 AI가 있는 세계에서는 첩보의 유인이 올라간다는 것입니다. 지금은 분석할 수 있는 것보다 많이 모으는 지점에서 병목이 걸려 있으니 한 조각을 더 모은다고 해서 그 가치가 크지 않은데, 분석이 풀리면 그 셈이 달라지기 때문입니다.

뷰캐넌은 기본적으로 맞다고 답하면서 상쇄하는 측면이 둘 있다고 말을 꺼냅니다. 첫째는 권리와 보호장치입니다. 수집할 유인이 있더라도 수집해서는 안 되는 핵심적인 종류의 데이터가 있고, 자국 시민의 데이터가 그렇고 어떤 경우에는 동맹국 시민의 데이터도 그렇다고 밀어붙이는 장치가 있어야 한다는 것입니다. 미국 정보 감독 절차의 온갖 결함과 그에 관한 모든 논쟁을 감안하더라도, 그 절차는 거대한 AI 시스템의 시대에 클라인이 말한 바로 그 이유 때문에 더 중요해진다고 그는 말합니다. 둘째 측면은 그가 설명하기 전에 대화가 다음 질문으로 넘어가 끝내 제시되지 않습니다.

완벽한 집행이 가능해진다면

클라인은 국가안보 쪽 함의가 얼마나 두려운지를 묻습니다. 감시국가의 가능성입니다. 그가 오래 생각해 온 대목은 샘 해먼드(Sam Hammond)가 「95 Theses on AI」에 쓴 논점 하나입니다. 지금 있는 많은 법은 완벽한 집행 능력이 주어진다면 극도로 사람을 옥죄는 것이 될 것이라는 지적입니다. 법은 인간의 노동이 희소하다는 전제 위에서 쓰였기 때문입니다.

그래서 감시국가가 정말로 유능해지면 무슨 일이 벌어지는지, AI가 경찰국가를 지금과는 전혀 다른 종류의 것으로 만들면 무슨 일이 벌어지는지, 끝없는 드론의 전쟁이 벌어지면 어떻게 되는지를 클라인은 묻습니다. 요즘 자주 거론되는 회사로 안두릴(Anduril)이 있고 오픈AI와 관계가 있는 것으로 그는 알고 있으며, 팔란티어(Palantir)는 앤트로픽(Anthropic)과 관계를 맺고 있습니다. 국가안보 쪽에서 보면 무서운 변화가 곧 온다는 것입니다. 중국이 훨씬 앞서는 것을 원하지 않는 이유는 충분히 알겠지만, 그 역량이 미국 정부 자신에게 주어진다는 점은 어떻게 생각하느냐는 질문입니다.

해설
샘 해먼드는 미국혁신재단(Foundation for American Innovation)의 경제학자이고, 「95 Theses on AI」는 종교개혁의 95개조 반박문을 연상시키는 제목으로 AI가 바꿔 놓을 제도와 질서를 조목조목 적은 글입니다. 클라인이 인용한 대목의 요지는, 법 집행이 느슨한 것은 입법자의 관용이 아니라 단속할 사람이 모자라기 때문이며 그 제약이 사라지면 법전은 그대로인데 사회는 전혀 달라진다는 것입니다.

클라인이 언급한 두 관계는 모두 이 대담 직전에 실제로 맺어진 것입니다. 2024년 11월에 앤트로픽과 팔란티어가 아마존웹서비스(AWS)와 함께 미국 국방·정보기관에 클로드(Claude)를 공급하기로 했고, 12월에는 오픈AI가 안두릴과 대드론 방어 분야에서 손을 잡았습니다. 군사 용도에 선을 긋던 AI 기업들의 방침이 몇 주 사이에 함께 바뀐 시점이었습니다.

독재와 민주주의, 두 개의 질문

뷰캐넌은 이 질문을 둘로 쪼갭니다. 첫째는 중국 부분입니다. 뼛속까지 독재이고 민주주의의 시늉조차 하지 않는 국가에서 이것이 어떻게 펼쳐지느냐는 물음이고, 여기서는 둘이 금세 합의할 수 있을 것이라고 그는 말합니다. AI 시스템이 있어야만 가능한 수준의 통제는 그 사회가 품어 온 열망의 핵심에 가까운 것이고, 자신은 그것이 끔찍하다고 봅니다.

곁들여 그는 속담 하나를 꺼냅니다. 러시아어와 중국어에 하늘은 높고 황제는 멀다는 뜻의 비슷한 말이 있다는 것입니다. 역사적으로는 그런 독재에서도 나라의 규모와 넓이 때문에 국가가 비집고 들어오지 못하는 공간이 남아 있었습니다. 그런 체제에서 AI는 정부 권력의 힘을 더 나쁜 쪽으로 키울 것이라고 그는 말합니다.

더 흥미로운 둘째 질문은 미국에서 AI와 민주주의가 맺는 관계입니다. 뷰캐넌은 여기서 느끼는 불편함을 일부 공유한다고 말합니다. 역사적으로 법이 고쳐지는 경로 가운데 하나는 사람들이 법을 어기는 것이고 거기에 여지가 있어야 한다고 말해 온 사상가들이 있었습니다. 사법 체계에는, 또 정의를 집행하는 방식에는 잃고 싶지 않은 인간다움이 있다는 것입니다.

그래서 백악관은 법무부에 절차를 운영하고 형사사법에서 AI를 쓰는 원칙을 마련하도록 과업을 맡겼습니다. 어떤 경우에는 기계가 사건들을 똑같이 다루어 준다는 이점이 있습니다. 그러나 편향과 차별의 엄청난 위험도 함께 있는데, 시스템에 결함이 있기 때문이기도 하고 어떤 경우에는 시스템이 어디에나 있기 때문이기도 합니다. 법집행 체계에서 AI를 광범위하고 견제 없이 쓰면 권리에 대한 근본적 침해의 위험이 있고, 여기에 매우 깨어 있어야 하며 시민으로서 자신은 심각한 우려를 갖고 있다고 그는 말합니다.

이해하지 못하는 것과 동맹을 맺는 일

우리가 불러들이는 것이 무엇인지 모른다

클라인은 이 모든 것이 자신을 대단히 불편하게 만든다고 말합니다. 적당한 표현을 찾기 어렵다고 전제하면서 그가 꺼낸 비유는 동맹입니다. 우리는 거의 행성 간 동맹에 가까운 다른 존재를 불러들여 동맹을 맺으려 하고 있고, 중국과 그 동맹을 먼저 맺으려는 경쟁까지 하고 있습니다. 그런데 우리는 그 동맹자를 이해하지 못하며, 그를 우리의 모든 시스템과 모든 계획 안으로 들인다는 것이 무엇을 뜻하는지도 모릅니다.

그가 이해하는 한, 이 일을 진지하게 하는 모든 기업과 모든 정부는 같은 것을 믿고 있습니다. 머지않은 미래에 더 많은 몫을 AI에게 자율적으로 넘김으로써 훨씬 낫고 빠르고 우세한 의사결정 고리를 갖게 된다는 믿음입니다. AGI라고 부를 만한 것에 도달하면 의사결정의 상당 부분을 거기에 넘기고 싶어집니다. 그것이 무엇인지도 무엇을 뜻하는지도 제대로 이해하지 못한 채, 상대가 먼저 도달하는 것이 싫어서 그쪽으로 달려가고 있다는 것이 클라인이 그리는 그림입니다.

그는 이것을 역사적으로 위험한 일로 봅니다. AI가 성숙에 이르는 바로 그 순간이, 미국과 중국이 초강대국 우위를 놓고 투키디데스 함정(Thucydides trap)식 경쟁을 벌이는 때와 겹친다는 것입니다. 이 행성에서 지능의 다음 전환을 만들어 내는 자리에 놓인 유인 구조치고는 꽤 위험하다는 말입니다.

해설
투키디데스 함정은 떠오르는 강국과 기존 패권국이 마주하면 양쪽 다 원치 않아도 전쟁으로 끌려간다는 발상이고, 정치학자 그레이엄 앨리슨(Graham Allison)이 펠로폰네소스 전쟁에서 이름을 따와 미중 관계에 붙이면서 널리 쓰이게 됐습니다.

뒤에 뷰캐넌이 꺼내는 안보 딜레마(security dilemma)는 그와 짝을 이루는 개념입니다. 한쪽이 순전히 자기를 지키려고 한 조치가 상대에게는 공격 준비로 읽히고, 그 오해에 대응하느라 양쪽 다 더 위험해지는 구조를 가리킵니다. 뷰캐넌이 교수로 출발할 때 쓴 연구가 바로 이 주제였고, 그가 대담에서 이 대목을 학술적이라고 양해를 구하며 꺼내는 이유이기도 합니다.

초크포인트로 번 시간을 어디에 쓸 것인가

뷰캐넌은 풀어야 할 것이 많으니 순서대로 가자고 하면서도, 결론부터 말하면 백악관에 있을 때나 나온 뒤나 이 불편함을 상당 부분 크게 공유한다고 답합니다. 그리고 수출통제 같은 조치의 매력이 거기에 있다고 말합니다. 중국을 차별적으로 늦출 수 있는 초크포인트를 찾아내 미국이 앞설 공간을 만드는 것입니다. 그렇게 번 몫은 질주가 아니라 안전과 조율에 써야 한다는 것이 그가 생각하는 쓰임새이고, 군비경쟁 동학을 악화시키지 않으면서 중국과 조율할 가능성까지 여기에 포함됩니다.

국가안보 응용에서 앞서 달리려 했다고는 말하지 않겠다고 그는 덧붙입니다. 국가안보각서에는 AI로 하지 않을 일에 대한 꽤 긴 서술과 금지된 사용 사례 목록, 그보다 아래 단계인 고영향 사용 사례가 들어 있고, 거버넌스와 위험관리 조항도 있습니다.

클라인은 짧게 받아칩니다. 당신은 이제 권력이 없다는 것입니다. 뷰캐넌은 공정한 지적이라고 인정하면서, 다만 트럼프 행정부가 그 문서를 폐기하지 않았다는 점을 듭니다. 권력을 가지고 있던 기간에 쌓으려 한 토대는 클라인이 말한 그 동학을 매우 의식한 것이었고, 안전에서 바닥을 향한 경쟁(race to the bottom)이 벌어지는 것을 경계하면서 동시에 미국의 우위를 확보하려 했다는 설명입니다.

[관점]
이 논리에는 빈 곳이 하나 있습니다. 수출통제로 벌어 둔 시간을 안전과 조율에 쓰겠다는 것은 그 시간을 받아 쥔 쪽이 그렇게 쓰기로 선택해야만 성립하는데, 통제를 설계한 쪽에는 그 선택을 강제할 수단이 없습니다. 벌어 둔 시간을 더 빨리 달리는 데 쓰는 것도 똑같이 가능한 선택지이고, 경쟁 논리에 비춰 보면 오히려 그쪽이 자연스러운 선택입니다.

뷰캐넌 자신도 이 점을 반쯤 인정합니다. 자신이 설계한 조치가 남아 있다는 것과 그 조치가 자신이 의도한 목적에 쓰인다는 것은 다른 이야기이고, 그는 앞의 것만 근거로 댈 수 있는 자리에 있습니다. 클라인이 권력이 없지 않으냐고 끊고 들어간 대목이 정확히 그 지점입니다.

칩을 팔지 않는 것은 선전포고인가

클라인은 반대쪽 우려를 꺼냅니다. 중국을 그토록 적대적인 경쟁자로 다루고 선진 기술 수출통제까지 동원해 붙잡아 둠으로써, 우리가 그들을 더 강렬한 경쟁자로 만들어 버린 것은 아니냐는 것입니다. 그는 중국 체제나 중국공산당(CCP)의 이념에 순진해지고 싶지는 않다고 분명히 합니다. 그들은 힘과 지배를 원하고 다음 시대가 중국의 시대가 되기를 원하므로 어차피 달리 할 수 있는 일이 없을지도 모릅니다. 그래도 다음 시대의 중심 기술에 쓰일 칩을 세계에서 가장 큰 다른 나라에 틀어막는 것은 꽤 적대적인 일이라는 말입니다.

뷰캐넌은 동의하지 않습니다. 세계에서 가장 앞선 기술을 팔지 않겠다고 말하는 것이 그 자체로 그렇게 적대적이라고 보지 않는다는 것입니다. 그것은 선전포고가 아니고 냉전 선언도 아니며, 이 기술이 엄청나게 중요하다고 말하는 것일 뿐이라는 답입니다.

그들이 그렇게 이해했겠느냐고 클라인이 묻자, 뷰캐넌은 원하는 것보다 학술적인 답이 되겠다고 양해를 구합니다. 교수로 출발했을 때 자신의 연구가 국가들이 서로를 오해하는 방식, 학계에서 안보 딜레마라고 부르는 현상에 관한 것이었습니다. 그러니 이 영역에서도 중국과 미국이 어느 수준에서는 서로를 오해하고 있을 것이라고 확신합니다. 다만 사실을 평범하게 읽으면 칩을 팔지 않는 것이 선전포고는 아니라고 그는 거듭 말합니다.

그들이 우리를 오해한다고 보지 않는다

클라인은 물러서지 않습니다. 자신은 중국이 미국을 오해한다고 생각하지 않는다는 것입니다. 워싱턴 정치가 어떻게 돌아가는지 알고, 이 기간 동안 많은 사람과 이야기했으며, 중국에 대한 훨씬 대결적인 자세로의 전환을 직접 봤다고 말합니다. 제이크 설리번(Jake Sullivan)과 바이든 대통령이 이것을 전략적 경쟁이라 부르고 새로운 냉전이라 부르지 않으려 했다는 것도 알고, 그 말도 사실이라고 봅니다.

그러나 방금 두 사람이 이야기했고 뷰캐넌이 반박하지 않은 것이 있습니다. 미국의 지배적 견해가 중국보다 먼저 이 기술에 도달해야 한다는 것이라는 사실입니다. 그렇다면 중국이 최고 기술을 아무도 안 팔아 주는구나 정도로 받아들일 리 없고, 미국이 무엇을 하고 있는지 어느 정도는 이해하고 있으리라는 것이 클라인의 반론입니다.

뷰캐넌은 설탕을 입히고 싶지 않다고 답합니다. 분명히 그들도 그렇게 볼 것입니다. 다른 한편으로 백악관은 그들과 대화 채널을 열었고, 자신이 제네바로 날아가 만났고, AI 안전을 주제로 이야기해 보려 했습니다. AI처럼 복잡한 영역에서는 여러 가지가 동시에 참일 수 있다는 것입니다. 수출통제를 한 순간도 후회하지 않으며 그때 해 둔 것이 오히려 자랑스럽다고 그는 말합니다.

덕분에 몇 년이 지난 지금도 미국이 AI에서 우위를 지키고 있다는 것이 그의 근거이고, 그 말끝에 대담은 딥시크로 넘어갑니다.

[사후 맥락]
수출통제를 자랑스럽다고 말한 이 대목은 이후 전개와 나란히 놓고 볼 필요가 있습니다. 트럼프 행정부는 2025년 5월 바이든 행정부가 임기 말에 공표한 AI 확산 규칙(AI Diffusion Rule)을 폐기했습니다. 같은 해 4월에는 엔비디아(NVIDIA)의 H20 칩을 중국에 보내려면 허가를 받도록 했다가, 8월에는 일부 중국 고객에 대한 허가를 내줬습니다.

이때 미국 정부가 매출의 15% 이상을 가져가리라는 기대가 함께 알려졌으나 규정으로 성문화되지는 않았고, 2025년 12월에는 더 상위 칩인 H200의 중국 판매도 매출의 일부를 정부가 받는 조건으로 허용하겠다는 방침이 보도됐습니다. 수출통제가 유지되느냐 풀리느냐를 넘어, 통제 자체가 거래의 대상이 된 셈입니다.

딥시크는 무엇을 뒤집었는가

백악관은 2023년부터 지켜보고 있었다

클라인은 딥시크가 미국 시스템에 충격이었던 이유를 이렇게 정리합니다. 훨씬 적은 컴퓨트와 훨씬 적은 돈으로 학습된 것처럼 보이는 시스템이 미국의 프런티어 시스템과 높은 수준에서 경쟁했다는 점입니다. 그래서 그는 딥시크를 어떻게 이해했는지, 그리고 그것이 우리가 다시 생각해야 할 가정을 만들어 냈는지를 묻습니다.

뷰캐넌은 한 걸음 물러서서 시간 순서대로 짚습니다. 백악관은 딥시크가 첫 코딩 시스템을 내놓은 2023년 11월 무렵부터 이 회사를 지켜봤습니다. 딥시크의 엔지니어들이 대단히 재능 있다는 데는 의심의 여지가 없고, 2024년 내내 그들의 시스템은 점점 좋아졌습니다. 딥시크의 최고경영자가 회사의 가장 큰 걸림돌은 돈이나 인재를 구하는 능력이 아니라 선진 칩을 구할 수 없다는 점이라고 말했을 때 백악관은 고무됐습니다. 물론 그들이 칩을 일부 확보한 것은 분명하고, 일부는 합법적으로 샀고 일부는 밀수한 것으로 보입니다.

그리고 2024년 12월에 V3가 나왔습니다. 뷰캐넌이 보기에 주목을 받았어야 할 것은 사실 이쪽입니다. 큰 관심을 끌지는 못했지만, 알고리즘 측면에서 강한 진전을 이루며 시스템을 더 효율적으로 만들고 있다는 것을 보여줬기 때문입니다. 2025년 1월에 나온 R1은 그 자체로는 그렇게 특이하지 않습니다. 컴퓨팅 파워가 많이 들 것이라고 기대할 사람도 없고, 기반이 되는 V3를 확장한 추론 시스템일 뿐입니다.

해설
딥시크의 두 시스템은 성격이 다릅니다. V3는 밑바닥부터 학습한 기반 모델이고, 여기서 비용과 효율의 이야기가 나옵니다. 같은 성능을 더 적은 연산으로 내려는 설계가 들어간 쪽입니다.

R1은 그 V3 위에 올려 답을 내기 전에 더 길게 따져 보도록 만든 추론 시스템입니다. 추가 학습 비용이 상대적으로 적게 드는 것이 당연하기 때문에, 뷰캐넌은 세상이 놀란 R1보다 조용히 지나간 V3가 진짜 신호였다고 말하는 것입니다.

과열은 정당하지 않았다

뷰캐넌의 결론은 분명합니다. 딥시크가 한 일을 들여다보면 그것을 둘러싼 미디어의 과열은 정당하지 않았고, 미국이 하고 있던 일의 근본 분석을 바꾸지도 않습니다. 그들은 여전히 컴퓨팅 파워에 제약을 받고 있으므로 나사를 더 조여 계속 제약해야 한다는 것입니다.

그들은 똑똑하고 알고리즘도 좋아지고 있습니다. 그러나 미국 기업의 알고리즘도 함께 좋아지고 있습니다. 그러니 이 일은 칩 통제가 중요하다는 것을 상기시키는 계기여야지, 하늘이 무너진다거나 근본적인 스케일링 법칙이 깨졌다고 말할 때는 아니라는 것이 그의 판단입니다. 중국이 만만치 않은 경쟁자이고 어느 것도 당연하게 여겨서는 안 된다는 점도 상기시킨다고 그는 덧붙입니다.

성능 향상이 어디서 왔다고 보느냐는 물음에 그는 간단하게 답합니다. 똑똑한 사람들이 있고, 백악관은 그들의 논문을 읽었습니다. 구글(Google)이나 앤트로픽, 오픈AI가 하고 있는 것과 정확히 같은 종류의 알고리즘 효율화 작업을 하는 똑똑한 사람들이라는 것입니다.

컴퓨트가 필요 없다는 증거인가

클라인은 좌파 쪽에서 흔히 들리는 논변을 꺼냅니다. 리나 칸(Lina Khan)이 실제로 뉴욕타임스 지면에서 편 주장입니다. 딥시크는 AI 개발의 패러다임 전체가 틀렸다는 것을 입증했다는 것입니다. 이 모든 컴퓨트가 필요하지 않다는 것, 이 거대 기업들이 필요하지 않다는 것, 탈중앙화된 거의 솔라펑크(solarpunk)식 AI 개발로 가는 길이 있다는 것을 보여줬다는 주장입니다. 어떤 의미에서 미국의 시스템과 상상력이 세 개의 큰 회사에 사로잡혀 있었는데, 중국에서 본 것은 그것이 꼭 필요하지는 않다는 증거였다는 말입니다.

더 적은 에너지와 더 적은 칩, 더 작은 발자국으로도 된다는 것이고, 클라인은 뷰캐넌이 이 논변을 받아들이느냐고 묻습니다.

뷰캐넌은 두 가지가 동시에 참이라고 답합니다. 첫째, 적어도 예측 가능한 미래까지는 계산과 에너지를 많이 먹는 프런티어가 늘 있을 것이고 미국 기업들은 그 프런티어에 있기를 원합니다. 그 기업들에는 효율을 찾을 아주 강한 유인이 있고 실제로 모두 그렇게 하고 있습니다. 계산을 한 번 쥐어짤 때마다 마지막 한 방울의 통찰까지 뽑아내려 합니다. 그들은 계속 프런티어를 밀어야 하고, 앞으로 몇 년 동안 더 많은 컴퓨팅 파워와 에너지가 필요 없어지는 공짜 점심은 없습니다.

둘째로 그 프런티어를 뒤따르는 더 느린 확산이 있습니다. 알고리즘이 더 효율적이 되고 필요한 칩과 에너지가 줄어드는 영역입니다. 미국은 이 두 경쟁에서 모두 이겨야 한다는 것이 그의 정리입니다.

수출통제를 원하는 쪽과 원하지 않는 쪽

클라인은 수출통제를 둘러싼 이해관계의 구도를 짚습니다. AI 기업들은 수출통제를 원합니다. 그런데 딥시크가 미국 증시를 흔들었을 때 흔든 방식은 엔비디아의 장기 가치를 의심하게 만든 것이었고, 엔비디아는 이 수출통제를 전혀 원하지 않습니다. 백악관에서 그 로비의 한가운데 있었을 텐데 어떻게 생각하느냐는 질문입니다.

뷰캐넌의 답은 수요 쪽에서 출발합니다. 만들어지는 모든 선진 AI 칩은 결국 팔립니다. 이 칩의 시장은 지금 엄청나고 예측 가능한 미래에도 그럴 것입니다. 게다가 엔비디아에 수출통제를 걸었을 때 주식시장은 그것을 악재로 보지 않았고, 첫 통제를 건 2022년 10월 이후로 엔비디아 주가는 올랐다고 그는 말합니다.

클라인은 수출통제를 하지 말자는 것이 아니라 약한 버전이 아닌 강한 버전의 논변을 듣고 싶다고 요구합니다. 엔비디아 최고경영자가 틀렸다고 보지 않는다는 것입니다. 최고 칩을 중국에 팔지 못하게 하면 장기적으로 어떤 기계적인 방식으로 엔비디아의 시장이 줄어드는 것은 맞기 때문입니다.

뷰캐넌은 그 동학이 맞다고 인정합니다. 시장이 더 크면 마진에서 더 받을 수 있다는 평범한 수요공급 이야기입니다. 다만 백악관의 분석은 이 칩들과 그것이 만들어 낼 AI 시스템이 미국 국가안보에 갖는 중요성을 감안하면 치를 만한 트레이드오프라는 것이었습니다. 그리고 엔비디아는 수출통제 이후에도 아주 잘해 왔다고 그는 덧붙입니다.

[사후 맥락]
통제가 걸려도 엔비디아는 잘해 왔다는 이 말은 그 뒤에 한 차례 시험을 받았습니다. 2025년 4월 미국 정부가 중국용으로 설계된 H20에도 허가를 요구하자 엔비디아는 재고와 구매 약정에 걸린 45억 달러를 비용으로 처리했습니다.

같은 해 8월 일부 중국 고객에 대한 허가가 나왔지만 그 허가로 실제 발생한 H20 매출은 6천만 달러 수준에 그쳤고, 더 상위 칩인 H200의 허가 프로그램에서도 엔비디아는 공시 시점까지 매출을 내지 못했다고 밝혔습니다. 통제가 회사 전체의 성장을 꺾지는 않았지만, 중국 사업 자체는 정책이 움직일 때마다 통째로 흔들리는 상태가 됐습니다.

[한국 관점]
이 논의에서 한국은 통제를 거는 쪽도 받는 쪽도 아닌 세 번째 자리에 있습니다. 2025년 8월 미국 상무부는 삼성전자의 시안 공장과 SK하이닉스의 우시·다롄 공장에 적용되던 검증된 최종사용자(VEU) 지위를 철회한다고 관보에 올렸고, 120일 유예가 끝나는 연말부터 장비 반입에 개별 허가를 받도록 했습니다.

시행 직전 미국 정부가 연간 단위로 반입 물량을 포괄 승인하는 방식으로 수위를 낮추면서 최악은 피했지만, 기존 설비 유지는 허용하되 증설과 기술 고도화는 막겠다는 방침 자체는 남았습니다. 뷰캐넌이 말한 초크포인트 전략은 중국만 겨누는 것이 아니라, 중국에 생산 거점을 둔 동맹국 기업의 투자 계획을 함께 묶어 세웁니다.

규제할 것인가 말 것인가

안드레센의 주장과 백악관의 반박

클라인은 바이든 행정부가 대체로 AI 안전에 관심이 있었고 안전을 중시하는 사람들의 영향을 받았다고 봅니다. 그리고 그것이 가속주의(accelerationism)라고 불리는 쪽의 반발을 만들어 냈다고 말합니다. 그 반발의 생생한 사례로 그는 마크 안드레센(Marc Andreessen)의 발언을 틀어 줍니다. 바이든 행정부와의 대화가 안드레센을 반대쪽으로 급진화시켰다는 내용입니다.

안드레센의 이야기는 이렇습니다. 2024년 5월에 동업자와 함께 워싱턴에 갔는데 바이든은 만날 수 없었고, 당시에는 아무도 그를 만날 수 없었다고 합니다. 대신 백악관 핵심부의 아주 고위급 인사들을 만나 AI에 대한 우려를 전달했습니다.

그가 전하는 상대의 답은 이렇습니다. 바이든 행정부가, 그리고 2기에 실행할 AI 국가 어젠다는 AI가 두세 개 대기업의 기능이 되도록 만드는 것이고, 그 기업들은 직접 규제하고 통제할 것이며, 스타트업은 없을 것이라는 말입니다. 회사를 차려 코드를 짜고 인터넷에 공개할 수 있다고 생각하는 그 시절은 끝났다는 것입니다.

클라인이 그 대화에 있었느냐고 묻자 뷰캐넌은 그를 한 번 만났다고만 답합니다. 그것이 당신과의 대화를 묘사한 것이냐는 물음에는, 안드레센이 스타트업과 경쟁력에 관한 우려를 이야기했다고 답합니다. 그리고 이 문제에 관한 자신의 견해는 기록을 보라는 것이라고 말합니다. 트럼프가 막 폐기한 대통령 행정명령에는 경쟁력에 관한 꽤 긴 절이 있었고, 미국 정부의 구매를 규율하는 관리예산처(OMB) 메모에는 다양한 공급자로부터 사들이고 싶다는 항목이 따로 있었으며, 반도체·과학법(CHIPS and Science Act)에도 경쟁에 관한 조항이 여럿 들어 있습니다.

다만 그는 한 가지를 인정합니다. 스케일링 법칙과 관련된 구조적 동학이 있고 그것이 일을 대기업 쪽으로 밀어붙인다는 것입니다. 백악관은 여러 면에서 그 동학에 맞서 밀고 있었다는 것이 그의 답입니다.

[이해관계]
안드레센은 안드레센호로위츠(a16z)의 공동창업자이고, 2024년 대선에서 트럼프를 공개 지지했으며, 스타트업의 경쟁력과 오픈소스를 옹호하는 입장을 일관되게 밝혀 왔습니다. 이 발언은 중립적 관찰자의 증언이 아니라, 규제 방향에 따라 투자 환경이 달라지는 당사자의 증언입니다.

뷰캐넌이 그 자리의 당사자였는지를 끝내 확인해 주지 않는다는 점도 함께 기억해 둘 만합니다. 지금 남아 있는 것은 한쪽 당사자의 전언뿐입니다.

가중치가 무엇이고 왜 문제가 되는가

클라인은 안드레센이 논쟁하고 있는 상대의 견해를 자기 식으로 정리합니다. AI 안전 커뮤니티에서는 들었지만 바이든 행정부에서 꼭 들은 것은 아닌 견해인데, 가장 큰 연구소들의 프런티어 모델이 충분히 강력해지면 규제해야 하고 그러려면 그 모델에 통제가 걸려 있어야 한다는 것입니다. 모델 가중치가 떠돌아다녀 누구나 집 노트북에서 돌릴 수 있게 둘 수는 없다는 말입니다. 그리고 그것은 더 큰 긴장으로 이어집니다. 엄청나게 강력하고 빠르게 변하는 기술을, 안전은 지키되 지나치게 늦추지도 않고 작은 기업이 새 규제를 감당하지 못하게 만들지도 않으면서 어느 선까지 규제할 것인가입니다.

뷰캐넌은 대통령 행정명령에서 실제로 이 질문과 씨름하려 했다고 말합니다. 그리고 2023년 10월에 그 명령에 서명할 때 답을 가지고 있지 않았다고 인정합니다. 오픈소스 문제에서 그들이 한 일을 설명하기 전에 그는 용어를 정확히 하자고 합니다. 여기서 말하는 것은 가중치 공개 시스템(open weight systems)이라는 것입니다.

가중치가 무엇이냐는 물음에 그는 이렇게 답합니다. AI 시스템에는 학습 과정이 있고, 거대한 컴퓨팅 파워로 데이터를 처리하는 알고리즘을 돌립니다. 그 학습 과정 끝에 나오는 산출물이 가중치이고, 가장 느슨한 비유라고 거듭 못 박으면서 그는 그것이 대략 뇌에서 뉴런 사이 연결의 강도와 비슷하다고 말합니다. 어떤 의미에서 날것의 AI 시스템이라고 생각할 수 있습니다. 메타(Meta)나 딥시크 같은 일부 기업은 이것을 인터넷에 공개하고, 그래서 가중치 공개 시스템이라고 부릅니다.

그는 자신이 오픈소스 생태계를 크게 믿는 사람이라고 밝힙니다. 그러면서 구분을 둡니다. 가중치를 공개하는 기업 상당수는 코드를 공개하지 않으므로 오픈소스라고 불릴 자격이 없다는 것입니다. 현학적으로 들릴 위험을 무릅쓰고 하는 말이라고 그는 덧붙입니다.

가중치 공개는 2023년과 2024년에 백악관이 많이 생각한 주제였습니다. 폭넓게 의견 요청을 보냈고 많은 의견을 받았습니다. 2024년 7월쯤 나온 보고서의 결론은, 가중치 공개 생태계를 제약할 근거가 아직 없다는 것이었습니다. 그 생태계가 혁신에 기여하는 바는 명백히 사실이고, 다만 기술이 좋아지는 데 따라 계속 지켜봐야 한다는 결론이었습니다. 클라인이 묘사한 바로 그 방식으로 말입니다.

연구소들이 실제로 요구한 것

클라인은 연구소 수장들이 찾아왔을 때 무엇을 원했는지 묻습니다. 빠르게 도달하기 위해 필요하다고 말한 것의 합의가 무엇이었는지, 그리고 그 안에 있는 많은 사람이 시스템이 안전하지 못할 경우를 걱정한다는 걸 아는 만큼 안전에 관한 합의는 무엇이었는지입니다.

뷰캐넌의 답은 앞서의 관통선으로 돌아갑니다. 이것이 오랜만에 처음으로 정부가 초기 인큐베이터 시절에 자금을 대지 않은 혁명적 기술이라는 통찰, 그것이 연구소들에서 나온 주제였다는 것입니다. 우리는 아주 강력한 것을 발명하고 있고 결국 당신들이 국가안보에서 하는 일과 사회를 조직하는 방식에 함의를 갖게 될 것이라는 말, 그리고 개별 정책 요구보다 훨씬 더 기본적으로 이것에 대비하라는 말이었습니다.

규제에 가장 가까운 일은 하나였습니다. 연구소들이 안전성 시험을 하겠다는 자발적 약속을 한 뒤에, 백악관은 그 시험 결과를 정부와 공유하고 기술이 어디로 가는지 이해하도록 도와야 한다고 요구했습니다. 그것도 상위 몇 개 연구소에만 적용됐습니다. 연구소들은 그 조치가 오는 줄 몰랐고 나왔을 때 다들 반가워하지도 않았으므로, 이것이 규제 포획(regulatory capture)이었다거나 요청받아 한 일이라는 생각은 사실이 아니라는 것이 그의 강조입니다.

그의 경험상 연구소에서 개별적이고 구체적인 정책 로비를 받은 적은 없습니다. 훨씬 많이 들은 것은 이것이 오고 있고 생각보다 훨씬 빨리 오니 준비하라는 말이었습니다. 굳이 구체적인 요청이 있었다면 그 따름정리에 해당하는 것, 곧 에너지가 아주 많이 필요하고 그것을 미국 안에서 하고 싶은데 미국에서 전력을 얻기가 정말 어렵다는 이야기였습니다.

해설
뷰캐넌이 말한 자발적 약속과 결과 공유는 두 단계로 진행된 제도입니다. 먼저 주요 AI 기업들이 백악관과 만나 안전성 시험을 포함한 자발적 약속을 내놓았고, 그다음 2023년 10월의 행정명령이 일정 규모 이상의 모델을 개발하는 기업에 그 시험 결과를 정부에 보고하도록 요구했습니다.

이때 근거로 쓰인 법이 국방물자생산법(DPA)입니다. 전시 산업 동원을 위해 만들어진 법률을 정보 보고 의무의 근거로 끌어 쓴 것인데, 새 입법 없이 행정부 권한만으로 할 수 있는 조치가 그만큼 제한적이었다는 뜻이기도 합니다. 뷰캐넌이 이것을 규제에 가장 가까운 일이라고 표현하면서도 규제라고는 부르지 않는 이유가 여기에 있습니다.

전력이라는 병목

클라인은 에너지 문제를 다른 각도에서 받습니다. 이것이 우리가 생각하는 만큼 강력한 기술이라면, 모델 가중치를 비롯한 모든 것을 담은 데이터센터 상당수가 중동의 석유국가들에 자리하게 되는 상황이 생길 수 있다는 것입니다. 그 나라들은 이 AI 세계에서 경쟁할 내부 엔지니어링 인재는 없지만, 적어도 일부 지분을 쥐는 대가로 엄청난 양의 에너지 접근을 제공할 수 있습니다. 그러면 기술 자체도 일부는 그곳에 자리하게 됩니다.

뷰캐넌은 이것이 초당적 합의가 있는 영역이라고 답합니다. 2023년 후반과 2024년 대부분에 걸쳐 전력이 병목이 되리라는 것이 분명해지면서 정말로 주목하기 시작한 문제였습니다. 그래서 퇴임 마지막 주에 바이든 대통령이 AI 인프라 행정명령에 서명했고, 이 문서 역시 폐기되지 않았습니다. 미국 안에서 전력 개발과 전력·데이터센터 인허가를 빠르게 하자는 것이 골자입니다.

그리고 그는 자신의 동기를 하나 덧붙입니다. 기후변화와 환경주의, 청정전력을 진심으로 믿는 사람으로서 여기에 이중의 이득이 있다고 봤다는 것입니다. 미국 안에서 하면 청정에너지 전환을 촉발할 수 있다는 것이고, 이 기업들은 여러 이유로 청정에너지에 더 많은 값을 치를 의향이 있으며 지열 같은 것에 대해서도 그렇습니다. 그 개발을 촉발해 비용 곡선을 꺾고 이 기업들이 그 기술의 초기 채택자가 되게 하는 것, 그래서 기후 쪽에서도 승리를 보는 것이 그들의 희망이었습니다.

[한국 관점]
전력이 병목이라는 진단은 한국에서는 총량보다 위치의 문제로 자주 나타납니다. 수요는 수도권에 몰리는데 전력을 보낼 송전망과 지역의 수용 여건이 따라오지 못하는 일이 반복되기 때문입니다. 미국의 논쟁이 발전을 얼마나 빨리 늘릴 것인가에 있다면, 한국의 제약은 만들어진 전력을 어디로 보낼 것인가에 더 가깝습니다.

중동 석유국가에 데이터센터가 서는 구도도 남의 일이 아닙니다. 전력과 부지를 내주고 그 대가로 AI 세계의 지분 일부를 받는 모델은, 자체 프런티어 모델을 갖기 어려운 중견국이 택할 수 있는 몇 안 되는 경로 가운데 하나이기 때문입니다. 그 경로를 택할 때 무엇을 내주고 무엇을 남기는지는 따로 따져야 할 문제입니다.

안전과 기회는 충돌하는가

안전이 아니라 기회를 말하러 왔다

클라인은 AI를 어떻게 준비할지를 놓고 서로 싸우는 두 문화가 있다고 정리합니다. AI 안전과 AI 가속주의입니다. 그리고 그 전선이 드러난 자리로 J.D. 밴스(J.D. Vance)가 파리의 큰 AI 정상회의에서 한 연설을 틀어 줍니다.

밴스의 말은 이렇게 시작합니다. 자신은 오늘 아침 AI 안전을 이야기하러 온 것이 아니고, 몇 년 전 그 회의의 제목이 그것이었을 뿐이며, 자신은 AI 기회를 이야기하러 왔다는 것입니다. 이런 회의가 첨단 기술을 논하려 모일 때 우리의 반응은 너무 자의식적이고 너무 위험회피적인 경우가 많은데, 이번처럼 분명하게 정반대로 행동하라고 요구하는 기술적 돌파구는 본 적이 없다고 말합니다. 트럼프 행정부는 AI가 경제 혁신과 일자리 창출, 국가안보, 보건, 표현의 자유를 비롯한 영역에서 수없이 많은 혁명적 응용을 갖게 되리라 믿는다는 것입니다. 그러니 지금 그 발전을 제한하는 것은 이 분야의 기존 사업자에게 부당한 이익을 줄 뿐 아니라, 세대에 한 번 볼까 말까 한 가장 유망한 기술 하나를 마비시키는 일이 될 것이라고 그는 말합니다.

해설
이 연설은 2025년 2월 파리에서 열린 AI 행동 정상회의(AI Action Summit)에서 나왔습니다. 2023년 영국 블레츨리파크(Bletchley Park)에서 열린 회의의 이름이 AI 안전 정상회의(AI Safety Summit)였고, 회의의 이름에서 안전이라는 단어가 빠진 것 자체가 분위기 전환의 표시로 읽혔습니다.

밴스는 이 자리에서 미국의 규제 철학을 공개적으로 선언했을 뿐 아니라, 유럽식 기술 규제에 대한 경고와 노동자를 중심에 두겠다는 약속을 함께 내놓았습니다. 뷰캐넌이 뒤에서 네 개의 기둥이라고 부르는 것이 그 연설의 구성입니다.

뷰캐넌은 밴스가 거기서 세우는 이분법에 완전히 동의하지는 않는다고 답합니다. 아이러니는 연설의 나머지를 보면, 그리고 그는 실제로 봤는데, 동의하는 대목이 많다는 것입니다. 네 개의 기둥 가운데 하나는 노동자의 중요성을 중심에 두는 것이고 다른 하나는 미국의 우위인데, 그 둘은 바이든 행정부가 취한 조치나 그 철학과 전적으로 일치하며 자신도 강하게 믿는 바라고 말합니다. 동의하지 않는 지점은 안전과 기회가 근본적인 긴장 관계에 있다고 말하는 부분입니다.

철도는 안전 기준 덕분에 빨라졌다

뷰캐넌이 드는 근거는 기술사입니다. 기술과 기술 적응의 역사를 보면 적절한 양의 안전 조치가 기회를 풀어놓고 실제로 속도까지 풀어놓는다는 증거가 꽤 분명하다는 것입니다. 백악관이 많이 들여다보고 대통령에게도 이야기한 사례가 철도 초기였습니다.

철도 초기에는 사고와 충돌과 사망이 숱하게 많았고, 그 결과 사람들이 철도를 쓰려 하지 않았습니다. 그러다 안전 기준과 안전 기술이 생기기 시작했습니다. 열차가 같은 구간에 들어와 있는지 알 수 있게 해주는 블록 신호 체계(block signaling)가 생겼고, 더 효율적으로 제동할 수 있는 공기 제동기(air brakes)가 생겼고, 선로의 폭과 궤간이 표준화됐습니다. 그런 조치가 당시에 늘 인기가 있었던 것은 아닙니다. 그러나 돌이켜보면 그 안전 기술과 안전 기준의 개발이 1800년대 후반의 미국 철도 시스템을 만들었다는 것이 아주 분명하다는 것입니다.

그는 이것이 기술사 전반에 여러 번 나타나는 패턴이라고 덧붙입니다. 그러면서 분명히 해 둡니다. 모든 기술의 모든 안전 규제가 좋다는 뜻은 아니고, 과도하게 나가서 일을 늦추고 틀어막는 경우도 분명히 있습니다. 다만 안전과 기회 사이에 근본적인 긴장이 있다는 말은 참이 아니라고 본다는 것입니다.

원자력이라는 반대 사례

클라인은 흥미롭다고 하면서도 자신은 규제의 적정 지점을 어떻게 잡아야 할지 모르겠다고 말합니다. 그리고 밴스에 대한 반론으로 떠오르는 사례는 오히려 원자력이라고 봅니다. 원자력은 엄청난 약속을 지닌 기술이었고 어쩌면 지금도 그렇습니다. 모든 나라가 선두에 서고 싶어 했을 법한 기술이기도 합니다.

그런데 일련의 사고들이, 그 대부분은 특별히 많은 사망자를 낸 것도 아니었는데, 사람들에게 너무 무서웠습니다. 그래서 기술이 규제되다 못해 원자력 지지자들이 보기에는 싹이 잘린 수준이 됐습니다. 그렇다면 질문은 우리가 AI에서 취한 조치가 싹을 자르는 쪽이었는가입니다. 클라인은 이미 그랬다고 말하는 것은 아니라고 선을 긋습니다.

그가 말하려는 것은 다른 쪽입니다. 이 시스템들이 더 강력해지고 더 많은 것을 책임지게 되면 일이 잘못되기도 하고 이상해지기도 할 것이라는 점입니다. 인간 사회처럼 복잡한 시스템에 이토록 새로운 것을 내놓으면서 그렇게 되지 않을 도리가 없습니다. 그런 순간이 왔을 때 사람들이 다시 편안하게 앞으로 나아갈 수 있게 해주는 레짐이 무엇인가라는 질문이 반드시 생긴다는 것입니다.

[관점]
두 비유는 사실 같은 질문에 대한 서로 다른 답입니다. 철도는 사고가 잦고 작고 원인이 눈에 보여서, 신호와 제동과 궤간이라는 구체적인 해법이 쌓이며 신뢰가 회복된 경우입니다. 원자력은 사고가 드물고 크고 원인이 복잡해서, 한 번의 사고가 기술 전체에 대한 판단으로 굳어진 경우입니다.

그렇다면 AI가 어느 쪽에 가까운지는 AI 사고가 어떤 모양으로 오느냐에 달려 있습니다. 모델이 틀린 답을 내놓는 종류의 실패는 철도에 가깝고, 자율적인 시스템이 통제를 벗어나 큰 피해를 내는 종류의 실패는 원자력에 가깝습니다. 그리고 지금 논쟁이 풀리지 않는 이유는 양쪽 다 자기 쪽 사고 유형을 전제로 비유를 고르고 있기 때문입니다.

뷰캐넌은 이것이 심오한 질문이라고 답합니다. 바이든 행정부에서 하려 한 것은 그 일을 가능한 한 명료하고 기술을 아는 방식으로 해낼 기관을 정부 안에 세우는 것이었습니다. 그리고 안전성 시험 결과 공유 하나를 빼면, 어떤 최고경영자들은 그것이 직원 하루치 작업 비용쯤 들었다고 추산하는데, 규제에 가까운 것은 아무것도 두지 않았다고 그는 말합니다.

그들이 만든 것이 AI안전연구소(AI Safety Institute)입니다. 순전히 국가안보에 초점을 맞춘 기관으로 사이버 위험과 생물 위험, AI 사고 위험을 다루고, 순전히 자발적이며, 앤트로픽과 오픈AI는 물론 일론 머스크(Elon Musk)의 회사인 xAI와도 양해각서 관계를 맺고 있습니다. 기본적으로 AI 전문성을 정부 안으로 들여오고 공공과 민간의 관계를 자발적인 방식으로 쌓을 기회로 봤다는 설명입니다. 그리고 기술이 더 발전하면 이제 그것으로 무엇을 할지는 트럼프 행정부가 결정할 일이 됩니다.

문화가 바뀐 것이다

클라인은 뷰캐넌이 외교적으로 축소해 말하고 있다고 봅니다. 여기에는 진짜 의견 불일치가 있다는 것입니다. 밴스의 연설이 신호한 것은 AI를 둘러싸고 정부 안에 다른 문화가 도착했다는 사실입니다. 그동안 AI 안전 문화가 있었고, 밴스는 그 점을 명시적으로 지적하면서 우리가 무엇이 잘못될 수 있는지를 논하는 회의를 계속 열어 왔다고 말한 뒤 그만두라고 말하고 있습니다. 일이 잘못될 수도 있겠지만 대신 무엇이 잘될 수 있는지에 집중해야 한다는 것입니다.

클라인은 솔직히 말해 이것이 트럼프와 머스크의 방식이고, 어떤 면에서는 그 행정부를 이해하는 올바른 틀이라고 봅니다. 그들의 일반적 견해는 뭔가 잘못되면 잘못된 그것을 나중에 처리하면 된다는 것입니다. 정말 하고 싶지 않은 일은 일이 잘못될까 걱정하느라 너무 느리게 움직이는 쪽입니다. 부수고 고치는 편이, 부수지 않으려고 너무 느리게 움직이는 것보다 낫다는 태도입니다.

뷰캐넌은 트럼프 행정부와 자신들 사이에 그런 문화적 차이가 있다는 말은 공정하다고 받습니다. 다만 바이든 백악관도 AI로 할 수 있는 일과 AI의 이득에 관한 회의를 열었습니다. 위험을 완화해야 한다고 늘 말했지만 그것은 이득을 붙잡기 위해 하는 일이었습니다. 자신은 다리오 아모데이(Dario Amodei)의 「Machines of Loving Grace」 같은 에세이를 읽고 여기 동의할 수 있는 것이 많다고 말하는 사람이라고 그는 밝힙니다. 그리고 대통령의 행정명령은 행정부가 AI를 더 많이 써야 한다고 적고 있었습니다.

그래서 문화적 차이는 인정하되, 실제로 현실에 닿는 지점에서 자신들은 AI의 기회를 실현하면서 동시에 안전하게 할 수 있다는 생각에 편안했다고 그는 말합니다. 이제 권력을 잡은 쪽은 밴스의 수사를 어떻게 통치 정책으로 옮길지 결정해야 합니다. 그가 이해하기로 그들의 행정명령은 무엇을 할지 알아내는 데 6개월을 줬고, 우리는 그들이 실제로 하는 것으로 그들을 판단해야 한다는 것이 그의 마무리입니다.

[사후 맥락]
그 6개월의 답은 2025년 7월에 나왔습니다. 백악관은 「Winning the Race: America’s AI Action Plan」을 내놓으며 혁신 가속과 인프라 건설, 국제 외교·안보 주도라는 세 축을 제시했고, 주 정부의 규제 환경을 연방 자금 지원에 연계하는 방향까지 담았습니다.

뷰캐넌이 자랑스럽게 설명한 AI안전연구소는 그보다 앞선 6월에 AI 표준혁신센터(CAISI)로 개편됐습니다. 이름에서 안전이 빠지고 표준과 혁신이 들어간 것인데, 기관이 폐지되지는 않았지만 그 기관이 무엇을 하는 곳인지에 대한 정의가 바뀐 셈입니다. 트럼프 행정부가 바이든 시절의 틀을 통째로 없애기보다 용도를 바꿔 쓰는 방식을 택했다는 점은 뷰캐넌의 예측과 어긋나지 않습니다.

기회 쪽에도 준비가 없다

병목은 현실 세계로 옮겨간다

클라인은 밴스 연설에서 자신이 좋아한 대목이 있다고 말합니다. 우리가 기회에 대해 충분히 이야기하지 않는다는 지적이 맞다는 것입니다. 그런데 그보다 더한 문제가 있습니다. 우리가 기회에 대비하고 있지도 않다는 점입니다.

AI가 지지자들이 바라는 효과와 가능성을 갖게 된다고 가정해 보면, 그중 하나는 새로운 약물 분자의 발견과 제안이 훨씬 빠른 속도로 이뤄지기 시작한다는 것입니다. 그가 이야기해 본 사람들의 구상은, AI가 막대한 양의 정보를 소화하고 인체 안에서 질병이 작동하는 방식을 모델로 만들어 훨씬 나은 신약 발견 파이프라인을 내놓는다는 것입니다.

그렇다면 질문은 간단합니다. 병목이 어디가 되겠느냐는 것입니다. 미국의 약물 시험 파이프라인은 믿기 어려울 만큼 번거롭습니다. 시험에 필요한 동물을 구하기도 어렵고 필요한 사람을 구하기도 어렵습니다.

훨씬 많은 것이 밀려들 상황에 대비해 그것을 빠르게 만들기 위해 할 수 있는 일이 많고, 이는 교육을 비롯한 여러 영역에서도 마찬가지입니다. 병목이 현실 세계에서 무언가를 실제로 해내는 일의 어려움으로 옮겨가리라는 것은 꽤 분명한데, 사회가 거기에 대비하는 모습은 보이지 않습니다. 안전 쪽에서 많이 하지 않는 것은 무엇을 해야 할지 모르기 때문일 수도 있습니다. 그러나 기회 쪽에서도, 이 이득을 아주 빠르게 현실로 번역해 낼 방법이라는 문제는 그가 본 누구도 진지하게 다루지 않는 훨씬 풍부한 대화로 남아 있습니다.

가설이 아니라 지금 벌어지는 일

뷰캐넌은 기본적으로 그 모두에 동의한다고 답합니다. 정부에 있을 때, 특히 2023년과 2024년에 그 대화가 시작되고 있었고 임상시험 문제도 들여다봤습니다. 클라인이 오래 건강 분야를 써 온 사람이라는 점을 짚으면서 자신은 건강 전문성을 주장하지 않는다고 전제하지만, AI 시스템이 낸 돌파를 포함해 돌파를 훨씬 빠르게 시장으로 옮길 수 있는 세계로 가고 싶다는 것은 분명하다고 말합니다.

그리고 이것이 가설적인 이야기가 아니라고 덧붙입니다. 최근 구글이 코사이언티스트(co-scientist)라고 부르는 것을 내놨고, 엔비디아와 좋은 연구를 해 온 아크연구소(Arc Institute)가 생물 분자를 훨씬 상세하게 이해하는 역대 가장 인상적인 바이오디자인 모델(biodesign model)을 내놨습니다. 퓨처하우스(FutureHouse)라는 그룹도 과학 분야에서 비슷하게 훌륭한 일을 했습니다. 그러니 이것은 지금 벌어지고 있는 일이고, 연방정부를 여기에 대비시키기 위해 제도적으로도 조직적으로도 할 수 있는 일이 많다는 데 동의한다는 것입니다.

해설
뷰캐넌이 든 세 사례는 모두 이 대담 직전인 2025년 2월에 나왔습니다. 구글의 AI 코사이언티스트는 제미나이(Gemini)를 바탕으로 여러 에이전트가 가설을 내놓고 서로 비판하며 다듬는 시스템으로, 연구자에게 답이 아니라 검증해 볼 만한 가설을 제안하는 쪽에 목적이 있습니다.

아크연구소와 엔비디아가 내놓은 모델은 Evo 2입니다. 12만 8천여 종의 유전체 서열에서 약 9조 3천억 개의 염기를 학습해 변이의 해로움을 예측하고 유전체 서열을 생성하는 기반 모델이고, 가중치와 코드가 공개됐습니다. 퓨처하우스는 과학 연구를 AI로 자동화하는 데 집중하는 연구기관입니다. 세 사례의 공통점은 AI가 논문을 읽고 요약하는 단계를 넘어 가설과 설계를 내놓는 쪽으로 옮겨갔다는 것입니다.

[한국 관점]
발견이 빨라질 때 병목이 어디로 가느냐는 질문을 한국으로 옮기면, AI로 후보 물질 발굴이 빨라질수록 병목은 임상 설계와 환자 모집, 허가 심사의 처리 용량으로 옮겨갑니다. 그 용량은 연구개발 예산이 아니라 제도와 인력으로 정해집니다.

그래서 AI 신약을 산업정책으로 다룰 때 실제로 결정적인 것은 모델 개발 지원보다 결과물을 통과시키는 관문의 폭일 수 있습니다. 클라인의 지적을 한국어로 옮기면, 기회에 대비한다는 것은 연구개발 예산을 늘리는 일이라기보다 결과물이 지나가는 관문을 넓히는 일에 가깝습니다.

정부효율부는 AI를 위한 것인가

클라인은 그 주에 워싱턴을 돌아다니며 트럼프 행정부에 여러 방식으로 관여하거나 자문하는 사람들, 현대 우파의 여러 분파에 속한 사람들과 이야기했습니다. 그리고 얼마나 많은 사람이 트럼프와 머스크와 정부효율부(DOGE)가 하는 일을, 또는 그것이 결국 가능하게 할 일을 AI와 연결해 이해하고 있는지에 놀랐다고 말합니다. 테크 우파가 아닌 사람들에게서도 들은 이야기였습니다.

그들이 기본적으로 하는 말은 이렇습니다. 6개월 전 구성 그대로의 연방정부가 이 기술을 활용할 속도로 움직일 방법은 없다는 것입니다. 정부가 일하는 방식에 그것을 통합하는 것도, 정부가 그것이 할 수 있는 일을 활용하는 것도 불가능합니다. 너무 번거롭고, 끝없는 부처 간 절차가 있고, 규칙과 규정이 너무 많고, 거쳐야 하는 사람이 너무 많습니다. AI의 요점이 인지노동의 헤아릴 수 없는 가속이라면, 정부는 그것을 활용하기 위해 발가벗겨지고 다시 지어져야 한다는 것입니다.

좋아하든 싫어하든 그들이 지금 하는 일이 바로 정부를 벗겨 내고 다시 짓는 일입니다. 어쩌면 그들 자신도 무엇을 위해 하는지 모를 수 있지만, 그것이 가능하게 할 한 가지는 일종의 창조적 파괴(creative destruction)이고 그 위에서 더 밑바닥 수준부터 AI를 집어넣기 시작할 수 있습니다. 이 말을 사겠느냐고 클라인은 묻습니다.

뷰캐넌은 자신이 DOGE에서 관찰한 것과는 다소 직교하는 느낌이라고 답합니다. 머스크가 AI로 무엇을 할 수 있는지 이해하는 사람이라고는 보지만, 예컨대 미국 국제개발처(USAID)부터 시작하는 것이 어떻게 미국 정부를 더 나은 AI 정책을 만들 상태로 준비시키는지는 모르겠다는 것입니다. 그것이 DOGE의 동기라는 말은 사지 않는다고 그는 분명히 말합니다.

[관점]
두 사람의 주고받기에는 서로 다른 두 주장이 섞여 있습니다. 하나는 정부를 해체하는 것이 AI 도입을 위한 의도적 준비라는 주장이고, 다른 하나는 의도가 무엇이든 결과적으로 그 길이 열린다는 주장입니다. 뷰캐넌은 앞의 것만 반박하고 뒤의 것은 반박하지 않습니다.

그런데 뒤의 주장도 자동으로 성립하지는 않습니다. 조달 규정을 운용하고 시스템을 이해하는 인력이 먼저 빠져나간 조직은 새 기술을 들여올 능력도 함께 잃기 때문입니다. 낡은 절차를 걷어내는 일과 새 기술을 쓸 수 있는 조직을 남기는 일은 같은 작업이 아니며, 두 사람이 합의한 정부가 너무 느리다는 진단이 곧 지금 벌어지는 해체를 정당화하지는 않습니다.

클라인은 더 넓은 논변에는 동의할 것이 있느냐고 스스로 되묻고, DOGE에 대한 논변이 아니라 자신이 사는 것은 따로 있다고 말합니다. 연방정부가 어떻게 돌아가는지 꽤 잘 아는데, 기술을 현대화하기에 너무 느리고, 부처를 가로질러 일하기에 너무 느리고, 일하는 방식을 급진적으로 바꾸거나 생산성을 높일 수 있는 것을 받아들이기에 너무 느리다는 것입니다.

뷰캐넌은 더없이 동의한다고 답합니다. 자신이 2023년에 맡았고 지금은 데이비드 색스(David Sacks)가 맡고 있는 백악관 AI 특별보좌관이라는 직책의 존재 자체가 그 때문이라는 것입니다. 바이든 대통령이 공개적으로도 사적으로도 아주 분명하게, 우리는 전형적인 정부의 속도로 움직일 수 없으며 여기서는 더 빨리 움직여야 한다고 말했기 때문에 생긴 자리입니다. 다만 신중할 필요는 있을 것이고 자신은 전부 허물자는 쪽이 아니라고 그는 덧붙입니다.

유럽에는 다른 자세로

클라인은 밴스 연설의 또 다른 큰 축을 꺼냅니다. 유럽을 향한 신호입니다. 미국을 늦출 수 있는 복잡한 다자 협상과 규제에 서명하지 않겠다는 것, 그리고 그런 규제를 어쨌든 통과시켜 미국 AI 기업에 불이익을 준다고 미국이 판단하면 보복하겠다는 것입니다. 새 행정부가 유럽과 기술 규제 전반에 취하는 다른 입장을 어떻게 보느냐는 질문입니다.

뷰캐넌의 답은 솔직한 한계 고백에 가깝습니다. 유럽이 EU AI법(EU AI Act)을 초안하던 때 대화를 나누기는 했지만, 자신이 자리에 있던 시점에 그 법은 아직 초기 단계였습니다. 법은 통과됐어도 실제 세부의 상당 부분은 아직 진행 중인 절차로 넘겨진 상태였고, 클라인이 느리게 움직이는 것으로 치면 관료제가 그렇다고 농담을 던지자 뷰캐넌도 그렇다고 받습니다.

그래서 이것은 자신의 실패일 수 있다고 그는 말합니다. 일반적인 견해 표명 이상으로 유럽 측과 특별히 상세한 대화를 하지는 않았습니다. 그들도 정중했고 미국도 정중했습니다. 다만 미국이 유럽과 다른 접근을 취하고 있었다는 것은 공정한 말이고, 안전과 기회가 이분법인 한에서는, 그는 그것이 순수한 이분법이라고 보지 않지만, 미국은 아주 빠르게 움직일 준비가 돼 있었다는 것입니다.

노동시장이라는 비어 있는 자리

친노동 AI라는 말

클라인은 밴스가 말했고 뷰캐넌도 동의한다고 한 또 하나의 항목을 꺼냅니다. AI를 친노동적으로 만든다는 것이 무슨 뜻이냐는 질문입니다.

뷰캐넌은 이것이 사활적인 질문이라고 답하면서 몇 가지 원칙으로 풀어냅니다. 첫째는 일터입니다. AI는 노동자를 존중하는 방식으로 도입돼야 합니다. 대통령이 많이 생각한 것 가운데 하나가, AI가 일터를 비인간적이고 모멸적인 곳으로 만들 수 있다는 점이었습니다. 이것은 소홀히 하고 싶지 않은 별개의 조각이라고 그는 말합니다.

둘째는 배치의 방향입니다. AI가 경제 전반에 퍼지되 노동자의 주체성과 역량을 키우는 방식이기를 원한다는 것입니다. 그리고 AI 때문에 경제에 많은 전환이 있으리라는 점은 솔직하게 말해야 합니다. 별것 아닐 것이라고 말하는 노벨상 수상 경제학자들도 찾을 수 있고, 엄청날 것이라고 말하는 사람도 아주 많이 찾을 수 있는데, 자신은 엄청날 것이라는 쪽으로 기운다고 그는 말합니다. 물론 자신은 노동경제학자가 아니라는 단서를 다시 답니다.

밴스가 쓴 표현은 바이든 대통령이 쓴 것과 똑같은 문구였습니다. 그 전환에서 노동자에게 그 자리에 앉을 몫을 준다는 말입니다. 그것이 자신들이 하려던 일의 근본적인 부분이었고, 지금 정부가 하려는 일도 그러하리라 짐작한다는 것입니다.

해설
별것 아닐 것이라고 말하는 노벨상 수상 경제학자는 대런 애스모글루(Daron Acemoglu)를 가리키는 것으로 읽히지만, 뷰캐넌이 이름을 밝히지는 않습니다. 애스모글루는 2024년 노벨 경제학상을 받았고, 수상 전인 2024년 4월에 낸 논문에서 AI가 10년간 총요소생산성(TFP)을 1% 미만으로 끌어올리는 데 그칠 수 있다고 추정했습니다.

그의 논지는 AI가 수행할 수 있는 과업이 전체 노동 가운데 작은 몫이고, 그중에서도 비용 절감 효과가 큰 과업은 더 작은 몫이라는 것입니다. 뷰캐넌이 자신은 반대쪽으로 기운다고 말할 때, 그는 경제학 추정치가 아니라 백악관에서 본 추세선을 근거로 삼고 있습니다. 두 사람이 다른 종류의 증거를 보고 있다는 점이 이 논쟁이 좁혀지지 않는 이유이기도 합니다.

충격은 고르지 않게 온다

클라인은 뷰캐넌이 노동경제학자가 아니라는 말로 이 질문을 조금씩 피해 왔다고 지적합니다. 하지만 장담하건대 노동경제학자들도 AI에 대해 무엇을 해야 할지 모른다는 것입니다. 그런데 뷰캐넌은 AI 최고 보좌관이었고 무엇이 오는지에 대한 정부 정보의 신경 중추에 있던 사람입니다. 이것이 그가 생각하는 것의 절반만큼만 커도 노동시장에 닥친 가장 파괴적인 일이 될 것입니다. 그것이 도착하는 기간이 압축돼 있다는 점을 감안하면 더욱 그렇고, 전기를 까는 데도 철도를 놓는 데도 오래 걸렸다고 그는 덧붙입니다.

뷰캐넌은 기본적으로 맞다고 하면서 조금 반박합니다. 충격은 경제의 일부를 먼저 치고 특정 기업들을 먼저 칠 것이며, 사회 전체에 걸쳐 고르지 않게 분포할 것이라는 이야기입니다. 클라인은 그 점에 동의하면서 바로 거기에 불안정의 원인이 있다고 받습니다. 고르게 온다면 고른 정책으로 대응할 수도 있을 텐데, 그렇지 않기 때문입니다. 뷰캐넌은 바로 고르지 않기 때문이고, 노동력의 42%가 하룻밤 사이에 일자리를 잃는 식은 아닐 것이기 때문이라고 말을 잇습니다.

마케팅을 공부하는 19세

클라인은 자신이 걱정하는 종류의 예를 듭니다. 지금 대학에서 마케팅을 공부하는 19세가 아주 많고, AI가 지금도 완벽하게 해낼 수 있는 마케팅 일자리가 아주 많다는 것입니다. 우리가 그것에 지시하는 법을 더 잘 알게 될수록 더 그렇습니다.

뷰캐넌은 이것을 늦추는 요인 하나가 단순히 기업의 적응 속도라고 끼어듭니다. 클라인은 그 점을 인정하면서도 빠르게 벌어질 일을 짚습니다. AI를 중심에 놓고 지어진 기업들이 생긴다는 것입니다. 큰 기업은 통합하기가 더 어렵지만, 새로 들어오는 기업들은 한 사람이 일곱 개 시스템을 감독하는 식으로 조직을 바닥부터 짭니다. 그래서 마케팅 전공자들 사이에서 실업률이 세 배가 되는 광경을 보게 될 수도 있다는 것입니다.

소프트웨어 엔지니어에서도 그렇게 되리라고는 확신하지 않는다고 그는 말합니다. AI가 그 일자리를 많이 가져가는 동시에 많이 만들어 낼 것이기 때문입니다. 소프트웨어에 대한 수요 자체가 훨씬 커질 것이기 때문입니다. 그러나 어딘가에서는 그런 일이 벌어지는 것을 보게 될 것입니다. 컴퓨터 뒤에서 하는 일자리가 아주 많고, 기업들이 컴퓨터 뒤에서 일을 해줄 기계를 흡수하면 채용이 달라집니다.

[한국 관점]
한국에서는 이 충격이 해고가 아니라 채용 축소의 모양으로 먼저 나타날 가능성이 있습니다. 정규직 고용 조정이 어려운 제도에서는 기업이 인력을 줄여야 할 때 이미 있는 자리를 건드리기보다 새로 뽑지 않는 쪽을 택하는 경향이 있기 때문입니다. 클라인이 든 마케팅 전공 19세의 사례가 한국에서는 실업률 통계보다 신입 공채 규모와 첫 취업까지 걸리는 기간에 먼저 찍힐 수 있다는 뜻입니다.

그래서 지표를 어디서 읽느냐가 달라집니다. 전체 고용률은 한동안 멀쩡해 보이는데 특정 연령대의 진입만 막히는 상태가 이어질 수 있고, 그 경우 대응 정책의 대상도 재직자 재훈련이 아니라 노동시장에 들어오지 못하고 있는 사람들이 됩니다. 뷰캐넌이 말한 고르지 않은 분포가 한국에서는 직종이 아니라 세대를 가르는 선으로 그어질 수 있습니다.

재훈련도 보편기본소득도 답이 아니라면

클라인은 이 점에서 뷰캐넌을 밀어붙입니다. 이 문제를 다룬 사람이 정부 안에 분명히 있었을 것이고 그들끼리 이야기도 했을 것이라는 것입니다. 뷰캐넌은 2023년과 2024년에 경제학자들과 이야기하며 이 논쟁에 질감을 주려 했다고 답합니다. 추세선은 그때보다 지금 더 분명합니다. 다만 이것이 2023년과 2024년의 문제가 아니라는 점은 알고 있었고, 솔직히 말해 여기에 견고한 무언가를 하려면 의회가 필요한데 그것은 전혀 가능한 카드가 아니었습니다.

그래서 정책이라기보다 지적 연습에 가까웠다는 것입니다. 정책은 지적 연습으로 시작한다고 클라인이 받자 그는 공정한 지적이라고 인정합니다.

그가 상쇄하는 힘으로 드는 것은 주체성입니다. AI는 개인이 가진 주체성의 양을 늘려 줍니다. 19세나 25세가 예전에는 할 수 없던 일을 시스템을 써서 해내는 세계가 될 것입니다. 지능이 좀 더 범용재화(commodity)가 된다는 것이 두 사람이 주고받는 명제라면, 그런 세계에서 더 두드러지는 것은 주체성과 일을 해내는 능력, 또는 이니셔티브입니다. 그것이 총합적으로는 꽤 역동적인 경제로 이어질 수 있고, 작은 기업들과 역동적인 생태계와 강건한 경쟁으로 이뤄진 경제는 경제 전체 규모에서 보면 그 자체로 나쁜 것이 아니라는 설명입니다.

그러면서 그는 자신과 클라인이, 어쩌면 밴스까지도 동의할 지점을 짚습니다. 개별 노동자와 노동자 계층이 그 전환에서 보호받도록 해야 한다는 것입니다. 그리고 솔직해야 할 대목을 덧붙입니다. 그것이 매우 어려우리라는 것, 그리고 우리가 그 일을 잘해 본 적이 없다는 것입니다.

[관점]
지능이 흔해지면 주체성이 귀해진다는 위안에는 셈이 맞지 않는 구석이 있습니다. 주체성은 흔해진 지능과 달리 공급을 늘릴 방법이 마땅치 않고, 그것을 발휘할 여건인 자본과 연결망과 실패를 감당할 여유는 이미 가진 사람에게 몰려 있기 때문입니다. 희소해진 것으로 보상이 옮겨간다는 말은, 그 희소한 것을 이미 쥔 쪽으로 보상이 옮겨간다는 말과 같습니다.

클라인이 바로 다음 대목에서 이 지점을 찌릅니다. 언제나 몇몇은 주체성과 창의성으로 초생산적이 되고, 그러면 나머지를 향해 왜 당신은 저들처럼 되지 못하느냐고 묻게 된다는 것입니다. 뷰캐넌의 상쇄 논리는 그 질문을 막아 주지 못하고, 오히려 그 질문에 근거를 보태 줍니다.

클라인은 더없이 동의한다고 하면서 더 크게 말합니다. 도널드 트럼프가 오늘 대통령인 이유는 중국과의 교역으로 일자리를 잃은 노동자들을 우리가 형편없이 다뤘기 때문이라는 것입니다. 그가 밀어붙이는 이유는 우리가 이것을 한동안 이야기해 왔고 오는 것을 봐 왔기 때문입니다. 그런데 둘러봐도 쓸 만한 사고가 많이 보이지 않습니다. 형태를 모른다는 점은 인정하지만, 교란이 심각할 경우 무엇을 생각해야 할지에 대한 아이디어쯤은 선반에 놓여 있기를 바란다는 것입니다.

그는 미국의 습관 하나를 지목합니다. 우리의 성공이 우리 손에 달렸다는, 경제적으로 쓸모 있는 이야기에 이 나라가 중독돼 있다는 것입니다. 그래서 세계적 불황이나 세계화처럼 자기 손에 달리지 않은 이유로 노동자가 밀려날 때, 연민으로든 현실감으로든 반응하기가 매우 어렵습니다. 늘 주체성과 창의성으로 초생산적이 되는 사람들이 있고, 그들을 보면 왜 당신은 저들처럼 되지 못하느냐고 묻게 됩니다. 그것이 미국 경제를 보는 아주 뿌리 깊은 방식이라는 것입니다.

재훈련을 좀 해야 한다고들 말하는데 이 사람들이 다 간호사가 되는 것인지, 배관공이 몇 명이나 필요한 것인지를 클라인은 묻습니다. 실제로는 지금보다 더 많이 필요하겠지만, 모두가 기술직으로 옮겨가는 것이냐는 물음입니다. 그러니 이 일이 온다고 믿었던 백악관의 똑똑한 사람들이 한 지적 사고 실험이 무엇이었는지, 그들이 무슨 말을 했는지 알려 달라는 것입니다.

뷰캐넌은 이 질문을 생각하고 있었다고 답합니다. 대통령 임기 안에 마주할 질문이 아니라는 것을 알았고, 무언가 하려면 의회가 필요한 질문이라는 것도 알았습니다. 클라인이 표현하는 것이 가용한 답들에 대한 깊은 불만으로 보이는데, 자신도 그것을 공유하고 많은 사람이 공유했다고 그는 말합니다. 흔한 상투적 답은 얻을 수 있습니다. 재훈련을 많이 한다는 것인데, 그것이 답이라는 데 대한 클라인의 의심을 자신도 공유합니다.

실리콘밸리의 자유지상주의자나 테크 쪽 사람들과 이야기하면 UBI를 말할 것입니다. 그러나 자신은, 그리고 대통령도 그렇게 믿는다고 보는데, 일이 가져다주는 일종의 존엄이 있다고 믿습니다. 반드시 유급노동일 필요는 없지만 사람들이 매일 하는 무언가가 있어야 하고 그것이 의미를 준다는 것입니다. 그러니 클라인이 말하는 것이 노동 쪽에서 이 일이 가는 방향에 대한 불편함이라면 자신도 그것을 공유하되, 다만 그 형태는 모르겠다는 것이 그의 답입니다.

민주당에는 무엇이 있었나

클라인은 한 걸음 더 나갑니다. 자신의 불편함은 지금 전반에 걸친 사고의 질에 있다는 것입니다. 그리고 지난 행정부의 대표로 뷰캐넌을 데려온 자리이니 민주당 쪽에 대해 말하겠다고 합니다. 트럼프 행정부와는 적어도 이견이 아주 많습니다. 그러나 머스크, 색스, 안드레센, 밴스처럼 그 행정부의 최고위에 AI를 오래 생각해 온 사람들, 아주 비범한 생각을 해본 사람들이 있다고 말하는 이들을 그는 이해합니다.

그리고 민주당은 때때로 비범하게 생각하기에는 제도적으로 제약돼 있다고 그는 말합니다. 수출통제도 인정하고 행정명령도 인정하고 AI안전연구소도 인정한다고 합니다. 그러나 민주당이 노동계급의 정당이고자 하고 스스로 그렇다고 상상하는 한, 그리고 AI로 인한 실직 가능성을 몇 년간 이야기해 온 한, 일이 벌어졌을 때 필요한 것은 의회만이 아닙니다. 의회가 법으로 만들 수 있는 정책이 되어 줄 사고가 함께 있어야 합니다. 그래서 그는 이것이 논의되지 않았는지, 회의가 없었는지, 클로드에게 선택지를 정리한 브리프를 쓰게 해보지도 않았는지 묻습니다.

뷰캐넌은 클로드에게 브리프를 쓰게 하지는 확실히 않았다고 답합니다. 정부의 AI 사용 문제를 먼저 정리해야 했기 때문입니다. 클라인은 그것 자체가 꽤 뼈아프다고 받아칩니다.

뷰캐넌의 마무리는 이렇습니다. 정부가 이 모든 차원에서 더 전향적이어야 한다는 데 동의하고, 그렇게 만드는 것이 자신의 일이었습니다. 정부의 AI 사용 같은 영역에서는 진전을 좀 이뤘습니다. 그러니 바이든 행정부의 누구도, 그중에서도 자신은 이것을 해결했다고 말하지 않습니다. 자신들이 말할 수 있는 것은 오고 있는 것에 대한 토대를 짓고 있었다는 것뿐이고, 그것은 자신들의 임기 중에 도착하지 않을 것이었으며, 다음 팀이 미국 국가안보의 문제로서, 이 경우에는 미국의 경제적 힘과 번영의 문제로서 다뤄야 한다는 것입니다.

그래서 무엇을 할 것인가

이 논쟁은 무엇에 관한 것인가

클라인은 AI 정책 대화에서 자신이 답답해하는 지점을 마지막으로 꺼냅니다. 누군가와 마주 앉으면 대화는 인류 역사상 가장 변혁적일지 모르는 기술이 2-3년 안에 인간 문명에 착륙한다는 말로 시작합니다. 그래서 그거 정말 큰일인데 무엇을 해야 하느냐고 물으면, 거기서부터 모든 것이 좀 흐릿해집니다. 어쩌면 우리가 모르는 것일 수도 있습니다.

그런데 이 대담에서 그가 뷰캐넌에게 여러 번 들은 말은 다른 쪽을 가리킵니다. 우리는 이 기술을 붙잡아 두기 위해 거의 아무것도 하지 않았고 전부 자발적이며 요구한 것은 안전성 시험 데이터 공유 하나뿐이었다는 말입니다. 그리고 이제 가속주의자들이 들어왔고, 안드레센은 바이든 행정부를 극히 직설적으로 비판해 왔습니다.

그의 질문은 이렇습니다. 이 정책 논쟁은 무언가에 관한 것인가, 아니면 수사의 정서일 뿐인가라는 것입니다. 그렇게 큰일인데 칩 수출통제 말고는 무엇을 해야 하는지 아무도 설명하지 못한다면, 우리가 충분히 창의적으로 생각하지 않는 것인지 아니면 아직 때가 아닌 것인지 묻습니다. 대담 후반부의 차분하고 절제된 톤을 처음의 톤과 맞춰 달라는 요구이기도 합니다.

뷰캐넌의 답은 지적 겸손입니다. 정책 조치를 취하기 전에 자신이 무엇을 왜 하는지 어느 정도는 이해해야 한다는 것입니다. 그래서 변혁적 기술을 바라보며 그래프에 선을 긋고 이것이 꽤 곧 온다고 말하면서, 동시에 2027년이나 2028년에 무엇을 해야 하는지에 대한 14개 항목짜리 계획을 갖고 있지 않은 것은 전적으로 지적으로 일관된 태도라고 그는 말합니다.

칩 통제가 독특한 이유도 거기에 있습니다. 일찍 할 수 있었던, 강건하게 좋은 일이고 앞서 말한 공간을 사다 준다는 것입니다. 그리고 AI안전연구소 같은 기관을 지은 것은 다음 팀이, 그것이 자신들이든 다른 누구든, 이 기술을 관리하는 데 성공하도록 준비시키려는 일이었습니다. 이제 그 다음 팀이 그들이니, 기술이 들어오는 대로 어디에 눈금을 맞출지는 그들이 결정해야 합니다.

[관점]
지적 겸손이라는 답에는 설득력과 회피가 함께 들어 있습니다. 모르는 상태에서 설계한 규제가 오히려 해롭다는 지적은 타당하고, 원자력 사례를 꺼낸 것도 클라인 자신이었습니다. 다만 그 논리는 수출통제에는 적용되지 않았습니다. 칩 통제는 결과를 다 알아서가 아니라 기회가 왔을 때 집행 가능한 수단이 있었기 때문에 일찍 단행됐습니다.

그렇다면 둘을 가른 것은 확실성의 정도가 아니라 행정부가 의회 없이 쓸 수 있는 권한이 있었느냐입니다. 수출통제는 행정부 권한만으로 가능했고 노동시장 대응은 입법이 필요했습니다. 뷰캐넌이 겸손이라고 부르는 자리의 상당 부분은 사실 권한의 공백이고, 이 구분은 다음 행정부에도 똑같이 적용됩니다.

앞으로 2년 안에 내려야 할 결정

규제에서 그들이 앞으로 2년 안에 내려야 할 결정이 무엇이냐는 물음에 뷰캐넌은 세 가지를 꼽습니다. 첫째는 오픈소스 문제입니다. 그들이 어디로 갈지는 짐작이 가지만 거기에는 풍부한 지적 논쟁이 있고, 바이든 행정부는 아무것도 하지 않는 방식으로 그것을 해결했으므로 계속 그렇게 할지를 그들이 결정해야 합니다.

둘째는 더 근본적인 질문입니다. 공공부문과 민간부문의 관계가 무엇이냐에 궁극적으로 답해야 한다는 것입니다. 예컨대 AI안전연구소에서 지금 자발적으로 하는 일들이 언젠가 의무가 되느냐는 물음입니다.

셋째는 국방입니다. 바이든 행정부는 미국의 가치에 부합하는 방식으로 국방에 AI를 쓰는 일에 시동을 걸려 했습니다. 그것이 앞으로 어떤 모습일지 결정해야 하고, 더 빨리 가기 위해 자신들이 둔 안전장치 일부를 걷어낼지도 그들이 결정해야 한다는 것입니다. 2027년의 답을 확실히 안다고 말하지 않고도 그 결정들이 지평선 위로 다가오고 있다는 것은 알아볼 수 있다고 그는 정리합니다.

[사후 맥락]
그 2년의 끝자락에서 돌아보면 움직인 쪽과 멈춰 선 쪽이 갈립니다. 트럼프 행정부는 2025년 7월 AI 행동계획으로 규제 완화와 인프라, 국제 외교·안보 주도라는 방향을 제시했고, 뷰캐넌이 자발적이라고 설명한 체제를 의무로 바꾸는 선택은 하지 않았습니다. 가중치 공개 문제 역시 연방 차원의 새로운 제약 없이 남았습니다.

칩 쪽에서는 의회가 한때 제동을 걸려 했습니다. 미국 기업에 먼저 판매하게 하는 GAIN AI Act가 2025년 가을 상원의 국방수권법안에 들어갔지만, 백악관과 엔비디아의 반대 속에 같은 해 12월 최종 법안에서 빠져 입법되지 않았습니다. 수출통제는 그 뒤에도 의회의 입법이 아니라 행정부의 조정 아래 놓여 있습니다.

세 권의 책

마지막 질문은 늘 같습니다. 청취자에게 권할 책 세 권입니다.

첫 권은 토머스 쿤(Thomas Kuhn)의 『The Structure of Scientific Revolutions』입니다. 패러다임 전환이라는 말을 만들어 낸 책이고, 그것이 바로 이 대담 내내 두 사람이 이야기한 것, 곧 기술과 과학적 이해의 전환과 그것이 사회에 갖는 함의입니다. 1960년대에 쓰인 이 책이 패러다임 전환을 어떻게 생각할지에 대해 역사적 사례들과 이론적 틀을 함께 준다는 점을 그는 좋아합니다.

둘째는 토머스 리드(Thomas Rid)의 『Rise of the Machines』입니다. 한때 자기 같은 괴짜들의 장난감이던 기계가 1960년대와 70년대, 80년대를 거치며 국가안보의 중대 사안이 된 이야기를 담은 책입니다. 인터넷과 마이크로프로세서 같은 혁명적 기술이 국가안보와 기술 개발의 교차점에서 나왔고, 그 역사가 오늘 우리가 하는 일에 정보를 줘야 한다는 것이 그의 말입니다.

셋째는 분명히 특이한 선택이지만 사활적이라고 그가 말하는 책, 조지 손더스(George Saunders)의 『A Swim in a Pond in the Rain』입니다. 뛰어난 에세이스트이자 단편 작가이며 장편도 쓰는 그는 러시아 문학을 가르치는데, 이 책에서 러시아 단편 일곱 편을 골라 문학적 해석을 붙입니다. 뷰캐넌이 이 책에서 받은 인상은 이것이 자신이 생각할 수 있는 가장 인간적인 작업이라는 것입니다. 위대한 인간의 단편을 가져와 그 이야기가 무엇을 뜻하는지에 대한 현대적 해석을 주는 일입니다.

그래서 기계에게 아직 한참 먼 인지 과업을 이야기할 때, 그는 어느 수준에서 이것이 그중 하나이기를 바란다고 말합니다. 우리만이 할 수 있는 근본적으로 인간적인 무언가가 있기를 바란다는 것입니다. 그리고 그것이 사실인지는 모르겠지만 사실이기를 바란다는 말로 답을 맺습니다. 클라인은 자신이 그 책으로 손더스를 이 쇼에 초대한 적이 있고 가장 좋아하는 에피소드 가운데 하나라고 덧붙이며 대담을 마칩니다.

해설
세 권의 선택에는 뷰캐넌이 대담 내내 유지한 세 겹의 입장이 그대로 들어 있습니다. 쿤은 지금이 패러다임이 갈리는 지점이라는 전제를 주고, 리드는 기술과 국가안보가 얽혀 온 역사가 이번에도 되풀이된다는 관점을 줍니다.

손더스의 책만은 결이 다릅니다. 앞의 두 권이 무엇이 오는지를 다룬다면 이 책은 무엇이 남기를 바라는지를 다루고, 그래서 그가 끝에 붙인 말이 사실인지는 모르겠지만 사실이기를 바란다는 문장이 됩니다. AI 정책을 4년간 다룬 사람이 마지막에 내놓은 것이 근거가 아니라 희망이라는 점은 이 대담의 결론을 꽤 정확히 요약합니다.

원문: Ben Buchanan, The Government Knows A.G.I. is Coming (The Ezra Klein Show) (Mar 2025)
전문은 원문에서 확인하실 수 있습니다.

참고할만한 글

아빈드 나라야난·사야시 카푸어 – 일반 기술로서의 AI (AI as Normal Technology) — 2-3년 안에 모든 것이 바뀐다는 이 대담의 전제와 맞서, 기술의 확산 속도가 사회 제도에 묶인다고 주장하는 글입니다.
J.D. 밴스 – AI 안전이 아니라 AI 기회 (Remarks at the AI Action Summit in Paris) — 이 대담에서 클라인이 클립으로 틀어 준 파리 연설을 정리한 글이라, 뷰캐넌이 반박한 이분법의 원래 맥락을 확인할 수 있습니다.
CSIS – 중국의 AI 미래를 틀어막다 (Choking Off China’s Access to the Future of AI) — 뷰캐넌이 자랑스럽다고 말한 수출통제가 어떤 논리로 설계됐는지를 상세히 분석한 글입니다.
대런 애스모글루 – AI의 단순한 거시경제학 (The Simple Macroeconomics of AI) — 노동시장 충격이 엄청날 것이라는 뷰캐넌의 직관과 대비되게, 거시 효과가 크지 않을 것이라는 추정을 숫자로 제시하는 글입니다.