다리오 아모데이 – 사랑스러운 은총의 기계들 (Machines of Loving Grace)

원문: Dario Amodei, Machines of Loving Grace: How AI Could Transform the World for the Better (Oct 2024) 전문은 원문에서 확인하실 수 있습니다. 아래 글은 번역이 아니라, 다리오 아모데이의 논증을 한국어로 재구성한 정리입니다.

글의 배경과 개요

다리오 아모데이(Dario Amodei)는 AI 기업 앤트로픽(Anthropic)의 공동창업자이자 CEO이며, 2024년 10월 자신의 개인 웹사이트에 약 1만 5천 단어 분량의 에세이 「Machines of Loving Grace」를 올렸습니다. 그는 평소 AI의 위험을 주로 이야기해 왔고 그 때문에 비관론자로 분류되곤 했는데, 이 글에서는 의도적으로 반대편을 봅니다. 글이 답하려는 질문은 하나로, 모든 것이 제대로 풀린다면 강력한 AI가 등장한 뒤 5-10년 사이에 세계가 구체적으로 어떻게 달라지는가입니다. 논증 경로는 두 단계입니다. 먼저 ‘강력한 AI’가 무엇인지 정의하고 지능이 아무리 높아져도 남는 제약 요인들을 정리해 분석 틀을 세운 뒤, 그 틀을 생물학·신경과학·경제개발·평화와 거버넌스·노동과 의미라는 다섯 영역에 차례로 적용합니다. 글 전체는 추측임을 거듭 밝히면서도, 추상적 유보보다 구체적 그림이 논의를 더 진전시킨다는 이유로 수치와 사례를 빽빽하게 채워 넣는 방식을 택합니다.

핵심 내용 정리

• 대부분의 사람들이 AI의 위험을 과소평가하는 만큼이나, AI가 가져올 상방(upside)이 얼마나 급진적일 수 있는지도 과소평가하고 있다고 아모데이는 주장합니다.
• ‘강력한 AI’는 노벨상 수상자보다 똑똑한 지능 수백만 개가 데이터센터 안에서 자율적으로 일하는 상태, 즉 ‘데이터센터 속 천재들의 나라’로 요약됩니다.
• 지능이 높아져도 외부 세계의 속도·데이터 부족·내재적 복잡성·인간 사회의 제약·물리 법칙이라는 한계 요인이 남으며, 어떤 영역이 얼마나 빨라질지는 이 한계 요인들과의 관계로 판단해야 한다고 봅니다.
• 생물학과 의학에서는 인류가 21세기 100년에 걸쳐 이룰 진보를 5-10년에 압축할 수 있으며, 대부분의 감염병·암·유전병·알츠하이머의 정복과 인간 수명 두 배 연장까지 사정권에 들어온다고 전망합니다.
• 신경과학에서도 같은 압축이 일어나 대부분의 정신질환이 치료 가능해지고, 인간 경험의 기본값 자체가 더 나아질 수 있다고 말합니다.
• 개발도상국에 혜택을 전달하는 문제와 민주주의·평화의 문제는 기술이 아니라 인간과 제도의 문제이며, AI가 구조적으로 민주주의 편을 들어줄 이유는 없으므로 민주주의 진영이 앙탕트(entente) 전략으로 우위를 확보해야 한다고 주장합니다.
• 노동과 의미의 문제는 가장 답이 불분명한 영역이며, 장기적으로는 현재의 경제 질서 자체를 다시 설계해야 할 수 있다고 그는 인정합니다.

들어가며: 위험을 말해 온 사람이 왜 낙관을 쓰는가

비관론자로 오해받는 이유

아모데이는 글의 첫머리에서 자신의 입장이 어떻게 오해되어 왔는지부터 정리합니다. 그는 강력한 AI의 위험을 자주 말하고, 그가 이끄는 앤트로픽은 그 위험을 줄이는 연구에 많은 자원을 쓰고 있습니다. 그래서 사람들은 그를 AI가 대체로 나쁘거나 위험하다고 보는 비관론자, 이른바 ‘둠어(doomer)’로 분류하곤 합니다.

아모데이는 그렇게 생각하지 않는다고 분명히 선을 긋습니다. 오히려 그가 위험에 집중하는 주된 이유 중 하나는, 위험이야말로 우리와 근본적으로 긍정적인 미래 사이를 가로막고 선 유일한 장애물이기 때문이라고 말합니다. 그리고 이 글의 출발점이 되는 명제를 제시합니다. 대부분의 사람들이 위험이 얼마나 나쁠 수 있는지를 과소평가하는 것과 똑같이, AI의 상방이 얼마나 급진적일 수 있는지도 과소평가하고 있다는 것입니다.

이 글의 목적은 모든 것이 제대로 풀렸을 때의 세계를 스케치하는 것입니다. 그는 미래를 확실하게 또는 정밀하게 아는 사람은 없으며, 강력한 AI의 효과는 과거의 기술 변화보다도 더 예측하기 어려울 것이므로, 여기 쓰인 모든 내용이 불가피하게 추측일 수밖에 없다고 못 박습니다. 다만 최소한 근거 있고 쓸모 있는 추측을 목표로 하며, 세부가 대부분 틀리더라도 무슨 일이 벌어질지의 결을 잡아내려 한다고 말합니다. 세부를 많이 넣는 이유도 분명히 밝힙니다. 유보 조건을 잔뜩 단 추상적 전망보다 구체적인 비전이 논의를 더 진전시킨다고 보기 때문입니다.

그동안 상방을 말하지 않았던 네 가지 이유

본격적인 전망에 들어가기 전에, 아모데이는 왜 자신과 앤트로픽이 지금까지 강력한 AI의 긍정적 측면을 별로 말하지 않았는지를 네 가지로 정리합니다. 앞으로도 전체적으로는 위험 쪽을 더 많이 말하게 될 이유이기도 합니다.

• 레버리지를 극대화하기 위해서. AI 기술의 기본적인 발전과 그 혜택의 상당 부분은 강력한 시장의 힘이 밀어붙이고 있어서, 위험이 모든 것을 탈선시키지 않는 한 사실상 불가피해 보입니다. 반면 위험은 미리 정해져 있지 않고, 우리의 행동이 그 가능성을 크게 바꿀 수 있습니다. 같은 노력을 들인다면 결과를 바꿀 수 있는 쪽에 쓰는 것이 합리적이라는 계산입니다.
• 선전으로 비치는 것을 피하기 위해서. AI 기업이 AI의 놀라운 혜택을 이야기하면 선전꾼처럼 보이거나, 단점으로부터 시선을 돌리려는 시도처럼 보일 수 있습니다. 그는 원칙 차원의 이유도 덧붙입니다. 자기 포지션을 홍보하는 데(talking your book) 시간을 너무 많이 쓰는 것은 영혼에 나쁘다는 것입니다.
• 과대망상을 피하기 위해서. 그는 많은 AI 위험 담론의 공인들, 그리고 AI 기업 리더들이 범용인공지능(AGI) 이후의 세계를 말하는 방식에 종종 거부감을 느낀다고 말합니다. 마치 자신이 예언자가 되어 백성을 구원으로 이끄는 것이 사명인 양 이야기한다는 것입니다. 기업을 세계를 일방적으로 빚어내는 존재로 보는 것도, 실용적인 기술 목표를 본질적으로 종교적인 용어로 바라보는 것도 위험하다고 봅니다.
• ‘SF적’ 짐을 피하기 위해서. 급진적 AI 미래를 논하는 소수 공동체는 정신 업로드, 우주 탐사, 전반적인 사이버펑크 분위기 같은 과도하게 SF적인 톤으로 이야기하는 경향이 있습니다. 그는 이것이 주장을 덜 진지하게 받아들이게 만들고 비현실감을 입힌다고 봅니다.

네 번째 이유에서 그는 중요한 구분을 합니다. 문제는 그 기술들이 가능하냐 아니냐가 아닙니다. 그런 논의는 본문에서 세밀하게 다룹니다. 문제는 그 ‘바이브’가 어떤 미래가 바람직한지, 각종 사회 문제가 어떻게 전개될지에 대한 문화적 짐과 말해지지 않은 전제들을 함축적으로 끌고 들어온다는 점입니다. 그 결과 글은 좁은 서브컬처를 위한 판타지처럼 읽히고, 대부분의 사람에게는 거부감을 줍니다.

해설 제목 「Machines of Loving Grace」는 리처드 브로티건(Richard Brautigan)이 1967년에 쓴 시 「All Watched Over by Machines of Loving Grace」에서 가져온 것입니다. 원문에서는 각주에 시 링크만 달려 있고 별도의 설명은 없습니다. 이 시는 인간과 기계가 상호 프로그래밍하는 조화 속에서 자연으로 돌아가고, 인간이 ‘사랑스러운 은총의 기계들’에게 보살핌을 받는 목가적 풍경을 그립니다.

1960년대 캘리포니아 반문화와 초기 사이버네틱스 낙관론이 겹친 지점에 놓인 작품이며, 이후 이 제목은 기술 유토피아 담론을 가리키는 관용구처럼 쓰여 왔습니다. 2011년 BBC 다큐멘터리 시리즈와 2015년 존 마코프(John Markoff)의 로봇공학 저서도 같은 제목을 썼습니다.

본문의 ‘talking your book’은 월가에서 나온 관용구로, 자신이 이미 보유한 포지션에 유리하도록 공개 발언을 하는 행위를 가리킵니다. 펀드매니저가 자기가 산 종목을 방송에서 띄우는 상황이 전형적입니다. 아모데이가 이 표현을 쓴 것은, AI 기업 CEO가 AI의 미래를 찬양하는 글을 쓰는 행위가 구조적으로 그 관용구에 해당한다는 점을 스스로 인지하고 있다는 신호입니다.

그럼에도 좋은 세계를 말해야 하는 이유

이 모든 우려에도 불구하고, 아모데이는 위의 함정들을 최대한 피하면서 강력한 AI가 만드는 좋은 세계가 어떤 모습일지 논의하는 것이 중요하다고 말합니다. 실은 진심으로 영감을 주는 미래상을 갖는 것이 필수적이며, 불을 끄는 계획만 있어서는 안 된다는 것이 그의 생각입니다.

강력한 AI의 함의 중 상당수는 적대적이거나 위험합니다. 하지만 그 끝에는 우리가 무엇을 위해 싸우는가에 해당하는 것, 모두가 더 나아지는 포지티브섬 결과, 사람들이 서로의 다툼을 넘어 앞에 놓인 도전을 마주하도록 결집시킬 무언가가 있어야 합니다. 그는 공포도 하나의 동기 부여 수단이지만 그것만으로는 충분하지 않으며, 희망이 함께 필요하다는 말로 이 대목을 맺습니다.

[이해관계] 아모데이는 이 글을 쓴 시점에 앤트로픽의 공동창업자 겸 CEO였고, 지금도 그렇습니다. 그는 오픈AI(OpenAI)에서 연구 부사장(VP of Research)을 지내며 GPT-2와 GPT-3 개발을 이끌었고, 인간 피드백 기반 강화학습(RLHF, Reinforcement Learning from Human Feedback)의 공동 고안자이기도 합니다. 2021년 동생인 다니엘라 아모데이(Daniela Amodei)와 함께 오픈AI를 떠나 앤트로픽을 설립했습니다. 앤트로픽은 공익법인(PBC) 형태를 취하고 있지만 영리 기업이며, 수익의 대부분을 대규모 언어모델 판매에서 얻습니다.

즉 이 글의 다섯 영역에서 ‘강력한 AI가 할 수 있는 일’로 서술되는 거의 모든 항목은, 아모데이가 이끄는 회사가 판매하려는 제품의 효용에 대한 서술이기도 합니다. 그가 스스로 ‘선전으로 비칠 수 있다’고 선제적으로 밝힌 것은 이 구조를 인지한 결과이며, 밝혔다는 사실이 구조 자체를 해소하지는 않습니다.

발표 이후 이해관계의 규모는 크게 달라졌습니다. 보도에 따르면 앤트로픽은 2026년 5월 Series H로 650억 달러를 조달하며 9,650억 달러의 기업가치를 인정받았고, 2026년 6월 1일 미국 증권거래위원회(SEC)에 기업공개(IPO)를 위한 S-1을 비공개 제출했습니다. 2026년 7월 말 기준 연환산 매출(ARR)은 약 650억 달러로 보도되었습니다. 이 수치들은 2차 집계 매체 보도에 기반한 것으로, 회사의 공식 확인 범위와는 차이가 있을 수 있습니다.

다섯 개의 영역

아모데이는 강력한 AI의 긍정적 응용 목록이 극히 길다는 점을 먼저 인정합니다. 로보틱스, 제조업, 에너지를 비롯해 훨씬 많은 영역이 여기 포함됩니다. 그러나 이 글에서는 인간 삶의 질을 직접적으로 개선할 잠재력이 가장 크다고 보는 소수의 영역에만 집중하겠다고 범위를 좁힙니다. 그가 가장 기대하는 다섯 가지는 다음과 같습니다.

• 생물학과 신체 건강 — 질병의 정복과 건강 기본값의 상향
• 신경과학과 정신 건강 — 정신질환 치료와 인간 경험의 개선
• 경제 개발과 빈곤 — 혜택의 전 지구적 분배
• 평화와 거버넌스 — 민주주의의 우위 확보와 제도의 개선
• 노동과 의미 — AI 이후의 경제 질서와 삶의 목적

자기 예측에 대한 아모데이의 유보

아모데이는 자신의 예측이 대부분의 기준에서 급진적으로 보일 것이라고 인정합니다. 다만 SF적인 ‘특이점(singularity)’ 비전과 비교하면 그렇지 않다는 단서를 답니다. 그러면서도 이 예측들을 진지하고 성실하게 내놓는 것이며, 앞서 말한 대로 모든 것이 아주 쉽게 틀릴 수 있다고 거듭 밝힙니다.

그의 방법론적 주장은 다음과 같습니다. 그는 여러 분야의 진보가 얼마나 빨라질 수 있는지, 그리고 그것이 실질적으로 무엇을 의미하는지를 준(semi)분석적으로 평가해 자신의 견해를 근거 지으려 시도했다고 말합니다. 그는 생물학과 신경과학 양쪽에서 전문적 경력이 있고, 경제 개발 분야에서는 식견 있는 아마추어라고 스스로를 규정합니다. 그러면서 분명 많은 것을 틀릴 것이라고 덧붙입니다.

마지막으로 그는 이 글을 쓰면서 깨달은 점을 말합니다. 생물학, 경제학, 국제관계를 비롯한 여러 분야의 전문가 집단을 모아 자신이 쓴 것보다 훨씬 낫고 정보에 근거한 판본을 쓰게 하는 것이 가치 있으리라는 것입니다. 그는 자신의 작업을 그 집단을 위한 출발용 프롬프트 정도로 보는 편이 아마도 가장 적절할 것이라고 말합니다.

원문의 한 각주는 예상 반응 하나를 미리 처리합니다. 소수의 사람들이 이 전망을 두고 ‘꽤 심심하다’고 반응할 것으로 예상하며, 그런 사람들은 트위터식 표현을 빌리자면 밖에 나가 잔디를 좀 만져볼 필요가 있다고 농담조로 응수합니다. 그러나 더 중요한 논점이 이어집니다.

사회적 관점에서 보면 심심한 것이 좋다는 것입니다. 사람들이 한 번에 감당할 수 있는 변화의 양에는 한계가 있고, 자신이 묘사하는 속도가 사회가 극단적 혼란 없이 흡수할 수 있는 한계치에 아마도 가깝다고 그는 말합니다. 즉 5-10년이라는 기간을 고른 것은 기술적 가능성의 상한이 아니라 사회적 흡수 능력의 상한에 대한 판단이기도 합니다.

[반론] 발표 직후부터 이 글의 전제 자체를 겨냥한 비판이 나왔습니다. MIT의 맥스 테그마크(Max Tegmark)는 2024년 10월 X(구 트위터) 게시글에서, 글 후반부에 등장하는 앙탕트 전략의 핵심인 ‘빠른 스케일업’이 미국과 경쟁국 중 누가 먼저 도달하든 인류가 초지능에 대한 통제를 잃을 확률을 높인다고 지적했습니다. 결국 승자는 인류가 아니라 기계가 될 것이라는 반박입니다. 그는 이를 이른바 ‘자살 경주(suicide race)’로 규정하면서, 정렬·통제 방법을 알아내는 것보다 AGI 건설에 먼저 도달하는 상태에 있다는 점을 근거로 들었습니다.

같은 스레드에서 케임브리지의 헤이든 벨필드(Haydn Belfield)는 다른 각도의 반박을 폈습니다. 상대 국가가 아모데이의 기대처럼 ‘포기’하는 대신 확전 위협으로 대응할 수 있으므로, 앙탕트(entente, 협상·제휴)가 아니라 데탕트(detente, 긴장 완화) 전략을 검토해야 한다는 것입니다.

두 번째 이유(선전으로 비치는 것을 피한다)에 대해서도 반론이 있습니다. 비판자들은 아모데이가 선전 혐의를 선제적으로 부인한 것과 무관하게, 글이 결과적으로 급속한 AI 개발을 계속할 근거로 기능한다고 지적합니다. 특히 그가 다른 자리에서 AI로 인한 파국적 결과의 확률을 10-25%로 제시해 왔다는 점과, 이 글이 그 확률을 거의 다루지 않는다는 점이 함께 지적됩니다. 다만 이 유형의 비판은 개인 블로그·뉴스레터 중심으로 확산된 것이어서 출처별 신뢰도 편차가 큽니다.

기본 전제와 분석 틀

왜 정의부터 시작하는가

아모데이는 이 절의 목적을 분명히 밝힙니다. 글 전체를 더 정밀하고 지상에 발을 붙인 것으로 만들려면 두 가지를 먼저 해야 한다는 것입니다. 하나는 ‘강력한 AI’가 무엇을 뜻하는지, 즉 5-10년이라는 시계가 돌아가기 시작하는 문턱이 어디인지 명확히 규정하는 일입니다. 다른 하나는 그런 AI가 등장한 뒤의 효과를 사고할 틀을 마련하는 일입니다.

그는 ‘AGI’라는 용어를 쓰지 않습니다. AGI는 부정확한 용어인 데다 SF적 짐과 과대광고를 잔뜩 끌어모았다는 것이 이유입니다. 대신 강력한 AI(powerful AI) 또는 전문가 수준의 과학·공학(Expert-Level Science and Engineering)이라는 표현을 선호한다고 말합니다. 과대광고 없이 자신이 의미하는 바에 도달하는 표현이라는 이유에서입니다.

언제 그것이 올 것인가는 그 자체로 거대한 주제입니다. 그는 이 문제를 공개적으로 여러 차례 이야기해 왔고 별도의 에세이 한 편을 쓸 수도 있으며 아마 언젠가 쓸 것이라고 말합니다. 많은 사람들이 강력한 AI가 곧 만들어질 것이라는 데 회의적이고, 일부는 아예 만들어지지 않을 것이라고 본다는 점도 인정합니다. 그 자신의 추정은 이르면 2026년이지만, 훨씬 더 오래 걸릴 수 있는 경로들도 있다고 덧붙입니다. 다만 이 글에서는 그 쟁점을 옆으로 치워두고, 합리적으로 가까운 시일 안에 온다고 가정한 뒤 그 이후 5-10년에 집중하겠다고 범위를 정합니다.

강력한 AI의 여섯 가지 조건

아모데이가 말하는 강력한 AI는 오늘날의 대규모 언어모델(LLM)과 형태상 비슷할 가능성이 높지만, 다른 아키텍처에 기반할 수도 있고 여러 모델이 상호작용하는 형태일 수도 있으며 다르게 훈련될 수도 있습니다. 중요한 것은 형태가 아니라 다음 여섯 가지 속성입니다.

• 순수한 지능에서 노벨상 수상자를 능가합니다. 생물학, 프로그래밍, 수학, 공학, 글쓰기 등 관련된 대부분의 분야에서 그렇습니다. 미해결 수학 정리를 증명하고, 대단히 훌륭한 소설을 쓰고, 어려운 코드베이스를 처음부터 작성할 수 있다는 뜻입니다.
• 가상으로 일하는 인간이 쓸 수 있는 모든 인터페이스를 갖습니다. 텍스트, 오디오, 비디오, 마우스와 키보드 제어, 인터넷 접속이 모두 포함됩니다.
• 수동적으로 질문에 답하는 데 그치지 않습니다. 몇 시간, 며칠, 몇 주가 걸리는 과제를 받으면 똑똑한 직원이 하듯 필요할 때 설명을 요청해 가며 자율적으로 수행합니다.
• 물리적 신체는 없습니다. 컴퓨터 화면 위에 사는 것 외에는 체화되어 있지 않지만, 컴퓨터를 통해 기존의 물리적 도구와 로봇, 실험실 장비를 제어할 수 있습니다.
• 수백만 개의 인스턴스로 동시에 돌아갑니다. 모델 훈련에 쓴 자원을 구동에 재배치하면 그 규모가 되며, 인간보다 10-100배 빠른 속도로 정보를 흡수하고 행동을 생성합니다.
• 복제본들은 독립적으로도, 협력적으로도 일합니다. 서로 무관한 과제에 따로 매달릴 수도 있고, 인간이 협업하듯 함께 일할 수도 있습니다.

두 번째 조건에 대해 그는 부연합니다. 이 인터페이스로 가능한 모든 행동, 소통, 원격 조작을 할 수 있다는 것입니다. 인터넷에서 행동을 취하고, 인간에게 지시를 받거나 주고, 자재를 주문하고, 실험을 지휘하고, 영상을 보고, 영상을 만드는 일이 여기 들어갑니다. 그리고 이 모든 과제를 세계에서 가장 유능한 인간을 넘어서는 기량으로 수행합니다. 네 번째 조건에서는 이론적으로 자신이 쓸 로봇이나 장비를 스스로 설계할 수도 있다고 덧붙입니다.

다섯 번째 조건의 수치에는 근거가 붙어 있습니다. 수백만 인스턴스라는 규모는 2027년 무렵의 예상 클러스터 규모와 맞아떨어지고, 10-100배라는 속도는 대략 현재 AI 시스템의 속도입니다. 한 쪽 분량의 텍스트를 몇 초 만에 읽고 한 쪽을 20초쯤에 쓰는 수준입니다. 시간이 지나면 모델이 커지면서 느려지는 경향과 칩이 강력해지면서 빨라지는 경향이 대체로 상쇄되어 왔으며, 다만 물리 세계나 상호작용하는 소프트웨어의 응답 시간에 제약을 받을 수 있습니다. 여섯 번째 조건에서는 서로 다른 하위 집단이 특정 과제에 특별히 능하도록 파인튜닝될 수도 있다고 말합니다.

이 여섯 가지를 그는 한 문장으로 압축합니다. ‘a country of geniuses in a datacenter’, 데이터센터 속 천재들의 나라입니다.

원문의 한 각주는 ‘지능’이라는 단어의 용법을 한정합니다. 이 글에서 지능은 여러 영역에 걸쳐 적용 가능한 일반적 문제 해결 능력을 가리키며, 여기에는 추론, 학습, 계획, 창의성이 포함됩니다. 동시에 그는 지능의 본질이 인지과학과 AI 연구에서 복잡하고 논쟁적인 주제임을 인정합니다. 일부 연구자는 지능이 단일하고 통합된 개념이 아니라 분리된 인지 능력들의 집합이라고 보고, 다른 이들은 여러 인지 기술 밑에 일반 지능 요인(g factor)이 깔려 있다고 봅니다. 그는 그 논쟁을 다른 기회로 미룹니다.

두 극단은 모두 틀렸다

이런 존재가 아주 어려운 문제를 아주 빠르게 풀 수 있으리라는 것은 분명합니다. 그러나 얼마나 빠른지를 알아내는 일은 간단하지 않습니다. 아모데이는 흔히 제시되는 두 극단이 모두 거짓으로 보인다고 말합니다.

첫 번째는 세계가 초 단위나 일 단위로 즉시 변형된다는 입장, 이른바 특이점(Singularity) 시나리오입니다. 우월한 지능이 스스로를 딛고 올라가며 생각 가능한 모든 과학적·공학적·운영적 과제를 거의 즉시 해결한다는 그림입니다. 이 그림의 문제는 실제 물리적·실무적 한계가 존재한다는 점입니다.

하드웨어를 만들거나 생물학 실험을 수행하는 일이 대표적이며, 새로 생겨난 천재들의 나라라 해도 이 한계에 부딪힙니다. 그는 이 대목을 비유로 맺습니다. 지능은 대단히 강력할 수 있지만, 마법의 요정 가루는 아니라는 것입니다.

두 번째는 그 반대편입니다. 기술 진보가 이미 포화 상태이거나 현실 세계의 데이터 또는 사회적 요인에 의해 속도가 제한되어 있어서, 인간을 넘어선 지능이 보탤 것이 거의 없다는 입장입니다. 아모데이는 이 역시 똑같이 설득력이 없다고 봅니다. 정말 똑똑한 사람들의 큰 집단이 있다면 진전이 극적으로 빨라질 과학적 문제, 심지어 사회적 문제를 수백 개 떠올릴 수 있다는 것입니다. 특히 그들이 분석에만 묶여 있지 않고 현실 세계에서 일이 벌어지게 만들 수 있다면 더욱 그렇습니다.

원문은 이 입장이 허수아비가 아님을 밝힙니다. 타일러 코웬(Tyler Cowen)과 매트 이글레시아스(Matt Yglesias) 같은 신중한 사상가들이 이를 진지한 우려로 제기해 왔다는 것입니다. 다만 그는 두 사람이 그 견해를 전면적으로 견지한다고는 보지 않으며, 그 입장이 미친 소리라고도 생각하지 않는다고 덧붙입니다. 진실은 두 극단의 지저분한 혼합물일 가능성이 높고, 과제와 분야에 따라 달라지며, 세부에서는 대단히 미묘할 것입니다. 그래서 그는 이 세부를 생산적으로 사고할 새로운 틀이 필요하다고 말합니다.

지능에 대한 한계수익

여기서 그가 꺼내는 것이 경제학의 개념입니다. 경제학자들은 노동, 토지, 자본 같은 생산요소(factors of production)를 이야기합니다. 노동이나 토지, 자본에 대한 한계수익(marginal returns)이라는 표현은, 주어진 상황에서 어떤 요소가 제약 요인일 수도 있고 아닐 수도 있다는 발상을 담고 있습니다. 그의 예는 공군입니다. 공군에는 비행기와 조종사가 모두 필요한데, 비행기가 동났다면 조종사를 더 뽑아봐야 별 도움이 되지 않습니다.

그는 AI 시대에 우리가 이야기해야 할 것은 지능에 대한 한계수익이라고 주장합니다. 지능을 보완하는 다른 요소들이 무엇인지, 지능이 매우 높아졌을 때 어떤 요소가 제약 요인이 되는지를 알아내려 해야 한다는 것입니다. 우리는 이런 식으로 사고하는 데 익숙하지 않습니다.

더 똑똑해지는 것이 이 과제에 얼마나 도움이 되는가, 그리고 어떤 시간 척도에서 그러한가를 묻는 일 말입니다. 그러나 그는 이것이 매우 강력한 AI가 있는 세계를 개념화하는 올바른 방식으로 보인다고 말합니다. 원문은 이 질문에 가장 가까운 기존 경제학 연구로 범용기술(GPT)과, 범용기술을 보완하는 무형투자(intangible investments)에 관한 문헌을 지목합니다.

해설 이 절의 핵심 이동은 ‘AI가 얼마나 똑똑해지는가’에서 ‘똑똑함이 어디서 막히는가‘로 질문을 옮긴 것입니다. 경제학 배경이 없는 독자를 위해 몇 가지를 덧붙입니다.

생산요소와 한계수익. 고전 경제학은 산출물을 만드는 투입을 노동·토지·자본으로 나눕니다. ‘한계수익’은 한 투입을 한 단위 더 넣었을 때 산출이 얼마나 늘어나는지를 뜻하며, 다른 투입이 고정된 상태에서는 보통 그 증가분이 점점 줄어듭니다. 아모데이의 제안은 지능을 네 번째 생산요소처럼 취급하자는 것이고, 그렇게 보면 ‘AI가 초지능이 되면 모든 것이 해결된다’는 식의 주장은 다른 투입이 고정되어 있다는 사실을 무시한 주장이 됩니다.

특이점. 기술적 특이점은 수학자 존 폰 노이만(John von Neumann)과 SF 작가 버너 빈지(Vernor Vinge), 이후 레이 커즈와일(Ray Kurzweil)을 거치며 자리잡은 개념입니다. 기계 지능이 스스로를 개선하기 시작하면 진보 속도가 통제 불가능하게 치솟아 그 너머를 예측할 수 없게 된다는 가설입니다. 원문이 이 입장을 명시적으로 기각하는 것은, 아모데이가 AI 낙관론 진영 안에서도 특정 분파와 거리를 두고 있다는 신호입니다.

삼체문제(three-body problem). 중력으로 상호작용하는 세 천체의 운동은 일반해가 존재하지 않고 카오스적으로 거동합니다. 초기 조건의 미세한 차이가 시간이 지나며 지수적으로 증폭되므로, 계산 능력을 아무리 늘려도 예측 가능 구간은 조금밖에 늘지 않습니다. 아모데이가 이를 든 것은 지능으로 뚫을 수 없는 종류의 벽의 교과서적 사례이기 때문입니다.

콩코드와 승강기. 원문이 규제·공포로 잠재력이 깎인 사례로 든 것들입니다. 콩코드는 기술적으로 작동하는 초음속 여객기였으나 소음 규제와 경제성 문제로 2003년 퇴역했습니다. 승강기 사례는 미국이 유럽보다 승강기 설치 비용이 몇 배 비싼 이유를 규제·노동·이민 정책에서 찾은 2024년 뉴욕타임스(The New York Times) 칼럼을 가리킵니다.

란다우어 원리(Landauer’s principle). 정보 1비트를 지우려면 최소한의 열에너지가 반드시 소모된다는 물리 법칙입니다. 계산이 공짜가 아니라는 뜻이며, 세계에 존재할 수 있는 계산의 밀도에 상한이 있다는 결론으로 이어집니다.

지능을 제한하는 다섯 가지 요인

아모데이가 추정하는, 지능을 제한하거나 지능과 보완 관계에 있는 요인의 목록은 다섯 가지입니다.

• 외부 세계의 속도 — 줄일 수 없는 지연. 세포 배양, 동물 실험, 순차적으로 쌓아 올려야 하는 실험들.
• 데이터의 부족 — 입력 자체의 결여. 입자가속기 데이터가 대표적입니다.
• 내재적 복잡성 — 원리적 예측 불가. 삼체문제 같은 카오스계.
• 인간으로부터의 제약 — 제도·규범·심리. 임상시험 규제, 원자력, 콩코드, 승강기.
• 물리 법칙 — 절대적 상한. 광속, 열역학, 양자 터널링, 란다우어 원리.

외부 세계의 속도. 지능을 가진 행위자는 무언가를 달성하기 위해서도, 또 배우기 위해서도 세계와 상호작용하며 작동해야 합니다. 원문은 여기서의 학습이 일시적인 맥락 내 학습(in-context learning)일 수도 있고 전통적인 훈련일 수도 있으며, 둘 다 물리 세계에 의해 속도가 제한된다고 덧붙입니다.

세포와 동물은 고정된 속도로 돌아가므로 그들에 대한 실험에는 줄일 수 없는 시간이 듭니다. 하드웨어, 재료과학, 사람과 소통하는 모든 일, 심지어 기존 소프트웨어 인프라도 마찬가지입니다. 게다가 과학에서는 각 실험이 앞선 실험 위에 쌓이는 경우가 많아, 암 치료제 개발 같은 대형 프로젝트에는 줄일 수 없는 최소 시간이 있을 수 있습니다.

데이터의 부족. 때로는 원자료 자체가 없고, 그럴 때는 지능이 더 있어도 도움이 되지 않습니다. 오늘날의 입자물리학자들은 대단히 독창적이고 폭넓은 이론들을 발전시켜 왔지만, 그중 어느 것을 고를지 판단할 데이터가 없습니다.

입자가속기 데이터가 너무 제한적이기 때문입니다. 그들이 초지능이 된다고 해서 극적으로 더 나아질지는 분명하지 않습니다. 더 큰 가속기의 건설을 앞당기는 정도라면 모를까요.

내재적 복잡성. 어떤 것들은 본질적으로 예측 불가능하거나 카오스적이어서, 아무리 강력한 AI도 오늘날의 인간이나 컴퓨터보다 실질적으로 더 잘 예측할 수 없습니다. 카오스계에서는 작은 오차가 시간에 따라 지수적으로 증폭되므로, 계산 능력을 거대하게 늘려도 예측 가능 거리는 조금밖에 개선되지 않습니다. 실제로는 측정 오차가 이를 더 악화시킬 수 있습니다.

인간으로부터의 제약. 많은 일은 법을 어기거나, 인간에게 해를 끼치거나, 사회를 망가뜨리지 않고는 할 수 없습니다. 정렬된(aligned) AI라면 그런 일을 하고 싶어 하지 않을 것이고, 정렬 어긋남이 있는 AI라면 그것은 다시 위험의 문제로 돌아가는 이야기가 됩니다. 인간 사회의 많은 구조는 비효율적이거나 심지어 적극적으로 해롭지만, 임상시험에 대한 법적 요건이나 사람들이 습관을 바꾸려는 의지, 정부의 행태 같은 제약을 존중하면서 바꾸기는 어렵습니다.

물리 법칙. 첫 번째 요인의 더 가혹한 판본입니다. 빛보다 빠르게 이동할 수 없고, 휘저어 놓은 푸딩은 저절로 되돌아가지 않습니다.

칩은 신뢰할 수 없게 되기 전까지 제곱센티미터당 일정 수의 트랜지스터만 가질 수 있습니다. 양자 터널링 때문입니다. 계산은 비트를 지울 때마다 일정한 최소 에너지를 요구하며, 이것이 세계 안에서 계산의 밀도를 제한합니다.

시간 척도라는 추가 구분

아모데이는 여기에 중요한 단서를 하나 더 붙입니다. 단기에는 단단한 제약인 것이 장기에는 지능에 더 유연해질 수 있습니다. 그가 드는 예는 세 갈래입니다.

• 지능을 이용해 새로운 실험 패러다임을 개발하면, 과거에는 살아 있는 동물 실험이 필요했던 것을 시험관 내(in vitro)에서 배울 수 있게 될지 모릅니다.
• 새로운 데이터를 수집하는 데 필요한 도구 자체를 만들 수 있습니다. 더 큰 입자가속기가 그 예입니다.
• 윤리적 한계 안에서 인간 기반 제약을 우회하는 길을 찾을 수 있습니다. 임상시험 시스템의 개선을 돕거나, 임상시험 관료주의가 덜한 새로운 관할권을 만드는 것을 돕거나, 과학 자체를 개선해 인간 임상시험의 필요를 줄이는 것이 여기 해당합니다.

따라서 그가 그리는 그림은 이렇습니다. 처음에는 지능이 다른 요인들에 의해 심하게 병목되어 있지만, 시간이 지나면서 지능 자체가 점점 다른 요인들을 우회해 나갑니다. 그 요인들이 완전히 녹아 없어지는 일은 없더라도, 그리고 물리 법칙처럼 어떤 것들은 절대적이더라도 말입니다.

원문의 한 각주는 흔히 제기되는 반문 하나를 미리 처리합니다. 강력한 AI 자체가 더 강력한 AI를 만드는 데 쓰일 수 있다는 점입니다. 그는 그런 일이 일어날 수 있고 사실 아마도 일어날 것이라고 가정하지만, 그 효과는 생각보다 작을 것이라고 봅니다. 바로 이 절에서 논한 지능에 대한 한계수익 체감 때문입니다.

AI는 계속 빠르게 더 똑똑해지겠지만 그 효과는 결국 지능 아닌 요인들에 의해 제한되며, AI 바깥 영역에서 과학 진보의 속도를 좌우하는 것은 바로 그 요인들에 대한 분석이라는 것입니다. 핵심 질문은 하나로 좁혀집니다. 이 모든 일이 얼마나 빨리, 어떤 순서로 일어나는가.

[반론] 이 절의 분석 틀 자체를 겨냥한 가장 체계적인 반론은 아빈드 나라야난(Arvind Narayanan)과 사야시 카푸어(Sayash Kapoor)가 2025년 4월 나이트 수정헌법 제1조 연구소(Knight First Amendment Institute)에 발표한 「AI as Normal Technology」입니다. 두 저자는 아모데이의 틀과 전제 하나를 공유하면서도 결론을 달리합니다.

이들은 기술의 영향이 발명(invention) → 혁신(innovation) → 확산(diffusion)이라는 세 단계를 거치며, 각 단계마다 별개의 속도 제한이 걸린다고 봅니다. 그리고 사회적 영향을 결정하는 것은 발명의 속도가 아니라 확산의 속도이며, 과거의 범용기술들에서 확산은 수년이 아니라 수십 년 단위로 일어났다고 지적합니다. 특히 안전이 중요한 영역에서는 확산이 더 느리고, 개인뿐 아니라 조직과 제도가 적응하는 속도에 묶여 있다고 봅니다.

아모데이가 ‘인간으로부터의 제약’을 다섯 요인 중 하나로 다룬 반면, 이들은 그것을 지배적 변수로 둡니다. 아모데이의 틀에서는 지능이 시간이 지나며 제약을 우회해 나가지만, 「AI as Normal Technology」의 틀에서는 제약 자체가 사회 변화의 속도이므로 우회 대상이 아닙니다. 두 저자는 또한 AI를 스스로의 미래를 결정하는 행위자로 보는 기술결정론을 명시적으로 거부합니다.

[사후 맥락] 이 절에서 아모데이는 강력한 AI가 ‘이르면 2026년’에 올 수 있다고 썼습니다. 2026년 10월 시점에서 그 예측의 경과를 확인할 수 있습니다.

2025년 3월 앤트로픽이 미국 과학기술정책실(OSTP)에 제출한 AI 행동계획 의견서에서 회사는 더 구체적인 표현을 썼습니다. 블로그 게시물에서는 CEO가 「Machines of Loving Grace」에 쓴 대로 2026년 말이나 2027년 초에 강력한 AI 시스템이 등장할 것으로 기대한다고 밝혔고, 실제 제출문에서는 ‘이르면 2026년 말이나 2027년에 등장할 수 있다’는 다소 약한 표현을 썼습니다.

2026년 드와케시 파텔(Dwarkesh Patel)의 팟캐스트 인터뷰에서 아모데이는 아직 그 지점에 도달하지 않았다고 말했습니다. 데이터센터 속 천재들의 나라가 실현되었다면 모두가 그 사실을 알게 될 것이라고 언급하며, 현재는 AGI 상태가 아니라고 밝혔습니다. 같은 인터뷰에서 그는 10년 내 실현 확률을 약 90%로 제시했고, 2028년 중반에 도래하는 시나리오도 함께 언급했습니다.

요약하면, 원문의 하한선인 2026년은 아모데이 본인의 현재 평가 기준으로 충족되지 않았고 예측은 2027-2028년 쪽으로 이동했습니다. 다만 그가 원문에서 ‘훨씬 더 오래 걸릴 수 있는 경로들도 있다’고 유보를 달았으므로, 이것이 예측의 실패인지 범위 내의 변동인지는 해석의 여지가 있습니다. 코딩 영역의 진전은 그의 예상보다 빨랐다는 평가가 함께 나옵니다.

1. 생물학과 건강

왜 생물학이 첫 번째인가

아모데이는 생물학이 과학적 진보가 인간 삶의 질을 직접적이고 모호하지 않게 개선할 잠재력이 가장 큰 영역일 것이라고 봅니다. 지난 세기에 천연두 같은 인류의 가장 오래된 재앙 일부가 마침내 정복되었지만, 여전히 훨씬 많은 것이 남아 있습니다. 그것들을 물리치는 일은 엄청난 인도주의적 성취가 될 것입니다.

그런데 그의 야심은 질병 치료에 머물지 않습니다. 생물과학은 원리적으로 인간 건강의 기본값 자체를 끌어올릴 수 있다는 것입니다. 건강한 수명을 연장하고, 우리 자신의 생물학적 과정에 대한 통제와 자유를 늘리며, 지금은 인간 조건의 바꿀 수 없는 일부라고 여겨지는 일상적 문제들을 다루는 일이 여기 포함됩니다.

생물학에 걸린 세 가지 병목

앞 절에서 세운 한계 요인의 언어로 보면, 지능을 생물학에 직접 적용할 때의 주된 난점은 데이터, 물리 세계의 속도, 내재적 복잡성 세 가지입니다. 아모데이는 이 셋이 사실 서로 연결되어 있다고 말합니다. 여기에 더해 임상시험 단계에서는 인간으로부터의 제약이 뒤늦게 작용합니다.

물리 세계의 속도. 세포, 동물, 심지어 화학 공정에 대한 실험은 물리 세계의 속도에 묶여 있습니다. 많은 생물학 프로토콜은 박테리아나 다른 세포를 배양하거나 단순히 화학 반응이 일어나기를 기다리는 과정을 포함하는데, 이것이 며칠에서 몇 주까지 걸리며 명백히 빠르게 할 방법이 없는 경우가 있습니다. 동물 실험은 몇 달 혹은 그 이상이 걸리고, 인간 실험은 몇 년이 걸리며, 장기 결과 연구라면 수십 년이 걸리기도 합니다.

데이터의 질. 이와 연관되어 데이터가 부족한 경우가 많은데, 아모데이는 그것이 양이 아니라 질의 문제라는 점을 강조합니다. 관심 있는 생물학적 효과를 나머지 1만 가지 교란 요인으로부터 분리해 내는 명확하고 모호하지 않은 데이터, 또는 특정 과정에 인과적으로 개입하는 데이터, 또는 어떤 효과를 간접적이거나 잡음 섞인 방식으로 추론하는 대신 직접 측정하는 데이터가 늘 부족합니다.

그는 자신의 경험을 근거로 듭니다. 질량분석(mass spectrometry) 기법을 연구하며 직접 수집한 프로테오믹스(proteomics) 데이터처럼 방대하고 정량적인 분자 데이터조차 잡음이 많고 놓치는 것이 많다는 것입니다. 이 단백질들이 어떤 종류의 세포에 있었는가, 세포의 어느 부분에 있었는가, 세포 주기의 어느 단계에서였는가 같은 질문들이 답을 얻지 못한 채 남습니다.

내재적 복잡성. 데이터 문제의 배후에는 내재적 복잡성이 있습니다. 그는 인간 대사의 생화학을 보여주는 도식을 본 적이 있다면 알 것이라고 말합니다. 이 복잡한 시스템에서 어느 한 부분의 효과를 분리해 내기란 대단히 어렵고, 그 시스템에 정밀하거나 예측 가능한 방식으로 개입하기란 더 어렵습니다.

임상시험의 관료주의. 마지막으로, 인간을 대상으로 실험하는 데 드는 본질적 시간과 별개로 실제 임상시험에는 많은 관료적 절차와 규제 요건이 따릅니다. 그는 많은 사람들의 의견이 그러하고 자신도 그렇게 생각한다는 단서를 붙이며, 이것이 불필요한 추가 시간을 더하고 진보를 지연시킨다고 말합니다.

쓰레기를 넣으면 쓰레기가 나온다는 반론

많은 생물학자들은 오랫동안 생물학에서 AI와 ‘빅데이터’ 일반의 가치에 회의적이었습니다. 역사적으로 지난 30년 동안 자신의 기술을 생물학에 적용해 온 수학자, 컴퓨터과학자, 물리학자들은 꽤 성공적이었지만 처음에 기대했던 진정으로 변혁적인 영향은 내지 못했습니다.

이 회의론은 알파폴드(AlphaFold)와 알파프로테오(AlphaProteo) 같은 중대하고 혁명적인 돌파구에 의해 어느 정도 줄어들었습니다. 원문은 알파폴드 개발자들이 2024년 노벨 화학상을 받은 것을 두고 마땅한 수상이라고 평가하며, 이 성취들이 자신에게 영감이었고 아마도 AI가 생물학을 변혁하는 데 쓰인 현존하는 가장 강력한 사례일 것이라고 덧붙입니다.

그럼에도 AI가 제한된 범위의 상황에서만 유용하며 앞으로도 그러리라는 인식이 남아 있습니다. 그 회의론의 전형적인 정식화는 이렇습니다. AI는 당신의 데이터를 더 잘 분석할 수 있지만, 데이터를 더 만들어 내거나 데이터의 질을 높일 수는 없다는 것입니다. 쓰레기를 넣으면 쓰레기가 나옵니다.

핵심 재정의: AI는 데이터 분석 도구가 아니라 가상의 생물학자다

아모데이는 이 비관론이 AI를 잘못된 방식으로 사고하고 있다고 봅니다. 이 대목이 이 절 전체의 축입니다.

AI 진보에 대한 그의 핵심 가설이 옳다면, AI를 사고하는 올바른 방식은 데이터 분석 방법이 아니라 생물학자가 하는 모든 일을 수행하는 가상의 생물학자입니다. 여기에는 현실 세계에서 실험을 설계하고 수행하는 일이 포함됩니다. 실험실 로봇을 제어하는 방식일 수도 있고, 책임연구자(PI)가 대학원생에게 하듯 인간에게 어떤 실험을 하라고 알려주는 방식일 수도 있습니다. 새로운 생물학적 방법이나 측정 기법을 발명하는 일도 포함됩니다.

AI가 생물학을 진정으로 가속할 수 있는 것은 연구 과정 전체를 빠르게 함으로써입니다. 그는 이 문장을 굵게 쓰고 반복까지 합니다. 자신이 AI의 생물학 변혁 능력을 이야기할 때 가장 흔히 등장하는 오해이기 때문입니다. 그가 말하는 것은 데이터를 분석하는 단순한 도구로서의 AI가 아닙니다. 글 앞머리의 강력한 AI 정의에 따라, 생물학자가 하는 거의 모든 일을 수행하고, 지휘하고, 개선하는 AI를 말하는 것입니다.

생물학 진보를 끌어온 소수의 발견들

가속이 어디서 올 것인지를 더 구체화하기 위해 그는 한 가지 관찰을 제시합니다. 생물학 진보의 놀랄 만큼 큰 부분이 극히 적은 수의 발견에서 나왔다는 것입니다. 그 발견들은 대개 생물학 시스템에 정밀하면서도 일반화 가능하거나 프로그램 가능한 개입을 허용하는 광범위한 측정 도구나 기법과 관련되어 있습니다. 원문은 이 발상의 출처로 시드니 브레너(Sydney Brenner)를 인용합니다. 과학의 진보는 새로운 기법, 새로운 발견, 새로운 아이디어에 의존하며 아마도 그 순서대로일 것이라는 취지의 말입니다.

이런 중대한 발견은 연간 1건 정도 나오며, 그것들이 모여 생물학 진보의 50% 이상을 추동한다고 그는 추정합니다. 이 발견들이 그토록 강력한 이유는 정확히 내재적 복잡성과 데이터의 한계를 뚫고 지나가기 때문입니다. 생물학적 과정에 대한 우리의 이해와 통제를 직접적으로 증가시키는 것입니다. 10년에 몇 건씩의 발견이 생물학에 대한 기초과학적 이해의 대부분을 가능하게 했고, 가장 강력한 의학적 치료법 다수를 끌어냈습니다.

그가 드는 사례는 다음과 같습니다.

• 크리스퍼(CRISPR) — 살아 있는 유기체에서 어떤 유전자든 실시간으로 편집할 수 있게 하는 기법으로, 임의의 유전자 서열을 다른 임의의 서열로 교체하는 일이 가능해졌습니다.
• 각종 현미경 기술 — 다양한 형광 기법과 특수 광학을 갖춘 고급 광학현미경, 전자현미경, 원자간력현미경 등 정밀한 수준에서 무슨 일이 벌어지는지 보기 위한 도구들입니다.
• 유전체 시퀀싱과 합성 — 지난 20여 년 동안 비용이 여러 자릿수 떨어졌습니다.
• 광유전학(optogenetics) — 뉴런에 빛을 비춰 발화시킬 수 있게 합니다.
• mRNA 백신 — 원리적으로 무엇에 대해서든 백신을 설계하고 빠르게 변형할 수 있게 하며, COVID 국면에서 유명해졌습니다.
• CAR-T 같은 세포 치료 — 면역세포를 몸 밖으로 꺼내 원리적으로 무엇이든 공격하도록 ‘재프로그래밍’할 수 있게 합니다.
• 개념적 통찰 — 질병의 세균설(germ theory of disease), 그리고 면역계와 암 사이의 연결고리를 깨달은 것 같은 통찰들입니다.

크리스퍼에 대해 그는 원래 기법이 개발된 이후 지속적인 개선이 있었다고 덧붙입니다. 특정 세포 유형을 표적으로 삼고, 정확도를 높이고, 엉뚱한 유전자가 편집되는 일을 줄이는 작업들입니다. 모두 인간에게 안전하게 쓰기 위해 필요한 것들입니다.

왜 이 발견들의 속도가 10배가 될 수 있는가

아모데이가 이 목록을 굳이 나열한 이유는 하나의 결정적 주장을 하기 위해서입니다. 재능 있고 창의적인 연구자가 훨씬 많다면 이런 발견의 속도가 10배 이상 빨라질 수 있다는 것입니다. 달리 말해 이 발견들에 대해서는 지능에 대한 수익이 높고, 생물학과 의학의 나머지 거의 전부가 여기서 따라 나온다는 것입니다.

왜 그렇게 보는가. 그는 지능에 대한 수익을 판정할 때 습관적으로 던져야 할 질문들에 대한 답으로 네 가지 근거를 제시합니다.

• 극소수의 연구자가, 그것도 같은 사람들이 반복해서 만들어 냅니다. 이는 무작위 탐색이 아니라 기량이 작동했음을 시사합니다. 무작위 탐색이었다면 긴 실험 시간이 제약 요인이라는 쪽을 가리켰을 것입니다.
• 실제보다 몇 년 일찍 이루어질 수 있었던 경우가 많습니다. 크리스퍼은 박테리아 면역계에 자연적으로 존재하는 구성요소였고 1980년대부터 알려져 있었지만, 그것이 일반적인 유전자 편집에 전용될 수 있다는 것을 사람들이 깨닫기까지 다시 25년이 걸렸습니다.
• 대규모 자금이 투입된 노력보다 엉성한 곁가지에서 나온 경우가 많습니다. 이는 발견을 추동하는 것이 대규모 자원 집중이 아니라 독창성임을 시사합니다.
• 많은 발견이 서로 독립적입니다. 순차 의존성(serial dependence)이 있는 발견도 일부 있지만, 많은, 어쩌면 대부분의 발견은 독립적이며 이는 한꺼번에 병렬로 작업할 수 있다는 뜻입니다.

두 번째 근거와 관련해 그는 유망한 방향에 대해 과학계의 지지가 없어 여러 해 지연되는 일도 흔하다고 덧붙입니다. 원문은 mRNA 백신 발명자에 관한 복스(Vox)의 프로필 기사를 링크하며, 비슷한 이야기가 수없이 많다고 말합니다.

이 사실들과 생물학자로서의 자신의 전반적 경험을 합치면, 그는 수백 개의 발견이 만들어지기를 기다리고 있다는 강한 인상을 받는다고 말합니다. 과학자들이 더 똑똑하고, 인류가 보유한 방대한 생물학 지식 사이의 연결을 더 잘 만들어 낼 수 있다면 말입니다. 알파폴드와 알파프로테오가 수십 년간 정교하게 설계된 물리 모델링에도 불구하고 중요한 문제를 인간보다 훨씬 효과적으로 풀어낸 것은, 비록 좁은 영역의 좁은 도구이긴 하지만 원리의 증명이 된다고 봅니다.

10배는 되지만 100배는 아닌 이유

그래서 그의 추정은 이렇습니다. 강력한 AI는 이런 발견의 속도를 최소 10배로 만들 수 있고, 그 결과 생물학의 향후 50-100년치 진보를 5-10년에 얻게 됩니다.

원문의 한 각주는 그 내용물의 브레인스토밍을 담고 있습니다. 본문을 어지럽히고 싶지 않아 각주로 뺐다는 단서와 함께, AI 기반 과학이 만들어 낼 수 있는 구체적 발견의 가능성을 열거합니다.

• 알파폴드나 알파프로테오 같은 더 나은 계산 도구의 설계, 즉 범용 AI 시스템이 특화된 AI 계산생물학 도구를 만드는 우리의 능력 자체를 가속하는 것
• 더 효율적이고 선택적인 크리스퍼
• 더 진보한 세포 치료
• 재료과학과 소형화의 돌파구를 통한 더 나은 체내 삽입 장치
• 줄기세포와 세포 분화·탈분화에 대한 더 나은 통제, 그 결과로 조직을 재생하거나 재조형하는 능력
• 면역계에 대한 더 나은 통제, 즉 암과 감염병을 다루기 위해 선택적으로 켜고 자가면역질환을 다루기 위해 선택적으로 끄는 것

그렇다면 왜 100배는 아닌가. 그는 가능할지도 모른다고 열어 두면서도, 여기서는 순차 의존성과 실험 시간이 중요해진다고 말합니다. 1년 만에 100년치 진보를 얻으려면 동물 실험이나 현미경 설계, 값비싼 실험 시설 구축을 포함해 많은 것이 첫 시도에 제대로 되어야 합니다.

그가 내놓는 비교는 흥미롭습니다. 그는 5-10년에 1000년치 진보를 얻는다는, 어쩌면 터무니없게 들리는 발상에는 열려 있지만 1년에 100년치를 얻는 데는 매우 회의적이라고 말합니다. 달리 표현하면 피할 수 없는 상수항의 지연이 있다는 것입니다.

실험과 하드웨어 설계에는 일정한 지연 시간이 있고, 논리적으로 연역할 수 없는 것들을 배우려면 줄일 수 없는 횟수만큼 반복해야 합니다. 다만 그 위에 대규모 병렬화는 가능할 수 있습니다. 원문은 AI가 어떤 실험을 할지 더 똑똑하게 고르는 일에도 도움이 될 수 있다고 덧붙입니다.

임상시험은 왜 느린가

아모데이는 임상시험에 대해 통념과 다른 진단을 내놓습니다. 관료주의와 지연이 많은 것은 사실이지만, 그 느림의 상당 부분은 궁극적으로 간신히 듣거나 애매하게 듣는 약을 엄밀하게 평가해야 할 필요에서 나온다는 것입니다.

그리고 이것이 오늘날 대부분 치료법의 서글픈 현실이라고 말합니다. 평균적인 항암제는 생존기간을 몇 달 늘리면서 세심하게 측정해야 하는 유의미한 부작용을 동반합니다. 알츠하이머 치료제도 비슷한 이야기입니다. 그래서 통계적 검정력을 확보하기 위해 거대한 연구가 필요해지고, 어려운 트레이드오프가 생기는데 규제기관은 대체로 이런 판단을 잘 하지 못합니다. 역시 관료주의와 이해관계의 복잡성 때문입니다.

반대로 정말 잘 듣는 것은 훨씬 빨리 갑니다. 신속 승인 트랙이 있고, 효과 크기가 클수록 승인이 훨씬 쉬워집니다. COVID용 mRNA 백신은 9개월 만에 승인되었는데 통상의 속도보다 훨씬 빠른 것입니다. 그럼에도 그는 이 조건에서조차 임상시험이 여전히 너무 느리다고 보며, mRNA 백신은 약 2개월 만에 승인되었어야 한다는 주장도 있다고 덧붙입니다.

그러나 이 정도의 지연, 즉 약 하나에 처음부터 끝까지 약 1년이라는 지연은 대규모 병렬화와 ‘몇 번의 시도’ 정도의 반복 필요성과 결합하면 5-10년 안의 급진적 변혁과 충분히 양립 가능합니다. 더 낙관적으로는, AI 기반 생물과학이 더 나은 동물·세포 실험 모델이나 시뮬레이션을 개발해 임상시험에서 반복의 필요 자체를 줄일 수 있습니다. 이는 수십 년에 걸쳐 전개되어 더 빠른 반복 루프가 필요한 노화 억제 약물 개발에서 특히 중요해집니다.

생의학의 특이한 강점

사회적 장벽과 관련해 그는 한 가지를 명시적으로 짚습니다. 생의학 혁신은 다른 일부 기술들과 대조적으로, 성공적으로 배치(deploy)되는 데서 유난히 좋은 실적을 갖고 있다는 것입니다.

앞서 언급했듯이 많은 기술은 기술적으로 잘 작동함에도 사회적 요인에 발목을 잡힙니다. 이는 AI가 성취할 수 있는 것에 대해 비관적 관점을 시사할 수 있습니다. 그러나 생의학은 독특합니다. 약을 개발하는 과정은 지나치게 번거롭지만, 일단 개발되고 나면 일반적으로 성공적으로 배치되고 사용된다는 것입니다.

해설 이 절에는 비전공 독자가 걸릴 만한 고유명사가 많이 등장합니다. 원문에 설명이 없는 것들을 보충합니다.

알파폴드 / 알파프로테오. 알파폴드는 구글 딥마인드(Google DeepMind)가 개발한 단백질 구조 예측 AI로, 아미노산 서열만으로 단백질의 3차원 접힘 구조를 예측합니다. 이 문제는 50년 넘게 생물학의 대표적 난제였습니다. 데미스 하사비스(Demis Hassabis)와 존 점퍼(John Jumper)는 이 공로로 2024년 노벨 화학상을 받았는데, 원문이 발표된 바로 그달의 일이고 글 말미의 헌사도 이들을 향합니다. 알파프로테오는 특정 표적 단백질에 결합하는 새 단백질을 생성하는 후속 시스템으로, 예측에서 설계로 넘어간 것입니다.

크리스퍼. 원래 박테리아가 바이러스를 기억했다가 잘라내는 면역 메커니즘입니다. 이를 유전자 편집 도구로 전용할 수 있다는 것을 밝힌 제니퍼 다우드나(Jennifer Doudna)와 에마뉘엘 샤르팡티에(Emmanuelle Charpentier)는 2020년 노벨 화학상을 받았습니다. 아모데이가 ‘1980년대부터 알려져 있었으나 25년이 걸렸다’고 한 것은, 자료는 이미 눈앞에 있었고 부족했던 것은 연결을 짓는 지능이었다는 그의 논거를 떠받치는 핵심 사례입니다.

mRNA 백신 발명자. 원문이 링크한 복스 기사의 주인공은 커털린 커리코(Katalin Karikó)입니다. 그는 수십 년간 연구비 지원을 받지 못하고 강등까지 겪은 끝에 드루 와이스먼(Drew Weissman)과 함께 2023년 노벨 생리의학상을 받았습니다.

CAR-T. 환자의 T세포를 채취해 암세포 표면 항원을 인식하는 수용체를 유전자 조작으로 붙인 뒤 다시 주입하는 치료법입니다. 일부 백혈병·림프종에서 극적인 완치 사례가 나왔으며, 1인 맞춤 제조이기 때문에 비용이 매우 높습니다.

GLP-1 작용제. 원래 당뇨 치료용으로 개발된 호르몬 유사 약물로, 식욕 억제 효과가 커지면서 비만 치료제로 쓰이게 된 계열입니다. 오젬픽·위고비·마운자로 등이 여기 속합니다.

굿하트 법칙(Goodhart’s law). 원문이 조작 불가능한 노화 바이오마커라고 쓴 대목의 배경입니다. 어떤 측정값이 목표가 되는 순간 그 측정값은 좋은 지표이기를 그만둔다는 경험칙입니다. 노화 연구에서는 노화 정도를 빠르게 읽어낼 지표가 있어야 수십 년짜리 실험을 몇 달짜리로 줄일 수 있는데, 그 지표가 조작 가능하면 지표만 좋아지고 실제 수명은 늘지 않습니다.

압축된 21세기

여기까지의 논의를 그는 한 문장으로 요약합니다. AI 기반 생물학과 의학은 인간 생물학자들이 향후 50-100년에 걸쳐 이루었을 진보를 5-10년에 압축할 수 있게 해 줄 것이라는 예측입니다. 그는 이를 압축된 21세기(compressed 21st century)라고 부릅니다. 강력한 AI가 개발된 뒤 몇 년 안에, 우리가 21세기 전체에 걸쳐 이루었을 생물학과 의학의 모든 진보를 해치운다는 발상입니다.

강력한 AI가 몇 년 안에 무엇을 할 수 있을지 예측하는 일은 본질적으로 어렵고 사변적입니다. 그러나 인간이 도움 없이 향후 100년간 무엇을 할 수 있을까라고 묻는 데에는 어느 정도의 구체성이 있다고 그는 말합니다. 20세기에 우리가 성취한 것을 그냥 들여다보거나, 21세기의 첫 20년에서 외삽하거나, 크리스퍼 10개와 CAR-T 50개가 무엇을 가져다줄지 물어보는 것, 이 모두가 실용적이고 지상에 발을 붙인 추정 방법입니다.

일곱 가지 구체적 전망

아래 목록에 대해 그는 미리 단서를 답니다. 엄밀한 방법론에 기반한 것이 아니고 세부에서는 거의 확실히 틀릴 것이지만, 우리가 기대해야 할 급진성의 일반적 수준을 전달하려는 시도라는 것입니다.

1) 감염병의 예방과 치료. 20세기 감염병 대응의 엄청난 진전을 고려하면, 압축된 21세기에 다소간 ‘일을 마무리’하는 것을 상상하는 일은 급진적이지 않습니다. mRNA 백신과 유사 기술은 이미 ‘무엇에 대해서든 백신’이라는 방향을 가리키고 있으며, 원문은 미국 국립보건원(NIH)의 범용 인플루엔자 백신 후보 임상시험 개시를 링크합니다.

다만 감염병이 일부 지역이 아니라 세계에서 완전히 박멸되는가는 빈곤과 불평등에 관한 질문에 달려 있습니다. 예외도 짚습니다. 빠르게 진화하는 질병, 특히 병원을 사실상 진화 실험실로 삼아 치료 저항성을 계속 개선해 나가는 다제내성 균주는 100%에 도달하지 못하게 만드는 요인이 될 수 있습니다.

2) 대부분의 암 제거. 암 사망률은 지난 수십 년 동안 연 2%가량 떨어져 왔습니다. 따라서 인간 과학의 현재 속도만으로도 21세기 중에 대부분의 암을 제거하는 궤도에 있습니다. 일부 아형은 이미 상당 부분 완치되었는데, 일부 백혈병에 대한 CAR-T 치료가 그 예입니다. 그가 더 기대하는 것은 암이 아직 초기 단계일 때 표적해 애초에 자라지 못하게 예방하는 매우 선택적인 약물입니다.

또한 AI는 그 암의 개별화된 유전체에 정교하게 맞춘 치료 요법을 가능하게 할 것입니다. 이는 오늘날에도 가능하지만 시간과 인간 전문성 면에서 비용이 막대한데, AI는 이를 규모화할 수 있을 것입니다. 사망률과 발생률 모두에서 95% 이상의 감소가 가능해 보인다는 것이 그의 추정이며, 다만 암은 극도로 다양하고 적응적이어서 희귀하고 까다로운 악성종양 몇 가지가 끝까지 남는다 해도 놀랍지 않을 것이라고 덧붙입니다.

3) 유전질환의 예방과 치료. 크게 개선된 배아 선별(embryo screening)은 대부분의 유전질환을 예방할 수 있게 만들 가능성이 높습니다. 그리고 크리스퍼의 더 안전하고 신뢰할 만한 후계 기술이 이미 태어난 사람들의 유전질환 대부분을 치료할 수 있을지 모릅니다. 다만 세포의 큰 부분에 영향을 미치는 전신성 질환은 마지막까지 버티는 영역이 될 수 있습니다.

4) 알츠하이머의 예방. 알츠하이머의 원인이 무엇인지 알아내는 데 우리는 매우 애를 먹어 왔습니다. 어떻게든 베타아밀로이드 단백질과 관련이 있지만 실제 세부는 대단히 복잡해 보입니다.

아모데이는 이것이 생물학적 효과를 분리해 내는 더 나은 측정 도구로 풀릴 수 있는 바로 그런 종류의 문제로 보인다고 말하며, 그래서 AI의 해결 능력에 대해 낙관적입니다. 무슨 일이 벌어지고 있는지 실제로 이해하고 나면 상대적으로 단순한 개입으로 예방할 수 있게 될 가능성이 꽤 있다고 봅니다. 다만 이미 발생한 알츠하이머의 손상을 되돌리는 일은 매우 어려울 수 있습니다.

5) 그 밖의 질환 치료 개선. 당뇨, 비만, 심장질환, 자가면역질환 등을 포괄하는 범주입니다. 대부분은 암과 알츠하이머보다 ‘더 쉬워’ 보이고 많은 경우 이미 가파르게 감소하고 있습니다. 예를 들어 심장질환 사망은 이미 50% 넘게 줄었고, GLP-1 작용제 같은 단순한 개입이 비만과 당뇨에 대해 이미 큰 진전을 만들어 냈습니다.

6) 생물학적 자유. 지난 70년은 피임, 가임 조절, 체중 관리 등에서의 진보를 보여 주었습니다. 그러나 그는 AI로 가속된 생물학이 가능성의 범위를 크게 넓힐 것으로 봅니다.

체중, 신체적 외모, 생식, 그 밖의 생물학적 과정이 온전히 사람들의 통제 아래 놓이게 되리라는 것입니다. 그는 이를 생물학적 자유(biological freedom)라는 이름 아래 묶습니다. 모든 사람이 자신이 무엇이 되고 싶은지 선택하고, 자신에게 가장 끌리는 방식으로 삶을 살아갈 수 있게 되어야 한다는 발상이며, 물론 접근의 전 지구적 평등에 관한 중요한 질문들이 따라옵니다.

7) 인간 수명의 두 배 연장. 급진적으로 들릴 수 있지만 그는 추세의 문제로 접근합니다. 20세기에 기대수명은 약 40세에서 약 75세로 거의 두 배 늘었습니다.

따라서 압축된 21세기가 이를 다시 두 배로, 즉 150세로 늘리는 것은 추세 위에 있는 일입니다. 물론 실제 노화 과정을 늦추는 데 필요한 개입은 지난 세기에 주로 소아기 조기 사망을 막는 데 필요했던 개입과 다를 것입니다. 그러나 변화의 크기 자체는 전례 없는 것이 아닙니다.

마지막 항목에 대해 원문은 추론의 성격을 솔직히 밝힙니다. 질병을 치료하는 일과 노화 자체를 늦추는 일 사이에 명백한 생물학적 차이가 있음에도, 여기서만은 더 먼 거리에서 통계적 추세를 바라보며 인간 과학이 아마 이 추세를 이어 갈 방법을 찾아낼 것이라고 말하겠다는 것입니다. 복잡한 대상에서 매끄러운 추세란 필연적으로 매우 이질적인 구성요소들이 합쳐져 만들어지기 때문입니다.

구체적 근거도 제시합니다. 쥐의 최대 수명을 25-50% 늘리면서 부작용이 제한적인 약물이 이미 존재하고, 일부 거북 같은 동물은 이미 200년을 삽니다. 따라서 인간이 어떤 이론적 상한에 도달해 있지 않다는 것은 명백합니다. 그가 추정하는 가장 중요한 필요 조건은 신뢰할 만하고 조작 불가능한 인간 노화 바이오마커입니다.

그것이 있어야 실험과 임상시험에서 빠른 반복이 가능해지기 때문입니다. 일단 인간 수명이 150세가 되면 탈출 속도(escape velocity)에 도달할 수 있을지 모릅니다. 충분한 시간을 벌어 오늘날 살아 있는 사람들 대부분이 원하는 만큼 오래 살 수 있게 되는 상태인데, 다만 그것이 생물학적으로 가능하다는 보장은 전혀 없다고 덧붙입니다. 또한 5-10년 안에 우리가 인간 수명을 두 배로 늘렸다는 사실을 아는 것 자체가 어려울 수 있다는 측정상의 문제도 짚습니다.

[한국 관점] 이 절의 전망 중 세 번째 항목(배아 선별과 유전자 편집에 의한 유전질환 해결)은 한국에서 그대로 적용되지 않습니다. 기술의 문제가 아니라 법의 문제입니다.

「생명윤리 및 안전에 관한 법률」(생명윤리법) 제50조 제2항과 같은 법 시행령은, 배아 또는 태아를 대상으로 하는 유전자검사를 근이영양증 등 대통령령이 정한 특정 유전질환을 진단할 목적으로만 허용합니다. 2005년 법 제정 당시에는 63종이었고 이후 대상 질환이 확대되어 왔지만, 구조 자체는 포지티브 리스트입니다. 아모데이가 말하는 ‘크게 개선된 배아 선별로 대부분의 유전질환을 예방한다’는 그림은, 한국에서는 검사 대상 질환 목록을 어디까지 넓힐 것인가라는 입법·행정 결정에 걸려 있습니다. AI가 아무리 많은 유전질환을 식별할 수 있게 되어도 목록 밖이면 검사 자체가 위법입니다.

더 결정적인 것은 같은 법 제47조 제5항입니다. 유전자치료는 배아, 난자, 정자 및 태아에 대하여 시행할 수 없습니다. 즉 생식세포 계열 유전자 편집은 한국에서 전면 금지입니다. 또 제47조 제1항은 유전자치료 연구 자체를 유전질환, 암, 후천성면역결핍증, 그 밖에 생명을 위협하거나 심각한 장애를 일으키는 질병의 치료 목적으로 한정합니다. 그가 말한 ‘크리스퍼의 더 안전한 후계 기술로 이미 태어난 사람의 유전질환을 치료한다’는 체세포 유전자치료 쪽이라 이 틀 안에 들어올 여지가 있지만, 함께 묶은 배아 단계 개입은 들어올 수 없습니다.

이것은 그가 인간으로부터의 제약이라 부른 것의 교과서적 사례이며, 동시에 상대적으로 가볍게 다룬 지점이기도 합니다. 원문은 임상시험 관료주의를 주된 사례로 들지만, 한국에서는 무엇을 할 수 있는가의 범위 자체를 정하는 실체법이 먼저 작동합니다. 그가 ‘윤리적 한계 안에서 인간 기반 제약을 우회한다’며 언급한 임상시험 관료주의가 덜한 새로운 관할권이라는 발상은, 한국 맥락에서는 규제 완화 논의가 아니라 생명윤리 입법의 재검토 논의가 됩니다.

일곱 번째 항목(수명 두 배 연장)이 사실이라면 그 재정적 충격은 미국보다 한국에서 더 큽니다. 한국은 합계출산율과 고령화 속도에서 OECD 최악 수준이고 국민연금 기금 소진 시점이 이미 정치 쟁점입니다. 그의 논리대로라면 생산가능인구 대 은퇴인구 비율이 바뀌어 상황이 급격히 개선되겠지만, 그 전제는 건강한 수명이 함께 늘어나는 것입니다. 수명만 늘고 유병 기간이 함께 늘면 건강보험 재정에는 정반대 방향으로 작용하며, 원문은 이 구분을 명시적으로 다루지 않습니다.

세계는 얼마나 달라지는가

이 목록을 놓고 그는 독자에게 반성적 질문을 던집니다. 지금으로부터 7-12년 뒤에 이 모든 것이 달성된다면 세계가 얼마나 달라질지 생각해 보라는 것입니다. 공격적인 AI 타임라인을 가정하면 그 정도 시점이 됩니다.

그것이 상상할 수 없는 인도주의적 승리라는 것은 말할 필요도 없습니다. 수천 년 동안 인류를 괴롭혀 온 재앙 대부분이 한꺼번에 사라지는 일입니다. 그는 개인적인 바람을 덧붙입니다. 자신의 친구와 동료 중 많은 이가 아이를 기르고 있는데, 그 아이들이 자랐을 때 질병에 대한 언급이 괴혈병이나 천연두, 흑사병이 우리에게 들리는 것처럼 들리기를 희망한다는 것입니다. 그 세대는 늘어난 생물학적 자유와 자기표현의 혜택도 받을 것이고, 운이 좋다면 원하는 만큼 오래 살 수도 있을 것입니다.

마지막으로 그는 이 변화가 강력한 AI를 예상해 온 소수 공동체를 제외한 모든 사람에게 얼마나 놀라울지 과대평가하기 어렵다고 말합니다. 그가 드는 예가 재정 논쟁입니다. 현재 미국에서는 수천 명의 경제학자와 정책 전문가가 사회보장과 메디케어를 어떻게 지급 가능한 상태로 유지할지, 더 넓게는 의료비를 어떻게 낮출지를 두고 논쟁하고 있습니다. 의료비는 대부분 70세 이상, 특히 암 같은 말기 질환을 가진 이들이 소비합니다. 이 모든 것이 실현된다면 생산가능인구 대 은퇴인구의 비율이 크게 바뀌므로 이 프로그램들의 상황은 급격히 개선될 가능성이 높습니다.

원문은 규모 감각도 제공합니다. 연간 생산성 증가율이 1%, 심지어 0.5%만 올라가도 이 프로그램들의 재정 전망에서 변혁적이라는 이야기를 들었으며, 이 에세이에서 상정한 일들이 실현된다면 생산성 향상은 그보다 훨씬 클 수 있다는 것입니다. 물론 이 도전들은 새로운 기술에 대한 광범위한 접근을 어떻게 보장할 것인가 같은 다른 도전으로 대체될 것입니다. 그러나 그는 이 절을 이렇게 맺습니다. 생물학이 AI에 의해 성공적으로 가속되는 유일한 영역이라 해도 세계가 얼마나 달라질지 숙고해 볼 가치가 있다는 것입니다.

[반론] 제약 산업 당사자로부터의 반론이 있습니다. 일라이 릴리(Eli Lilly)의 CEO 데이비드 릭스(David Ricks)는 데릭 톰프슨(Derek Thompson)이 진행하는 플레인 잉글리시(Plain English) 팟캐스트 인터뷰에서, 현재의 AI가 생물학이나 화학 문제를 푸는 데 그리 능하지 않다고 평가했습니다. 그는 AI가 지금 해내는 종류의 일이 신약 개발에서 직면하는 문제들의 1000분의 1 수준에 불과하다고 말했습니다. 릴리는 알파폴드를 실제로 사용하고 구글 딥마인드와 파트너십을 유지하고 있으므로, 이것은 AI 자체에 대한 거부가 아니라 문제 공간의 크기에 대한 평가 차이입니다.

방법론 차원의 반론도 있습니다. 아모데이의 10배 추정은 과거의 중대 발견들이 더 똑똑한 연구자가 있었다면 더 일찍 나왔을 것이라는 반사실적 추론에 기대고 있습니다. 크리스퍼이 25년 늦었다는 서술은 사후적으로 보면 자명해 보이지만, 당시 알려져 있던 수많은 박테리아 메커니즘 중 어느 것이 유전자 편집 도구가 될지를 사전에 식별하는 문제는 전혀 다른 난이도입니다. 성공한 사례만 돌아보며 ‘더 똑똑했다면 더 빨랐다’고 결론짓는 구조는 생존 편향의 위험을 안고 있으며, 원문 자체는 이 반론을 다루지 않습니다.

한편 노화 억제 분야에서는 그가 지목한 병목, 즉 빠른 반복을 가능하게 할 노화 바이오마커의 부재가 실제 연구 현장의 진단과 일치한다는 점은 덧붙여 둘 만합니다. 예쁜꼬마선충(C. elegans) 등을 이용한 고속 대량 스크리닝 플랫폼에 AI를 결합하는 시도들이 진행 중이며, 이는 반복 루프를 줄인다는 그의 구상과 같은 방향입니다.

2. 신경과학과 정신

정신 건강이라는 누락분

앞 절에서 아모데이는 신체 질환과 생물학 일반에 집중했고 신경과학이나 정신 건강은 다루지 않았습니다. 그는 이 절을 그 누락을 메우는 것으로 시작하면서, 신경과학이 생물학의 하위 분야이고 정신 건강은 신체 건강만큼 중요하다고 못 박습니다. 그리고 한 걸음 더 나갑니다. 굳이 따지자면 정신 건강이 인간 복리에 더 직접적으로 영향을 미친다는 것입니다.

규모 감각도 제시합니다. 수억 명의 사람들이 중독, 우울증, 조현병, 저기능 자폐, PTSD, 사이코패시, 지적장애 같은 문제로 인해 삶의 질이 매우 낮은 상태에 있습니다. 그리고 그보다 수십억 명이 더, 이런 중증 임상 장애들의 훨씬 완화된 판본으로 해석할 수 있는 일상적 문제들과 씨름하고 있습니다. 생물학 일반에서와 마찬가지로 여기서도 문제를 해결하는 데 그치지 않고 인간 경험의 기본 수준 자체를 끌어올리는 것이 가능할지 모릅니다.

원문의 한 각주는 사이코패시에 관한 통념을 교정합니다. 미디어는 지위 높은 사이코패스를 묘사하기를 좋아하지만, 평균적인 사이코패스는 아마도 경제적 전망이 나쁘고 충동 조절이 안 되며 상당한 시간을 감옥에서 보내게 되는 사람일 것이라는 지적입니다.

생물학의 틀이 그대로 적용되는 이유

생물학에 적용한 기본 틀이 신경과학에도 똑같이 적용됩니다. 이 분야 역시 측정이나 정밀한 개입을 위한 도구와 관련된 소수의 발견들에 의해 앞으로 밀려 왔다는 것입니다. 앞 절의 목록에 있던 광유전학이 신경과학 발견이었고, 더 최근에는 CLARITY와 팽창현미경(expansion microscopy)이 같은 계열의 진보에 해당합니다. 여기에 더해 일반 세포생물학의 방법들 중 상당수가 신경과학으로 그대로 넘어옵니다.

따라서 이런 진보의 속도 역시 AI에 의해 비슷하게 가속될 것이고, 5-10년에 100년치 진보라는 틀이 생물학에서와 같은 이유로 신경과학에도 적용된다고 그는 봅니다. 20세기 신경과학의 진보 역시 엄청났습니다. 그는 한 가지 사실을 상기시킵니다. 우리는 1950년대가 되어서야 뉴런이 어떻게, 왜 발화하는지를 이해하게 되었습니다. 그 정도의 출발점이었다면, AI로 가속된 신경과학이 몇 년 만에 빠른 진보를 내놓으리라 기대하는 것은 합리적입니다.

AI 연구가 거꾸로 신경과학에 기여한다

여기에 아모데이는 생물학 절에는 없던 논점 하나를 추가합니다. 지난 몇 년간 AI 자체에 관해 알게 된 것들이 신경과학을 전진시키는 데 도움이 될 가능성이 높다는 것입니다. 신경과학이 계속 인간에 의해서만 수행되더라도 그렇습니다.

가장 명백한 예가 해석가능성(interpretability) 연구입니다. 표면적으로 생물학적 뉴런은 인공 뉴런과 완전히 다른 방식으로 작동합니다. 생물학적 뉴런은 스파이크와 종종 스파이크 발생률을 통해 소통하므로 인공 뉴런에는 없는 시간 요소가 존재하고, 세포 생리와 신경전달물질에 관한 수많은 세부가 그 작동을 상당히 변형합니다.

그러나 그가 보기에 근본 질문은 동일합니다. 선형과 비선형 연산을 결합해 수행하는 단순한 단위들로 이루어진, 분산되어 있고 훈련된 네트워크가 어떻게 함께 작동해 중요한 계산을 수행하는가라는 질문입니다. 그리고 그는 계산과 회로에 관한 흥미로운 질문들 대부분에서 개별 뉴런의 소통 방식에 관한 세부는 추상화되어 사라질 것이라고 강하게 추측합니다. 원문은 이 추측을 AI 내부의 사례에 빗댑니다.

해석가능성 연구에서 배우고 있는 결과 중 상당수는 어텐션 메커니즘 같은 현재 인공 신경망의 구조적 세부가 바뀌거나 대체되더라도 계속 유의미할 것입니다. 구체적 증거도 하나 듭니다. AI 시스템에서 해석가능성 연구자들이 발견한 어떤 계산 메커니즘이 최근 쥐의 뇌에서 재발견되었다는 것입니다.

그리고 실용적 논점이 따릅니다. 인공 신경망에 대해 실험하는 것이 실제 신경망에 대해 실험하는 것보다 훨씬 쉽습니다. 후자는 흔히 동물의 뇌를 절개해야 합니다. 따라서 해석가능성은 신경과학에 대한 우리의 이해를 개선하는 도구가 될 수 있고, 더 나아가 강력한 AI는 그 도구를 인간보다 더 잘 개발하고 적용할 수 있을 것입니다.

해석가능성을 넘어 그는 더 큰 주장을 폅니다. 지적 시스템이 어떻게 훈련되는가에 대해 AI에서 배운 것이 신경과학에 혁명을 일으켜야 한다는 것입니다. 다만 아직 그 혁명이 일어났는지는 확신하지 못한다고 솔직히 덧붙입니다. 그가 신경과학을 할 때 많은 사람들은 학습에 관해 그가 지금이라면 잘못된 질문이라고 여길 것들에 집중하고 있었습니다. 스케일링 법칙과 쓰라린 교훈(bitter lesson)이라는 개념이 아직 존재하지 않았기 때문입니다.

단순한 목적함수에 많은 데이터를 더하면 믿을 수 없이 복잡한 행동을 끌어낼 수 있다는 발상은 연구의 초점을 바꿉니다. 목적함수와 구조적 편향(architectural bias)을 이해하는 일이 더 흥미로워지고, 창발하는 계산의 세부를 이해하는 일은 덜 흥미로워집니다. 그는 최근 몇 년간 이 분야를 가까이 따라가지는 않았다고 단서를 달면서도, 계산신경과학자들이 아직 이 교훈을 온전히 흡수하지 못했다는 막연한 느낌이 있다고 말합니다.

스케일링 법칙에 대한 그 자신의 태도는 언제나 아하, 이것이 지능이 어떻게 작동하는지, 그리고 왜 그렇게 쉽게 진화할 수 있었는지에 대한 상위 수준의 설명이구나였습니다. 그러나 그것이 평균적인 신경과학자의 견해라고는 생각하지 않습니다. 일부는 스케일링 법칙을 지능의 비밀로 보는 입장이 AI 내부에서조차 완전히 받아들여진 것이 아니기 때문입니다.

그가 신경과학자들에게 제안하는 작업은 이 기본 통찰을 인간 뇌의 특수성과 결합하는 것입니다. 생물물리학적 제약, 진화사, 위상 구조, 운동·감각 입출력의 세부 같은 것들 말입니다. 일부는 이미 그렇게 하고 있겠지만 아직 충분하지 않다고 보며, AI 신경과학자들이 이 각도를 더 효과적으로 활용해 진보를 가속할 수 있으리라고 봅니다.

해설 이 절에는 신경과학과 AI 연구 양쪽의 전문 용어가 교차합니다. 원문이 설명 없이 지나가는 것들을 보충합니다.

CLARITY와 팽창현미경. 뇌를 들여다볼 때의 근본 문제는 조직이 불투명하고 구조가 빽빽하다는 것입니다. CLARITY는 뇌 조직에서 빛을 산란시키는 지질을 제거하고 단백질 구조만 하이드로겔로 고정해 뇌를 투명하게 만드는 기법입니다. 팽창현미경은 반대 접근으로, 조직에 흡수성 폴리머를 침투시킨 뒤 물을 먹여 조직 자체를 물리적으로 부풀려 기존 광학현미경의 분해능 한계를 우회합니다. 두 기법 모두 생물학 진보는 측정 도구의 돌파에서 나온다는 아모데이의 논지에 들어맞는 사례입니다.

1950년대. 뉴런의 발화 메커니즘을 정량적으로 설명한 것은 앨런 호지킨(Alan Hodgkin)과 앤드루 헉슬리(Andrew Huxley)의 1952년 모형이며, 두 사람은 1963년 노벨 생리의학상을 받았습니다. 원문이 이 연도를 든 것은 신경과학이 얼마나 최근에 출발한 분야인지를 보이기 위해서입니다.

쓰라린 교훈. 강화학습 연구자 리처드 서튼(Richard Sutton)이 2019년에 쓴 짧은 글의 제목으로, AI 역사에서 인간의 지식과 구조를 손으로 집어넣는 접근은 늘 계산량과 데이터를 늘리는 단순한 접근에 패배해 왔다는 관찰입니다. 원문이 신경과학에 적용하자고 제안하는 바는, 뇌의 복잡한 행동을 설명하려 할 때 회로의 세부를 하나씩 해독하는 대신 그 회로를 빚어낸 목적함수와 제약 조건을 묻자는 것입니다.

해석가능성. 훈련된 신경망의 내부를 열어 어떤 표상과 회로가 형성되었는지 규명하려는 연구 분야입니다. 원문은 이 대목에서 앤트로픽 자사의 연구 페이지와 transformer-circuits.pub을 링크합니다.

분자 티커테이프(molecular ticker tape). 원문이 원리적으로 가능해 보인다며 언급한 제안입니다. 뉴런의 발화 이력을 DNA나 단백질 같은 분자 기록 매체에 시간순으로 새겨 넣은 뒤 나중에 한꺼번에 읽어내자는 구상으로, 수많은 개별 뉴런의 활동을 실시간 관찰 없이 사후에 복원하려는 시도입니다.

진보의 네 가지 경로

아모데이는 AI가 신경과학의 진보를 가속할 경로를 네 갈래로 구분합니다.

• 전통적 분자생물학·화학·유전학 — 뇌 기능을 바꾸고 각성도나 지각에 영향을 주고 기분을 변화시키기 위해 신경전달물질을 조절하는 약물이 이미 많이 있고, AI는 그보다 훨씬 많은 것을 발명하도록 도울 수 있습니다.
• 미세 수준의 신경 측정과 개입 — 다수의 개별 뉴런 또는 신경 회로가 무엇을 하고 있는지 측정하고 그 행동을 바꾸기 위해 개입하는 능력으로, 광유전학과 신경 프로브가 그 예입니다.
• 진보한 계산신경과학 — 현대 AI의 구체적 통찰과 전체적 감각을 시스템 신경과학의 질문들에 적용하는 것으로, 정신증이나 기분장애 같은 복잡한 질환의 실제 원인과 동역학을 밝혀내는 일이 포함될 수 있습니다.
• 행동 개입 — 정신의학과 심리학이 20세기에 걸쳐 발전시킨 광범위한 레퍼토리를 AI가 가속하는 것으로, 새로운 방법의 개발과 기존 방법에 환자가 꾸준히 따르도록 돕는 일 양쪽에서 그렇습니다.

첫 번째 경로에서 그는 정신질환의 유전적 기반에 대한 연구도 가속할 수 있을 것이라고 덧붙입니다. 두 번째 경로에서는 다수의 개별 뉴런의 발화 패턴을 읽어내는 분자 티커테이프 같은 매우 진보한 방법들이 제안되어 있고 원리적으로 가능해 보인다고 말합니다. 네 번째 경로에서는 하나의 구상을 제시합니다. 늘 당신이 최선의 자기 자신이 되도록 돕고, 당신의 상호작용을 연구해 더 효과적으로 행동하는 법을 배우도록 돕는 ‘AI 코치’라는 발상이 매우 유망해 보인다는 것입니다.

다섯 가지 구체적 전망

그의 추정은 이 네 경로가 함께 작동하면 AI가 없더라도 향후 100년 안에 대부분의 정신질환을 치료하거나 예방하는 궤도에 올라설 수 있다는 것입니다. 따라서 AI로 가속된 5-10년 안에 그 일이 합리적으로 완수될 수 있습니다.

1. 대부분의 정신질환은 아마도 치료 가능해집니다. 그는 자신이 정신질환의 전문가가 아니라는 점을 먼저 밝힙니다. 신경과학을 하던 시절 그가 한 일은 소규모 뉴런 집단을 연구하기 위한 프로브를 만드는 것이었습니다. 그럼에도 그의 추측은 PTSD, 우울증, 조현병, 중독 같은 질환이 위 네 방향의 조합을 통해 규명되고 매우 효과적으로 치료될 수 있으리라는 것입니다.

답은 아마도 두 가지의 조합, 즉 생화학적으로 무언가 잘못되었다는 것과 신경망에 상위 수준에서 무언가 잘못되었다는 것의 조합일 것입니다. 즉 시스템 신경과학의 문제라는 뜻인데, 그렇다고 해서 행동 개입의 효과를 부정하는 것은 아니라고 덧붙입니다. 특히 살아 있는 인간에 대한 측정과 개입 도구가 빠른 반복과 진보를 이끌 가능성이 높습니다.

2. 매우 구조적인 조건은 더 어렵지만 불가능하지는 않습니다. 사이코패시가 명백한 신경해부학적 차이와 연관되어 있다는 증거가 일부 있습니다. 특정 뇌 영역이 그냥 더 작거나 덜 발달해 있다는 것입니다. 또 사이코패스는 어린 나이부터 공감 능력이 결여되어 있다고 여겨지며, 그들의 뇌에서 무엇이 다르든 그것은 아마도 처음부터 그랬을 것입니다. 일부 지적장애와 어쩌면 다른 조건들에도 같은 이야기가 적용될 수 있습니다.

뇌를 재구조화한다는 것은 어렵게 들리지만, 그는 이것이 지능에 대한 수익이 높은 과제로도 보인다고 말합니다. 어쩌면 성인의 뇌를 더 이르거나 더 가소적인 상태로 구슬려 재형성할 수 있는 어떤 방법이 있을지 모릅니다. 얼마나 가능한지에 대해 매우 불확실하다고 명시하면서도, AI가 여기서 발명해 낼 수 있는 것에 대해서는 낙관하는 쪽이 자신의 본능이라고 말합니다.

3. 정신질환의 유전적 예방이 가능해 보입니다. 대부분의 정신질환은 부분적으로 유전됩니다. 그리고 전장유전체연관분석(GWAS, Genome-Wide Association Study)이 관련 요인들을 식별하는 데서 성과를 내기 시작하고 있으며, 그 요인들은 수가 많은 경우가 흔합니다.

신체 질환에서와 비슷하게 배아 선별을 통해 이 질환들 대부분을 예방하는 것이 가능해질 것입니다. 다만 한 가지 차이가 있습니다. 정신질환은 다유전자성(polygenic)일 가능성이 더 높고, 그 복잡성 때문에 질병과 상관된 긍정적 형질을 자기도 모르게 함께 배제할 위험이 커집니다.

원문은 이 지점에서 길항적 다면발현(antagonistic pleiotropy) 가설을 링크합니다. 그런데 그는 흥미로운 단서를 답니다. 이상하게도 최근 몇 년간의 GWAS 연구들은 그 상관관계가 과장되어 있었을 수 있다는 쪽을 시사하는 듯하다는 것입니다. 어느 쪽이든 AI로 가속된 신경과학이 이런 문제를 규명하는 데 도움이 될 수 있습니다. 물론 복합 형질에 대한 배아 선별은 여러 사회적 쟁점을 제기하며 논쟁적일 것이지만, 중증이거나 쇠약하게 만드는 정신질환에 대한 선별이라면 대부분의 사람들이 지지하리라 추측합니다.

4. 임상적 질병으로 여겨지지 않는 일상적 문제들도 해결됩니다. 우리 대부분은 통상 임상적 질병 수준으로 여겨지지 않는 일상적 심리 문제를 안고 있습니다. 어떤 사람은 쉽게 화를 내고, 어떤 사람은 집중이 어렵거나 자주 졸리고, 어떤 사람은 두려움이나 불안이 많거나 변화에 잘 적응하지 못합니다.

오늘날에도 각성이나 집중을 돕는 약물은 이미 존재하지만, 다른 많은 영역에서와 마찬가지로 훨씬 많은 것이 가능할 가능성이 높습니다. 아마도 아직 발견되지 않은 이런 약물이 더 많이 존재할 것이고, 표적화된 광자극이나 자기장 같은 완전히 새로운 개입 양식도 있을 수 있습니다. 20세기에 인지 기능과 정서 상태를 조율하는 약물을 우리가 얼마나 많이 개발했는지를 고려하면, 그는 모두가 자기 뇌를 조금 더 잘 작동하게 만들고 더 충만한 일상을 보낼 수 있게 되는 압축된 21세기에 대해 매우 낙관적입니다.

5. 인간 경험의 기본값 자체가 훨씬 나아질 수 있습니다. 많은 사람들이 계시, 창조적 영감, 연민, 충만함, 초월, 사랑, 아름다움, 명상적 평온 같은 비범한 순간을 경험해 본 적이 있습니다. 그 경험의 성격과 빈도는 사람마다 크게 다르고 같은 사람 안에서도 때에 따라 크게 다르며, 여러 약물에 의해 촉발되기도 합니다.

흔히 부작용을 동반하지만 말입니다. 이 모든 것이 시사하는 바는 경험 가능한 것의 공간이 매우 넓다는 것, 그리고 사람들의 삶에서 이런 비범한 순간이 차지하는 비중이 지금보다 더 커질 수 있다는 것입니다. 또한 여러 인지 기능을 전반적으로 개선하는 것도 아마 가능할 것이며, 그는 이것이 생물학적 자유나 수명 연장의 신경과학 판본일 것이라고 말합니다.

[반론] 세 번째 전망인 배아 선별에 의한 정신질환 예방은 정신의학 유전학 분야의 다수 연구자가 명시적으로 경고해 온 지점입니다.

에후드 카라바니(Ehud Karavani), 토드 렌츠(Todd Lencz), 샤이 카르미(Shai Carmi) 등이 2019년 Cell에 발표한 「Screening Human Embryos for Polygenic Traits Has Limited Utility」는 시뮬레이션과 실제 코호트 데이터로 다유전자 배아 선별의 기대 이득이 제한적이고 불확실하다는 결론을 내놓았습니다. 핵심 이유는 한 부부에게서 나온 형제 배아들 사이의 유전적 변이 폭이 좁아서, 집단 수준에서 작동하는 다유전자 점수가 그 좁은 범위 안에서 배아를 변별할 힘이 거의 없다는 것입니다. 이 논문은 아모데이가 우려한 바로 그 길항 상관의 사례도 제시합니다. IQ는 대부분의 정신질환과 음의 유전 상관을 보이지만 자폐 및 거식증과는 양의 상관을 보이므로, 예측 IQ가 높은 배아를 고르면 그 두 가지 위험이 올라간다는 것입니다.

2022년 The Lancet Psychiatry에 실린 「Concerns about the use of polygenic embryo screening for psychiatric and cognitive traits」는 더 직접적입니다. 저자들은 다유전자 위험 점수가 개인 수준에서는 본질적으로 확률적이며, 한 개인의 점수는 매우 높은 쪽부터 매우 낮은 쪽까지 어디에나 놓일 수 있다고 지적합니다. 그 결과 현재까지 정신의학에서 다유전자 위험 점수의 임상 적용은 존재하지 않습니다. 이들의 결론은 착상전 다유전자 검사의 윤리적 사용을 의학적 조건에 한정해야 하며, 정신질환 맥락에서는 특별한 신중함이 필요하다는 것입니다.

주목할 점은 아모데이가 ‘상관관계가 과장되었을 수 있다’는 근거로 링크한 2024년 Human Reproduction Update의 종설 역시, 낮은 예측력, 낮은 양성예측도, 집단 간 성능 편차 등 기대 이득을 제약하는 요인들을 길게 나열하고 있다는 것입니다. 같은 문헌이 양쪽 방향의 근거를 담고 있는 셈이며, 원문은 그중 한쪽만 인용합니다.

마음 업로드를 뺀 이유

SF적 AI 묘사에서 자주 등장하지만 그가 의도적으로 다루지 않은 주제가 하나 있습니다. 마음 업로드(mind uploading), 즉 인간 뇌의 패턴과 동역학을 포착해 소프트웨어에 구현한다는 발상입니다.

그는 이것이 그 자체로 에세이 한 편의 주제가 될 수 있다고 하면서 짧게 결론만 밝힙니다. 업로드가 원리적으로는 거의 확실히 가능하다고 보지만, 실제로는 강력한 AI가 있더라도 중대한 기술적·사회적 난제에 직면하며 그 난제들이 이 글에서 논의하는 5-10년 창 바깥에 그것을 놓을 가능성이 높다는 것입니다. 서문에서 그가 SF적 짐을 피하겠다고 밝힌 원칙이 여기서 실제로 적용된 사례입니다.

눈에 보이지 않는 혁명

이 절의 결론은 이렇습니다. AI로 가속된 신경과학은 대부분의 정신질환에 대한 치료를 크게 개선하거나 심지어 치유할 가능성이 높고, 인지적·정신적 자유와 인간의 인지·정서 능력을 크게 확장할 것입니다. 이는 앞 절에서 묘사한 신체 건강의 개선만큼이나 급진적입니다.

그러면서 그는 흥미로운 비대칭을 지적합니다. 세계는 겉으로 보기에는 달라지지 않을지 모릅니다. 그러나 인간이 경험하는 세계는 훨씬 더 낫고 더 인간적인 곳이 될 것이며, 자기실현의 기회가 더 많은 곳이 될 것입니다. 마지막으로 그는 한 가지 파급 효과를 추측합니다. 개선된 정신 건강이 다른 많은 사회적 문제를 완화할 것이라는 점이며, 여기에는 정치적이거나 경제적으로 보이는 문제들까지 포함됩니다.

[한국 관점] 아모데이의 논증 구조에서 생의학은 특이한 강점을 갖습니다. 앞 절에서 그는 약을 개발하는 과정은 번거롭지만 일단 개발되면 일반적으로 성공적으로 배치된다고 주장했습니다. 그런데 정신 건강에서는 이 전제가 한국에서 그대로 성립하지 않습니다. 한국의 병목은 발견 속도가 아니라 사람들이 치료에 접근하느냐에 있습니다.

가장 자주 지적되는 구조적 장애물은 보험입니다. 정신건강의학과에서 진료를 받고 건강보험을 적용하면 상병코드 ‘F코드’가 기록에 남는데, 이 이력이 민간 보험 신규 가입 심사에서 불리하게 작용해 왔습니다. 경향신문이 2022년 국가인권위원회와 관련 학회에 접수된 진정·민원을 분석한 보도에 따르면, 보험사들은 정신질환 이력이 있으면 경중에 관계없이 가입을 거부하거나 보장 범위를 크게 줄이는 사례가 있었고, 사전에 알리지 않았다는 이유로 보험금 지급을 거부하거나 계약 해지를 통보한 사례도 있었습니다. 국가인권위원회는 우울증을 이유로 한 가입 거절을 차별로 보고 재심사를 권고해 왔으며, 금융소비자보호법 제15조는 금융회사의 부당한 차별을 금지하고 있습니다. 보건복지부도 정신질환자 범위 축소와 보험 가입 차별 금지 방향으로 제도를 손보아 왔지만, 현장 관행이 남아 있다는 보도가 반복되어 왔습니다.

이 구조가 만드는 역설은 인권위 결정문이 지적한 그대로입니다. 적극적으로 치료받으며 건강을 관리하는 사람은 보험 가입이 제한되고, 치료받지 않은 사람은 가능해지는 모순이 생깁니다.

아모데이의 네 번째 전망, 즉 임상적 질병으로 분류되지 않는 일상적 문제들까지 약물이나 새로운 개입으로 다듬는다는 그림은 이 환경과 특히 충돌합니다. ‘조금 더 집중을 잘하고 싶다’ 수준의 동기로 정신건강의학과 문을 두드리는 일이 한국에서는 기록이 남는다는 비용을 동반합니다. 원문은 치료의 공급을 가속하는 문제를 다루지만, 수요 측에서 사람들이 치료를 회피하게 만드는 제도적 유인은 다루지 않습니다. 그가 ‘생의학은 일단 개발되면 잘 배치된다’고 한 일반화에 대한 반례가 바로 이 영역입니다.

반대로 그의 네 번째 경로인 행동 개입과 ‘AI 코치’는 한국에서 오히려 수요가 클 수 있습니다. 기록이 남지 않고 낙인이 따르지 않는 접근 경로이기 때문입니다. 다만 이는 의료기기·의료행위 규제와 바로 맞닿는 영역이며, 진단이나 치료에 해당하는 기능을 비의료 서비스가 수행할 때의 법적 경계가 아직 정리되어 있지 않습니다.

3. 경제 개발과 빈곤

개발에서 분배로

앞의 두 절은 질병을 치료하고 삶의 질을 개선하는 새로운 기술을 개발하는 이야기였습니다. 그러나 인도주의적 관점에서 보면 명백한 질문이 하나 따라옵니다. 모든 사람이 이 기술에 접근할 수 있는가.

아모데이는 두 가지가 다르다는 점을 분명히 합니다. 질병의 치료법을 개발하는 것과 그 질병을 세계에서 박멸하는 것은 별개의 일입니다. 더 넓게 보면 이미 존재하는 많은 보건 개입조차 아직 세계 전역에 적용되지 못했고, 보건이 아닌 일반적인 기술 개선에서도 사정은 같습니다.

달리 말하면 세계의 많은 지역에서 생활 수준은 여전히 절망적으로 가난합니다. 그가 제시하는 숫자는 명료합니다. 사하라 이남 아프리카의 1인당 GDP는 약 2,000달러이고, 미국은 약 75,000달러입니다.

그리고 그는 도덕적 판정을 내립니다. 만약 AI가 선진국의 경제 성장과 삶의 질을 더 높이면서 개발도상국을 돕는 데는 거의 기여하지 못한다면, 우리는 그것을 끔찍한 도덕적 실패로, 그리고 앞의 두 절에서 서술한 진정한 인도주의적 승리에 남은 오점으로 보아야 합니다. 이상적으로 강력한 AI는 선진국을 혁명적으로 바꾸는 동시에 개발도상국이 선진국을 따라잡도록 도와야 합니다.

왜 여기서는 자신이 없는가

여기서 그는 자신의 확신 수준이 떨어진다는 점을 솔직히 밝힙니다. AI가 근본 기술을 발명할 수 있다는 데 대해 그가 가진 만큼의 확신을, AI가 불평등과 경제 성장 문제를 다룰 수 있다는 데 대해서는 갖고 있지 않다는 것입니다. 이유는 앞의 틀로 설명됩니다.

기술에는 지능에 대한 수익이 명백히 높습니다. 복잡성과 데이터 부족을 우회하는 능력까지 포함해서 그렇습니다. 반면 경제에는 인간으로부터의 제약이 많이 걸려 있고, 내재적 복잡성도 크게 작용합니다.

구체적으로 그는 두 가지 회의를 표명합니다. 첫째, AI가 그 유명한 사회주의 계산 논쟁(socialist calculation problem)을 풀 수 있을지에 대해 다소 회의적입니다. 둘째, 설령 풀 수 있다 해도 정부가 경제 정책을 그런 존재에게 넘기지 않을 것이고 넘겨서도 안 된다고 봅니다.

원문의 한 각주가 이 회의의 근거와 그에 대한 반박을 함께 담고 있습니다. 그는 이 문제가 고전적인 카오스계와 조금 비슷하다고 추측합니다. 환원 불가능한 복잡성에 시달리며 대체로 분산된 방식으로 관리될 수밖에 없다는 것입니다. 원문은 이 대목에서 프리드리히 하이에크(Friedrich Hayek)를 링크하며, 다만 더 온건한 개입은 가능할 수 있다고 덧붙입니다.

그리고 경제학자 에릭 브리뇰프슨(Erik Brynjolfsson)이 그에게 제기한 반론을 각주에 그대로 소개합니다. 월마트나 우버(Uber) 같은 대기업들이 어떤 분산된 과정보다도 소비자를 더 잘 이해할 수 있을 만큼의 중앙집중적 지식을 갖기 시작했고, 이것이 누가 최선의 국소적 지식을 가지는가에 대한 하이에크의 통찰을 수정하도록 강제할 수 있다는 것입니다. 여기에 더해 그는 기술 외적인 문제 하나를 짚습니다. 효과가 있지만 사람들이 의심할 수 있는 치료를 어떻게 받아들이도록 설득할 것인가의 문제입니다.

부패라는 악순환

개발도상국이 직면한 과제는 공공과 민간 양쪽에 만연한 부패 때문에 한층 복잡해집니다. 그는 부패가 악순환을 만든다고 말합니다. 부패는 빈곤을 악화시키고, 빈곤은 다시 더 많은 부패를 낳습니다. 따라서 AI 기반의 경제 개발 계획은 부패, 약한 제도, 그 밖의 매우 인간적인 난제들을 고려해야 합니다.

그럼에도 그는 낙관의 근거가 상당하다고 봅니다. 질병은 실제로 박멸된 적이 있고, 많은 나라가 실제로 가난한 상태에서 부유한 상태로 이행했습니다. 그리고 그 과제에 수반되는 결정들이 인간으로부터의 제약과 복잡성에도 불구하고 지능에 대한 수익이 높다는 점은 분명합니다. 따라서 AI는 그 일들을 지금보다 잘 해낼 가능성이 높고, 인간 제약을 우회하는 표적화된 개입이 있을 수도 있습니다.

그러나 그가 더 중요하다고 말하는 것은 다른 것입니다. 우리는 시도해야만 한다는 것입니다. AI 기업과 선진국 정책결정자 모두가 개발도상국이 배제되지 않도록 자기 몫을 해야 하며 도덕적 당위가 너무 크다는 것입니다. 그래서 이 절에서 그는 계속 낙관적인 논변을 펴겠지만, 성공이 보장되어 있지 않으며 우리의 집단적 노력에 달려 있다는 점을 모든 대목에서 염두에 두라고 당부합니다.

해설 이 절은 개발경제학과 경제사상사의 고전적 논쟁 위에 서 있습니다. 배경을 보충합니다.

사회주의 계산 논쟁. 1920년대부터 이어진 논쟁으로, 루트비히 폰 미제스(Ludwig von Mises)는 생산수단의 사적 소유가 없으면 가격이 형성되지 않고, 가격이 없으면 무엇을 얼마나 생산할지 합리적으로 계산할 수 없다고 주장했습니다. 하이에크는 이를 지식의 문제로 다시 정식화했습니다. 경제에 필요한 지식은 시간과 장소에 흩어져 있는 국소적 지식이며 중앙 계획자에게 전달될 수 있는 형태로 존재하지 않는다는 것이고, 가격 체계는 그 분산된 지식을 압축해 전달하는 메커니즘입니다.

아모데이가 AI도 이 문제를 풀기 어려울 것이라고 본 것은, 계산 능력이 부족해서가 아니라 애초에 수집 불가능한 정보가 문제이기 때문이라는 하이에크적 입장에 선 것입니다. 브리뇰프슨의 반론은 바로 그 전제를 공격합니다. 플랫폼 기업들이 결제·검색·위치 데이터로 국소적 지식을 실제로 수집하고 있으므로 하이에크의 전제가 기술적으로 흔들린다는 것입니다.

기브웰(GiveWell). 그가 초기 기부자였다고 밝힌 단체로, 보건 자선단체들의 비용 대비 효과를 정량적으로 평가해 순위를 매기는 비영리 평가기관입니다. 효율적 이타주의(effective altruism) 운동의 중심 기관 중 하나입니다.

유전자 드라이브(gene drive)와 볼바키아. 원문이 모기 대책으로 든 두 기법입니다. 유전자 드라이브는 특정 유전자가 멘델 법칙을 거슬러 거의 100% 확률로 자손에게 전달되게 만드는 기술로, 개체군 전체를 몇 세대 만에 바꾸거나 소멸시킬 수 있습니다. 볼바키아는 모기에 감염되면 뎅기열 등 바이러스를 옮기는 능력을 떨어뜨리는 세균으로, 감염된 모기를 방사하면 자연 개체군으로 퍼집니다. 식량 안보 논점을 제안한 인물로 원문이 감사를 표한 케빈 에스벨트(Kevin Esvelt)는 MIT 미디어랩의 생물학자로, 크리스퍼 기반 유전자 드라이브 개념을 처음 제안한 당사자이기도 합니다.

아시아의 네 마리 용. 원문이 20세기 마지막 수십 년에 연 10% 실질 성장을 지속했다고 지목한 동아시아 경제들은 한국, 대만, 홍콩, 싱가포르를 가리킵니다.

녹색혁명. 1940-1970년대에 고수량 품종, 화학비료, 관개, 농약 보급으로 개발도상국의 곡물 생산량이 급증한 현상입니다. 노먼 볼로그(Norman Borlaug)의 밀 품종 개량이 대표적이며 그는 1970년 노벨 평화상을 받았습니다. 동시에 투입재 의존, 수질 오염, 지역 간 격차 확대 같은 비판도 꾸준히 제기되어 왔습니다.

여섯 가지 전망

1) 보건 개입의 전 세계 분배. 그가 가장 낙관하는 영역입니다. 질병은 하향식 캠페인으로 실제 박멸된 적이 있습니다. 천연두는 1970년대에 완전히 제거되었고, 소아마비와 메디나충은 연간 100건 미만 수준으로 거의 박멸되었습니다. 박멸 캠페인에는 수학적으로 정교한 역학 모델링이 적극적으로 쓰이고 있으며, 인간보다 똑똑한 AI 시스템이 그 일을 더 잘할 여지가 매우 커 보인다고 그는 말합니다.

분배의 물류 역시 크게 최적화될 수 있을 것입니다. 그는 기브웰의 초기 기부자로서 배운 것을 덧붙입니다. 어떤 보건 자선단체는 다른 단체보다 훨씬 효과적이라는 것이며, AI로 가속된 노력은 그보다도 더 효과적이기를 기대합니다.

또한 일부 생물학적 진보는 분배의 물류 자체를 훨씬 쉽게 만듭니다. 말라리아는 감염될 때마다 매번 치료해야 해서 박멸이 어려웠는데, 한 번만 투여하면 되는 백신이 있으면 물류가 훨씬 단순해지고 그런 말라리아 백신은 실제로 개발 중입니다. 더 단순한 분배 메커니즘도 가능합니다.

일부 질병은 동물 매개체를 표적으로 삼아 박멸할 수 있습니다. 질병을 옮기는 능력을 차단하는 세균에 감염된 모기를 방사해 다른 모기들을 감염시키게 하거나, 유전자 드라이브로 모기를 아예 없애는 방식입니다. 이는 수백만 명을 개별적으로 치료해야 하는 조율된 캠페인이 아니라 한 번 또는 몇 번의 중앙집중적 행동만을 요구합니다.

종합하면, AI 기반 보건 혜택의 상당 부분, 어쩌면 50%가 세계 최빈국에까지 전파되는 데 5-10년은 합리적인 기간이라고 그는 봅니다. 그가 제시하는 좋은 목표는 이것입니다. 강력한 AI 등장 5-10년 뒤의 개발도상국이, 비록 선진국에 계속 뒤처져 있더라도 적어도 오늘날의 선진국보다는 실질적으로 더 건강한 상태가 되는 것. 물론 이를 달성하려면 글로벌 보건, 자선, 정치적 옹호 등에서 막대한 노력이 필요하며 AI 개발자와 정책결정자 모두가 거들어야 합니다.

2) 경제 성장. 개발도상국이 보건뿐 아니라 경제 전반에서 선진국을 빠르게 따라잡을 수 있을까. 그는 선례가 있다고 말합니다. 20세기 마지막 수십 년에 여러 동아시아 경제가 연 10% 수준의 실질 GDP 성장을 지속하며 선진국을 따라잡았습니다. 중요한 것은 그 성공의 메커니즘에 대한 그의 해석입니다.

그 결정을 내린 것은 인간 경제 계획가들이었고, 그들은 경제 전체를 직접 통제한 것이 아니라 몇 개의 핵심 레버를 당김으로써 그렇게 했습니다. 수출 주도 성장이라는 산업 정책, 그리고 천연자원 부에 기대려는 유혹을 뿌리친 것이 그가 드는 두 가지입니다. 따라서 ‘AI 재무장관’과 ‘AI 중앙은행 총재’가 이 10%라는 성취를 재현하거나 능가할 수 있다는 것은 그럴듯합니다.

여기서 중요한 질문이 제기됩니다. 자기결정의 원칙을 존중하면서 개발도상국 정부들이 그것을 채택하게 만들려면 어떻게 해야 하는가. 일부는 열광하겠지만 다른 일부는 회의적일 가능성이 높습니다.

낙관적인 측면에서, 앞 항목의 보건 개입 중 상당수는 유기적으로 경제 성장을 끌어올릴 것입니다. 에이즈, 말라리아, 기생충 질환을 박멸하면 생산성에 변혁적 효과가 있고, 여기에 신경과학 개입이 선진국과 개발도상국 양쪽에 가져올 경제적 편익도 더해집니다. 또한 보건과 무관한 AI 가속 기술은 그냥 자연스럽게 세계로 스며들 수 있습니다. 에너지 기술, 운송 드론, 개선된 건축 자재, 더 나은 물류와 유통 같은 것들입니다. 그가 드는 선례는 휴대전화로, 자선적 노력 없이 시장 메커니즘만으로 사하라 이남 아프리카에 빠르게 퍼졌습니다.

부정적인 측면도 명시합니다. AI와 자동화는 많은 잠재적 편익을 갖지만 아직 산업화하지 못한 나라들에게는 경제 개발의 과제를 제기합니다. 자동화가 심화되는 시대에 이 나라들이 여전히 발전하고 경제를 개선할 수 있는 길을 찾는 것은 경제학자와 정책결정자가 다루어야 할 중요한 과제입니다.

종합해 그가 제시하는 꿈의 시나리오는 이렇습니다. 개발도상국의 연 20% GDP 성장률이며, 그중 10%는 AI 기반 경제적 의사결정에서, 나머지 10%는 보건을 포함하되 그에 국한되지 않는 AI 가속 기술의 자연스러운 확산에서 옵니다. 이것이 달성되면 사하라 이남 아프리카는 5-10년 만에 현재 중국의 1인당 GDP 수준에 도달하고, 나머지 개발도상국 상당 부분은 현재 미국 GDP보다 높은 수준으로 올라갑니다. 다시 한번 그는 못 박습니다. 이는 꿈의 시나리오이지 기본값으로 벌어지는 일이 아니며, 우리 모두가 함께 노력해 가능성을 높여야 하는 일입니다.

3) 식량 안보. 더 나은 비료와 농약, 더 많은 자동화, 더 효율적인 토지 이용 같은 작물 기술의 진보는 20세기에 걸쳐 단위 수확량을 극적으로 끌어올려 수백만 명을 굶주림에서 구했습니다. 유전공학은 현재도 많은 작물을 더 개선하고 있습니다. 이를 수행할 방법을 더 찾아내고 농업 공급망을 더 효율화하면 AI 기반의 제2차 녹색혁명을 얻을 수 있고, 이는 개발도상국과 선진국의 격차를 좁히는 데 도움이 될 것입니다.

4) 기후변화 완화. 기후변화는 개발도상국에서 훨씬 강하게 체감되며 그들의 발전을 저해합니다. 그는 AI가 기후변화를 늦추거나 막는 기술을 개선할 것으로 기대합니다.

대기 중 탄소 제거와 청정에너지 기술에서부터, 탄소 집약적인 공장식 축산에 대한 의존을 줄이는 배양육까지가 범위에 들어갑니다. 물론 그는 기술만이 기후변화 대응을 가로막는 것은 아니며 인간 사회적 요인이 중요하다고 덧붙입니다. 그러나 AI로 강화된 연구가 기후변화 완화를 훨씬 덜 비싸고 덜 파괴적인 일로 만들어 주리라고 볼 근거가 있고, 그렇게 되면 많은 반대 논리가 무력해지고 개발도상국은 경제적 진전을 더 이룰 여지를 얻게 됩니다.

5) 국가 내부의 불평등. 그는 지금까지 불평등을 주로 전 지구적 현상으로 다루었다는 점을 인정합니다. 그것이 가장 중요한 발현 형태라고 보기 때문입니다. 그러나 불평등은 국가 내부에도 존재합니다. 진보한 보건 개입, 특히 급진적인 수명 연장이나 인지 강화 약물이 등장하면 이 기술들이 부자만을 위한 것이 되리라는 타당한 우려가 분명히 제기될 것입니다.

그럼에도 그는 국가 내 불평등, 특히 선진국에서의 불평등에 대해 더 낙관적인데 이유는 두 가지입니다. 첫째, 선진국에서는 시장이 더 잘 작동하고 시장은 통상 고가치 기술의 비용을 시간이 지나며 떨어뜨리는 데 능합니다. 원문은 사례를 듭니다. 휴대전화는 처음에 부자를 위한 기술이었지만 빠르게 매우 싸졌고, 해마다의 성능 개선이 너무 빨라서 럭셔리 휴대전화를 사는 이점 자체가 사라졌습니다.

둘째, 선진국의 정치 제도는 시민에게 더 반응적이고 보편적 접근 프로그램을 실행할 국가 역량이 더 큽니다. 그리고 삶의 질을 그토록 급진적으로 개선하는 기술에 대해 시민들이 접근을 요구할 것으로 예상합니다. 물론 그런 요구가 성공한다는 보장은 없습니다.

끝으로 그는 구분을 하나 그어 둡니다. 생명을 구하고 삶을 개선하는 기술에 대한 접근의 불평등과 별개로 부(wealth) 자체의 불평등이라는 문제가 있는데, 이쪽이 더 어려워 보이며 뒤에서 다루겠다는 것입니다.

6) 옵트아웃 문제. 선진국과 개발도상국 모두에 걸친 우려 하나는 사람들이 AI가 가능하게 한 혜택을 스스로 거부하는 것입니다. 그는 백신 반대 운동이나 더 일반적으로 러다이트 운동에 빗댑니다.

여기서 그가 그리는 최악의 되먹임 고리는 이렇습니다. 좋은 결정을 내릴 능력이 가장 떨어지는 사람들이 바로 그 결정 능력을 개선해 줄 기술을 거부하게 되고, 그 결과 격차가 끝없이 벌어지며 디스토피아적 하위계급이 만들어질 수 있습니다. 원문은 일부 연구자들이 이것이 민주주의를 훼손할 것이라고 주장해 왔다고 언급합니다.

해법은 어렵습니다. 그는 사람들을 강제하는 것이 윤리적으로 괜찮다고 보지 않기 때문입니다. 그러나 적어도 사람들의 과학적 이해를 높이려 시도할 수는 있고, 어쩌면 AI 자체가 그 일을 도울 수 있습니다. 희망적인 신호도 하나 제시합니다. 역사적으로 반기술 운동은 짖기만 하고 물지는 않는 편이었다는 것입니다.

현대 기술을 성토하는 일은 인기가 있지만 결국 대부분의 사람들은 그것을 받아들입니다. 적어도 그것이 개인의 선택 문제일 때는 그렇습니다. 여기서 그는 중요한 구분을 합니다. 개인은 대부분의 보건·소비 기술을 채택하는 경향이 있고, 원자력처럼 진짜로 발목이 잡힌 기술은 집단적 정치 결정의 영역에 속하는 것들입니다.

[반론] 이 절의 핵심 수치, 즉 개발도상국 연 20% 성장이라는 꿈의 시나리오는 주류 거시경제학의 추정과 자릿수가 다릅니다.

MIT의 대런 아제모을루(Daron Acemoglu)는 원문 발표 몇 달 전인 2024년 5월 NBER 워킹페이퍼 「The Simple Macroeconomics of AI」에서 정반대 방향의 추정을 내놓았습니다. 그는 과업(task) 단위 노출도와 생산성 개선 추정치를 헐턴 정리(Hulten’s theorem)의 변형에 대입하는 방식으로, 향후 10년간 AI로 인한 총요소생산성(TFP) 증가가 많아야 0.66%라고 계산했습니다. 연간으로 환산하면 약 0.064%이며, 투자 반응까지 반영한 GDP 증가분도 10년간 0.93-1.16% 수준입니다.

더 나아가 그는 이 추정조차 과장일 수 있다고 봅니다. 현재 확보된 증거가 배우기 쉬운 과업에서 나온 것인 반면, 향후 효과의 상당 부분은 맥락 의존적 요인이 많고 성공 여부를 측정할 객관적 지표가 없는 배우기 어려운 과업에서 와야 하기 때문입니다. 이를 반영하면 10년 TFP 증가는 0.53% 미만으로 떨어진다는 것이 그의 결론입니다.

두 추정의 간극은 단순한 숫자 차이가 아니라 방법론의 차이입니다. 아제모을루는 현재 AI가 실제로 수행 가능한 과업의 비중과 비용 절감률에서 출발하고, 아모데이는 지능이 늘어나면 수행 가능한 과업의 집합 자체가 확장된다는 전제에서 출발합니다. 맥스웰 태버록(Maxwell Tabarrok)을 비롯한 비판자들은 아제모을루가 자동화의 외연 확대만 보고 새로운 과업의 창출과 과학 진보의 가속이라는 경로를 사실상 배제했다고 반박했습니다. 어느 쪽 전제를 받아들이느냐에 따라 결론이 두 자릿수 차이로 갈리며, 이 간극 자체가 현재 AI 경제 논쟁의 구조를 보여 줍니다.

개발경제학 쪽에서는 아모데이가 ‘몇 개의 레버를 당겼다’로 요약한 동아시아 성장 경험을 그렇게 단순화하는 데 대한 반론이 오래 축적되어 있습니다. 아제모을루와 제임스 로빈슨(James Robinson)의 제도론 계열은 성장의 결정 요인을 정책 선택이 아니라 포용적 제도의 형성이라는 정치적 과정에서 찾습니다. 이 관점에서 보면 ‘AI 재무장관’은 이미 올바른 정책을 알고 있는 나라에는 불필요하고, 제도가 약한 나라에서는 채택될 유인이 없습니다. 아모데이 자신도 부패와 약한 제도를 언급하지만 그것을 극복할 경로는 제시하지 않습니다.

이 절의 결론

아모데이는 이 절을 신중한 종합으로 맺습니다. 그는 AI의 생물학적 진보를 개발도상국 사람들에게 빠르게 전달하는 데 대해서는 낙관적입니다. AI가 전례 없는 경제 성장률을 가능하게 하고 개발도상국이 적어도 현재의 선진국 수준을 넘어설 수 있게 하는 데 대해서는 희망하지만 확신하지는 않습니다. 옵트아웃 문제에 대해서는 양쪽 모두에서 우려하지만, 시간이 지나며 사그라들 것이고 AI가 그 과정을 가속할 수 있으리라 추측합니다.

그리고 솔직한 유보를 답니다. 완벽한 세계는 아닐 것이고, 뒤처진 이들이 완전히 따라잡지는 못할 것입니다. 적어도 처음 몇 년 동안은 그렇습니다. 그러나 강한 노력이 있다면 우리는 일들을 올바른 방향으로, 그리고 빠르게 움직이게 만들 수 있을지 모릅니다. 그렇게 할 수 있다면 지구상의 모든 인간에게 우리가 빚지고 있는 존엄과 평등이라는 약속에 대한 최소한의 계약금은 치를 수 있을 것입니다.

[한국 관점] 이 절에서 한국은 암묵적인 주인공입니다. 아모데이가 20세기 마지막 수십 년에 연 10% 수준의 실질 성장을 지속해 선진국을 따라잡은 여러 동아시아 경제라고 쓸 때 한국은 그 핵심 사례이고, 그가 꼽은 두 레버인 수출 주도 산업 정책과 천연자원 의존의 회피 역시 한국 개발연대의 교과서적 특징입니다. 한국은 자원이 없었으므로 두 번째 레버는 선택이라기보다 조건이었다는 점이 차이지만, 결과적 구조는 그가 묘사한 그대로입니다.

그가 상상하는 ‘AI 재무장관’에는 한국에 직접적인 역사적 참조점이 있습니다. 1961년부터 1994년까지 존속한 경제기획원(EPB)은 예산 편성권과 경제 정책 조정권을 한 부처에 모아 중장기 계획을 집행한 조직이었고 부총리가 수장을 맡았습니다. 그가 말한 경제 전체를 직접 통제한 것이 아니라 몇 개의 핵심 레버를 당긴 인간 경제 계획가들의 거의 문자 그대로의 사례입니다. 동시에 한국 경험은 그 모델의 한계도 보여 줍니다. 중화학공업 투자 조정 실패, 재벌로의 과잉 집중, 그리고 1997년 외환위기에 이르는 금융 감독의 공백은 모두 같은 체제가 낳은 비용이었습니다.

한국의 현재 위치는 이 절의 서술 대상에서 벗어나 있습니다. 한국은 더 이상 따라잡는 쪽이 아니라 잠재성장률 1-2%대의 선진국 쪽에 서 있고, 1인당 GDP도 그가 제시한 두 극값 사이에서 후자에 훨씬 가깝습니다. 따라서 한국에 적용되는 것은 앞의 네 항목이 아니라 국가 내부의 불평등과 옵트아웃 문제입니다. 수명 연장과 인지 강화 기술이 부자만의 것이 되지 않도록 하는 문제, 그리고 기술 수용을 둘러싼 분열의 문제입니다.

그런데 국가 내 불평등에 대한 그의 낙관 근거 중 두 번째는 한국에서 다르게 작동할 수 있습니다. 그는 선진국의 정치 제도가 시민에게 반응적이고 보편적 접근 프로그램을 실행할 국가 역량이 크다는 점을 들었는데, 한국은 전 국민 단일 건강보험이라는 매우 강한 수단을 이미 갖고 있습니다. 즉 급여 등재 여부라는 단일한 결정점이 신기술의 보편적 접근을 사실상 좌우합니다. 이는 미국보다 빠른 보편화의 경로일 수도 있고, 등재가 늦어질 경우 더 경직적인 병목일 수도 있습니다. 어느 쪽이든 그가 전제한 ‘시장이 가격을 떨어뜨린다’는 첫 번째 근거보다 행정 결정이 우선 작동하는 구조라는 점에서, 그의 낙관 논거는 한국에 그대로 옮겨지지 않습니다.

옵트아웃 문제에서 그가 제시한 구분, 즉 개인 선택의 영역에서는 기술이 결국 채택되고 원자력처럼 집단적 정치 결정의 영역에서만 발목이 잡힌다는 구분 역시 한국에서는 경계가 다릅니다. 한국은 원전 정책이 정권 교체에 따라 방향이 뒤집힌 대표적 사례를 갖고 있고, 그가 개인 선택으로 분류한 보건 기술조차 급여·허가라는 집단적 결정을 먼저 통과해야 합니다. 앞서 본 생명윤리법의 포지티브 리스트 구조가 그 전형입니다.

4. 평화와 거버넌스

질병과 빈곤이 사라져도 남는 것

아모데이는 앞의 세 절이 모두 잘 풀렸다고 가정하면서 이 절을 엽니다. 질병과 빈곤과 불평등이 크게 줄고 인간 경험의 기본값이 상당히 올라간 세계입니다. 그렇다 해도 인간 고통의 모든 주요 원인이 해결되었다는 결론은 따라 나오지 않습니다. 인간은 여전히 서로에게 위협입니다.

기술 발전과 경제 성장이 민주주의와 평화로 이어진다는 추세가 있기는 합니다. 그러나 그는 그것이 매우 느슨한 추세이며 빈번하고 최근에도 반복된 역행을 동반한다고 지적합니다. 그가 드는 네 개의 역사적 반례는 간결하지만 묵직합니다.

• 1차 대전 직전의 낙관 — 20세기가 밝아올 무렵 사람들은 전쟁을 과거의 일로 만들었다고 생각했고, 원문은 노먼 에인절(Norman Angell)의 『The Great Illusion』을 링크합니다. 그리고 두 차례의 세계대전이 왔습니다.
• 역사의 종언 — 30년 전 프랜시스 후쿠야마(Francis Fukuyama)는 자유민주주의의 최종 승리를 썼지만 그런 일은 아직 일어나지 않았습니다.
• 중국의 자유화 기대 — 20년 전 미국 정책결정자들은 자유무역이 중국을 부유해지면서 자유화시킬 것이라고 믿었으나 전혀 일어나지 않았고, 오히려 되살아난 권위주의 블록과의 제2차 냉전을 향해 가고 있는 것으로 보입니다.
• 아랍의 봄 이후의 인터넷관 — 인터넷 기술이 처음 믿었던 것과 달리 실제로는 권위주의에 유리하게 작용할 수 있다는 그럴듯한 이론들이 있습니다.

따라서 강력한 AI가 평화, 민주주의, 자유의 문제와 어떻게 교차할지 이해하려는 시도가 중요합니다.

AI는 민주주의 편이 아니다

이 절에서 가장 중요한 문장은 그의 판정입니다. 그는 AI가 민주주의와 평화를 우선적으로 또는 구조적으로 전진시킬 것이라고 믿을 만한 강력한 근거를 보지 못합니다. 인간 건강을 구조적으로 전진시키고 빈곤을 완화할 것이라고 그가 생각하는 방식과 달리 말입니다.

이유는 단순합니다. 인간의 갈등은 적대적이며, AI는 원리적으로 좋은 편과 나쁜 편 모두를 도울 수 있습니다. 오히려 몇몇 구조적 요인은 우려스러워 보인다고 그는 말합니다. AI는 훨씬 나은 선전과 감시를 가능하게 할 가능성이 높고, 둘 다 독재자의 도구상자에서 주요한 수단입니다.

그래서 결론은 당위로 넘어갑니다. 상황을 올바른 방향으로 기울이는 일은 개별 행위자로서 우리에게 달려 있습니다. AI가 민주주의와 개인의 권리를 편들기를 원한다면 우리는 그 결과를 위해 싸워야 합니다. 그는 이 점에 대해 국제 불평등에 대해서보다 더 강하게 느낀다고 말합니다. 자유민주주의와 정치적 안정의 승리는 보장되어 있지 않고, 어쩌면 가능성이 높지도 않으며, 과거에 종종 그랬듯 큰 희생과 헌신을 요구할 것입니다.

국제: 앙탕트 전략

국제적 측면에서 그가 핵심적으로 중요하다고 보는 것은 강력한 AI가 만들어지는 시점에 민주주의 국가들이 세계 무대에서 우위를 점하고 있어야 한다는 것입니다. AI로 무장한 권위주의는 생각하기에도 너무 끔찍하므로, 민주주의 국가들이 강력한 AI가 세계에 도입되는 조건을 설정할 수 있어야 합니다. 권위주의 국가에 압도당하는 것을 피하기 위해서이기도 하고, 권위주의 국가 내부의 인권 침해를 막기 위해서이기도 합니다.

이를 위한 최선의 방법에 대한 그의 현재 추정이 앙탕트 전략입니다. 원문은 이것이 RAND의 발표 예정 논문 제목이며 그 논문이 그가 묘사하는 전략을 대략적으로 제시한다고 밝힙니다. 전략의 수단은 세 가지입니다.

• 공급망을 확보한다
• 빠르게 스케일업한다
• 적대국의 핵심 자원 접근을 차단하거나 지연시킨다 — 칩과 반도체 장비가 여기에 해당하며, 원문은 CSIS의 10월 7일 반도체 수출통제 분석을 링크합니다.

그다음이 이 전략의 이원 구조입니다. 이 연합은 한편으로 AI를 이용해 견고한 군사적 우위를 달성합니다. 이것이 채찍입니다.

동시에 점점 더 넓은 국가군에게 강력한 AI의 혜택을 분배하겠다고 제안합니다. 이것이 당근이며, 그 대가는 민주주의를 증진하려는 연합의 전략을 지지하는 것입니다. 그는 이것이 평화를 위한 원자력(Atoms for Peace)과 약간 유사하다고 말합니다.

연합의 목표는 세계의 점점 더 많은 부분의 지지를 얻어 최악의 적대국들을 고립시키고, 종국에는 그들이 세계의 나머지와 같은 거래를 받아들이는 편이 더 낫다고 판단할 위치에 놓이게 하는 것입니다. 민주주의 국가들과 경쟁하기를 포기하는 대가로 모든 혜택을 받고, 우월한 적과 싸우지 않는 쪽을 택하게 만드는 것입니다.

이 모든 것이 가능하다면 어떤 세계가 되는가. 민주주의 국가들이 세계 무대를 이끌고, 독재국가에 의해 훼손되거나 정복되거나 사보타주당하지 않을 경제력과 군사력을 갖추며, AI에서의 우위를 지속적인 우위로 전환할 수 있는 세계입니다. 낙관적으로 보면 이것은 영원한 1991년으로 이어질 수 있습니다.

민주주의가 우위를 쥐고 후쿠야마의 꿈이 실현되는 세계입니다. 그는 즉시 단서를 붙입니다. 이것은 달성하기 매우 어려우며, 특히 민간 AI 기업과 민주주의 정부 사이의 긴밀한 협력을 요구하고 당근과 채찍의 균형에 관한 비범하게 현명한 결정들을 요구합니다.

해설 이 절은 국제정치의 고유명사가 밀집해 있습니다. 배경을 보충합니다.

『The Great Illusion』. 영국 언론인 에인절이 1909-1910년에 펴낸 책으로, 경제적 상호의존이 심화된 시대에 전쟁은 승자에게도 이득이 되지 않으므로 합리적 국가라면 전쟁을 하지 않으리라고 논했습니다. 4년 뒤 1차 세계대전이 일어났고, 이 책은 이후 경제적 상호의존이 평화를 보장한다는 믿음의 실패를 가리키는 고유명사가 되었습니다. 에인절은 1933년 노벨 평화상을 받았습니다.

역사의 종언. 후쿠야마가 1989년 논문과 1992년 저서에서 제시한 논지로, 자유민주주의와 시장경제가 인류의 이념적 진화의 종착점이라는 주장입니다. 아모데이가 ‘영원한 1991년’이라고 쓴 것은 소련이 해체된 해를 가리키며, 그 논지가 가장 그럴듯해 보였던 시점으로 돌아간다는 뜻입니다.

평화를 위한 원자력. 1953년 드와이트 아이젠하워(Dwight Eisenhower) 미국 대통령이 유엔 총회에서 제안한 구상으로, 핵확산금지에 협조하는 국가에 민수용 원자력 기술과 핵연료를 제공하겠다는 것이었고 국제원자력기구(IAEA) 설립으로 이어졌습니다. 아모데이가 이 선례를 든 것은 구조가 동일하기 때문입니다. 독점적 기술을 가진 측이 확산 통제에 협조하는 대가로 그 기술의 민수용 혜택을 나눠 주는 거래입니다. 다만 이 구상은 실제로는 여러 국가의 핵 역량 기반을 닦아 주었다는 비판도 함께 받아 왔습니다.

10월 7일 수출통제. 2022년 10월 7일 미국 상무부 산업안보국(BIS)이 발표한 대중국 반도체 수출통제 조치를 가리킵니다. 첨단 로직·메모리 반도체와 제조 장비, 그리고 미국인의 중국 반도체 산업 지원까지 통제 대상에 넣은 전환점이었으며 이후 여러 차례 확대·보완되었습니다.

스르자 포포비치(Srđa Popović). 세르비아의 활동가로, 슬로보단 밀로셰비치(Slobodan Milošević) 정권을 무너뜨린 학생운동 조직 오트포르(Otpor!)의 창립 멤버입니다. 이후 비폭력 저항 전술을 다른 나라 활동가들에게 전수하는 CANVAS를 설립했고, 유머와 조롱을 통해 독재자의 권위를 심리적으로 무너뜨리는 기법을 체계화한 저술로 알려져 있습니다.

공유지식(common knowledge). 아모데이가 ‘임금님이 벌거벗었다’는 비유로 가리키는 개념입니다. 모두가 어떤 사실을 알고 있는 것만으로는 부족하고, 모두가 알고 있다는 것을 모두가 안다는 상태가 되어야 집단 행동이 가능해진다는 사회과학의 개념입니다. 권위주의 체제의 검열은 정보 자체를 막는 것보다 이 두 번째 층위를 막는 데 더 큰 목적이 있다는 분석이 축적되어 왔습니다.

국내: 정보전과 민주주의

국제적 측면이 잘 풀린다 해도 각 나라 내부의 민주주의 대 권위주의 싸움이 남습니다. 여기서 무슨 일이 일어날지 예측하기는 명백히 어렵습니다. 그러나 그는 조건부 낙관을 제시합니다. 민주주의 국가들이 가장 강력한 AI를 통제하는 전 지구적 환경이 주어진다면, 그때는 AI가 실제로 어디서나 구조적으로 민주주의를 편들 수 있다는 것입니다.

구체적으로 민주주의 정부들은 우월한 AI를 이용해 정보전에서 승리할 수 있습니다. 권위주의 국가들의 영향력 공작과 선전에 대응할 수 있고, 나아가 권위주의 국가들이 기술적으로 차단하거나 감시할 능력이 없는 방식으로 정보 채널과 AI 서비스를 제공함으로써 전 지구적으로 자유로운 정보 환경을 만들어 낼 수도 있습니다. 여기서 그는 중요한 자기 제한을 둡니다. 선전을 전달할 필요는 아마 없고, 악의적 공격에 대응하고 정보의 자유로운 흐름을 가로막는 장벽을 걷어내기만 하면 됩니다.

즉각적이지는 않겠지만 이런 식의 공평한 운동장은 전 지구적 거버넌스를 점진적으로 민주주의 쪽으로 기울일 상당한 가능성이 있습니다. 그 이유는 두 가지입니다.

첫째, 앞선 세 절의 삶의 질 개선이 다른 조건이 같다면 민주주의를 촉진할 것입니다. 역사적으로 적어도 어느 정도는 그래 왔습니다. 특히 그는 정신 건강, 복리, 교육의 개선이 민주주의를 늘릴 것으로 기대하는데, 이 셋 모두가 권위주의적 지도자에 대한 지지와 음의 상관을 보이기 때문입니다. 일반적으로 사람들은 다른 필요가 충족되면 더 많은 자기표현을 원하고, 민주주의는 무엇보다 자기표현의 한 형태입니다. 반대로 권위주의는 공포와 원한을 먹고 자랍니다.

둘째, 권위주의자들이 검열할 수 없는 한 자유로운 정보는 실제로 권위주의를 침식할 상당한 가능성이 있습니다. 억압적 정부는 사람들에게 특정 종류의 공유지식을 부정함으로써, 즉 ‘임금님이 벌거벗었다’는 사실을 깨닫지 못하게 함으로써 생존합니다. 여기서 그는 포포비치의 사례를 듭니다. 세르비아에서 밀로셰비치 정권을 무너뜨리는 데 기여한 그는, 권위주의자에게서 심리적으로 권력을 빼앗는 기법과 주문을 깨뜨리고 독재자에 맞선 지지를 결집시키는 기법에 관해 폭넓게 저술해 왔습니다.

그리고 아모데이의 구상이 이어집니다. 초인적으로 유능한 AI판 포포비치가 모든 사람의 주머니 속에 있다면, 그리고 독재자들이 그것을 차단하거나 검열할 힘이 없다면, 세계 곳곳의 반체제 인사와 개혁가들의 등 뒤에서 바람이 불어 줄 수 있습니다. 그는 포포비치의 기술이 지능에 대한 수익이 높아 보인다는 점을 근거로 덧붙입니다. 다시 한번 그는 이것이 길고 지루한 싸움이 될 것이며 승리가 보장되지 않는다고 말하면서도, 우리가 AI를 올바른 방식으로 설계하고 만든다면 적어도 자유의 옹호자들이 우위를 갖는 싸움은 될 수 있을 것이라고 맺습니다.

[이해관계] 이 절은 이 글에서 아모데이의 발화 위치가 가장 직접적으로 결과에 연결되는 대목입니다. 앙탕트 전략의 세 요소는 각각 앤트로픽의 사업 조건과 맞물립니다.

공급망 확보와 빠른 스케일업은 프런티어 AI 기업의 자본 조달과 컴퓨트 확보 그 자체입니다. 적대국의 칩 접근 차단은 그가 이 에세이 이후 가장 일관되게, 그리고 가장 공개적으로 주창해 온 정책입니다. 그는 2025년 1월 「On DeepSeek and Export Controls」라는 별도의 글을 발표해, 딥시크(DeepSeek)의 성과가 수출통제의 실패를 뜻하지 않으며 오히려 통제가 작동하고 있음을 보여 준다고 논했습니다. 그 직전에는 전직 미국 국가안보 부보좌관 맷 포틴저(Matt Pottinger)와 공동으로 더 강한 수출통제를 주장하는 기고를 냈고, 이후에도 미국 행정부의 칩 수출 정책을 공개적으로 비판하며 더 엄격한 통제를 요구해 왔습니다.

이것을 어떻게 읽을 것인가는 독자의 몫이지만 사실관계는 분명합니다. 칩 수출통제는 중국 AI 기업의 역량을 제약하는 동시에 미국 프런티어 AI 기업의 상대적 경쟁 지위를 보호합니다. 그가 안보 논거로 제시하는 정책과 그의 회사가 사업적으로 이득을 보는 정책이 같은 정책입니다. 원문에서 민간 AI 기업과 민주주의 정부 사이의 긴밀한 협력을 명시적으로 요구한다는 점도 함께 볼 필요가 있습니다. 그 협력의 한쪽 당사자가 그의 회사입니다.

실제로 앤트로픽은 이후 미국 정부·국방 부문과의 계약 관계로 들어갔고, 그 계약 조건을 둘러싼 긴장이 안전 우선이라는 회사의 표방 사명과 어떻게 양립하는지에 대한 질문이 제기되어 왔습니다. 2026년 3월 CNBC는 앤트로픽이 국방부 영역에서 겪은 사용 제한을 보도했고, 이 사안은 여러 매체에서 계속 다루어지고 있습니다. 이 글은 그 전개가 시작되기 전인 2024년 10월에 쓰였습니다.

한편 글 자체는 이 구조를 부분적으로 드러냅니다. 서문에서 그는 자기 포지션을 홍보하는 것은 영혼에 나쁘다고 썼고, 이 절에서는 전략의 집행에 자기 회사가 필요하다고 명시합니다. 두 진술은 모순이 아니라 아모데이가 같은 글에서 자기 위치를 의식하면서도 그 위치에서 말할 수밖에 없는 상태를 보여 줍니다.

정상보다 나은 민주주의는 가능한가

생물학과 신경과학에서 그랬듯 그는 여기서도 정상보다 나은 상태를 묻습니다. 권위주의를 피하는 데 그치지 않고 민주주의 국가들을 오늘날보다 더 낫게 만들 수 있는가. 민주주의 국가 안에서도 부정의는 늘 일어납니다. 법치 사회는 시민에게 모두가 법 앞에 평등하고 모두가 기본적 인권을 가진다고 약속하지만 실제로 사람들이 그 권리를 늘 받지는 못합니다.

법과 사법. 그는 현재의 논의 지형을 먼저 인정합니다. 오늘날 법적·사법적 맥락에서 사람들이 주로 걱정하는 것은 AI 시스템이 차별의 원인이 되는 것이며, 이 우려들은 중요하고 방어되어야 합니다. 그러면서 동시에 민주주의의 활력이 위험에 대응하는 데 그치지 않고 새로운 기술을 활용해 민주적 제도를 개선하는 데 달려 있다고 말합니다. 진정으로 성숙하고 성공적인 AI 구현은 편향을 줄이고 모두에게 더 공정할 잠재력을 갖습니다.

그가 제시하는 역사적 딜레마는 이렇습니다. 수 세기 동안 법 체계는 법이 공평하기를 지향하지만 본질적으로 주관적이며 따라서 편향된 인간에 의해 해석되어야 한다는 문제에 직면해 왔습니다. 법을 완전히 기계적으로 만들려는 시도는 성공하지 못했습니다.

현실 세계가 지저분하고 수학 공식으로 늘 포착되지는 않기 때문입니다. 그래서 법 체계는 악명 높게 부정확한 기준들에 의존합니다. 그가 드는 예는 ‘잔혹하고 비정상적인 형벌’과 구제할 만한 사회적 중요성이 전혀 없는 같은 표현들이며, 인간이 이를 해석하는데 종종 편향과 편애와 자의성을 드러내는 방식으로 해석합니다.

암호화폐의 스마트 계약이 법을 혁명적으로 바꾸지 못한 것도 같은 이유입니다. 보통의 코드는 흥미로운 문제들을 판정할 만큼 똑똑하지 않기 때문입니다. 그러나 AI는 그만큼 똑똑할지 모릅니다. 그의 표현에 따르면 AI는 넓고 모호한 판단을 반복 가능하고 기계적인 방식으로 내릴 수 있는 최초의 기술입니다.

그는 즉시 선을 긋습니다. 판사를 문자 그대로 AI 시스템으로 대체하자고 제안하는 것이 아닙니다. 다만 공평함과 지저분한 현실 상황을 이해하고 처리하는 능력의 결합은 법과 정의에 진지한 긍정적 응용을 가질 것처럼 느껴진다고 말합니다. 최소한 그런 시스템은 인간과 나란히 일하며 의사결정을 보조할 수 있을 것입니다.

여기서 그가 결정적으로 보는 조건이 투명성이며, 성숙한 AI 과학이 그것을 제공할 수 있다고 봅니다. 그런 시스템의 훈련 과정은 광범위하게 연구될 수 있고, 진보한 해석가능성 기법으로 최종 모델의 내부를 들여다보며 숨은 편향을 평가할 수 있습니다. 인간에 대해서는 단적으로 불가능한 방식으로 말입니다. 또 이런 AI 도구는 사법이나 경찰 맥락에서 기본권 침해를 감시하는 데 쓰일 수 있고, 이는 헌법을 더 자기집행적(self-enforcing)으로 만든다고 그는 말합니다.

의견의 집약. 같은 맥락에서 AI는 시민들의 의견을 집약하고 합의를 이끌어 내며, 갈등을 해소하고 공통 지반을 찾고 타협을 모색하는 데 쓰일 수 있습니다. 그는 이 방향의 초기 시도로 computational democracy project를 들고, 앤트로픽과의 협업인 집단 헌법 AI(Collective Constitutional AI)를 함께 언급합니다. 더 많은 정보를 갖고 더 사려 깊은 시민은 민주적 제도를 명백히 강화합니다.

행정 서비스. 마지막은 행정 서비스입니다. 원칙적으로는 모두가 이용할 수 있지만 실제로는 심각하게 부실하고 지역마다 편차가 큰 영역으로, 보건 서비스와 차량국(DMV), 세금, 사회보장, 건축법 집행 같은 것들입니다.

그가 그리는 그림은 구체적입니다. 당신이 정부로부터 법적으로 받을 자격이 있는 모든 것을 당신이 이해할 수 있는 방식으로 주는 것이 임무인, 매우 사려 깊고 잘 아는 AI. 그리고 종종 혼란스러운 정부 규정을 준수하도록 돕기까지 하는 AI입니다.

국가 역량(state capacity)을 높이는 것은 법 앞의 평등이라는 약속을 이행하는 데 도움이 되는 동시에 민주적 거버넌스에 대한 존중을 강화합니다. 원문은 그 심리를 짚습니다. 보통 사람이 공공 제도를 떠올릴 때 생각하는 것은 아마도 DMV, 국세청, 메디케어 같은 기능에서의 자기 경험일 것이고, 이 경험을 지금보다 긍정적으로 만드는 일은 부당한 냉소주의에 맞서는 강력한 방법으로 보입니다.

아모데이가 스스로 붙인 유보

이 절은 다른 절들과 달리 그 자신의 확신이 가장 낮은 절로 마무리됩니다. 그는 이 모두가 다소 막연한 아이디어이며, 절 서두에서 말했듯 생물학과 신경과학, 빈곤 완화의 진보에 대해서만큼 실현 가능성을 확신하지 못한다고 밝힙니다. 비현실적으로 유토피아적일 수도 있습니다.

그러나 중요한 것은 야심 찬 비전을 갖는 것, 크게 꿈꾸고 시도해 볼 의지를 갖는 것이라고 그는 말합니다. 자유와 개인의 권리와 법 앞의 평등을 보장하는 자로서의 AI라는 비전은, 싸워서 지키지 않기에는 너무나 강력한 비전이라는 것입니다. 21세기의 AI 기반 정치체는 개인의 자유를 더 강력하게 보호하는 존재이면서, 자유민주주의를 전 세계가 채택하고 싶어 하는 통치 형태로 만드는 데 기여하는 희망의 등대가 될 수 있습니다.

[한국 관점] 앙탕트 전략은 한국에서 추상적인 구상이 아닙니다. 한국은 그 전략의 집행 대상이자 비용 부담자이며, 그 비용은 이미 청구되었습니다.

전략의 세 번째 요소인 적대국의 칩·반도체 장비 접근 차단은 한국 기업에 직접 적용되어 왔습니다. 미국 상무부 산업안보국은 2023년 삼성전자와 SK하이닉스의 중국 법인에 검증된 최종사용자(VEU) 지위를 부여해 건별 허가 없이 미국산 장비를 반입할 수 있게 했습니다. 그러나 2025년 8월 29일 BIS는 삼성전자 중국법인, SK하이닉스 중국법인, TSMC 난징 공장의 VEU 지위를 철회한다고 발표했고, 관보 게시일로부터 120일의 유예를 거쳐 12월 31일부터 시행될 예정이었습니다. 시행 직전인 2025년 12월 30일 BIS는 건별 허가 대신 연간 허가제로 방침을 조정해 두 회사에 2026년도 장비 반입을 허가했으나, 중국 내 공장의 생산능력 확대나 기술 업그레이드를 위한 장비 반입은 계속 불허한다는 방침을 유지했습니다.

이 경과가 보여 주는 것은 아모데이의 전략이 작동할 때 어떤 일이 벌어지는가입니다. 삼성전자의 시안 낸드 공장, SK하이닉스의 우시 D램·다롄 낸드 공장은 민주주의 연합의 일원인 국가의 기업이 운영하는 설비이지만 그 위치가 중국이라는 이유로 통제 대상이 됩니다. 그가 말한 비범하게 현명한 당근과 채찍의 균형에서 한국 기업은 채찍이 지나가는 경로에 서 있습니다. 로이터(Reuters) 보도에 따르면 두 회사는 규제 강화에 대비해 중국 장비업체 AMEC의 식각 장비를 평가해 왔다고 알려졌는데(삼성전자는 이를 부인했습니다), 사실이라면 중국 반도체 산업을 억제하려는 조치가 중국 장비업체에 기회를 열어 주는 역설이 됩니다.

더 근본적인 비대칭이 있습니다. 아모데이의 구도에서 민주주의 연합은 단일한 이해를 가진 블록으로 상정됩니다. 그러나 한국은 민주주의 연합의 일원인 동시에 중국이 최대 교역 상대국이고, 중국 내 생산 비중이 큰 기업을 보유하고 있으며, 안보는 미국에 의존합니다. 연합의 전략이 강화될수록 연합 내부에서 비용의 분포가 불균등해지는 구조이며 원문은 이 문제를 다루지 않습니다. 그가 자기결정의 원칙을 존중하면서 개발도상국 정부들이 AI 경제 정책을 채택하게 만드는 법을 고민한 것과 달리, 동맹국 내부의 비용 배분에 대해서는 질문을 던지지 않습니다.

반대편 항목인 행정 서비스와 사법 영역에서는 한국이 오히려 앞서 있을 수 있습니다. 그가 든 DMV·국세청의 부실한 경험은 미국적 맥락이며, 한국은 홈택스 연말정산 간소화나 정부24 같은 전자정부 서비스에서 이미 상당한 수준의 자동화를 구현해 왔습니다. 즉 그가 AI가 가져올 변화로 묘사한 것 중 일부는 한국에서 이미 행정 전산화로 달성된 부분이고, 남은 과제는 다른 곳에 있습니다. 법적으로 받을 자격이 있는 급여를 몰라서 신청하지 못하는 문제, 복잡한 행정 규정의 해석 문제처럼 전산화만으로는 풀리지 않고 판단이 필요한 영역입니다. 이는 그의 구상이 한국에서 적용되지 않는다는 뜻이 아니라 적용되는 지점이 다르다는 뜻입니다.

5. 노동과 의미

남은 하나의 질문

아모데이는 앞의 네 절이 모두 잘 풀린 상태를 다시 한번 가정하며 이 절을 엽니다. 질병과 빈곤과 불평등이 완화될 뿐 아니라 자유민주주의가 지배적인 통치 형태가 되고, 기존의 자유민주주의 국가들이 더 나은 판본의 자기 자신이 된 세계입니다.

그래도 적어도 하나의 중요한 질문이 남습니다. 그는 그것을 가상의 반론자의 입을 빌려 제시합니다. 기술적으로 진보했을 뿐 아니라 공정하고 품위 있는 세계에 사는 것은 좋은 일이라 하더라도, AI가 모든 것을 한다면 인간은 어디서 의미를 찾는가, 그리고 애초에 경제적으로 어떻게 생존하는가라는 물음입니다.

그는 이 질문이 다른 질문들보다 더 어렵다고 말합니다. 다만 중요한 단서를 답니다. 다른 질문들보다 반드시 더 비관적이라는 뜻은 아니라는 것입니다. 그가 말하는 더 어렵다는 것은 더 흐릿하고 미리 예측하기 더 어렵다는 뜻입니다. 이 문제가 사회가 어떻게 조직되는가라는 거시적 질문과 연결되어 있고, 그런 질문은 시간이 지나면서 분산된 방식으로만 스스로 해소되는 경향이 있기 때문입니다.

그가 드는 비유는 인상적입니다. 역사 속 수렵채집 사회는 사냥과 사냥에 관련된 각종 종교 의례 없이는 삶이 무의미하다고 상상했을 수 있고, 잘 먹고 사는 우리의 기술 사회가 목적을 결여한 곳이라고 상상했을 것입니다. 또한 우리 경제가 어떻게 모두를 부양할 수 있는지, 기계화된 사회에서 사람들이 무슨 쓸모 있는 기능을 할 수 있는지도 이해하지 못했을 것입니다.

그럼에도 몇 마디는 할 가치가 있다고 말하면서, 그는 이 절에서 가장 중요한 메타적 단서를 붙입니다. 이 절이 짧다는 것은 그가 이 쟁점들을 진지하게 보지 않는다는 신호가 결코 아니며, 오히려 명확한 답이 없다는 신호라는 것입니다.

의미의 문제

아모데이는 의미 쪽부터 다룹니다. 그는 AI가 어떤 일을 더 잘할 수 있다는 이유만으로 당신이 하는 그 일이 무의미해진다고 믿는 것은 아마도 오류라고 봅니다. 근거는 소박하지만 설득력이 있습니다. 대부분의 사람은 어떤 것에서도 세계 최고가 아니며, 그 사실이 그들을 특별히 괴롭히지는 않는 것으로 보입니다.

물론 오늘날 사람들은 비교우위를 통해 여전히 기여할 수 있고 자신이 생산하는 경제적 가치에서 의미를 끌어낼 수도 있습니다. 그러나 사람들은 경제적 가치를 전혀 생산하지 않는 활동도 대단히 즐깁니다. 여기서 그는 자기 사례를 듭니다. 그는 비디오게임을 하고, 수영을 하고, 밖을 걷고, 친구들과 이야기하는 데 많은 시간을 쓰는데 이 모두가 경제적 가치를 전혀 만들어 내지 않습니다. 하루를 들여 비디오게임 실력을 늘리거나 자전거로 산을 더 빨리 오르려 애쓸 수도 있는데, 어딘가에 그것들을 훨씬 잘하는 사람이 있다는 사실은 그에게 별로 중요하지 않습니다.

그리고 그는 자신의 입장을 한 문장으로 정리합니다. 어쨌든 의미는 대부분 인간관계와 연결에서 오는 것이지 경제적 노동에서 오는 것이 아니라고 그는 생각합니다.

사람들이 성취감을, 심지어 경쟁의 감각을 원한다는 점은 그도 인정합니다. 그러나 AI 이후의 세계에서도 복잡한 전략이 필요한 매우 어려운 과제에 몇 년을 매달리는 일은 완벽하게 가능합니다. 오늘날 사람들이 연구 프로젝트에 착수하거나 할리우드 배우가 되려 하거나 회사를 창업할 때 하는 일과 비슷하게 말입니다. 원문은 여기에 한 줄을 덧붙입니다. AI가 작동하는 세계에서는 그런 도전과 프로젝트의 범위가 오늘날보다 훨씬 광대해질 것이라는 점입니다.

결론적으로 그가 보기에 두 가지 사실은 그리 중요하지 않습니다. 어딘가의 AI가 원리적으로 이 과제를 더 잘할 수 있다는 것, 그리고 이 과제가 더 이상 전 지구적 경제에서 경제적으로 보상받는 요소가 아니라는 것입니다.

해설 이 절은 경제학의 두 가지 고전적 개념 위에 서 있습니다. 비전공 독자를 위해 보충합니다.

비교우위(comparative advantage). 데이비드 리카도(David Ricardo)가 1817년에 정식화한 개념으로, 한 주체가 모든 분야에서 절대적으로 더 뛰어나더라도 교역은 양쪽 모두에게 이득이 된다는 원리입니다. 변호사가 타자를 비서보다 빨리 친다 해도 변호사는 변호에 집중하고 타자는 비서에게 맡기는 것이 양쪽 모두에게 낫습니다. 비서의 절대 능력이 아니라 시간이라는 희소 자원을 어디에 쓰느냐가 결정하기 때문입니다.

아모데이가 이 원리를 AI에 적용할 때의 핵심은, AI의 능력이 아무리 뛰어나도 AI의 시간과 컴퓨트가 유한한 한 인간에게 할 일이 남는다는 것입니다. 그가 조건으로 든 인간과 AI의 자원 투입이 유의미하게 다르다면이라는 단서는, 이 원리가 깨지는 지점이 정확히 두 주체가 같은 희소 자원을 두고 경쟁할 때임을 가리킵니다. AI와 인간이 모두 전력과 데이터센터를 소모한다면 리카도의 논리는 약해집니다.

노동총량의 오류(lump of labour fallacy). 경제 안에 처리해야 할 일의 총량이 고정되어 있어서 기계가 일을 가져가면 인간의 몫이 그만큼 줄어든다는 믿음을 가리키는 이름입니다. 경제학자들은 이를 오류로 분류해 왔습니다. 생산성이 오르면 가격이 내리고, 수요가 늘고, 이전에 존재하지 않던 직무가 생기기 때문입니다.

19세기 러다이트부터 20세기 자동화 공포까지 이 예측이 반복적으로 빗나갔다는 것이 표준적 서술입니다. 아모데이가 ‘10%가 확장되어 거의 모두를 계속 고용한다’고 쓴 대목이 바로 이 논리입니다. 다만 이 원리를 반대 방향에서 보면, 그것이 지금까지 참이었다는 사실 자체가 미래에도 참임을 보증하지는 않습니다.

평판 기반 포인트 화폐. 그가 경제가 평판 포인트로 돌아갈지도 모른다며 언급한 것은, 희소 자원이 사라진 탈희소성 사회를 다룬 SF 소설 속 가상의 화폐 개념입니다. 사람들은 타인에게서 받는 평판을 축적하고 그 점수가 사실상의 화폐로 기능합니다. 서문에서 SF적 짐을 피하겠다고 선언한 아모데이가 이 절에서 다시 SF적 발상을 끌어오는 셈입니다.

경제의 문제

흥미롭게도 그는 경제 쪽이 의미 쪽보다 더 어려워 보인다고 말합니다. 여기서 경제적이라는 말로 그가 가리키는 것은 충분히 진보한 AI 주도 경제에서 대부분의 또는 모든 인간이 유의미하게 기여하지 못하게 될 가능성입니다. 이는 앞서 다룬 불평등 문제, 특히 신기술 접근의 불평등 문제와는 별개이며 그보다 더 거시적인 문제입니다.

단기에 대해서는 그가 낙관론 쪽 논증에 동의한다고 밝힙니다. 비교우위가 계속 인간을 유의미하게 만들 것이고, 실제로 인간의 생산성을 높일 것이며, 어떤 면에서는 인간들 사이의 운동장을 평평하게 만들 수도 있습니다. 그 메커니즘을 그는 구체적으로 설명합니다. AI가 어떤 직무의 90%만 더 잘하는 한, 나머지 10%가 인간을 고도로 레버리지된 존재로 만듭니다. 그러면 보수가 올라가고, AI가 잘하는 것을 보완하고 증폭하는 새로운 인간 일자리가 다수 생겨나며, 그 결과 그 10%가 확장되어 거의 모두를 계속 고용하게 됩니다.

더 나아가 그는 이렇게 덧붙입니다. 설령 AI가 100%의 일을 인간보다 더 잘하더라도, AI가 일부 과제에서 비효율적이거나 비싸게 남아 있다면, 또는 인간과 AI에 들어가는 자원 투입이 유의미하게 다르다면, 비교우위의 논리는 계속 적용됩니다. 인간이 상당 기간 상대적 우위, 어쩌면 절대적 우위까지 유지할 가능성이 높은 영역으로 그가 지목하는 것은 물리적 세계입니다. 따라서 그의 결론은 인간 경제가 데이터센터 속 천재들의 나라에 도달하는 지점을 조금 지나서까지도 말이 될 수 있다는 것입니다.

장기에 대해서는 입장이 바뀝니다. 장기적으로 AI는 너무나 광범위하게 유능하고 너무나 저렴해져서 이 논리가 더 이상 적용되지 않게 될 것이라고 그는 봅니다. 그 지점에 이르면 현재의 경제 구성은 더 이상 말이 되지 않고, 경제가 어떻게 조직되어야 하는가에 관한 더 넓은 사회적 대화가 필요해집니다.

그는 이것이 미친 소리처럼 들릴 수 있다는 점을 인정하면서 역사적 선례를 듭니다. 문명은 과거에도 주요한 경제적 이행을 성공적으로 헤쳐 왔습니다. 수렵채집에서 농경으로, 농경에서 봉건제로, 봉건제에서 산업주의로의 이행이 그것입니다.

그가 추측하는 바는 새롭고 더 낯선 무언가가 필요하리라는 것이며, 오늘날 누구도 그것을 제대로 그려내지 못했다고 봅니다. 그가 열거하는 가능성은 네 가지입니다.

• 대규모 보편기본소득(UBI) — 모두를 위한 대규모 UBI처럼 단순한 것일 수 있지만, 그는 그것이 해법의 작은 일부에 그칠 것으로 추측합니다.
• AI 시스템들의 자본주의 경제 — 그 경제가 인간에게 엄청난 양의 자원을 나누어 주되, 그 기준은 AI 시스템들이 인간에게서 무엇에 보상하는 것이 말이 된다고 판단하는지에 관한 이차적 경제이며 그 판단은 궁극적으로 인간의 가치에서 유도된 것입니다.
• 평판 기반 포인트 경제 — 앞서 언급한 SF적 발상으로, 가능성으로만 제시하고 판단은 유보합니다.
• 인간의 경제적 가치 유지 — 통상의 경제 모형이 예견하지 못한 어떤 방식으로 그렇게 될 수도 있습니다.

그는 이 모든 해법에 수많은 잠재적 문제가 있고 많은 반복과 실험 없이는 그것들이 말이 되는지 알 수 없다고 말합니다. 그리고 다른 몇몇 과제와 마찬가지로 여기서도 좋은 결과를 얻으려면 싸워야 할 것이라고 덧붙입니다. 착취적이거나 디스토피아적인 방향도 명백히 가능하며 그것은 막아야 합니다. 이 질문들에 대해서는 훨씬 많은 것을 쓸 수 있으며 언젠가 그렇게 하기를 바란다는 말로 절을 맺습니다.

[반론] 이 절의 단기 낙관론, 즉 비교우위가 인간을 계속 유의미하게 만든다는 논지는 발표 이후 가장 집중적으로 공격받은 대목 중 하나입니다.

가장 날카로운 반론은 앤트로픽 내부에서 나왔습니다. 2026년 7월, 앤트로픽의 경제 책임자 피터 매크로리(Peter McCrory)는 긴 분석을 공개해 AI가 미국 실업률에 실질적인 상승을 초래하지 않았다고 논했습니다. 2026년 6월 기준 실업률은 연준이 완전고용으로 보는 수준인 4.2%였고, 구인 건수는 실업자 수와 대략 일치했으며, 핵심 생산연령 고용률은 수십 년 내 최고 수준 근처였습니다. 그의 논지는 CEO가 묘사한 속도로 신입 컨설턴트·변호사·재무분석가가 대체되고 있다면 직종별 실업 데이터에 이미 괴리가 나타났어야 한다는 것입니다. 다만 두 사람 모두 노출도가 높은 직무의 초기 경력자가 현재 가장 취약한 집단이라는 데에는 동의합니다.

반대 방향, 즉 낙관이 지나치다는 쪽의 반론도 있습니다. 2025년 11월 MIT가 발표한 아이스버그 지수(Iceberg Index) 시뮬레이션은 AI가 이미 기술적으로 미국 노동의 11.7%를 대체할 수 있다고 추정했습니다. 다만 기술적으로 가능하다는 것과 실제로 대체된다는 것은 다른 문제입니다.

방법론 자체에 대한 회의도 있습니다. 시스코(Cisco)의 앤디 투라이(Andy Thurai)는 AI 공급자들이 주목을 끌고 FOMO를 조성하기 위해 극단적인 발언을 할 수밖에 없는 구조에 있다고 지적했습니다. NYU의 스콧 갤러웨이(Scott Galloway)는 과거의 모든 기술 혁신이 파괴한 것보다 많은 일자리를 만들어 냈다는 전통적 논거를 제시했습니다. 한편 구글 딥마인드의 하사비스는 인간 수준 AI가 10년 내 등장할 확률을 50%로 제시해, 아모데이의 1-2년 창보다 훨씬 신중한 입장을 취했습니다.

[사후 맥락] 이 절에서 가장 주목할 전개는 아모데이 본인이 이후 이 절보다 훨씬 날카로운 경고로 이동했다는 점입니다.

2025년 5월 28일, 그는 악시오스(Axios)와의 인터뷰에서 AI가 1-5년 안에 신입 사무직 일자리의 절반을 없앨 수 있고 실업률이 10-20%까지 치솟을 수 있다고 경고했습니다. AI 기업과 정부가 다가오는 일을 달콤하게 포장하는 것을 멈춰야 한다고 말하며, 기술·금융·법률·컨설팅을 비롯한 사무직 전반, 특히 초기 경력 직무의 대량 소멸 가능성을 지목했습니다.

이후 그는 이 입장을 반복적으로 재확인했습니다. 2025년 9월 17일 악시오스 AI+ DC 서밋에서는 AI의 대체 능력이 빠르게 진전되고 있으며, 지수적 변화가 빠를 때는 확신할 수 없지만 세계에 경고할 필요가 있다고 느낄 만큼은 일어날 법한 일이라고 말했습니다. 같은 자리에서 공동창업자 잭 클라크(Jack Clark)는 향후 5년간 예상되는 교란의 규모에 걸맞은 정책 대응이 필요하다고 덧붙였습니다. 2025년 11월 16일 CBS 「60 Minutes」에서도 같은 경고를 유지했습니다.

2026년 1월 에세이 「The Adolescence of Technology」에서는 AI를 인간에 대한 일반적 노동 대체재(general labor substitute)로 규정하며, 낮은 숙련 계층에서 높은 계층으로 대체가 확산되어 실업 상태이거나 매우 낮은 임금을 받는 지속적 하위계급이 형성될 수 있다고 경고했습니다. 동시에 그 대량 대체가 지금 이미 벌어지고 있다고 주장하는 것은 아니라고 명시적으로 단서를 달았습니다.

원문의 이 절과 비교해 보면 변화의 성격이 드러납니다. 2024년 10월의 글에서 그는 비교우위 논증을 근거로 인간 경제가 데이터센터 속 천재들의 나라를 조금 지나서까지도 말이 된다고 썼고 교란은 장기의 문제로 배치했습니다. 2025년 5월 이후의 발언에서 그는 1-5년이라는 시간 지평과 구체적 수치를 제시합니다. 원문에서 그가 이 절이 짧은 것은 명확한 답이 없다는 신호라고 쓴 유보가 이후 훨씬 구체적인 비관으로 채워진 셈입니다. 입장을 바꾼 것인지, 아니면 원문의 장기가 생각보다 빨리 왔다고 판단한 것인지는 그의 발언만으로는 확정하기 어렵습니다.

정리하며

싸울 가치가 있는 세계

아모데이는 지금까지의 여러 주제를 통해 AI에서 모든 것이 제대로 풀린다면 그럴듯하면서 동시에 오늘날보다 훨씬 나은 세계의 비전을 펼쳐 보이려 했다고 정리합니다.

그러고는 곧바로 두 겹의 유보를 답니다. 그는 이 세계가 현실적인지 모릅니다. 그리고 설령 현실적이라 해도 많은 용감하고 헌신적인 사람들의 엄청난 노력과 분투 없이는 달성되지 않을 것입니다. 모두가, 그는 괄호를 열어 ‘AI 기업들을 포함해서!’라고 덧붙입니다, 위험을 막는 일과 혜택을 온전히 실현하는 일 양쪽에서 자기 몫을 해야 합니다.

그러나 그 세계는 싸울 가치가 있는 세계입니다. 만약 이 모든 것이 5-10년에 걸쳐 실제로 일어난다면, 즉 대부분의 질병의 패배와 생물학적·인지적 자유의 확대, 수십억 명이 빈곤에서 벗어나 새로운 기술을 함께 누리는 일, 자유민주주의와 인권의 르네상스가 온다면, 그는 그것을 지켜보는 모든 사람이 자신이 받는 영향에 놀라게 될 것이라고 추측합니다.

여기서 그가 말하는 것은 새로운 기술로 개인이 혜택을 보는 경험이 아닙니다. 그것도 분명 놀라운 일이겠지만 말입니다. 그가 말하는 것은 오랫동안 품어 온 일련의 이상이 한꺼번에 눈앞에서 현실이 되는 것을 지켜보는 경험입니다. 그는 많은 사람이 문자 그대로 눈물을 흘리게 될 것이라고 봅니다.

글을 쓰는 내내 느낀 긴장

이 절에서 가장 흥미로운 대목은 그가 집필 과정에서 느꼈다고 고백하는 긴장입니다. 한편으로 여기 제시된 비전은 극도로 급진적입니다. 거의 아무도 앞으로 10년 안에 일어나리라 예상하지 않는 일이고, 많은 사람에게는 터무니없는 환상으로 비칠 가능성이 높습니다. 어떤 사람들은 그것이 바람직하다고 여기지조차 않을 것입니다. 그는 이 비전이 모두가 동의하지는 않을 가치와 정치적 선택을 담고 있다는 점을 명시적으로 인정합니다.

그런데 동시에 그 비전에는 눈이 멀 만큼 자명한 무언가, 과잉결정된(overdetermined) 무언가가 있습니다. 좋은 세계를 그려보려는 여러 상이한 시도들이 결국 대체로 여기에 다다르는 것처럼 보인다는 것입니다.

경쟁은 어떻게 협력으로 귀결되는가

이 긴장을 설명하기 위해 원문은 몇 가지 참조점을 끌어옵니다. 그중 하나는 SF 작가 이언 M. 뱅크스(Iain M. Banks)의 소설 한 편입니다. 그 소설에서 주인공은 평등과 자유, 협력에 기반한 사회의 일원으로, 억압적이고 군국주의적인 제국에서 정교한 전투 게임의 승부로 지도자를 정하는 관습과 마주합니다. 그런데 그 게임은 충분히 복잡해서 플레이어의 게임 내 전략이 그 사람 자신의 정치적·철학적 세계관을 반영하는 경향이 있습니다. 주인공은 결국 그 제국의 황제를 게임에서 꺾는데, 이는 자신이 속한 사회의 가치가 무자비한 경쟁과 적자생존 위에 세워진 사회가 설계한 게임 안에서조차 승리하는 전략임을 보여 주는 결말입니다.

그는 같은 논지를 담은 다른 두 참조점을 덧붙입니다. 하나는 한 유명 에세이스트가 쓴 널리 알려진 글로, 경쟁은 자기파괴적이며 결국 연민과 협력에 기반한 사회로 이어지는 경향이 있다는 같은 테제를 담고 있습니다. 다른 하나는 도덕적 우주의 호(the arc of the moral universe)라는 개념입니다.

원문의 마지막 각주는 그가 자신의 규칙을 깨고 있음을 스스로 밝히는 대목입니다. 그는 이 글을 SF에 관한 것으로 만들지 않겠다는 자기 규칙을 어기고 있다고 인정하면서, 적어도 조금은 언급하지 않기가 어려웠다고 말합니다. 그리고 한 문장을 덧붙입니다. 사실 SF는 미래에 대한 확장적 사고실험의 몇 안 되는 원천 중 하나이며, 그것이 특정한 좁은 서브컬처와 그토록 깊이 얽혀 있다는 사실이 좋지 않은 무언가를 말해 준다고 생각한다는 것입니다.

해설 결론부의 참조점들은 영미권 독자에게는 익숙하지만 한국 독자에게는 설명이 필요합니다.

원문이 인용하는 소설은 뱅크스(1954-2013)가 1987년부터 발표한 SF 연작의 두 번째 작품으로, 무대가 되는 사회는 희소성이 사라진 은하 규모의 탈희소성 문명입니다. 화폐도 법도 국가도 없고 구성원은 원하는 대로 살아갑니다. 다만 아모데이가 언급하지 않는 설정이 하나 있습니다. 그 사회를 실제로 운영하는 것은 초지능 AI들이며, 인간형 구성원들은 중요한 의사결정에서 사실상 배제되어 있습니다. 그들은 보살핌을 받고 자유롭지만 경제적으로는 잉여입니다.

즉 아모데이가 ‘내가 제시한 원리와 크게 다르지 않다’며 호의적으로 인용한 사회는, 그가 노동과 의미를 다룬 절에서 답을 찾지 못한 질문, 즉 AI가 모든 것을 할 때 인간은 무엇인가라는 질문에 대해 하나의 구체적인 답을 이미 제시하고 있는 사회입니다. 그 답이 바람직한지는 연작 자체가 반복해서 다루는 주제입니다.

원문이 인용하는 또 다른 글은 정신과 의사이자 블로거인 한 저자가 2015년에 발표한 우화 형식의 에세이로, 생존과 경쟁만을 명령하는 원리와 협력·다양성·창조를 불러내는 상반된 원리를 대비시키며 진화의 긴 흐름 속에서 후자가 거듭 전자를 포섭해 왔다고 서술합니다.

도덕적 우주의 호. 19세기 미국 노예제 폐지론자 시어도어 파커(Theodore Parker)의 설교에서 비롯되어 마틴 루서 킹 주니어(Martin Luther King Jr.)가 ‘도덕적 우주의 호는 길지만 정의를 향해 휘어진다’로 압축해 널리 알려진 표현입니다. 역사가 장기적으로 정의 쪽으로 기운다는 믿음을 가리킵니다.

이 참조점들은 모두 같은 구조의 주장입니다. 협력과 공정이 단지 도덕적으로 옳을 뿐 아니라 전략적으로도 우월하다는 것입니다. 아모데이가 글의 마지막에 이것들을 배치한 이유는, 앞의 다섯 절이 전부 ‘그렇게 될 수 있다’는 가능성 논증이었던 반면 결론은 ‘그렇게 되는 쪽이 이긴다’는 당위 논증이 필요했기 때문입니다.

마지막 논증: 작은 직관에서 계몽주의로

아모데이는 자신이 묘사한 가치가 승리하는 전략인 이유를 자기 식으로 설명합니다. 그 가치들이 분명한 도덕적 힘을 갖고 모두를 같은 편으로 끌어당기는 경향이 있는 백만 개의 작은 결정들의 합이기 때문이라는 것입니다. 공정, 협력, 호기심, 자율성에 대한 기본적인 인간의 직관은 반박하기 어렵고, 우리의 더 파괴적인 충동이 흔히 그렇지 못한 방식으로 누적됩니다. 그는 이 누적의 연쇄를 구체적으로 보여 줍니다.

• 막을 수 있다면 아이들이 질병으로 죽어서는 안 된다고 주장하기는 쉽습니다.
• 거기서 모든 사람의 아이들이 그 권리를 똑같이 누릴 자격이 있다고 주장하기도 쉽습니다.
• 거기서 우리 모두가 힘을 합쳐 지성을 그 목표에 쏟아야 한다고 주장하기까지 멀지 않습니다.
• 사람들이 타인을 불필요하게 공격하거나 해칠 때 처벌받아야 한다는 데 동의하지 않는 사람은 거의 없습니다.
• 거기서 처벌이 사람들 사이에서 일관되고 체계적이어야 한다는 생각으로 넘어가는 것도 큰 도약이 아닙니다.
• 사람들이 자기 삶과 선택에 대해 자율성과 책임을 가져야 한다는 것도 마찬가지로 직관적입니다.

그리고 결론입니다. 이 단순한 직관들을 논리적 귀결까지 밀고 가면 결국 법치, 민주주의, 계몽주의적 가치에 도달합니다. 그는 여기에 통계적 단서를 답니다. 필연적으로는 아니더라도 적어도 통계적 경향으로서 인류는 이미 그쪽을 향해 가고 있었다는 것입니다. AI는 단지 우리를 더 빨리 그곳에 데려다줄 기회를 제공할 뿐이며, 논리를 더 선명하게 하고 목적지를 더 분명하게 만들 뿐입니다.

글의 마지막 두 문장은 짧습니다. 그럼에도 그것은 초월적으로 아름다운 무언가이며, 우리에게는 그것을 현실로 만드는 데 작은 역할을 할 기회가 있다는 것입니다.

감사의 말과 헌사

본문 뒤에는 짧은 감사의 말이 붙어 있습니다. 초고를 검토해 준 에스벨트, 파라그 말릭(Parag Mallick), 스튜어트 리치(Stuart Ritchie), 이글레시아스, 브리뇰프슨, 짐 매클레이브(Jim McClave), 앨런 다포(Allan Dafoe), 그리고 앤트로픽의 많은 사람들에게 감사를 표합니다. 그리고 한 줄의 헌사가 글을 닫습니다. 2024년 노벨 화학상 수상자들에게, 우리 모두에게 길을 보여 준 데 대하여.

[관점] 이 글이 발표 이후 수행한 기능을 짚어 둘 필요가 있습니다. 2024년 10월 이후 「Machines of Loving Grace」는 AI 낙관 서사의 레퍼런스 텍스트가 되었습니다. 압축된 21세기와 데이터센터 속 천재들의 나라는 투자 설명 자료와 정책 보고서에 거듭 인용되는 표현이 되었고, 2025-2026년 프런티어 AI 기업들의 대규모 자금 조달과 데이터센터 투자를 설명하는 담론의 일부로 기능해 왔습니다. 아모데이가 서문에서 선전으로 비칠 가능성을 선제적으로 부인했음에도, 텍스트는 아모데이의 의도와 독립적으로 유통됩니다.

투자 판단의 관점에서 이 글을 읽을 때는 검증 가능한 명제와 검증 불가능한 명제를 분리하는 것이 실질적으로 유용합니다. 검증 가능한 쪽에는 강력한 AI의 도래 시점, 신약 승인 건수와 기간의 추세, 암 사망률 감소 속도, 개발도상국 성장률, 실업률과 직종별 고용 데이터가 있습니다. 이 지표들은 분기 단위로 확인할 수 있고, 앞서 본 것처럼 앤트로픽 내부에서도 데이터로 서로 다른 결론이 나옵니다.

검증 불가능한 쪽은 지능에 대한 한계수익이 높다는 핵심 전제 자체입니다. 이 명제는 반증 가능한 형태로 서술되어 있지 않습니다. 진보가 빠르면 전제가 맞은 것이고, 느리면 다섯 가지 한계 요인 중 하나가 작용한 것으로 설명됩니다. 이 구조는 글의 결함이라기보다 예측이 아니라 틀을 제시하려는 글의 성격에서 나오는 것이지만, 투자 논거로 쓰일 때는 이 차이가 중요합니다.

지정학 측면에서 이 글이 실제로 변화시킨 것은 노동 전망이 아니라 앙탕트 전략입니다. 수출통제 강화, 민주주의 연합이라는 프레임, 민간 AI 기업과 정부의 협력이라는 구도는 2025-2026년 미국 AI 정책 담론의 기본 어휘가 되었고, 앞서 본 대로 한국 반도체 기업의 사업 조건에 직접적인 비용으로 청구되었습니다. 다섯 영역 중 가장 확신이 낮다고 아모데이가 밝힌 영역이 실제로는 가장 빠르게 정책으로 전환된 영역이라는 점은 이 글의 수용사에서 가장 역설적인 부분입니다.

마지막으로 구조적 관찰 하나를 덧붙입니다. 이 글에서 아모데이의 확신은 생물학에서 신경과학, 경제개발, 거버넌스, 노동과 의미 순으로 단조 감소합니다. 그리고 그 순서는 각 영역에서 인간으로부터의 제약이 차지하는 비중의 순서와 정확히 일치합니다.

즉 이 글은 자신이 세운 틀에 의해 스스로 설명됩니다. 지능이 많아지면 풀리는 문제와, 지능이 많아져도 사람과 제도가 바뀌어야 풀리는 문제가 다르다는 것입니다. 글의 가장 큰 기여는 일곱 가지 전망 목록이 아니라 이 구분 자체일 수 있습니다.

[사후 맥락] 원문 발표로부터 약 2년이 지난 2026년 10월 시점에서 각 영역의 중간 경과를 정리해 둡니다. 이 글의 시간 지평이 강력한 AI 등장 이후 5-10년이므로 아직 시계가 본격적으로 돌기 시작했다고 보기는 어렵다는 점을 전제로 읽어야 합니다.

타임라인 — 아모데이 본인이 제시한 하한선 2026년은 그의 현재 평가 기준으로 충족되지 않았고, 2026년 파텔 팟캐스트에서 아직 그 지점에 도달하지 않았으며 10년 내 확률을 약 90%로 본다고 말했습니다.

생물학 — 알파폴드 개발자들은 원문 발표와 같은 달 노벨 화학상을 받았고, 제약 업계에서는 릴리 CEO를 비롯해 현재 AI의 기여 범위가 신약 개발 문제 공간의 극히 일부라는 평가가 나왔습니다.

신경과학 — 다유전자 배아 선별에 대해서는 원문이 인용한 종설을 포함해 예측력의 한계를 지적하는 문헌이 축적되어 있으며, 정신의학에서 다유전자 위험 점수의 임상 적용은 아직 존재하지 않습니다.

경제 — 아제모을루의 추정인 10년간 TFP 0.66% 이하와 원문의 꿈의 시나리오인 연 20% 성장 사이의 간극은 좁혀지지 않았습니다.

거버넌스 — 앙탕트 전략의 세 요소 중 적대국의 칩 접근 차단이 가장 빠르게 정책으로 구현되어, 미국 상무부 BIS는 2025년 8월 삼성전자·SK하이닉스·TSMC 중국 법인의 VEU 지위를 철회했고 2025년 12월 연간 허가제로 조정했습니다.

노동 — 아모데이 본인이 2025년 5월 이후 훨씬 날카로운 경고로 이동한 반면, 앤트로픽의 경제 책임자는 2026년 7월 현재까지 미국 실업률에 실질적 상승이 없다고 분석했습니다.

저자와 회사 — 앤트로픽은 2026년 5월 Series H에서 9,650억 달러 기업가치를 인정받았고 6월 1일 SEC에 IPO를 위한 S-1을 비공개 제출한 것으로 보도되어, 2024년 10월 이 글을 쓸 당시와 비교해 아모데이의 발화 위치에 걸린 이해관계의 규모가 크게 달라졌습니다.

한 문장으로 요약하면, 2년이 지난 시점에서 이 글의 개별 전망 중 검증된 것도 반증된 것도 많지 않으며, 가장 확실하게 현실이 된 것은 전망이 아니라 전략입니다.

---

원문: Dario Amodei, Machines of Loving Grace: How AI Could Transform the World for the Better (Oct 2024) 전문은 원문에서 확인하실 수 있습니다.

참고할만한 글

• 다리오 아모데이 – 프런티어의 속도를 조절해야 한다 (We Must Pace the Frontier) — 같은 저자가 낙관론에서 한 걸음 나아가 AI 개발 속도를 조절해야 한다고 제안한 글로, 두 글을 이어 읽으면 입장의 변화가 보입니다.
• 아빈드 나라야난·사야시 카푸어 — 일반 기술로서의 AI (AI as Normal Technology) — 아모데이의 압축된 21세기 전망에 맞서 기술 확산이 제도의 속도에 묶인다고 보는 글입니다.
• 샘 올트먼 – 온화한 특이점 (The Gentle Singularity) — 또 다른 AI 기업 수장이 낙관적 미래를 그린 글로, 두 낙관론의 강조점을 비교할 수 있습니다.