드와케시 파텔 – AI 진보에 대한 생각 (Thoughts on AI Progress)
원문: Dwarkesh Patel, Thoughts on AI progress (Dec 2025) 전문은 원문에서 확인하실 수 있습니다. 아래 글은 번역이 아니라, 드와케시 파텔의 논증을 한국어로 재구성한 정리입니다.
글의 배경과 개요
드와케시 파텔(Dwarkesh Patel)은 깊이 조사한 대담을 내세우는 팟캐스트의 진행자이고, 이 글은 그가 2025년 12월 자신의 블로그에 올린 짧은 에세이입니다. 부제에서 그는 자신의 입장을 단기적으로는 완만하게 비관적이고 장기적으로는 폭발적으로 낙관적이라고 요약합니다. 글 전체가 답하려는 질문은 하나입니다. 모델이 벤치마크에서는 계속 인상적으로 좋아지는데 왜 경제 전반에서는 그만큼 쓸모 있어지지 않는가, 그리고 그 간극이 앞으로 몇 년 안에 메워질 것인가입니다. 파텔은 지금 연구소들이 밀어붙이는 강화학습 스케일링의 성격을 따져 묻는 데서 출발해, 인간 노동의 가치가 어디에서 나오는지, 확산이 느리다는 설명이 왜 변명인지, 목표 지점을 계속 옮기는 일이 왜 정당한지를 차례로 짚습니다. 그리고 지속 학습(continual learning)이 풀리는 방식에 대한 자신의 전망으로 글을 맺습니다.
핵심 내용 정리
- 짧은 시간표를 주장하면서 동시에 현재의 강화학습 스케일링에 낙관적인 태도는 서로 모순된다고 봅니다.
- 모델에 기술을 하나씩 미리 구워 넣어야 한다는 사실 자체가, 지금 모델에 인간이 가진 학습의 핵심이 빠져 있다는 증거라고 말합니다.
- 인간 노동이 값진 이유는 업무의 작은 조각마다 전용 학습 파이프라인을 만들어 줄 필요가 없기 때문이라고 설명합니다.
- AI가 코딩 바깥에서 널리 쓰이지 않는 이유를 기술 확산의 지연으로 돌리는 것은 능력 부족을 가리는 자기 위안이라고 잘라 말합니다.
- 모델은 짧은 시간표 진영이 예측한 속도로 인상적이어지지만, 유용해지는 속도는 긴 시간표 진영의 예측을 따른다고 정리합니다.
- 모델 사이에는 인간만큼의 편차가 없기 때문에 중앙값 인간과 비교하면 가치를 과대평가하게 되고, 상위 인간을 따라잡는 순간의 충격은 과소평가하게 된다고 봅니다.
- 지속 학습은 단번에 해결되는 사건이 아니라 여러 해에 걸친 점진적 진전이 될 것이므로, 먼저 해낸 연구소가 독주하는 상황은 오지 않을 것이라고 전망합니다.
우리는 무엇을 스케일링하고 있는가
파텔은 자신이 이해하지 못하는 조합이 하나 있다고 말하며 글을 시작합니다. 어떤 사람들은 범용인공지능(AGI)까지 남은 시간이 짧다고 보면서, 동시에 대규모 언어모델(LLM) 위에 강화학습을 얹어 규모를 키우는 지금의 방식에 낙관적입니다. 그는 이 두 입장이 함께 성립하기 어렵다고 봅니다. 우리가 정말로 인간처럼 배우는 학습자에 근접해 있다면, 검증 가능한 결과를 놓고 훈련시키는 이 접근 전체가 애초에 필요 없어지기 때문입니다.
지금 프런티어 연구소들은 중간 학습(mid-training)이라는 단계를 통해 여러 기술을 모델 안에 미리 심어 넣고 있습니다. 모델에게 웹브라우저를 다루는 법이나 엑셀(Excel)로 재무 모델을 만드는 법을 가르치는 강화학습 환경을 만들어 파는 회사들이 하나의 공급망을 이루고 있을 정도입니다. 파텔은 여기서 갈림길이 둘뿐이라고 정리합니다. 머지않아 모델이 업무 현장에서 스스로 배우게 된다면 이렇게 미리 구워 넣는 작업은 전부 무의미해지고, 반대로 그렇게 되지 않는다면 AGI는 임박하지 않았다는 뜻입니다. 인간은 앞으로 쓰게 될 소프트웨어를 하나하나 미리 연습해 두는 별도의 훈련 기간을 거치지 않습니다.
그는 베런 밀리지(Beren Millidge)가 블로그에서 제기한 논점을 끌어옵니다. 프런티어 모델이 벤치마크에서 좋아지는 것을 볼 때 우리는 규모 확대와 영리한 기계학습 아이디어만 떠올리지만, 그 뒤에는 박사와 의사를 비롯한 전문가들에게 문제와 모범 답안과 추론 과정을 쓰게 하느라 쓰인 수십억 달러가 있다는 지적입니다. 밀리지는 이것이 전문가 시스템 시대의 대규모 재연에 가깝다고 봅니다. 그때는 전문가의 사고를 코드로 직접 옮겨 적게 했다면, 지금은 전문가가 자신의 추론과 절차를 수많은 사례로 남기고 이를 행동 복제를 통해 모델에 증류해 넣는다는 것입니다. 밀리지는 이렇게 공들여 만든 인간 궤적과 환경이 필요하다는 사실 자체가 지금 시스템에 진짜 AGI라면 가지고 있어야 할 학습의 핵심이 빠져 있다는 뜻이라며, 자신의 시간표를 조금 더 길게 수정했다고 적습니다.
파텔은 이 긴장이 가장 선명하게 드러나는 분야로 로봇공학을 듭니다. 근본적인 의미에서 로봇공학은 하드웨어 문제나 데이터 문제가 아니라 알고리즘 문제라는 것이 그의 판단입니다. 인간은 아주 적은 훈련만으로도 지금의 로봇 하드웨어를 원격조작해 쓸 만한 일을 해낼 수 있기 때문입니다. 인간 같은 학습자가 있었다면 로봇공학은 상당 부분 풀린 문제였을 텐데, 그런 학습자가 없기 때문에 설거지와 빨래 개기를 배우려고 천 곳의 가정집에 로봇을 들여보내야 하는 상황이 벌어집니다.
여기에 대해 5년 안에 이륙이 일어난다고 보는 쪽에서 나오는 반론이 있습니다. 지금의 투박한 강화학습은 초인적인 AI 연구자를 만들기 위한 과정일 뿐이고, 그렇게 만들어진 자동화된 일리야 수츠케버(Ilya Sutskever) 백만 명이 경험에서 견고하고 효율적으로 배우는 방법을 알아낼 것이라는 주장입니다. 파텔은 여기서 손해 보고 팔지만 물량으로 메우겠다는 오래된 농담의 냄새가 난다고 말합니다. 아이들도 갖고 있는 기본적인 학습 능력조차 없는 존재가, 인류가 한 세기 가까이 머리를 싸매 온 AGI의 알고리즘을 알아낸다는 그림은 그에게 전혀 그럴듯하게 들리지 않습니다.
게다가 연구소들의 행동 자체가 다른 이야기를 한다고 그는 지적합니다. 수츠케버를 자동화하기 위해 컨설턴트의 파워포인트(PowerPoint) 슬라이드 제작 기술까지 미리 심어 넣을 필요는 없습니다. 그럼에도 그런 작업에 자원을 쓴다는 것은, 모델이 당분간 일반화와 현장 학습에 계속 서툴 것이고 그래서 돈이 될 만한 기술을 하나씩 직접 넣어 두어야 한다는 세계관을 연구소들이 전제하고 있다는 뜻입니다. 연구소들의 행동이야말로 짧은 시간표에 대한 가장 솔직한 반증이라는 것입니다.
또 다른 반론도 그는 미리 짚어 둡니다. 모델이 현장에서 배울 수 있다 하더라도, 사용자와 기업마다 매번 다시 배우게 하는 것보다 훈련 단계에서 한 번에 심어 두는 편이 훨씬 효율적이지 않느냐는 것입니다. 파텔은 브라우저나 터미널처럼 어디서나 쓰이는 도구에 대해서는 이 말이 타당하다고 인정합니다. 실제로 복제본들 사이에서 지식을 공유할 수 있다는 점은 AGI가 갖게 될 핵심 이점 가운데 하나입니다. 다만 대부분의 직무가 회사와 맥락에 특유한 기술을 얼마나 많이 요구하는지를 사람들이 과소평가하고 있고, 지금의 AI에는 그런 기술을 견고하고 효율적으로 습득할 방법이 없다는 것이 그의 결론입니다.
해설 중간 학습은 사전학습과 사후학습 사이에서 특정 도구나 업무 절차를 다루는 데이터를 집중적으로 넣는 단계를 가리킵니다. 강화학습 환경은 모델이 실제로 브라우저를 클릭하거나 스프레드시트를 조작해 보고 성공 여부를 채점받는 모의 작업장에 해당하고, 검증 가능한 보상을 이용한 강화학습(RLVR)은 정답을 기계적으로 채점할 수 있는 과제에서만 작동한다는 제약을 안고 있습니다.
행동 복제는 전문가가 남긴 행동 기록을 그대로 흉내 내도록 모델을 학습시키는 방식을 말합니다. 전문가 시스템은 1980년대에 전문가의 판단 규칙을 사람이 직접 코드로 적어 넣어 만들었던 AI 접근으로, 규칙을 다 적을 수 없다는 한계에 부딪혀 쇠퇴했습니다. 밀리지의 비유는 지금의 방식이 적어 넣는 대상만 규칙에서 사례로 바뀐 같은 구조라는 뜻입니다.
[관점] 파텔의 논리를 투자자 입장에서 뒤집어 보면, 강화학습 환경 공급망의 성장 자체가 하나의 지표가 됩니다. 이 산업이 커진다는 것은 모델이 아직 스스로 배우지 못한다는 사실에 매겨진 가격표이기 때문입니다. 즉 환경 구축과 데이터 라벨링 매출은 모델 능력의 대리 지표가 아니라 능력 결핍의 대리 지표에 가깝습니다.
이 구분은 실제 투자 판단에서 갈라집니다. 지속 학습이 실제로 진전되면 이 지출은 모델 가치로 옮겨가면서 환경 공급업체 쪽에서는 빠르게 증발할 수 있고, 반대로 파텔의 비관이 맞아 현장 학습이 계속 막혀 있다면 이 공급망은 몇 년 더 커집니다. 어느 쪽이든 환경 공급업체의 성장률을 AGI 임박의 증거로 읽는 것은 방향을 거꾸로 읽는 셈입니다.
[이해관계] 파텔은 깊이 조사한 대담을 내세우는 팟캐스트의 진행자이고, 수츠케버와 안드레이 카파시(Andrej Karpathy), 리처드 서튼(Richard Sutton)과의 대담도 그가 진행했습니다. 이 글에서 그는 지속 학습을 자신의 단골 주제라고 스스로 부릅니다.
즉 이 글은 중립적 관찰자의 보고가 아니라, 지속 학습을 자신의 관심사로 내세우는 진행자가 현재 상황을 진단한 글입니다. AI 연구 현장의 인물들과 긴 대담을 이어 온 사람이라는 점이 그의 발화 위치를 이루는 조건입니다.
인간 노동이 값진 이유는 훈련에 품이 들지 않기 때문
파텔은 한 저녁 자리의 대화를 소개하며 이 절을 엽니다. 자리에는 AI 연구자와 생물학자가 함께 있었고, 생물학자는 자신은 시간표를 길게 본다고 말했습니다. AI가 어떤 일에서 고전할 것 같냐고 묻자 그는 최근 자기 업무를 예로 들었습니다. 현미경 슬라이드를 들여다보면서 거기 찍힌 점이 실제로 대식세포(macrophage)인지, 아니면 그렇게 보일 뿐인지를 판별하는 일이라는 것이었습니다. AI 연구자는 곧바로 이미지 분류는 딥러닝 교과서에 나오는 문제이고 그 정도는 쉽게 학습시킬 수 있다고 답했습니다.
파텔은 이 짧은 주고받음이 자신과 몇 년 안에 변혁적인 경제적 충격이 온다고 보는 사람들 사이의 핵심 쟁점을 드러낸다고 봅니다. 인간 노동자가 값진 이유는 바로 그 업무의 작은 조각마다 품이 많이 드는 학습 루프를 따로 만들어 줄 필요가 없다는 데 있습니다. 이 특정 연구실이 슬라이드를 준비하는 방식에서 대식세포가 어떻게 보이는지를 가르치는 전용 학습 파이프라인을 만들고, 그다음 연구실 특유의 미세 과업을 위해 또 하나를 만드는 식으로 가면 순생산성이 남지 않습니다. 정말로 필요한 것은 의미 기반 피드백이나 스스로 쌓은 경험에서 배운 뒤 인간처럼 일반화하는 AI라는 것이 그의 정리입니다.
그는 이 문제가 특수한 실험실 사례에 그치지 않는다고 말합니다. 누구든 하루에 판단력과 상황 인식, 그리고 일하면서 익힌 기술과 맥락을 요구하는 일을 수백 가지씩 처리합니다. 그리고 이런 과업은 사람마다 다를 뿐 아니라, 같은 사람에게도 어제와 오늘이 다릅니다. 그래서 미리 정해 둔 기술 묶음을 심어 넣는 방식으로는 직무 하나조차 자동화할 수 없고, 모든 직무는 더 말할 것도 없다는 결론에 이릅니다.
흥미롭게도 파텔은 같은 논리에서 정반대 방향의 과소평가도 지적합니다. 사람들이 진짜 AGI가 얼마나 큰 사건일지를 오히려 과소평가하고 있다는 것입니다. 지금 체제가 조금 더 연장된 모습을 상상하고 있을 뿐, 서버 위에 올라앉아 서로의 학습 내용을 복제하고 합칠 수 있는 인간 같은 지능 수십억 개를 떠올리지는 않는다는 지적입니다. 그는 바로 그런 의미의 AGI가 앞으로 10년에서 20년 사이에 온다고 보며, 그 자체가 제정신으로는 받아들이기 어려울 만큼 엄청난 일이라고 강조합니다.
해설 대식세포는 면역계에서 이물질을 잡아먹는 백혈구의 한 종류입니다. 생물학자가 말한 과업의 어려움은 세포를 아는 것이 아니라, 그 연구실의 염색과 표본 제작 방식에서 어떤 얼룩이 세포이고 어떤 얼룩이 잡음인지를 구분하는 암묵적 기준에 있습니다. AI 연구자가 교과서 문제라고 답한 것은 이 암묵적 기준을 라벨 데이터로 바꿔 놓을 수 있다는 전제이고, 파텔이 반박하는 지점도 그 전제의 비용입니다.
의미 기반 피드백은 정답과 오답을 숫자로 채점하는 대신 말로 된 지적을 받아 행동을 고치는 방식을 가리킵니다. 사람이 신입에게 이번 건은 기준이 달랐다고 한마디 하면 다음부터 달라지는 그 경로가, 현재 모델에는 학습으로 남지 않고 대화창이 닫히면 사라집니다.
[관점] 경제적으로 보면 파텔이 말하는 것은 자동화의 고정비 구조입니다. 과업 하나를 자동화하려면 환경 구축과 데이터 수집이라는 선행 투자가 필요하고, 그 비용은 같은 과업이 얼마나 많이 반복되는지로만 회수됩니다. 그래서 지금의 AI 도입은 과업이 표준화되어 있고 물량이 큰 영역, 즉 코딩과 고객 응대, 문서 요약 쪽에 먼저 안착합니다.
반대로 과업의 꼬리가 길고 사업장마다 기준이 다른 영역에서는 같은 투자로 회수할 물량이 나오지 않습니다. 이 구조는 20세기 공장 자동화가 대량 생산 라인에서 먼저 성립하고 다품종 소량 공정에서 늦어진 것과 형태가 같습니다. 중요한 함의는 이것이 능력의 문제이자 동시에 단가의 문제라는 점이며, 모델 가격이 계속 떨어지면 회수 가능한 과업의 경계선도 함께 이동한다는 것입니다.
[반론] 이 글의 댓글에서 대니얼 코코타일로(Daniel Kokotajlo)는 개별 모델이 아니라 집합체를 단위로 보면 그림이 달라진다고 반박합니다. 미래의 AI 집합체는 데이터 수집과 문제 식별, 강화학습 환경 생성으로 이어지는 거대한 파이프라인을 스스로 운영할 수 있고, 그렇게 되면 그 파이프라인 자체가 집합체의 지속 학습 장치 역할을 한다는 주장입니다.
그의 논지는 집합체가 특정 기술을 익히는 데 여전히 인간보다 천 배 많은 데이터를 필요로 하더라도, 수만 개의 복제본이 동시에 데이터를 모으고 그 수집 과정을 지능적으로 관리하기 때문에 전체적으로는 인간보다 빠르게 새 기술과 직무를 익힐 수 있다는 것입니다. 다만 그 자신도 이 방식으로 배울 수 없는 영역이 있다고 단서를 답니다. 전쟁에서 이기는 기술처럼 천 개의 사례에 복제본을 투입할 수 없는 일이 그 예입니다.
확산이 느리다는 말은 빠진 능력을 가리는 변명이다
코딩을 제외하면 AI가 기업 전반에 널리 배포되지도, 큰 가치를 내지도 못하고 있습니다. 여기에 대해 흔히 나오는 설명은 기술이 경제에 스며드는 데는 원래 오랜 시간이 걸린다는 것입니다. 파텔은 이 설명을 자기 위안이라고 부릅니다. 사람들이 이 말로 가리고 있는 것은 지금 모델에 폭넓은 경제적 가치를 만들어 낼 능력 자체가 빠져 있다는 사실이라는 것입니다.
그는 스티븐 번즈(Steven Byrnes)가 레스롱(LessWrong)에 올린 글에서 같은 논점을 가장 날카롭게 짚었다고 소개합니다. 번즈는 새 기술이 경제에 통합되는 데 오래 걸린다는 말에 대해 질문을 뒤집어 보라고 제안합니다. 고도로 숙련되고 경험 많으며 기업가적인 이민자들은 어떻게 도착하자마자 경제에 통합되느냐는 것입니다. 그 질문에 답하고 나면, AGI 역시 바로 그 일들을 할 수 있으리라는 점을 함께 인정해야 한다는 지적입니다.
파텔은 이 논리를 구체적인 그림으로 밀고 갑니다. 모델이 정말로 서버 위의 인간과 같다면 확산은 믿기 어려울 만큼 빠를 것입니다. 오히려 보통의 신입 직원보다 받아들이고 적응시키기가 훨씬 쉬울 것입니다. 회사의 슬랙(Slack)과 구글 드라이브(Google Drive)를 몇 분 만에 다 읽고, 이미 일하고 있는 다른 AI 직원들이 가진 기술을 곧바로 흡수해 올 수 있기 때문입니다.
채용과 비교하면 차이는 더 벌어집니다. 사람을 뽑는 일은 전형적인 레몬 시장에 가깝습니다. 누가 좋은 사람인지 가려내기 어렵고, 나쁜 사람을 뽑았을 때의 대가는 상당히 큽니다. 반면 이미 검증된 AGI 모델의 인스턴스를 하나 더 띄우는 일에는 그런 걱정이 따라붙지 않습니다.
그래서 파텔은 AI 노동을 기업 안에 퍼뜨리는 일이 사람을 채용하는 일보다 훨씬 쉬울 것이라고 봅니다. 그리고 기업들은 늘 사람을 아주 많이 뽑습니다. 만약 능력이 정말 AGI 수준에 와 있다면 사람들은 연간 수조 달러를 토큰 구매에 기꺼이 쓸 것입니다. 지식 노동자들이 받아 가는 임금 총액만 해도 연간 수십조 달러 규모이기 때문입니다. 지금 연구소들의 매출이 그 수준에서 네 자릿수, 즉 1만 배나 떨어져 있다는 사실이 곧 모델이 지식 노동자 근처에도 가지 못했다는 증거라는 것이 그의 결론입니다.
해설 레몬 시장은 조지 애컬로프(George Akerlof)가 중고차 시장을 예로 들어 설명한 개념으로, 파는 쪽은 품질을 알고 사는 쪽은 모르는 정보 비대칭 아래에서 좋은 물건이 시장에서 밀려나는 현상을 가리킵니다. 채용이 여기에 해당하는 이유는 지원자의 실제 역량을 면접으로 가려내기 어렵고, 잘못 뽑았을 때 드는 비용이 커서 기업이 보수적으로 움직이기 때문입니다.
파텔이 이 비유를 꺼낸 이유는 검증된 모델에는 이 비용이 아예 존재하지 않는다는 점을 강조하기 위해서입니다. 한 번 성능을 확인한 모델은 복제본마다 품질이 같으므로, 채용 과정에서 기업이 치르는 탐색 비용과 실패 비용이 통째로 사라집니다. 확산을 막는 마찰 중 상당 부분이 사람에게만 있는 마찰이라는 뜻입니다.
[관점] 파텔이 제시한 매출 대비 임금 총액 비교는 거칠지만 유용한 눈금입니다. 이 비교는 AI 매출이 어느 수준에 도달해야 경제적으로 AGI를 말할 수 있는지를 역으로 알려 주기 때문입니다. 수조 달러를 기준선으로 잡으면 지금의 매출은 아직 초기 단계에 해당합니다.
다만 이 눈금을 투자 판단에 쓸 때는 두 가지를 구분해야 합니다. 하나는 모델 능력이 모자라서 수요가 없는 경우이고, 다른 하나는 가격이 비싸서 전환이 늦은 경우입니다. 파텔은 명시적으로 전자라고 보지만, 같은 매출 수치는 두 설명 모두와 양립합니다. 매출 곡선이 능력의 지표인지 가격의 지표인지는 토큰 단가가 계속 내려가는 구간에서만 구분해 볼 수 있습니다.
[한국 관점] 한국 기업에서는 파텔이 말하는 두 설명을 가려내기가 특히 어렵습니다. 업무 맥락이 사내 메신저와 그룹웨어, 결재 시스템에 흩어져 있고, 금융과 공공 영역에서는 망분리와 보안 규정 때문에 그 맥락을 외부 모델에 열어 주는 일 자체가 쉽지 않기 때문입니다. 즉 모델이 슬랙과 드라이브를 몇 분 만에 읽어 들인다는 파텔의 전제가 한국에서는 기술이 아니라 제도의 문제로 먼저 막힙니다.
여기에 시스템통합(SI) 중심의 도입 구조가 겹칩니다. 기업이 모델을 직접 붙이기보다 외부 사업자에게 구축을 맡기는 방식이 일반적이어서, 도입이 느린 이유를 확산 지연으로 설명하는 서사가 한국에서는 더 그럴듯하게 들립니다. 그래서 파텔의 진단을 한국에 그대로 옮기기보다는, 능력 부족과 제도적 마찰이 섞여 있다는 점을 전제로 읽는 편이 안전합니다.
골대를 옮기는 일은 정당하다
AI 낙관론자들은 비관론자들이 기준을 계속 뒤로 미룬다고 비판하곤 합니다. 파텔은 그 비판이 대체로 정당하다고 인정합니다. 지난 10년간 AI가 이룬 진전은 엄청났고, 사람들은 그 사실을 쉽게 잊기 때문입니다.
하지만 어느 정도의 골대 옮기기는 정당하다는 것이 그의 주장입니다. 그는 자신을 예로 듭니다. 2020년에 누군가 제미나이(Gemini) 3을 보여 주었다면, 그는 이 모델이 지식 노동의 절반을 자동화할 수 있으리라고 확신했을 것이라고 말합니다. 우리는 AGI로 가는 충분조건이라고 여겼던 병목들을 하나씩 풀어 왔습니다. 일반적인 이해력, 퓨샷 학습, 추론이 그런 것들이었습니다. 그런데도 우리는 여전히 AGI를 갖고 있지 않습니다. 그가 말하는 AGI란 이를테면 지식 노동 직무의 95퍼센트를 완전히 자동화할 수 있는 수준입니다.
그렇다면 합리적인 반응은 무엇이겠느냐고 그는 되묻습니다. 그가 보기에 전적으로 타당한 반응은 이런 것입니다. 지능과 노동에는 내가 전에 알던 것보다 더 많은 무언가가 들어 있었다고 인정하는 것입니다. 지금 모델들은 과거의 자신이 AGI라고 정의했을 기준에 아주 근접해 있고 여러 면에서는 그 기준을 넘어섰지만, 모델 회사들이 수조 달러를 벌지 못하고 있다는 사실이 과거의 정의가 너무 좁았음을 드러낸다는 것입니다.
파텔은 이 일이 앞으로도 반복될 것이라고 예상합니다. 그는 2030년이면 연구소들이 자신의 단골 주제인 지속 학습에서 상당한 진전을 이뤄 낼 것이고, 모델 매출도 수천억 달러 규모에 이를 것이라고 봅니다. 그러나 그때도 지식 노동 전체가 자동화되지는 않았을 것이고, 자신은 또 이렇게 말하고 있으리라는 것입니다. 진전은 많았지만 아직 AGI는 아니며, 수조 달러에 도달하려면 또 다른 무언가가 필요하다고 말입니다.
절의 마지막에서 그는 자신의 진단을 한 문장으로 압축합니다. 모델은 짧은 시간표를 주장하는 쪽이 예측한 속도로 계속 인상적이어지는 반면, 쓸모 있어지는 속도는 긴 시간표를 주장하는 쪽의 예측을 따라간다는 것입니다.
해설 퓨샷 학습은 몇 개의 예시만 보여 주면 모델이 그 패턴을 파악해 새 문제를 푸는 능력을 가리키고, 2020년 GPT-3 논문이 바로 이 능력을 제목에 내세워 화제가 되었습니다. 2020년 시점에서 일반적 이해력과 퓨샷 학습과 추론은 AGI로 가는 길에 남은 결정적 난관으로 여겨졌습니다.
파텔이 95퍼센트라는 숫자를 붙인 것은 AGI를 능력의 목록이 아니라 경제적 결과로 정의하려는 시도입니다. 어떤 시험을 통과했는지가 아니라 어떤 직무를 실제로 대체했는지로 기준을 옮기면, 벤치마크 점수와 무관하게 판정이 가능해집니다. 다만 이 정의는 능력 외의 요인, 즉 규제나 가격이나 조직의 저항까지 모두 능력 평가에 섞여 들어온다는 약점도 함께 안습니다.
[관점] 매출을 AGI의 판정 기준으로 삼는 방식은 예측 시장의 관점에서 보면 장점이 분명합니다. 매출은 분기마다 확인되고 조작하기 어려우며, 벤치마크처럼 측정 대상이 학습 데이터에 섞여 들어가는 문제도 없기 때문입니다. 2030년에 수천억 달러라는 파텔의 수치는 검증 가능한 예측으로서 의미가 있습니다.
투자자 입장에서 더 중요한 함의는 그가 그려 보이는 경로의 모양입니다. 매출이 수천억 달러에 이르는 구간은 수조 달러 구간과 전혀 다른 투자 환경입니다. 전자는 기존 소프트웨어 산업의 상위 교체에 가깝고, 후자는 노동시장 자체의 재편을 뜻합니다. 지금 평가에 반영된 기대가 둘 중 어느 쪽을 가격에 넣고 있는지가 결국 핵심 질문이 됩니다.
[반론] 다리오 아모데이(Dario Amodei)는 정반대 방향에서 같은 자료를 읽습니다. 그는 「Machines of Loving Grace」에서 자신이 강력한 AI라고 부르는 수준이 이르면 2026년에도 등장할 수 있다고 썼고, 그 시점을 능력의 궤적으로 판단했습니다. 경제적 성과가 아직 보이지 않는다는 점을 능력 부족의 증거로 읽는 파텔의 추론을 그는 공유하지 않습니다.
아모데이의 논리에서 경제적 효과는 능력에 뒤따라오는 것이지 능력의 척도가 아닙니다. 그는 규제와 조직 관성, 물리 세계의 속도 제약 같은 요인들이 확산을 늦추는 독립적인 원인이라고 보고, 이를 인간으로부터의 제약이라고 따로 이름 붙여 다룹니다. 같은 매출 수치를 두고 파텔은 능력의 부재로, 아모데이는 확산의 지연으로 읽는 셈입니다.
강화학습 스케일링은 사전학습 스케일링의 명성을 빌린다
사전학습에는 대단히 깨끗하고 일반적인 추세가 있었습니다. 컴퓨트를 여러 자릿수에 걸쳐 늘릴 때 손실값이 어떻게 줄어드는지가 안정적으로 나타났던 것입니다. 파텔은 여기에 단서를 답니다. 그 추세가 멱법칙을 따른다는 점은, 지수적 성장이 강력한 만큼이나 멱법칙이 약하다는 뜻이기도 하다는 것입니다.
그가 문제 삼는 것은 이 추세가 가진 권위가 다른 곳으로 옮겨 붙는 방식입니다. 사전학습 스케일링은 거의 물리 법칙에 가까울 만큼 예측 가능했지만, 검증 가능한 보상을 이용한 강화학습에는 공개적으로 알려진 잘 들어맞는 추세선이 없습니다. 그런데도 사람들은 전자의 명성을 빌려 후자에 대한 낙관적 전망을 정당화하고 있다는 것입니다.
드문 공개 데이터를 모아 실제로 추세를 짚어 보려 한 연구자들은 오히려 비관적인 결론에 도달합니다. 파텔은 토비 오드(Toby Ord)의 글을 예로 듭니다. 오드는 o 시리즈 모델의 여러 벤치마크 차트를 영리하게 이어 붙여, GPT 한 세대만큼의 도약을 강화학습으로 얻으려면 총 강화학습 컴퓨트를 100만 배가량 늘려야 한다는 추정을 내놓았습니다.
해설 멱법칙은 투입을 10배 늘릴 때 성과가 일정 비율만큼 개선되는 관계를 말합니다. 지수적 성장이 시간이 갈수록 폭발적으로 커지는 모양이라면, 멱법칙은 같은 개선을 얻기 위해 투입을 계속 몇 배씩 키워야 하는 모양입니다. 사전학습 스케일링 법칙이 신뢰를 준 이유는 그 관계가 예측 가능했기 때문이지, 개선이 쉬웠기 때문이 아니라는 뜻입니다.
파텔의 지적은 두 단계로 나뉩니다. 첫째, 사전학습의 예측 가능성은 수년간 축적된 공개 실험 결과에 근거했습니다. 둘째, 강화학습 단계에는 그에 해당하는 공개 자료가 사실상 없습니다. 연구소 바깥에서는 투입과 성과의 관계를 그려 볼 재료 자체가 부족한 상태입니다.
[관점] 100만 배라는 수치는 그대로 받아들이기보다 자릿수의 감각으로 읽는 편이 맞습니다. 그래도 투자 판단에는 분명한 함의가 있습니다. 강화학습 컴퓨트를 늘리는 투자가 사전학습 때와 같은 예측 가능한 수익률을 준다는 전제는 현재 공개된 근거로는 뒷받침되지 않는다는 것입니다.
이 구분이 중요한 이유는 설비투자 사이클의 근거가 달라지기 때문입니다. 사전학습 시대의 투자는 법칙처럼 보이는 곡선 위에서 이루어졌지만, 지금의 투자는 검증되지 않은 곡선 위에서 이루어지고 있습니다. 같은 규모의 지출이라도 뒤를 받치는 증거의 성격이 다르며, 이는 추세가 꺾일 때 기대가 조정되는 속도에도 차이를 만듭니다.
인간 분포와 비교하면 처음에는 과대평가하고 나중에는 과소평가한다
인간이 더하는 가치의 편차는 대단히 큽니다. 특히 사무직 지식 노동에서는 오링 역학이 작동하기 때문에 더욱 그렇습니다. 동네 바보가 지식 노동에 더하는 가치는 사실상 0에 가까운 반면, 최상위 AI 연구자는 마크 저커버그(Mark Zuckerberg)에게 수십억 달러의 가치를 지닙니다.
그런데 특정 시점의 AI 모델들은 서로 엇비슷한 능력을 가집니다. 인간에게는 이 거대한 편차가 있고 AI 모델에는 없다는 것이 파텔이 짚는 비대칭입니다. 지식 노동에서 창출되는 가치가 상위 소수에게 불균형하게 쏠려 있기 때문에, 모델의 지능을 중앙값 인간과 견주면 그 모델이 만들어 낼 가치를 체계적으로 과대평가하게 된다는 것입니다.
같은 논리는 방향을 바꿔서도 성립합니다. 모델이 마침내 최상위 인간의 수행 수준에 도달하는 날이 오면, 그 충격은 상당히 폭발적일 수 있다는 것이 그의 결론입니다.
해설 오링 이론은 마이클 크레머(Michael Kremer)가 제시한 모형으로, 여러 공정이 사슬처럼 연결된 생산에서는 한 단계의 실수가 전체 산출을 망쳐 버린다는 점에 주목합니다. 이름은 발사 직후 폭발한 우주왕복선의 고무 패킹에서 왔습니다. 이런 구조에서는 평균이 아니라 가장 약한 고리가 결과를 결정하고, 따라서 최고 수준의 인력에게 보상이 몰립니다.
이 틀에서 보면 파텔의 비대칭이 분명해집니다. 지식 노동의 가치는 인원수가 아니라 최상위 수행자의 판단에 달려 있는데, 모델의 능력을 평가할 때 우리는 보통 평균적인 사람과 비교합니다. 비교 대상을 잘못 잡으면 같은 모델을 두고 지금은 과대평가하고 나중에는 과소평가하게 됩니다.
[관점] 이 논점은 AI 도입 효과를 측정한 연구들을 읽는 방식에도 영향을 줍니다. 생성형 AI가 하위 수행자의 성과를 크게 끌어올린다는 결과는 여러 연구에서 반복해 관찰되었지만, 파텔의 틀에서 보면 그 개선은 가치가 가장 적게 쏠려 있는 구간에서 일어난 것입니다. 하위 분위의 격차 축소가 곧 총생산의 도약을 뜻하지는 않습니다.
시장 가격에 주는 함의도 비대칭적입니다. 모델이 중간 수준에 머무는 동안에는 도입 효과가 완만하게 쌓이고 기대도 천천히 조정되지만, 최상위 수행 수준에 닿는 구간에서는 같은 성능 개선이 전혀 다른 크기의 가치를 만듭니다. 이런 구조에서는 성능과 가치가 비례하지 않으므로, 능력 향상의 속도만 보고 경제적 효과를 선형으로 추정하는 방식은 어느 쪽으로든 빗나가기 쉽습니다.
널리 배포된 지능 폭발
지금까지 사람들은 지능 폭발의 형태를 주로 두 갈래로 이야기해 왔습니다. 하나는 AI 모델이 더 똑똑한 후속 시스템의 코드를 직접 쓰는 소프트웨어만의 특이점이고, 다른 하나는 AI가 후속 시스템의 연산 하드웨어까지 개선하는 소프트웨어 겸 하드웨어 특이점입니다. 그 변형들도 여럿 제시되었습니다. 파텔은 이 시나리오들이 하나같이 빠뜨린 것이 있다고 봅니다. AGI 위에서 추가 개선을 이끌 주된 동력은 지속 학습이라는 것입니다. 인간이 어떤 일에서든 더 유능해지는 경로를 떠올려 보면 그것은 대부분 해당 분야에서 쌓은 경험이기 때문입니다.
그는 베런 밀리지가 대화 중에 제안한 그림을 흥미롭게 소개합니다. 미래에는 지속 학습 에이전트들이 밖으로 나가 일을 하고 가치를 만들어 낸 뒤, 거기서 얻은 학습 내용을 집단지성 모델로 가져오고, 그 모델이 에이전트들 전체에 대해 일종의 배치 증류를 수행하는 모습일 수 있다는 것입니다. 에이전트 자체는 상당히 특화된 형태일 수 있습니다. 카파시가 인지 코어라고 부른 것에, 배치된 직무에 필요한 지식과 기술이 얹힌 형태입니다.
파텔이 특히 강조하는 것은 지속 학습이 풀리는 방식입니다. 그는 지속 학습을 해결하는 일이 한 번에 끝나는 단일한 성취가 아니라고 말합니다. 오히려 맥락 내 학습을 해결했던 과정과 비슷한 느낌일 것입니다. GPT-3는 맥락 내 학습이 대단히 강력할 수 있음을 보여 주었고, 그 능력이 워낙 두드러져 논문 제목부터가 「Language Models are Few-Shot Learners」였습니다. 그러나 GPT-3가 나왔다고 해서 맥락 내 학습이 해결된 것은 아니었고, 이해력에서 컨텍스트 길이에 이르기까지 지금도 진전시킬 여지가 많이 남아 있습니다.
지속 학습도 같은 경로를 밟으리라는 것이 그의 예상입니다. 연구소들은 아마 내년쯤 지속 학습이라고 이름 붙인 무언가를 내놓을 것이고, 그것은 실제로 지속 학습을 향한 진전으로 인정할 만한 것일 겁니다. 다만 인간 수준의 지속 학습에는 거기서 다시 5-10년의 추가 진전이 필요할 수 있습니다.
그래서 그는 지속 학습을 먼저 해낸 모델이 점점 더 널리 배포되고 유능해지면서 걷잡을 수 없는 이득을 가져가는 그림을 예상하지 않습니다. 완전히 풀린 지속 학습이 어느 날 갑자기 떨어진다면 사티아 나델라(Satya Nadella)의 표현처럼 ‘게임 끝’이 맞을 것입니다. 그러나 그런 식으로 오지 않습니다. 어느 연구소가 이 문제에서 초기 실마리를 잡아내면, 그 기능을 만져 보는 것만으로 구현 방식이 드러나고 다른 연구소들이 곧 그 돌파를 재현한 뒤 조금씩 개선할 것입니다.
배포에서 배우는 일에도 수확체감이 있을 것이라고 그는 덧붙입니다. 처음 1,000개의 컨설턴트 에이전트는 현장에서 엄청나게 많은 것을 배우지만, 그다음 1,000개는 덜 배웁니다. 백만 번째로 배포된 인스턴스가 앞선 99만 9,999개가 놓친 결정적인 무언가를 볼 만큼 컨설팅 업무의 꼬리가 길겠느냐는 것입니다. 그는 지속 학습 역시 배포된 인스턴스 수에 대한 멱법칙으로 귀결된다 해도 놀랍지 않을 것이라고 말합니다.
마지막으로 그는 경쟁이 계속 치열하게 유지되리라는 자신의 사전 믿음을 밝힙니다. 근거는 관찰입니다. 지금까지 플라이휠이라고 불렸던 것들, 즉 채팅 사용자 참여나 합성 데이터 같은 요소들은 모델 회사들 사이의 경쟁을 누그러뜨리는 데 거의 기여하지 못했습니다. 한 달이 멀다 하고 상위 세 곳이 시상대 자리를 돌아가며 차지하고, 나머지 경쟁자들도 그리 멀리 뒤처져 있지 않습니다. 인재 빼가기든 소문의 유통이든 역설계든, 어떤 힘이 특정 연구소가 가질 뻔한 독주의 우위를 지금까지 계속 무력화해 왔다는 것입니다.
해설 배치 증류는 여러 모델이나 에이전트가 각자 얻은 결과를 모아 한 번에 큰 모델로 압축해 넣는 방식을 가리킵니다. 밀리지의 그림에서 개별 에이전트는 현장에서 배우고, 중심 모델은 주기적으로 그 학습을 흡수해 다시 배포합니다. 인지 코어는 카파시가 제안한 개념으로, 방대한 암기 지식을 덜어 내고 추론과 판단의 알맹이만 남긴 작은 모델을 뜻합니다.
맥락 내 학습은 모델의 가중치를 바꾸지 않고 대화창 안에 주어진 예시만으로 새 과제를 푸는 능력입니다. 지속 학습과 결정적으로 다른 점은 대화가 끝나면 그 학습이 사라진다는 것입니다. 파텔이 두 개념을 나란히 놓은 이유는 해결의 형태를 비교하기 위해서입니다. 맥락 내 학습도 어느 시점에 선언적으로 해결된 것이 아니라 여러 해에 걸쳐 조금씩 좋아졌습니다.
[관점] 이 절은 AI 투자에서 가장 값비싼 가정 하나를 정면으로 겨냥합니다. 승자독식입니다. 지속 학습이 어느 날 한 연구소에서 완성되면 그 모델이 배포될수록 더 똑똑해지고 경쟁자는 영영 따라잡을 수 없다는 그림은 프런티어 연구소들의 높은 평가를 떠받치는 서사 가운데 하나입니다. 파텔의 예상은 정반대입니다. 돌파는 점진적이고, 구현 방식은 사용해 보면 드러나며, 재현에는 몇 달이면 충분하다는 것입니다.
이 전망이 맞다면 모델 계층의 수익성은 범용재화화 압력을 계속 받습니다. 지속 가능한 우위는 모델 자체가 아니라 배포 경로와 고객 데이터, 전환 비용 쪽에 쌓일 가능성이 큽니다. 그가 근거로 든 관찰, 즉 지금까지 플라이휠이라 불린 것들이 실제로는 경쟁을 줄이지 못했다는 사실은 추론이 아니라 지난 몇 년의 기록이라는 점에서 특히 무게가 있습니다.
[반론] 이 글의 댓글에서 코코타일로는 지속 학습이 멀다는 진단과 짧은 시간표가 모순되지 않는다고 반박합니다. 지금의 비지속 학습 에이전트가 어떻게 지속 학습을 알아내느냐는 물음에 대한 답은 단순하다는 것입니다. 그 에이전트들이 알아낼 필요는 없고, 평소의 AI 연구개발 속도를 크게 끌어올리기만 하면 된다는 것입니다.
그의 논법은 이렇습니다. 현재 속도로 지속 학습이 10-20년 남았다고 보더라도, 몇 세대 뒤의 모델이 코딩 노동을 사실상 전부 대체하고 실험 결과 분석과 후속 실험 제안까지 잘 해낸다면, 남은 5-15년이 1-3년으로 압축된다고 보는 것이 합리적이라는 것입니다. 다만 그 자신도 이 압축이 「AI 2027」에서 그린 것보다는 오래 걸리리라고 수정해 적었습니다.
원문: Dwarkesh Patel, Thoughts on AI progress (Dec 2025) 전문은 원문에서 확인하실 수 있습니다.
참고할만한 글
- 코코타일로 외 – AI 2027: 초지능까지의 시나리오 (AI 2027) — 이 글이 겨냥하는 짧은 시간표 진영의 대표 시나리오여서 두 입장을 나란히 놓고 읽기에 좋습니다.
- 안드레이 카파시 – AGI는 아직 10년 남았다 (AGI is still a decade away) — 지속 학습이 빠져 있다는 같은 진단을 모델 내부의 구조 쪽에서 더 깊이 파고듭니다.
- 아빈드 나라야난·사야시 카푸어 – 일반 기술로서의 AI (AI as Normal Technology) — 확산이 느린 이유를 능력 부족이 아니라 제도와 조직의 문제로 설명해 이 글과 정면으로 갈립니다.
- 다리오 아모데이 – 사랑스러운 은총의 기계들 (Machines of Loving Grace) — 같은 지표를 두고 확산의 지연으로 읽는 반대편 해석을 확인할 수 있습니다.
