데미스 하사비스 – AI의 미래, 현실의 시뮬레이션(Future of AI, Simulating Reality, Physics and Video Games)

원문: Demis Hassabis, Future of AI, Simulating Reality, Physics and Video Games (Lex Fridman Podcast #475) (Jul 2025)
전문은 원문에서 확인하실 수 있습니다. 아래 글은 번역이 아니라, 데미스 하사비스의 논증을 한국어로 재구성한 정리입니다.

글의 배경과 개요

데미스 하사비스(Demis Hassabis)는 구글 딥마인드(Google DeepMind)를 이끄는 노벨상 수상자이며, 2025년 7월 렉스 프리드먼(Lex Fridman)의 팟캐스트에 두 번째로 나와 두 시간 넘게 이야기를 나눴습니다. 대담은 하사비스가 노벨상 기념 강연에서 내놓은 도발적인 추측, 곧 자연에서 생성되거나 발견되는 패턴이라면 고전적 학습 알고리즘으로 효율적으로 찾아내고 모델링할 수 있다는 명제에서 출발합니다. 전체를 관통하는 질문은 고전적 기계가 모델링할 수 있는 것의 한계가 어디까지인가, 그리고 그 한계가 현실의 본질과 범용인공지능(AGI)에 대해 무엇을 말해 주는가입니다. 논증은 이론 전산학의 난제에서 시작해 영상 생성 모델이 보여 주는 직관 물리(intuitive physics), 열린 세계 게임, 알고리즘을 진화시키는 시스템, 세포 시뮬레이션과 생명의 기원으로 차례로 넓어집니다. 후반부에서는 AGI 도달 시점과 판별 기준, 스케일링과 컴퓨트와 에너지, 거대 기업 안에서 연구 조직을 운영하는 문제를 지나 일자리와 분배, 위험과 국제 협력, 그리고 의식과 인간의 자리로 옮겨 갑니다. 주제가 제각각으로 보여도 하사비스에게는 모두 하나의 질문, 곧 무엇이 시뮬레이션 가능한가로 수렴합니다.

핵심 내용 정리

하사비스는 자연의 모든 것이 선택 압력을 거치며 구조를 갖게 되었기 때문에, 자연에서 발견되는 패턴은 고전적 신경망으로 효율적으로 학습될 수 있다고 추측합니다.
Veo 3가 액체와 빛과 재질을 그려 내는 것은 수동적 관찰만으로도 직관 물리를 익힐 수 있다는 뜻이며, 세계를 이해하려면 몸이 있어야 한다는 통념을 흔든다고 봅니다.
좋은 가설을 떠올리는 연구 취향이야말로 모방하기 가장 어려운 능력이며, 문제를 푸는 일보다 고르는 일이 훨씬 어렵다고 말합니다.
AGI는 2030년까지 50% 확률로 온다고 보며, 수만 개 인지 과업의 전수 점검과 새 추측을 스스로 내놓는 등대 같은 순간을 판별 기준으로 제시합니다.
사전학습과 사후학습과 추론 시점의 세 가지 스케일링이 동시에 진행 중이지만, 추가 돌파가 필요한지 기존 방식으로 충분한지는 반반이라고 말합니다.
이번 변화가 산업혁명의 10배 영향을 10배 빠르게 가져온다고 보며, 생산성의 몫을 나누는 보편적 기본 제공 같은 장치를 지금부터 논의해야 한다고 촉구합니다.
파멸 확률을 숫자로 내놓기를 거부하면서도 0이 아니고 무시할 수도 없다고 말하며, 신중한 낙관과 안전 연구의 10배 확대, 그리고 맨해튼 프로젝트가 아닌 세른형 협력을 제안합니다.

대담의 출발점

대담은 가장 다루기 힘든 계산 문제 하나를 꺼내며 시작합니다. 프리드먼이 고도로 비선형적인 동역학계에 대해서는 인간이 깔끔한 예측을 내놓기 어렵다고 말하자, 하사비스는 유체역학과 나비에-스토크스 방정식을 예로 듭니다. 이런 문제들은 고전적 시스템에서 사실상 풀기 어려운 것으로 여겨져 왔고, 기상 예측처럼 유체 계산이 들어가는 작업은 막대한 컴퓨트를 잡아먹습니다.

그런데 구글 딥마인드의 영상 생성 모델 Veo는 액체를 놀랄 만큼 그럴듯하게 그려 냅니다. 재질과 반사광도 마찬가지이고, 투명한 액체가 유압 프레스에 눌려 밀려 나오는 영상처럼 까다로운 장면도 만들어 냅니다. 하사비스는 게임 업계 초년 시절에 물리 엔진과 그래픽 엔진을 직접 짜 봤기 때문에, 그런 거동을 프로그램으로 구현하는 일이 얼마나 지독하게 어려운지 안다고 말합니다. 그런데 이 시스템들은 유튜브 영상을 보는 것만으로 그 거동을 역설계해 냅니다.

하사비스는 여기서 조심스러운 추론을 내놓습니다. 모델이 재질이 어떻게 움직이는지에 관한 밑바탕 구조를 뽑아내고 있는 것이고, 내부에서 무슨 일이 벌어지는지 우리가 온전히 이해한다면 학습 가능한 저차원의 다양체(manifold)가 거기 있을지도 모른다는 것입니다. 그리고 그것이 현실 대부분에 해당할 수도 있다고 덧붙입니다. 프리드먼은 하사비스를 두 번째 출연자로 소개하면서, 지능을 이해하고 만드는 일과 우주의 큰 수수께끼를 동시에 파고드는 인물이라고 설명합니다.

해설
대담 첫머리의 노벨상 강연은 수상자가 시상 주간에 하는 기념 강연을 가리킵니다. 하사비스는 단백질 구조 예측 모델 알파폴드(AlphaFold)를 만든 공로로 2024년 노벨 화학상을 받았고, 구글 딥마인드의 존 점퍼(John Jumper)와 상의 절반을 나눠 받았습니다. 나머지 절반은 단백질 설계를 개척한 데이비드 베이커(David Baker)에게 돌아갔습니다.

Veo 3는 구글이 2025년 5월에 공개한 영상 생성 모델로, 영상과 소리를 함께 만들어 낸다는 점이 이전 세대와 다릅니다. 대담 전체에서 이 모델은 제품이 아니라 물리 세계에 대한 이해를 측정하는 시험대로 쓰입니다.

[이해관계]
하사비스는 구글 딥마인드의 최고경영자이고, 이 대담에서 거론되는 Veo 3와 제미나이(Gemini), 알파폴드, 알파이볼브(AlphaEvolve)는 모두 그가 이끄는 조직의 결과물입니다. 자연의 패턴이 고전적 신경망으로 학습 가능하다는 추측은 과학적 주장인 동시에, 그 조직이 택한 연구 노선을 정당화하는 명제이기도 합니다.

시점도 함께 볼 필요가 있습니다. 2025년 중반은 구글이 대형 언어모델 제품 경쟁에서 뒤처졌다는 평가를 뒤집어 가던 때였고, 대담 후반부에서 프리드먼도 그 전환을 정면으로 묻습니다.

자연에서 나온 것은 배울 수 있다

프리드먼은 하사비스가 노벨상 기념 강연에서 내놓은 추측부터 꺼냅니다. 자연에서 생성되거나 발견되는 패턴이라면 어떤 것이든 고전적 학습 알고리즘으로 효율적으로 찾아내고 모델링할 수 있다는 명제입니다. 거기에 생물학과 화학, 물리학, 우주론, 신경과학 중 어디까지 들어가느냐는 질문에 하사비스는 먼저 맥락을 정리합니다. 노벨상 강연에는 조금 도발적으로 말하는 전통이 있고, 자신도 그 전통을 따르고 싶었다는 것입니다.

추측의 근거는 그동안 해 온 알파 시리즈 작업입니다. 알파고(AlphaGo)와 알파폴드가 실제로 한 일은, 조합적으로 거대한 고차원 공간의 모델을 만든 것이었습니다. 바둑의 최선수를 찾든 단백질의 정확한 형태를 찾든, 가능한 경우를 전부 나열하는 방식으로는 우주의 나이를 다 써도 시간이 모자랍니다. 그래서 훨씬 영리한 방법이 필요했고, 두 경우 모두 환경의 모델을 만들어 탐색을 똑똑하게 이끄는 길을 택했습니다. 그 순간 문제는 다룰 수 있는 것이 됩니다.

그런데 단백질 접힘은 명백히 자연의 계입니다. 왜 그것이 가능해야 하는지, 물리는 어떻게 그 일을 해내는지를 하사비스는 되묻습니다. 단백질은 우리 몸속에서 밀리초 단위로 접히므로, 우리가 이제야 계산으로 푼 문제를 물리는 이미 풀고 있는 셈입니다. 그가 보는 이유는 자연의 계가 진화 과정의 손을 거쳤기 때문에 구조를 갖고 있다는 것입니다. 구조가 있다면 그 구조가 무엇인지 배울 수 있습니다.

프리드먼이 거칠게 말해 진화할 수 있는 것은 효율적으로 모델링할 수 있다는 뜻이냐고 정리하자, 하사비스는 자신이 가끔 이것을 ‘가장 안정한 것의 생존’이라고 부른다고 답합니다. 생명체의 진화만이 아니라는 것입니다. 지질학적 시간으로 보면 산의 형태는 수천 년에 걸친 풍화가 깎아 낸 결과이고, 우주적 규모로 가면 행성의 궤도나 소행성의 모양도 같은 이야기입니다. 이것들은 모두 수없이 반복된 과정을 거쳐 살아남은 것들입니다.

그렇다면 거꾸로 배울 수 있는 어떤 패턴이, 올바른 해답과 올바른 형태로 탐색을 이끌어 주는 다양체가 있어야 합니다. 무작위 패턴이 아니기 때문에 효율적인 예측도 가능해집니다. 반대로 사람이 만든 것이나 큰 수의 소인수분해 같은 추상적 대상은 그렇지 않을 수 있습니다. 수의 공간에 패턴이 있을 수도 있지만, 없고 균일하다면 배울 패턴도, 탐색을 도와줄 모델도 없어 전수 탐색밖에 방법이 없고, 그런 경우에는 양자컴퓨터 같은 것이 필요할지 모릅니다. 하지만 우리가 관심을 갖는 자연의 대상 대부분은 그런 종류가 아니며, 이유가 있어 진화했고 시간을 견뎌 낸 구조를 가지므로 신경망이 배울 수 있다는 것이 하사비스의 결론입니다.

프리드먼은 자연이 일종의 탐색 과정을 돌리고 있고, 그 탐색이 만들어 낸 산물이 하필 효율적으로 모델링 가능한 계라는 점이 흥미롭다고 말합니다. 하사비스는 그래서 효율적으로 재발견하거나 복원할 수 있는 것이라고 받습니다. 자연은 무작위가 아니며, 우리 주변의 모든 것은 상대적으로 안정한 원소들까지 포함해 어떤 선택 압력을 거쳤기 때문입니다.

해설
하사비스가 말하는 조합 폭발의 규모는 흔히 쓰이는 비유가 아니라 실제 계산입니다. 바둑의 가능한 국면은 10의 170제곱 수준으로 추정되고, 적당한 길이의 단백질 하나가 취할 수 있는 입체 구조의 경우의 수도 그에 못지않습니다. 단백질이 무작위로 형태를 바꿔 가며 정답을 찾는다면 우주의 나이보다 긴 시간이 걸린다는 점, 그런데 실제로는 순식간에 접힌다는 점의 모순은 생물물리학에서 레빈탈의 역설로 불려 온 오래된 문제입니다.

소인수분해를 예외로 꼽은 대목도 구체적인 배경이 있습니다. 현대 공개키 암호의 안전성은 큰 수를 소인수로 나누는 일이 고전적 컴퓨터에서 어렵다는 전제 위에 서 있고, 이 문제를 빠르게 푸는 방법으로 알려진 것은 양자컴퓨터용 알고리즘뿐입니다. 하사비스가 자연 바깥의 추상적 대상과 자연의 구조를 가르는 선을 여기에 긋는 이유입니다.

[관점]
이 추측은 과학적 명제인 동시에 자본 배분의 지도로 읽을 수 있습니다. 구조가 선택 압력을 거쳐 생긴 영역, 곧 단백질과 유전체, 재료와 기상처럼 자연이 이미 해답을 갖고 있는 분야에서는 비교적 적은 데이터로도 모델이 성과를 내고, 실제로 구글 딥마인드의 대표 성과도 모두 그 영역에서 나왔습니다. 반대로 암호처럼 사람이 일부러 구조를 없애 만든 영역은 같은 접근이 통하지 않습니다.

이는 양자컴퓨팅 투자 논리에도 선을 긋습니다. 고전적 신경망이 자연계 문제를 계속 가져간다면 양자컴퓨터에 남는 고유 영역은 암호 해독과 일부 양자 시뮬레이션으로 좁아지고, 하사비스의 표현을 빌리면 고전적 시스템이 할 수 있는 일의 범위는 아직 표면도 긁지 않은 상태입니다.

P 대 NP를 물리학의 질문으로

프리드먼은 앞 절의 추측을 이론 전산학 쪽으로 밀어붙입니다. 복잡도 동물원에 새 항목을 하나 추가하듯, 효율적으로 모델링 가능한 자연계만 모아 놓은 복잡도 종류를 정의할 수 있지 않겠느냐는 제안입니다. 하사비스는 자신이 늘 P 대 NP 문제에, 그리고 고전적 시스템이 무엇을 모델링할 수 있는가에 매혹돼 왔다고 답합니다.

여기서 고전적 시스템이란 양자가 아닌 시스템, 사실상 튜링 머신을 뜻합니다. 그리고 실제로 틈나는 시간에 몇몇 동료와 함께 바로 그 작업을 하고 있다고 밝힙니다. 신경망 방식의 과정으로 풀리면서 물리에 존재하고 구조를 가진 자연계에 대응되는 새로운 문제 종류가 있어야 하는 것 아니냐는 물음입니다.

이 발상은 그가 물리를 보는 방식과 맞물려 있습니다. 하사비스는 정보가 일차적이며, 에너지와 물질보다 더 근본적인 우주의 단위라고 생각합니다. 셋은 서로 변환될 수 있지만, 그는 우주를 일종의 정보 체계로 봅니다. 프리드먼이 그렇다면 P 대 NP는 물리학의 질문이 되는 셈이라고 받자 하사비스는 그렇다고 답하고, 물리를 정보로 본다면 이것이야말로 가장 근본적인 질문 중 하나이며 그 답은 대단히 많은 것을 밝혀 줄 것이라고 말합니다.

프리드먼은 크리스천 안핀센(Christian Anfinsen)의 노벨상 수상 연설을 끌어옵니다. 당시에는 터무니없게 들렸던 주장이 결국 하사비스와 존 점퍼의 손에서 풀렸듯, 지금 나누는 이야기도 그런 종류일 수 있다는 것입니다. 그러면서 미리 다항 시간이나 상수 시간의 계산을 들여 거대한 모델을 만들어 두면 극히 어려운 문제들을 풀 수 있다는 것이 보여질 수 있겠느냐고 묻습니다. 하사비스는 그런 식으로 다시 쓸 수 있는 문제가 엄청나게 많다고 답합니다. 알파고와 알파폴드가 그랬듯 계의 동역학과 속성, 이해하려는 환경을 모델링하면 해답 탐색이나 다음 단계 예측이 효율적이 되고, 기본적으로 다항 시간이 되며, 결국 평범한 컴퓨터 위에서 돌아가는 신경망으로 다룰 수 있게 된다는 것입니다.

하사비스가 보기에 지난 10여 년이 증명한 것은 고전적 시스템이 우리가 생각했던 것보다 훨씬 멀리 간다는 사실입니다. 단백질의 구조를 모델링하고 세계 챔피언보다 바둑을 잘 두는 일은, 10-20년 전만 해도 수십 년 뒤의 일이거나 양자 기계가 있어야 가능하다고 여겨졌습니다. 그는 이른바 고전적 시스템이 할 수 있는 일의 표면조차 아직 긁지 못했다고 말합니다. 그리고 고전적 컴퓨터 위에 신경망을 얹고 그 위에 또 신경망을 얹어 만들어질 AGI야말로 그 명제의 궁극적인 표현이 될 것이며, 그런 시스템의 한계가 어디인가는 P 대 NP 문제와 곧장 맞닿는다고 덧붙입니다.

프리드먼은 그 바깥에 남을 만한 것을 묻습니다. 아주 단순한 규칙에서 복잡성이 떠오르는 셀룰러 오토마타 같은 창발 현상은 어떻겠느냐는 것입니다. 하사비스는 그런 계들이 바로 경계선 위에 있을 것이라고 답합니다. 대부분의 창발 계는 앞으로 한 번 돌려 보는 전방 시뮬레이션만으로도 충분히 효율적일 것이고, 따라서 고전적 시스템으로 모델링할 수 있습니다. 다만 초기 조건이 결정적으로 중요하고 끝 상태가 처음과 아무 상관이 없어지는 카오스 계는 다루기 어려울 수 있으며, 그는 이 지점을 열린 질문으로 남겨 둡니다.

그러면서도 한 발 물러서서 보면 Veo 3가 물리와 조명 같은 핵심적인 현상을 그려 내는 일은 우주가 어떻게 구조화돼 있는지에 관해 꽤 근본적인 무언가를 말해 주고 있다고 봅니다. 그가 AGI를 만들려는 이유도 결국 그것입니다. 과학자로서 P 대 NP 같은 질문에 답하기 위한 도구라는 것입니다. 프리드먼은 알파폴드 3가 상호작용까지 다루고 알파지놈(AlphaGenome)이 작은 유전적 변화와 기능을 잇는 것을 보면, 조합의 수가 무한해 보이는 곳에서도 효율적으로 모델링되는 핵심이 발견된다는 점이 놀랍다고 말합니다.

하사비스는 그것이 구조가 있기 때문이라고 설명합니다. 에너지 지형이든 무엇이든 따라갈 수 있는 경사가 있고, 신경망이 가장 잘하는 일이 바로 경사를 따라가는 것입니다. 따라갈 경사가 있고 목적 함수를 제대로 지정하기만 하면, 수십 년간 우리를 가로막아 온 그 복잡성 전부를 상대할 필요가 없어집니다. 가능한 단백질 구조는 10의 300제곱, 가능한 바둑 국면은 10의 170제곱으로 모두 우주의 원자 수를 아득히 넘지만, 그래도 답을 찾는 일은 가능합니다. 자연이 실제로 그 일을 하고 있고 단백질은 실제로 접히기 때문이며, 물리가 그것을 어떻게 해내는지 이해해 흉내 낼 수 있다면 고전적 시스템 위에서도 가능해야 한다는 것, 그것이 추측의 요지입니다.

절 끝에서 프리드먼은 비선형 동역학계를, 특히 유체가 얽힌 모든 문제를 꺼내며 수학에서 특이점과 씨름하는 테런스 타오(Terence Tao)와의 대화를 언급하고, 두 사람은 1회차에서 본 나비에-스토크스와 Veo 이야기로 이어 갑니다.

해설
P 대 NP는 전산학의 미해결 난제로, 답이 주어지면 빠르게 검증할 수 있는 문제라면 답을 찾는 것도 빠르게 할 수 있는가를 묻습니다. 여기서 빠르다는 것은 문제 크기가 커질 때 계산량이 지수가 아니라 다항식으로 늘어난다는 뜻이고, 튜링 머신은 우리가 쓰는 보통 컴퓨터를 이론적으로 추상화한 모형입니다. 하사비스가 말하는 것은 이 난제를 증명하겠다는 뜻이 아니라, 자연에서 온 문제들만 따로 모으면 신경망으로 다항 시간에 다룰 수 있는 새로운 종류를 정의할 수 있지 않겠느냐는 제안입니다.

프리드먼이 꺼낸 안핀센은 1972년 노벨 화학상 수상자로, 단백질의 최종 입체 구조가 아미노산 서열 안에 이미 전부 담겨 있다는 명제를 내놓은 인물입니다. 당시에는 과감한 주장이었지만 이 명제가 성립해야만 서열만 보고 구조를 예측하는 일이 원리적으로 가능해지며, 알파폴드는 그 가능성 위에 선 결과물입니다. 셀룰러 오토마타는 격자 위의 각 칸이 이웃의 상태만 보고 켜지고 꺼지는 단순한 규칙 체계로, 규칙은 몇 줄인데 결과는 예측 불가능할 만큼 복잡해지는 창발의 교과서적 사례입니다.

[관점]
정보가 에너지와 물질보다 근본이라는 입장은 하사비스 개인의 형이상학으로 흘려들을 대목이 아닙니다. 이 전제를 받아들이면 자연을 다루는 일은 물질을 조작하는 문제에서 구조를 학습하는 문제로 바뀌고, 연구개발의 병목이 실험실 장비가 아니라 모델과 컴퓨트로 옮겨 갑니다. 신약 개발이나 재료 탐색에서 가상 실험이 실물 실험을 앞세우는 전환, 곧 계산을 먼저 돌리고 검증만 실험실에서 하는 구조가 이 전제의 산업적 번역입니다.

동시에 이것은 경계를 긋는 주장이기도 합니다. 고전적 신경망이 자연계 문제를 계속 흡수한다면 양자컴퓨팅의 고유 영역은 좁아지고, 반대로 카오스 계라는 경계선이 단단한 것으로 드러나면 기상과 금융처럼 초기 조건에 민감한 영역에서 모델의 예측력은 일정 지평 너머로 가지 못합니다. 어느 쪽이든 투자 판단에 직접 걸리는 질문이며, 하사비스 본인도 여기를 열린 질문으로 남겨 두고 있습니다.

수동적 관찰만으로 물리를 배운다

프리드먼은 Veo 3를 두고 사람들이 짚는 지점들을 먼저 나열합니다. 웃기는 영상과 밈, 사람을 설득력 있게 그려 내는 극사실적 묘사, 거기에 소리까지 함께 생성되는 점입니다. 모두 놀라운 일이지만 그가 계속 붙들고 있는 것은 물리입니다. 완벽하지는 않아도 상당히 잘해 내는데, 그렇다면 이런 영상을 만들어 내기 위해 이 모델이 세계에 관해 무엇을 이해하고 있느냐는 질문이 남습니다. 확산 모델(diffusion model)은 아무것도 이해하지 못한다는 냉소적인 입장도 있지만, 프리드먼은 이해 없이 저런 영상이 나올 수는 없다고 보며, 그 순간 우리 자신의 이해라는 개념이 수면 위로 끌려 나온다고 말합니다.

하사비스의 답은 조심스럽습니다. 다음 프레임들을 일관되게 예측할 수 있는 만큼은 이해의 한 형태라고 볼 수 있다는 것입니다. 다만 사람에 빗댄 의미의 이해, 무슨 일이 벌어지는지에 관한 깊은 철학적 이해는 아니며, 이 시스템들이 그런 것을 갖고 있다고 생각하지는 않는다고 선을 긋습니다.

그래도 동역학은 충분히 모델링했기 때문에 8초쯤 되는 일관된 영상을, 적어도 얼핏 보아서는 어디가 잘못됐는지 집어내기 어려울 만큼 정확하게 만들어 냅니다. 그는 2-3년 뒤를 상상하면 그것이 지금 가장 흥미로운 대목이라고 말합니다. 1-2년 전의 초기 버전에서 여기까지 온 속도를 생각하면 진보의 속도가 믿기 어렵다는 것입니다.

많은 사람이 좋아하는 것은 스탠드업 코미디언을 그려 내는 영상이고, 거기서 인간의 동작과 몸짓이 꽤 잘 포착되는 것도 사실입니다. 하지만 하사비스가 가장 인상 깊게 보는 것은 물리적 거동과 조명, 재질과 액체입니다. 그가 보기에 이것은 모델이 적어도 직관 물리에 해당하는 무언가를 갖고 있다는 뜻입니다. 방정식을 전부 풀어낼 수 있는 박사과정생이 아니라, 사물이 대략 어떻게 움직이는지를 아는 어린아이에 가까운 이해라는 단서를 그는 붙입니다.

프리드먼은 그 직관 물리가 바로 바닥층이며, 사람들이 흔히 상식이라고 부르는 것이라고 받습니다. 그리고 이 대목이 많은 이를 놀라게 했다고 말합니다. 세계를 이해하려면 체화된 AI 시스템이, 곧 세계와 상호작용하는 로봇이 있어야 한다는 통념이 있었는데 Veo 3가 그것을 정면으로 흔드는 느낌이라는 것입니다.

하사비스도 자신이 5-10년 전이었다면 같은 말을 했을 것이라고 인정합니다. 이 분야에 깊이 몸담고 있었음에도, 유리잔을 탁자에서 밀어 떨어뜨리면 깨지고 액체가 쏟아진다는 것 같은 직관 물리를 알려면 행위가 필요하다고 답했으리라는 것입니다. 신경과학에는 행위 속의 지각이라 불리는 이론 계열이 있어, 세계를 깊이 지각하려면 그 안에서 행동해야 한다고 봅니다. 체화된 지능이나 로보틱스가, 적어도 시뮬레이션된 행위라도 있어야 한다는 이론이 많았습니다. 그런데 수동적인 관찰만으로도 그것이 가능해 보이며, 하사비스는 이 점이 자신에게 놀랍고 현실의 본질에 관한 무언가를 암시한다고 말합니다.

다음 단계로 그는 이 영상들을 상호작용 가능한 것으로 만드는 일을 꼽습니다. 생성된 장면 안으로 들어가 돌아다닐 수 있게 되는 것인데, 게임 쪽에서 출발한 그에게는 특히 아찔한 전망입니다. 그 지점에 이르면 그가 세계 모델(world model)이라 부르는 것에 가까워지기 시작합니다. 세계가 어떻게 작동하는지, 세계의 역학과 물리는 무엇이고 그 안에 어떤 것들이 있는지에 관한 모델입니다. 그리고 참된 AGI 시스템에 필요한 것이 바로 그것이라고 그는 말합니다.

해설
확산 모델은 깨끗한 데이터에 잡음을 단계적으로 입히는 과정을 배운 뒤 그 과정을 거꾸로 되돌려 새 데이터를 만들어 내는 방식입니다. 그림이든 영상이든 잡음에서 형체를 걷어 내는 식으로 생성되기 때문에, 물리 법칙을 코드로 적어 넣은 적이 없다는 점이 논쟁의 출발점입니다. 하사비스가 8초라는 길이를 굳이 언급하는 것도 같은 맥락인데, 짧은 구간에서 장면의 일관성이 유지된다는 것은 장면 안의 물체와 재질이 프레임마다 같은 규칙을 따른다는 뜻이기 때문입니다.

행위 속의 지각은 인지과학에서 지각을 수동적인 입력 처리로 보지 않고 몸의 움직임과 묶인 활동으로 보는 입장을 가리킵니다. 이 계열의 주장대로라면 물리 세계의 이해는 영상을 아무리 많이 봐도 생기지 않고 직접 밀고 떨어뜨려 봐야 생깁니다. 하사비스가 자신의 예전 생각을 뒤집었다고 말하는 지점이 바로 이 전제입니다.

[반론]
영상 생성 모델을 세계 모델의 전 단계로 보는 시각에는 같은 분야 안에서도 강한 반대가 있습니다. 메타의 얀 르쾽은 픽셀을 예측하는 생성 모델이 세계를 이해하는 경로가 아니라고 거듭 주장해 왔고, 픽셀 대신 추상적 표현 공간에서 다음 상태를 예측하는 구조를 대안으로 밀어 왔습니다. 화면에 보이는 것을 그럴듯하게 이어 붙이는 능력과 세계의 인과 구조를 쥐고 있는 능력은 다르다는 것이 요지입니다.

페이페이 리도 「From Words to Worlds」에서 비슷한 선을 긋습니다. 몇 초짜리 영상이 그럴듯해 보이는 것과, 장면이 시야에서 사라져도 공간과 물체가 지속적으로 유지되는 3차원 표현을 갖는 것은 별개이며, 공간지능은 후자를 요구한다는 입장입니다. 하사비스가 말하는 상호작용 가능한 영상은 이 비판에 대한 응답이기도 합니다.

게임은 그의 첫사랑이자 실험실

프리드먼은 하사비스가 요즘 엑스에서 점점 더 장난기를 보인다며 한 장면을 꺼냅니다. 지미 애플스(Jimmy Apples)라는 이용자가 Veo 3로 만든 영상을 게임처럼 플레이하게 해 달라, 플레이 가능한 세계 모델은 언제 나오느냐고 올렸고, 하사비스가 그 글을 인용하며 그거 참 대단하지 않겠느냐고 받은 일입니다. 그러면서 AI로 게임 세계를 만드는 일이 얼마나 어려운지, 5-10년 뒤 비디오 게임은 어떤 모습일지를 묻습니다.

하사비스는 게임이 자신의 첫사랑이었다고 답합니다. 게임을 위한 AI를 만든 것이 10대 시절 처음으로 직업적으로 한 일이었고, 그가 만든 첫 주요 AI 시스템들도 거기서 나왔습니다. 언젠가 돌아가 그 가려움을 긁고 싶다는 마음을 늘 갖고 있고 결국 그렇게 할 것이라고 말합니다. 그는 1990년대에 지금의 AI 시스템을 손에 쥐고 있었다면 무엇을 만들었을까를 상상하곤 하는데, 그 답은 완전히 정신 나간 수준의 게임을 만들 수 있었으리라는 것입니다.

무엇을 골라도 이야기가 되는 세계

그가 만든 게임은 모두 열린 세계 게임이었습니다. 시뮬레이션이 돌아가고 그 안에 AI 캐릭터들이 있으며, 플레이어가 시뮬레이션과 상호작용하면 시뮬레이션이 그 방식에 맞춰 적응합니다. 그가 참여한 테마파크(Theme Park) 같은 게임에서는 모든 사람의 경험이 저마다 달랐는데, 플레이어가 게임을 함께 만들어 가기 때문입니다. 개발자는 매개변수와 초기 조건을 깔아 두고, 그 안에 몰입한 플레이어가 시뮬레이션과 함께 게임을 공동 창작합니다.

문제는 열린 세계 게임을 프로그래밍하기가 매우 어렵다는 점입니다. 플레이어가 어느 방향으로 가든 그쪽에 콘텐츠가 있어야 하고, 무엇을 고르든 그 경험이 매력적이어야 합니다. 셀룰러 오토마타처럼 고전적인 방식으로 창발적 행동을 만들어 보기도 했지만, 늘 조금은 취약하고 조금은 제한적이었습니다. 하사비스는 이제 앞으로 5-10년 사이에 상황이 바뀔 수 있는 문턱에 와 있다고 봅니다. 플레이어의 상상을 중심으로 세계를 만들어 내고, 무엇을 선택하든 이야기를 동적으로 바꿔 극적으로 끌고 가는 시스템이 가능해진다는 것입니다. 그는 이것을 궁극의 선택형 모험 게임이라 부르며, Veo의 상호작용 버전을 떠올린 뒤 5-10년을 감아 보라고 말합니다.

프리드먼은 여기에 깊은 개인화가 들어 있다고 짚습니다. 아무 문이나 열 수 있다는 뜻이 아니라, 어떤 문을 여느냐는 제약 없는 선택이 보게 될 세계 자체를 정의한다는 뜻이기 때문입니다. 어떤 게임은 선택지를 주지만 사실은 선택의 환상에 가깝고, 스탠리 패러블(The Stanley Parable)은 바로 그 환상과 자유의지라는 철학적 물음을 메타적으로 조롱한 작품이라고 소개합니다. 그는 엘더스크롤(The Elder Scrolls) 시리즈 중 대거폴(Daggerfall)이 던전을 무작위로 생성해 열린 세계의 느낌을 준 것을 좋아했다고 말합니다. 문을 열었을 때 보이는 것이 그 자리에서 만들어지므로 그 장면을 보는 사람이 자신뿐일 수도 있고, 상호작용이 깊지 않아도 그 자체로 대단한 경험이라는 것입니다.

하사비스는 거기서 한 걸음 더 나가야 한다고 답합니다. 단순한 무작위 생성보다 낫고, 미리 짜 둔 두 갈래 선택보다도 나아야 하며, 후자는 열린 세계가 아니라 선택의 환상일 뿐입니다. 원하는 것은 그 환경 안에서 사실상 무엇이든 할 수 있는 상태이고, 그러려면 그때그때 생성해 내는 시스템 말고는 방법이 없습니다. 게임 자산을 무한히 만들어 둘 수는 없기 때문입니다. 오늘날 대형 게임을 만드는 비용만 봐도 이미 충분히 비싸고, 그 사실은 1990년대에 게임을 만들던 그에게도 분명했습니다.

블랙앤화이트에서 알파고까지

그가 초기 단계에 참여한 블랙앤화이트(Black & White)는 그때까지 게임에 들어간 학습형 AI 중 아마 가장 뛰어난 사례였습니다. 초기 형태의 강화학습 시스템으로, 플레이어는 신화적인 생명체 하나를 돌보고 키우고 가르칩니다. 플레이어가 그 생명체를 어떻게 대하느냐에 따라 생명체도 세계 속 마을 사람들을 같은 방식으로 대합니다. 못되게 굴면 못되게 굴고, 잘해 주면 보호자가 되는 식으로, 결국 플레이어 자신이 플레이한 방식의 거울이었습니다. 하사비스는 경력의 처음부터 게임이라는 매체를 통해 시뮬레이션과 AI를 다뤄 왔고, 오늘 하는 일도 당시의 하드코딩된 방식이 완전한 범용 학습 시스템으로 바뀌었을 뿐 같은 목표의 연장이라고 말합니다.

프리드먼은 여기에 한 가지 아쉬움을 붙입니다. 하사비스가 진지한 과학 영역에서 거둔 성공 때문에 정작 게임을 만들 시간이 없을 수 있고, 결국 남들이 게임을 만들 도구만 만들어 놓은 채 다른 사람이 자신의 꿈을 실현하는 것을 지켜보게 될지 모른다는 것입니다. 하사비스의 답은 두 갈래입니다. 하나는 바이브 코딩이 더 좋아지면 남는 시간에 해 볼 수 있으리라는 것이고, 그는 그 일을 하고 싶어 몸이 근질거린다고 말합니다. 다른 하나는 AGI가 안전하게 세상에 들어온 뒤의 안식년인데, 게임 만들기와 자신의 물리 이론 작업이 그가 꼽는 두 가지 AGI 이후 프로젝트입니다.

프리드먼이 인류사의 가장 똑똑한 사람들이 씨름한 P 대 NP와 멋진 비디오 게임 중 무엇을 고를지 보고 싶다고 하자, 하사비스는 자기 세계에서는 둘이 이어져 있다고 답합니다. 그가 만들 게임은 가능한 한 현실적인 열린 세계 시뮬레이션일 것이고, 그렇다면 그것은 우주란 무엇인가라는 질문과 같은 자리에 놓이기 때문입니다. 적어도 그의 머릿속에서는 이 모든 것이 하나로 연결돼 있습니다.

가상 세계와 현실 세계

프리드먼은 비디오 게임이 흔히 여가의 곁다리로 폄하되지만 진지하게 볼 이유가 있다고 말합니다. AI가 우리가 일이라 부르는 어렵고 지루한 과업을 점점 더 많이 가져가면, 의미를 찾고 시간을 쓸 곳이 게임이 될 수 있다는 것입니다. 풍부하고 의미 있는 경험을 만들어 낼 수 있고, 게임 안에서는 더 정교하고 다양한 삶의 방식을 만들어 낼 수 있습니다.

하사비스도 동의하면서 자신이 게임을 사랑한 이유를 설명합니다. 1990년대와 2000년대 초, 그리고 어쩌면 1980년대까지가 게임 산업의 황금기였고 모든 것이 발견되던 때였습니다. 새로운 장르들이 생겨나고 있었고, 그들은 게임을 만든다기보다 존재한 적 없던 새로운 오락 매체를 만들고 있다고 느꼈습니다. 특히 플레이어가 이야기를 함께 만드는 열린 세계 게임과 시뮬레이션 게임이 그랬는데, 관객이 이야기를 공동 창작하는 매체는 그 밖에 없습니다.

이제 멀티플레이어가 더해지면서 게임은 상당히 사회적인 활동이 되었습니다. 하지만 그는 물리적 세계를 즐기고 경험하는 일도 매우 중요하다고 덧붙이고, 그러면 다시 피할 수 없는 질문으로 돌아온다고 말합니다. 현실의 근본적 본질은 무엇이며, 점점 더 현실 같아지는 시뮬레이션과 우리가 실제 세계에서 하는 일의 차이는 무엇인가 하는 질문입니다. 프리드먼은 자연과 실제 세계를 경험하는 데, 그리고 지금처럼 사람을 직접 마주하는 데 분명히 큰 가치가 있지만, 왜 그런지와 그중 어떤 부분이 가상 세계로 옮겨질 수 있는지를 과학적으로 엄밀하게 답해야 한다고 말합니다.

밖에 나가 풀이라도 만지라는 말로는 충분하지 않다는 것입니다. 하사비스는 바로 그 질문이 경력 초기부터 자신을 붙들고 놓아주지 않은 것이라고 답합니다. 시뮬레이션, 현실의 본질, 모델링할 수 있는 것의 한계입니다.

스펙트럼과 아미가에서 배운 것

가벼운 질문도 오갑니다. 역사상 가장 위대한 게임을 묻자 하사비스는 문명(Civilization)이라고 답하며, 특히 1편과 2편이 자기 인생의 게임이라고 말합니다. 최근작은 손대면 안식년처럼 사라져 버릴 테니 피한 것 아니냐는 농담에, 그는 이 시리즈가 시간을 워낙 많이 잡아먹어서 조심해야 한다고 인정합니다.

프리드먼은 하사비스와 일론 머스크(Elon Musk)가 모두 진짜 게이머라는 점을 들어, 게임을 잘하는 것과 AI 기업을 잘 이끄는 것 사이에 연관이 있겠느냐고 묻습니다. 하사비스는 모르겠다면서도 흥미로운 질문이라고 답합니다. 둘 다 게임을 사랑하고 머스크도 처음에는 게임을 만들었습니다. 특히 그가 자란 시기는 1980년대 후반과 1990년대로 가정용 컴퓨터가 막 보급되던 때였고, 영국에서는 더욱 그랬습니다. 그는 스펙트럼을 쓰다가 코모도어 아미가 500(Commodore Amiga 500)으로 옮겼는데, 지금까지도 가장 좋아하는 컴퓨터이며 프로그래밍을 전부 그 위에서 배웠습니다.

게임을 짜는 일은 아주 재미있어서 프로그래밍을 익히는 좋은 길이고, 그는 그것이 지금도 유효하리라고 봅니다. 그리고 곧바로 AI와 시뮬레이션 쪽으로 방향을 틀어, 게임에 대한 관심과 더 넓은 과학적 관심을 한자리에서 풀어낼 수 있었습니다. 마지막으로 그가 꼽는 게임의 미덕은 예술적 디자인과 가장 앞선 프로그래밍이 융합된다는 점입니다.

1990년대에 가장 흥미로운 기술 진보는 모두 게임에서 일어났고, AI와 그래픽, 물리 엔진, 하드웨어가 그랬으며 GPU조차 원래는 게임을 위해 설계된 것이었습니다. 그 시기에 컴퓨팅을 앞으로 밀어붙인 것은 전부 게임이었고, 연구의 최전선이 그곳에 있으면서 그래픽과 음악, 이야기라는 새로운 매체와 뒤섞였습니다. 그는 이런 다학제적 작업을 평생 즐겨 왔다고 말합니다.

해설
하사비스가 말하는 게임 경력은 비유가 아니라 실제 이력입니다. 그는 10대에 불프로그 프로덕션스에서 경영 시뮬레이션 테마파크 개발에 참여했고, 이후 라이온헤드 스튜디오의 블랙앤화이트 초기 작업을 거쳐 자신의 게임사 엘릭서 스튜디오를 세워 운영했습니다. 지금 그가 구글 딥마인드에서 다루는 시뮬레이션과 에이전트, 보상 설계는 이 시절의 문제들과 같은 계열입니다.

대형 게임의 비용 구조도 짚어 둘 필요가 있습니다. 열린 세계 게임이 비싼 이유는 플레이어가 갈 수 있는 모든 방향에 사람이 손으로 만든 지형과 캐릭터와 대사를 깔아 두어야 하기 때문이며, 선택지가 늘어날수록 제작비가 기하급수로 늘어납니다. 생성형 시스템이 들어오면 비용이 콘텐츠 제작에서 모델 운영과 추론 쪽으로 옮겨 간다는 점이 이 논의의 실질입니다.

[관점]
게임이 1990년대 컴퓨팅의 최전선이었다는 회고는 향수가 아니라 현재 AI 경제의 계보 설명입니다. 그래픽 처리를 위해 만들어진 병렬 연산 칩이 딥러닝의 기반이 되었고, 오늘날 데이터센터 투자의 중심에 선 엔비디아는 게임용 그래픽카드 회사에서 출발했습니다. 하사비스 본인의 경로도 게임 AI에서 강화학습, 알파고로 이어지며 같은 계보를 따릅니다.

반대 방향의 함의도 큽니다. 생성형 세계 모델이 실제로 작동하면 게임 산업의 경쟁 우위는 축적된 자산과 대규모 제작 인력에서 모델과 컴퓨트 접근권으로 이동하고, 수백 명이 수년간 만들던 콘텐츠를 소규모 팀이 대체할 여지가 생깁니다. 다만 하사비스 본인도 이 일을 5-10년 뒤의 전망으로 말하고 있으며, 지금 당장의 제품 계획으로 제시하지는 않습니다.

[한국 관점]
한국은 게임 수출 규모로 보면 세계적인 생산국이지만, 산업 구조는 하사비스가 말하는 열린 세계 쪽이 아니라 대규모 다중접속 게임과 라이브 서비스 운영 쪽에 무게가 실려 있습니다. 수익 모델도 콘텐츠의 독창성보다 지속적인 업데이트와 아이템 판매에 기대어 왔습니다. 생성형 세계 모델이 콘텐츠 제작 비용을 떨어뜨린다면, 이 구조는 유리하기보다 먼저 흔들리는 쪽에 가깝습니다.

동시에 기회도 분명합니다. 운영 중인 대형 게임이 많다는 것은 플레이어 행동 데이터와 시뮬레이션 환경을 이미 갖고 있다는 뜻이고, 이는 세계 모델을 학습시키고 평가할 자산이기도 합니다. 관건은 생성형 기술을 비용 절감 도구로만 쓸 것인지, 아니면 하사비스가 말한 공동 창작 경험을 새 장르로 밀어붙일 것인지의 선택입니다.

모델 위에 탐색을 얹어 새것을 찾는다

프리드먼은 최근 성과 중 충분한 주목을 받지 못한 것으로 알파이볼브를 꼽습니다. 알고리즘을 진화시키는 구글 딥마인드의 시스템인데, 그는 이것을 대형 언어모델이 방향을 일러 주고 진화 알고리즘이 탐색을 수행하는 구조라고 설명해도 되겠느냐고 묻습니다. 그리고 이런 진화 계열 기법이 앞으로의 초지능 시스템을 이루는 한 부품으로서 유망한지를 묻습니다.

하사비스는 그 설명이 맞다고 답합니다. 언어모델이 가능한 해답들을 제안하면, 그 위에서 진화 연산(evolutionary computing)이 탐색 공간의 새로운 영역을 찾아냅니다. 그는 이것을 언어모델이나 파운데이션 모델(foundation model)을 다른 계산 기법과 결합하는 매우 유망한 방향의 한 사례로 봅니다. 진화적 방법은 그중 하나일 뿐이고, 몬테카를로 트리 탐색(Monte Carlo tree search)도 떠올릴 수 있습니다. 여러 종류의 탐색 알고리즘이나 추론 알고리즘을 기반 모델 위에 얹거나 기반 모델을 토대로 삼아 돌릴 수 있고, 그는 이런 혼합 시스템에서 발견될 흥미로운 것들이 꽤 많이 남아 있다고 봅니다.

프리드먼이 진화를 낭만화하려는 것은 아니지만 그 메커니즘 자체에 가치가 있다고 보느냐고 묻자, 하사비스는 그동안 만든 시스템을 가장 밑바닥까지 분해해 보자고 답합니다. 거기에는 먼저 계의 밑바탕 동역학에 대한 모델이 있습니다. 그리고 아직 본 적 없는 새로운 것을 발견하려면, 탐색 공간의 낯선 영역으로 데려다줄 탐색 과정이 그 위에 얹혀야 합니다. 방법은 여럿이고 진화 연산이 그중 하나이며, 알파고에서는 몬테카를로 트리 탐색을 썼고 바로 그것이 바둑에서 누구도 본 적 없던 전략인 37번째 수를 찾아냈습니다.

모델은 지금 우리가 아는 것과 지금 우리가 가진 데이터 전부를 담아내지만, 그 바깥으로 나가는 일은 탐색이 맡습니다. 하사비스는 여기서 창의성이라는 주제가 시작된다고 말합니다. 이 시스템들이 어떻게 새로운 것을 만들어 내고 실제로 발견해 낼 수 있는가는 과학적 발견과 의학을 밀어붙이는 데 직결되는 문제입니다. 모델 위에 비교적 단순한 탐색 시스템을 덧붙이는 것만으로도 새로운 영역으로 들어갈 수 있지만, 그 공간을 완전히 무작위로 뒤질 수는 없습니다. 너무 크기 때문이며, 그래서 최적화하고 올라갈 목적 함수가 있어야 하고 그것이 탐색을 이끕니다.

프리드먼은 프로그램의 공간에서 진화의 메커니즘이 특히 흥미롭다고 말합니다. 프로그램의 공간은 사실상 모든 것으로 일반화될 수 있는 극히 중요한 공간이고, 거기서는 단순한 탐색만이 아니라 돌연변이도 작동합니다. 하사비스가 여러 요소를 결합하는 일이라고 받자, 프리드먼은 진화가 잘하는 것이 자연선택만이 아니라 요소들을 결합해 점점 복잡한 위계 구조를 쌓아 올리는 일이라고 정리합니다.

하사비스는 바로 그 지점에서 진화적 시스템이 한 가지 성질을 더 얻을 수 있다고 말합니다. 새로 떠오르는 능력이 생겨날 수 있다는 것이고, 생명에서 실제로 벌어진 일이 그것입니다. 흥미로운 점은 언어모델과 현대 AI 없이 진행된 전통적인 진화 연산이 1990년대와 2000년대 초에 상당히 깊게 연구됐고 유망한 결과도 있었지만, 새로운 성질과 창발적 성질을 진화시키는 방법만은 끝내 알아내지 못했다는 사실입니다. 언제나 처음 집어넣은 성질들의 부분집합만 얻을 수 있었습니다. 하지만 이것을 기반 모델과 결합하면 그 한계를 넘어설 수 있을지 모른다는 것이 그의 기대입니다.

자연의 진화가 분명히 그 일을 해냈다는 점이 근거입니다. 박테리아에서 지금의 우리까지 왔으니 진화적 시스템으로 새로운 패턴과 새로운 능력, 창발적 성질을 만들어 내는 일이 가능하다는 뜻이고, 어쩌면 우리는 그 방법을 발견하기 직전의 문턱에 서 있는지도 모릅니다. 프리드먼은 알파이볼브가 자신이 본 것 중 가장 멋진 것에 속한다면서, 집 책상의 모니터 세 대 옆에 틱타알릭(Tiktaalik)의 두개골 모형을 두고 지낸다고 말합니다. 물에서 뭍으로 올라온 초기 생물 중 하나인데, 진화의 메커니즘이 무엇이든 자연이 해낸 일을 결코 가볍게 보지 말아야 한다는 것입니다.

하사비스는 그 점이 놀랍다고 답합니다. 사실상 비교적 단순한 알고리즘 하나가 40억 년이라는 시간 위에서 돌아가며 이 엄청난 복잡성을 전부 만들어 냈기 때문입니다. 그는 이것을 우주라는 물리적 기질 위에서 아주 긴 계산 시간 동안 돌아간 탐색 과정으로 볼 수 있다고 말하며, 그 과정이 이토록 풍부한 다양성을 낳았다고 정리합니다.

해설
알파이볼브의 작동 방식은 세 부분으로 나눠 보면 분명해집니다. 언어모델이 기존 코드를 고쳐 쓴 변형안들을 쏟아 내고, 자동 평가기가 각 변형안을 실제로 돌려 점수를 매기며, 좋은 점수를 받은 것만 남아 다시 변형의 재료가 됩니다. 사람이 결과를 보고 판단하는 대신 채점이 자동화돼 있다는 점이 핵심이고, 그래서 정답을 기계가 확인할 수 있는 영역에서만 작동합니다. 구글은 2025년 공개 당시 이 시스템이 행렬 곱셈 알고리즘을 개선하고 자사 데이터센터의 작업 배치와 칩 설계 일부를 개선했다고 밝혔습니다.

몬테카를로 트리 탐색은 가능한 수들을 끝까지 다 따져 보는 대신, 유망해 보이는 가지를 무작위 시뮬레이션으로 여러 번 굴려 본 뒤 성적이 좋은 쪽에 탐색을 집중하는 방법입니다. 하사비스가 언급한 37번째 수는 2016년 알파고와 이세돌의 두 번째 대국에서 나온 수로, 당시 해설자들이 실수로 여겼다가 뒤늦게 그 가치를 인정한 장면이며 기계가 사람이 쌓아 온 정석 바깥으로 나간 사례로 거듭 인용됩니다.

[관점]
이 혼합 구조에는 분명한 적용 조건이 붙어 있습니다. 탐색이 작동하려면 목적 함수가 있어야 하고, 목적 함수가 있으려면 결과의 좋고 나쁨을 기계가 스스로 채점할 수 있어야 합니다. 그래서 알고리즘과 수학, 칩 설계, 코드 최적화처럼 정답 판정이 자동화되는 영역이 먼저 열리고, 좋은 질문인지 아닌지를 사람이 판단해야 하는 영역은 뒤로 밀립니다.

투자의 관점에서 보면 이것은 파운데이션 모델 자체보다 모델 위에 얹히는 평가와 탐색의 층이 가치를 가른다는 뜻이기도 합니다. 모델 성능이 비슷해지는 구간에서는 자동 채점 환경을 얼마나 잘 갖췄는지가 성과를 결정하고, 그 환경은 각 산업의 데이터와 검증 절차에 붙어 있어 범용 모델 공급자가 가져가기 어렵습니다. 반대로 말하면 자동 채점이 불가능한 영역에서는 이 방식의 성과를 기대하기 어렵다는 점도 함께 읽어야 합니다.

가설을 떠올리는 일이 푸는 일보다 어렵다

프리드먼은 세포를 모델링하겠다는 하사비스의 꿈을 꺼내면서, 그에 앞서 AI 과학자라는 주제를 먼저 묻습니다. 대니얼 코코타일로(Daniel Kokotajlo)와 스콧 알렉산더(Scott Alexander) 등이 쓴 에세이가 초인공지능에 이르는 단계들을 그려 놓았고, 그 안에 초인간 코더와 초인간 AI 연구자가 들어 있습니다. 거기서 쓰이는 연구 취향(research taste)이라는 말이 흥미롭다며, AI 시스템이 그런 취향을 가질 수 있겠느냐고 묻습니다. 구글의 AI 공동 과학자처럼 뛰어난 사람 연구자의 방향을 거들 수 있는지, 나아가 스스로 어디서 진짜 새로운 생각이 나올지를 짚어 낼 수 있는지가 질문의 핵심입니다.

하사비스는 그것이 모방하거나 모델링하기 가장 어려운 것 중 하나가 될 것이라고 답합니다. 취향 또는 판단력이야말로 훌륭한 과학자와 괜찮은 과학자를 가르는 지점이기 때문입니다. 직업 과학자라면 누구나 기술적으로는 유능하고, 그렇지 않았다면 애초에 그 자리까지 오지 못했을 것입니다. 문제는 어느 방향이 맞는지, 어떤 실험이 맞는지, 어떤 질문이 맞는지를 냄새 맡는 취향이 있느냐입니다. 그가 보기에 과학에서 가장 어려운 일은 올바른 질문을 고르는 일과 올바른 가설을 세우는 일이며, 오늘의 시스템은 그것을 분명히 하지 못합니다.

그래서 그는 좋은 추측을 떠올리는 일이 그것을 푸는 일보다 어렵다는 말을 자주 합니다. 꽤 어려운 추측을 푸는 시스템은 머지않아 나올 수 있습니다. 수학 올림피아드 문제가 그런 예인데, 구글 딥마인드의 알파프루프(AlphaProof)는 지난해 그 어려운 문제들에서 은메달 수준의 성적을 냈습니다.

언젠가는 밀레니엄 상 문제급을 푸는 날이 올지도 모릅니다. 하지만 테런스 타오 같은 사람이 보고 수학의 본질이나 수의 본질, 물리의 본질에 관한 정말 깊은 질문이라고 인정할 만한 추측을 시스템이 내놓을 수 있을까 하는 물음은 전혀 다른 차원의 창의성입니다. 아인슈타인(Albert Einstein)이 당시의 지식만 가지고 특수상대성이론과 일반상대성이론에 이른 것 같은 상상의 도약이며, 그 메커니즘이 무엇인지 우리는 아직 잘 모릅니다.

프리드먼이 좋은 추측이란 흥미로우면서 증명 가능한 것이어야 하지 않느냐고 묻자, 하사비스는 거기에 조건을 더 붙입니다. 극히 어려운 것을 떠올리기도 쉽고 극히 쉬운 것을 떠올리기도 쉽지만, 그 가장자리의 달콤한 지점이 따로 있다는 것입니다. 과학을 실제로 전진시키면서 가설 공간을 이상적으로는 둘로 가르는 추측이 그것입니다. 참으로 드러나든 거짓으로 드러나든 정말 쓸모 있는 무언가를 배우게 되는 질문이어야 하고, 반증 가능해야 하며, 지금 손에 쥔 기술로 시험할 수 있어야 합니다. 대단히 창의적인 과정이고, 모델 위에 단순한 탐색을 얹는 것만으로는 여기에 닿지 못한다고 그는 못 박습니다.

가설 공간을 둘로 가른다는 말에 프리드먼은 하사비스가 전에 했던 이야기를 연결합니다. 질문과 실험을 제대로 구성하면 사실상 실패란 없고, 실패도 성공만큼 쓸모가 있다는 말이었습니다. 가설 공간을 반으로 가르는 이진 탐색과 같은 구조이기 때문이 아니겠느냐는 것입니다.

하사비스는 그렇다고 답하며, 진짜 블루스카이 연구에는 실패라는 것이 없다고 말합니다. 가설 공간을 의미 있게 가르는 실험과 가설을 고르고 거기서 무언가를 배우기만 한다면, 작동하지 않은 실험에서도 똑같이 값진 것을 배울 수 있습니다. 실험을 잘 설계했고 가설이 흥미롭다면 그 결과는 다음에 어디로 가야 할지를 많이 알려 주며, 그렇게 정보를 쓰는 일 자체가 하나의 탐색 과정이 됩니다.

해설
프리드먼이 언급한 에세이는 코코타일로와 알렉산더 등이 2025년에 내놓은 「AI 2027」입니다. 이 시나리오는 AI가 먼저 사람보다 뛰어난 코더가 되고, 그다음 단계로 사람보다 뛰어난 AI 연구자가 되면서 연구 속도 자체가 배가되는 경로를 그립니다. 연구 취향은 그 시나리오에서 마지막까지 남는 병목으로 다뤄지는 능력이며, 하사비스가 이 대목에서 답하는 것도 바로 그 지점입니다.

알파프루프는 수학 문제를 형식 언어로 바꿔 증명을 탐색하는 시스템으로, 2024년 국제수학올림피아드 문제들을 풀어 은메달에 해당하는 점수를 받았습니다. 밀레니엄 상 문제는 클레이 수학연구소가 2000년에 선정한 일곱 개의 난제로, 푼 사람에게 100만 달러가 걸려 있고 P 대 NP도 그중 하나이며 대부분이 아직 미해결입니다. AI 공동 과학자는 구글이 2025년에 공개한 연구 보조 시스템으로, 여러 에이전트가 가설을 내놓고 서로 비평하게 해 연구자에게 후보를 제시하는 구조입니다.

[반론]
연구 취향이 가장 어려운 능력이라는 진단에 모두가 동의하지는 않습니다. 다리오 아모데이는 「Machines of Loving Grace」에서 강력한 AI를 데이터센터 속 천재들의 나라에 비유하며, 그 시스템들이 사람 연구자를 돕는 데 그치지 않고 스스로 가설을 세우고 실험을 설계하는 연구자로 작동할 것이라고 봅니다. 그 전제 위에서 그는 50-100년 걸릴 생물학의 진보가 5-10년으로 압축될 수 있다고 주장합니다.

두 사람의 차이는 창의성을 별개의 능력으로 보느냐 아니면 규모와 속도의 문제로 보느냐에 있습니다. 아모데이의 그림에서는 수백만 개의 지능이 병렬로 돌아가며 가설 공간을 훑는 것만으로도 사람의 취향에 준하는 결과가 나오는 반면, 하사비스는 그것을 단순한 탐색으로는 닿지 못하는 영역으로 남겨 둡니다.

[관점]
이 구분이 맞다면 자동화의 순서가 정해집니다. 답을 찾는 쪽은 자동 채점이 가능한 만큼 먼저 열리고, 무엇을 물을지 정하는 쪽은 남습니다. 연구개발 조직에서 보면 문제를 푸는 인력의 가치는 희석되고 문제를 고르는 인력의 가치는 오히려 오른다는 뜻이며, 같은 논리가 투자 심사나 전략 수립처럼 선택이 핵심인 직무에도 적용됩니다.

다만 이 진단이 하사비스 자신이 이끄는 조직의 성격과 겹친다는 점도 함께 볼 필요가 있습니다. 그는 뒤쪽 절에서 구글 딥마인드의 강점을 연구 역량이라고 설명하는데, 취향과 판단이 마지막 병목이라는 주장은 그 강점이 오래 유지된다는 주장과 같은 방향을 가리킵니다.

가상 세포라는 25년짜리 꿈

프리드먼은 세포를 모델링하겠다는 목표 앞에 놓인 난관을 묻기 전에, 지금까지의 도약을 먼저 짚습니다. 알파폴드는 단백질 접힘 문제를 풀었다고 해도 될 만한 성과였고 결과물은 공개됐습니다. 알파폴드 3는 단백질과 단백질, 단백질과 RNA 및 DNA의 상호작용까지 다루며, 알파지놈은 작은 유전적 변화가 실제 기능과 어떻게 이어지는지를 예측합니다. 점점 더 복잡한 대상으로 기어오르는 흐름인데, 세포에는 복잡한 구성요소가 너무 많다는 것이 문제입니다.

하사비스는 자신의 작업 방식부터 설명합니다. 아주 거창한 꿈을 품은 다음 그것을 쪼개는 것인데, 미친 듯이 야심 찬 꿈을 갖기는 쉽지만 요령은 그것을 감당 가능하고 달성 가능하며 그 자체로 의미와 쓸모가 있는 중간 단계들로 나누는 데 있습니다. 세포를 모델링하는 이 작업을 그는 가상 세포(Virtual Cell)라고 부르며, 하고 싶다는 생각을 25년 가까이 품어 왔습니다.

그 생각의 상대는 생물학 쪽 스승 격인 폴 너스(Paul Nurse)였습니다. 크릭 연구소(Crick Institute)를 세워 이끌고 2001년에 노벨상을 받은 인물로, 두 사람은 1990년대부터 이 이야기를 해 왔고 하사비스는 5년에 한 번씩 그 질문으로 돌아오곤 했습니다. 세포 내부 전체를 모델링해 가상의 세포 위에서 실험을 돌리고, 그 예측이 실험실의 시간을 크게 아껴 줄 수 있으려면 무엇이 필요한가 하는 질문입니다. 그가 그리는 그림은 탐색의 대부분을 컴퓨터 안에서 끝내고 검증 단계만 습식 실험실에서 하는 방식으로 실험 속도를 100배 끌어올리는 것입니다.

그래서 그는 그 목표에 이르는 부품들을 만들어 왔고, 알파폴드도 그중 하나입니다. 처음 대상으로는 효모 세포를 고를 것이라고 말하는데, 폴 너스가 연구한 대상이기도 하고 효모 세포는 단세포이면서 그 자체로 완전한 생물이기 때문입니다. 가장 단순한 단세포 생물이고, 따라서 세포 하나가 아니라 개체 하나를 통째로 모델링하는 일이 됩니다. 효모는 이미 아주 잘 이해돼 있어서 전체 시뮬레이션 모델의 후보로 적합합니다.

다만 알파폴드가 푼 것은 정적인 그림, 곧 단백질의 3차원 구조가 어떻게 생겼는가입니다. 생물학에서 흥미로운 일은 모두 동역학과 상호작용에서 벌어지고, 알파폴드 3가 그 방향의 첫걸음입니다. 우선 단백질끼리, 그리고 단백질과 RNA 및 DNA가 둘씩 짝지어 작용하는 것을 다룹니다. 그다음 단계는 경로 하나를 통째로 모델링하는 일로, 하사비스는 암에 관여하는 경로 같은 것을 예로 듭니다. 그리고 결국에는 세포 하나를 통째로 모델링할 수 있게 된다는 것이 그가 그리는 순서입니다.

프리드먼은 또 하나의 복잡성을 지적합니다. 세포 안의 일들이 서로 다른 시간 척도에서 일어난다는 점입니다. 단백질 접힘은 극히 빠르지만 어떤 과정은 아주 오래 걸리므로, 상호작용의 층위마다 다른 시간 척도를 다뤄야 합니다. 하사비스는 그것이 어려운 대목이라고 인정하면서, 서로 다른 시간 동역학에서 작동하며 서로 맞물리는 여러 시뮬레이션 시스템이 필요하거나, 아니면 시간 단계를 위아래로 오갈 수 있는 위계적 시스템이 필요할 것이라고 답합니다.

프리드먼은 반대 방향의 질문도 던집니다. 양자역학적 측면까지 시뮬레이션하지 않고 피해 갈 수 있느냐, 다시 말해 지나치게 세밀하게 모델링하지 않고 결과를 충분히 잘 추정할 수 있는 높은 층위만 다룰 수 있느냐는 것입니다. 하사비스는 어떤 자연계를 모델링하든 어느 입도에서 끊을지를 결정해야 한다고 답합니다. 관심 있는 동역학을 담아낼 수 있는 선에서 끊으면 되고, 세포의 경우 그 선이 원자 수준이 아니라 단백질 수준이기를 바란다고 말합니다. 바로 그 지점에서 알파폴드가 토대가 되고, 그 위에 단백질을 구성 단위로 삼는 상위 시뮬레이션을 쌓아 올리면 창발적 거동이 나온다는 것입니다.

해설
폴 너스는 세포가 분열하는 주기를 제어하는 핵심 조절 인자를 밝혀낸 공로로 2001년 노벨 생리의학상을 공동 수상했고, 영국 최대 규모의 생의학 연구기관인 프랜시스 크릭 연구소의 초대 소장을 지냈습니다. 그가 그 연구에 쓴 재료가 분열효모였다는 점이 하사비스가 효모를 첫 대상으로 꼽는 이유와 맞닿아 있습니다. 효모는 유전체가 작고 유전자 기능이 잘 밝혀져 있으며 배양이 쉬워서, 생물학에서 가장 오래 쓰여 온 모델 생물 중 하나입니다.

하사비스가 암과 관련해 언급한 경로는 녹취록에 불분명하게 적혀 있는데, 맥락상 세포의 성장과 증식을 조절하며 여러 암에서 과활성화되는 TOR 경로를 가리키는 것으로 보입니다. 여기서는 원문의 불확실성을 그대로 두고 경로 이름을 확정하지 않았습니다. 알파폴드와 관련해 프리드먼이 언급한 공개는 구글 딥마인드가 예측한 단백질 구조 2억 개가량을 공개 데이터베이스로 누구나 쓸 수 있게 한 일을 가리킵니다.

[관점]
가상 세포가 실제로 작동한다면 바뀌는 것은 연구 속도만이 아니라 신약 개발의 비용 구조입니다. 지금의 개발은 후보물질을 좁히는 단계에서 대부분의 시간과 비용이 들고 실패도 그 단계에 몰려 있는데, 탐색을 계산으로 옮기면 실패의 상당 부분이 값싼 쪽으로 이동합니다. 하사비스가 100배라는 숫자를 쓰는 지점이 바로 여기입니다.

다만 그가 말하는 것은 아직 구상이며, 지금 손에 있는 것은 정적 구조 예측과 쌍 단위 상호작용까지입니다. 경로 하나를 통째로 모델링하는 단계와 세포 전체를 모델링하는 단계 사이에는 시간 척도 문제와 입도 결정 문제가 남아 있고, 하사비스 본인도 그 두 가지를 어려운 문제로 꼽고 있습니다.

[한국 관점]
한국 제약바이오 산업의 강점은 위탁개발생산과 임상 운영, 그리고 후보물질 도입 뒤의 개발 역량에 몰려 있습니다. 탐색 단계가 계산으로 옮겨 가면 산업의 가치 사슬에서 이익이 생기는 자리가 앞쪽으로 이동하고, 후보를 찾아내는 단계의 지식재산이 더 큰 몫을 가져갑니다.

국내에도 AI 신약 개발을 내건 기업과 연구 조직이 여럿 있지만, 하사비스가 말하는 방식은 모델 하나를 잘 만드는 문제가 아니라 예측과 검증을 잇는 실험 인프라를 함께 갖추는 문제입니다. 구조 예측 결과가 공개돼 있어 출발선 자체는 낮아졌으므로, 관건은 모델이 아니라 자체 실험 데이터를 축적해 검증 고리를 돌릴 수 있는지에 있습니다.

생명과 무생명 사이에 선이 있는가

프리드먼은 짓궂은 질문이라고 양해를 구하며 생명의 기원을 꺼냅니다. 무생물에서 살아 있는 개체가 태어나는 그 최초의 전이를 시뮬레이션하고 모델링할 수 있겠느냐는 물음입니다. 하사비스는 그것이 가장 깊고 매혹적인 질문 중 하나라며 이 분야를 좋아한다고 답합니다. 그러면서 이 영역의 최고 전문가 중 한 사람인 닉 레인(Nick Lane)의 책 『The Ten Great Inventions of Evolution』을 훌륭한 책으로 추천합니다.

그 책은 거대한 필터가 우리 앞에 있는지 뒤에 있는지에 관해서도 말해 줍니다. 하사비스는 필터가 과거에 있을 가능성이 높다고 봅니다. 애초에 생명이 생겨날 확률 자체가 얼마나 낮았는지를 그 책이 보여 주기 때문입니다.

게다가 단세포에서 다세포로 넘어가는 단계는 믿기 어려울 만큼 큰 도약이었고, 지구에서는 10억 년이 걸린 것으로 보입니다. 그 길이 자체가 얼마나 어려운 일이었는지를 보여 줍니다. 프리드먼이 박테리아는 아주 오랫동안 아무 불만 없이 잘 지냈다고 받자, 하사비스는 어떻게든 미토콘드리아를 포획하기 전까지 그랬다고 덧붙입니다.

그는 AI가 여기에 도움이 되지 못할 이유를 모르겠다고 말합니다. 이것 역시 조합 공간을 가로지르는 탐색 과정이기 때문입니다. 출발점으로 화학적 수프가 있고, 어쩌면 열수 분출구 근처의 원시 수프 같은 초기 조건이 주어집니다. 거기서 세포처럼 보이는 무언가를 만들어 낼 수 있겠느냐는 질문이며, 하사비스는 이것이 가상 세포 프로젝트 다음 단계일 수 있다고 말합니다.

프리드먼은 생명의 기원에서도 37번째 수 같은 순간이 나오기를 바란다고 말합니다. 그가 짐작하는 결말은 연속체입니다. 무생물과 생물 사이에 선 같은 것은 없고, 빅뱅에서 오늘까지가 같은 과정이었다는 것을 엄밀하게 보일 수 있다면, 우리 머릿속에 세워 둔 벽이 무너지고 물리와 화학과 생물학이 하나로 이어진다는 생각입니다.

하사비스는 바로 그 때문에 평생 AI와 AGI를 해 왔다고 답합니다. 이런 종류의 질문에 답하는 궁극의 도구가 될 수 있다고 보기 때문입니다. 그는 보통 사람들이 이 문제를 더 걱정하지 않는 것이 오히려 이해가 안 된다고 말합니다. 살아 있다는 것과 살아 있지 않다는 것의 좋은 정의가 없고, 시간의 본질도, 의식이나 중력이나 양자역학의 기묘함은 말할 것도 없는 상태라는 것입니다. 그에게는 이 사실이 늘 얼굴에 대고 소리를 지르는 것처럼 느껴지고 그 소리가 점점 커지며, 결국 모든 것의 답이 될 궁극의 질문은 현실의 본질이라고 봅니다. 서로를 바라보고 살아 있는 것들을 늘 보면서 현미경으로 들여다보고 원자 수준까지 분해할 수 있는데도, 살아 있음을 어떻게 정의하느냐는 질문에 간명하게 답하지 못한다는 사실이 그는 놀랍다고 말합니다.

프리드먼은 살아 있음은 생각을 비껴갈 여지라도 있지만 의식은 그렇지 않다고 받습니다. 우리에게는 분명히 주관적인 의식 경험이 있고, 자기 세계의 중심에 서 있으며, 무언가로 느껴지기 때문입니다. 그러면서도 인류가 아주 오랫동안 주변 세계의 수수께끼와 씨름해 왔다는 점을 덧붙입니다. 해와 비는 도대체 무엇인지, 작년에는 비가 많았는데 올해는 오지 않으니 우리가 무엇을 잘못했는지를 사람들은 오래 물어 왔습니다. 하사비스는 그래서 우리가 다 이해하지 못하는 깊은 수수께끼를 안고 살아가는 여러 방편을 발전시켜 왔고, 일상에 몰두하며 스스로를 바쁘게 만들어 왔다고, 어떤 면에서는 스스로를 다른 데로 돌려놓아 온 것이라고 말합니다.

프리드먼은 날씨가 인류사에서 가장 중요한 질문 중 하나였고 지금도 잡담의 기본 주제라고 말합니다. 하사비스가 영국에서는 특히 그렇다고 받자, 프리드먼은 그 날씨야말로 모델링하기 극히 어려운 계로 유명한데 구글 딥마인드가 거기서도 진전을 냈다고 짚습니다. 하사비스는 자신들이 세계 최고의 기상 예측 시스템을 만들었다고 답합니다. 대형 슈퍼컴퓨터에서 며칠씩 걸려 계산하던 전통적인 유체역학 방식보다 더 나은 성능이며, 웨더넷이라 부르는 신경망 시스템으로 날씨의 동역학 상당 부분을 모델링했습니다. 복잡하고 어떤 경우에는 거의 카오스에 가까운 동역학인데도 모델링된다는 점이 흥미롭다는 것입니다.

최근에는 사이클론 예측, 곧 허리케인의 경로가 어디로 갈지를 내다보는 작업도 더해졌습니다. 세상에 매우 유용하고 중요한 일이며, 정확한 것만큼이나 신속하게 내놓는 것이 중요합니다. 하사비스는 이것을 아주 복잡한 현실 세계의 계를 앞으로 돌려 예측과 시뮬레이션을 수행하는 유망한 방향의 한 사례로 봅니다.

프리드먼은 텍사스에서 만난 폭풍 추격자들 이야기를 덧붙입니다. 이들이 대단히 기술에 밝은 이유는 폭풍이 어디 있는지를 모델로 예측해야 하기 때문입니다. 폭풍의 눈으로 들어갈 만큼 무모하면서도, 자기 목숨을 지키고 극단적 사건이 어디서 벌어질지 맞히기 위해 점점 정교한 기상 모델을 써야 한다는 조합이 아름답다는 것입니다. 그는 이들이 구글 딥마인드의 시스템을 쓰고 있을지도 모른다고 말하고, 하사비스는 그러기를 바란다며 언젠가 그 추격에 한 번 따라가 직접 겪어 보고 싶다고 답합니다.

해설
닉 레인의 책은 원래 제목이 『Life Ascending: The Ten Great Inventions of Evolution』이며, 생명의 기원과 DNA, 광합성, 복잡한 세포, 성, 운동, 시각, 온혈성, 의식, 죽음을 진화의 열 가지 발명으로 묶어 설명합니다. 하사비스가 언급한 미토콘드리아 포획은 이 책의 핵심 대목으로, 하나의 단세포 생물이 다른 단세포 생물을 삼킨 뒤 소화하지 않고 공생 관계로 들인 사건을 가리킵니다. 복잡한 세포는 이 한 번의 우연 이후에만 가능해졌다는 것이 레인의 논지입니다.

거대한 필터는 우주에 지적 생명이 흔해야 하는데 아무 신호도 없다는 페르미 역설에서 나온 개념으로, 생명이 문명 단계까지 가는 경로 어딘가에 통과하기 극히 어려운 관문이 있다는 가설입니다. 그 관문이 과거에 있었다면 우리는 이미 통과한 것이고, 앞에 있다면 아직 겪지 않은 셈이라 하사비스가 과거 쪽에 무게를 싣는 것이 낙관적인 해석에 해당합니다. 그가 웨더넷이라 부른 기상 시스템은 구글 딥마인드가 그래프캐스트와 젠캐스트라는 이름으로 발표한 모델 계열이며, 허리케인 경로 예측은 2025년 미국 국립허리케인센터와의 협력으로 공개됐습니다.

[관점]
기상 예측 대목은 앞 절들의 추측을 실증하는 자리이기도 합니다. 날씨는 초기 조건에 민감한 계의 대표 사례이고 하사비스 자신이 카오스를 경계선으로 꼽았는데, 그 경계 바로 앞까지는 신경망이 수치 모델을 이긴다는 것이 확인된 셈입니다. 이는 모델링 가능성의 한계가 이론적 성질보다 실제 예측 지평의 길이 문제로 바뀐다는 뜻입니다.

비용 구조의 함의도 큽니다. 슈퍼컴퓨터에서 며칠 걸리던 계산이 학습된 모델의 추론 한 번으로 줄어들면, 기상 정보는 소수 기관의 설비 자산에서 누구나 호출하는 서비스로 성격이 바뀝니다. 보험과 재생에너지 발전, 농업과 물류처럼 날씨가 손익에 직결되는 산업에서는 예측의 정확도보다 갱신 빈도와 응답 속도가 경쟁 요소가 됩니다.

[한국 관점]
한국은 2020년부터 자체 개발한 한국형수치예보모델을 운영하며 수치예보의 독자 역량을 갖춘 소수 국가에 속합니다. 그 기반이 슈퍼컴퓨터 위의 물리 방정식 계산이라는 점에서, 신경망 기반 모델이 같은 성능을 훨씬 적은 연산으로 낸다면 투자해 온 설비의 위상이 달라집니다.

태풍 경로 예측은 특히 직접적인 문제입니다. 한반도로 북상하는 태풍의 진로는 매년 인명과 산업에 걸리는 변수이고, 예측 시스템을 외부 모델에 의존할 것인지 자체 모델에 AI 방식을 접목할 것인지가 선택지로 남습니다. 기상 데이터가 공공 자산으로 축적돼 있다는 점은 후자를 택할 때의 유리한 조건입니다.

AGI에 닿았다는 것을 어떻게 아는가

프리드먼은 하사비스가 2030년까지 AGI가 올 것으로 보아 왔다는 점을 꺼내며, 그렇다면 우리가 거기 도달했음을 어떻게 알 수 있을지, 그리고 AGI의 37번째 수에 해당하는 장면은 무엇일지를 묻습니다. 하사비스는 자신의 추정이 앞으로 5년 안에, 그러니까 2030년까지 50% 확률이라고 정리합니다. 꽤 높은 가능성이지만, 여기에는 AGI를 어떻게 정의하느냐가 걸려 있습니다. 그의 기준은 예나 지금이나 상당히 높습니다. 뇌가 가진 인지 기능들을 전부 따라잡을 수 있느냐는 것이며, 우리 뇌가 사실상 근사적인 범용 튜링 머신이고 그 뇌로 현대 문명을 만들어 냈다는 사실 자체가 뇌의 범용성을 말해 준다고 봅니다.

무엇을 보면 도달했다고 할 수 있는가

참된 AGI라고 하려면 그 능력들을 전부 갖췄는지 확인해야 합니다. 어떤 일은 아주 잘하면서 다른 일에서는 크게 어설픈 들쭉날쭉한 지능이어서는 안 되며, 하사비스는 오늘의 시스템이 바로 그 상태라고 말합니다. 일관성이 없다는 것이고, 그가 원하는 것은 전 영역에 걸친 지능의 일관성입니다. 여기에 더해 앞 절에서 이야기한 진짜 발명 능력과 창의성처럼 빠져 있는 능력들도 채워져야 합니다.

시험 방법으로 그가 꼽는 것은 두 가지입니다. 하나는 사람이 할 수 있다고 알려진 인지 과업 수만 개를 전수로 돌려 보는 무식하지만 확실한 방식입니다. 다른 하나는 분야마다의 테런스 타오 급 전문가 수백 명에게 그 시스템을 한두 달 열어 주고, 명백한 결함을 찾아낼 수 있는지 보는 것입니다. 그들이 찾지 못한다면 완전히 범용적인 시스템을 갖췄다고 꽤 자신할 수 있다는 것입니다.

프리드먼은 여기에 가벼운 반론을 답니다. 사람은 지능이 전 영역에서 좋아지면 그것을 금세 당연하게 여기는 존재라는 것입니다. 전문가들도 몇 주 만에 그 모든 놀라운 능력을 당연시하고 오히려 흠 하나에 집중할 수 있습니다. 그는 자신도 사람인데 말을 더듬어서 말하는 데 서툴다는 소리를 듣는다며, 사람도 수학이나 물리 바깥의 영역에서는 뚜렷한 한계를 보인다고 말합니다. 그래서 만 개의 과업을 쏟아붓는 방식보다 긍정적인 쪽의 37번째 수 같은 장면, 곧 이건 특별하다는 반응을 끌어내는 한두 사례가 결정적일 수 있지 않겠느냐고 묻습니다.

하사비스는 그 지적에 동의하며 두 방식을 함께 쓸 것이라고 답합니다. 일관성을 확인하는 전면 시험이 한 축이고, 그가 기다리는 등대 같은 순간이 다른 축입니다. 하나는 아인슈타인이 그랬듯 물리학에 관한 새로운 추측이나 가설을 내놓는 일입니다. 그는 이것을 엄밀하게 역으로 시험해 볼 수도 있다고 말합니다.

1900년을 기준선으로 잘라 그때까지 쓰인 모든 것을 시스템에 준 다음, 특수상대성이론과 일반상대성이론에 이를 수 있는지 보는 방식입니다. 또 하나는 바둑 같은 게임을 발명할 수 있느냐입니다. 37번째 수 같은 새 전략이 아니라, 바둑만큼 깊고 미학적으로 아름다우며 우아한 게임 자체를 만들어 낼 수 있느냐는 것입니다. 그는 이런 일을 여러 영역에서 해내야 참으로 범용적이라 할 수 있고, 그 뒤에 일관성 점검으로 구멍이 없는지를 채워 넣으면 된다고 정리합니다.

사람이 그 도약을 알아볼 수 있는가

프리드먼은 그런 발견의 순간에 하사비스가 그 방에 있을 것이고, 발표까지 두세 달을 참으며 엑스에 올리고 싶은 충동을 눌러야 할 것이라고 농담합니다. 하사비스는 그런 셈이라며, 그 새로운 물리 아이디어가 무엇인지 확인하고 해당 분야의 세계적 전문가들과 검증하며 과정을 따라가 볼 것이라고 답합니다. 그리고 시스템이 자기 추론 과정을 설명해 주기도 할 것이라고 덧붙입니다.

프리드먼은 사람이, 전문가조차 그것을 놓칠 가능성을 걱정하지 않느냐고 묻습니다. 하사비스는 꽤 복잡할 수는 있겠지만 최고의 과학자들에게 완전히 수수께끼로 남지는 않을 것이라고 봅니다. 그가 드는 비유는 체스입니다. 자신이 개리 카스파로프나 망누스 칼센(Magnus Carlsen)과 대국하다가 그들이 멋진 수를 두면 자기는 그 수를 떠올리지 못하겠지만, 그들은 나중에 왜 그 수가 말이 되는지 설명할 수 있고 자신도 그들만큼은 아니어도 어느 정도는 이해할 수 있습니다. 쉽게 설명할 수 있다는 것 역시 지능의 일부이고, 최고의 과학자들에게는 그것이 충분히 가능하리라는 것입니다.

프리드먼은 칼센이나 카스파로프의 수 중에도 처음에는 나쁜 수로 치부되는 것이 있지 않겠느냐고 묻습니다. 하사비스는 그럴 수 있다고 인정하면서도, 그 뒤에는 직관으로 왜 그것이 통하는지를 알아낸다고 답합니다. 게임의 좋은 점은 그것이 일종의 과학적 시험이라는 데 있습니다. 이기느냐 지느냐가 답을 주므로, 그 수와 전략이 결국 좋았다는 것이 드러나면 되돌아가 분석하고 주변을 탐색하며 스스로에게 이유를 설명할 수 있습니다. 체스 분석이 작동하는 방식이 그렇고, 네 살 때부터 그 훈련을 해 온 것이 자기 머리가 그런 식으로 돌아가는 이유일지 모른다고 그는 말합니다.

프리드먼은 지금도 코드를 생성시킬 때 미묘한 긴장을 겪는다고 말합니다. 처음에는 생성된 코드가 어딘가 틀렸다고 판단하지만, 곧 자기가 틀린 것은 아닌지, 거기에 더 깊은 통찰이 있는 것은 아닌지를 물어야 한다는 것입니다. 시스템이 더 똑똑해질수록 이 문제, 곧 지금 나온 것이 결함인지 기능인지를 가리는 문제와 계속 씨름해야 합니다. 하사비스는 그것이 꽤 까다로울 것이라고 답하면서, AI 시스템이 코드를 만들고 사람 프로그래머가 그것을 들여다보되 혼자가 아니라 AI 도구의 도움을 받는 구도를 그립니다. 흥미로운 점은 감시하는 도구가 생성한 도구와 다른 AI 도구일 수 있다는 것입니다.

스스로를 개선하는 시스템

프리드먼은 알파이볼브가 프로그래밍 쪽에서 재귀적 자기개선에 해당하는 무언가를 가능하게 한다고 짚으며, 첫 버전이 아니라 몇 세대 뒤의 AGI 시스템은 어떤 모습일지 묻습니다. 단순할지, 스스로를 개선하는 프로그램 같은 것일지 하는 물음입니다.

하사비스는 그것이 가능하기는 할 것이라고 답하면서도, 바람직한지는 확신하지 못하겠다고 말합니다. 그것이 일종의 빠른 이륙 시나리오이기 때문입니다. 알파이볼브 같은 현재 시스템은 여러 결정 지점에 인간이 개입하는 고리가 있고, 서로 맞물려 돌아가는 별개의 혼합 시스템들로 이뤄져 있습니다. 언젠가 이것을 처음부터 끝까지 자동으로 돌리는 일도 상상할 수 있고 불가능할 이유는 없지만, 지금 시스템은 코드의 구조 자체를 설계해 내는 능력이 부족합니다.

이 한계는 새 가설을 떠올리는 문제와 같은 뿌리입니다. 무엇을 하려는지 아주 구체적으로 지시하면 잘하지만, 막연하고 높은 수준의 지시를 주면 작동하지 않습니다. 바둑만큼 좋은 게임을 발명하라는 지시를 프롬프트로 넣었다고 상상해 보면, 지금 시스템은 그것을 다룰 수 있는 크기로 좁히는 방법을 모릅니다.

너 자신의 더 나은 버전을 만들라는 지시도 똑같이 제약이 너무 없습니다. 반대로 더 빠른 행렬 곱셈처럼 원하는 것을 아주 구체적으로 좁혀 주면 그 개선에는 매우 능합니다. 다만 지금 나오는 것은 작은 반복에 해당하는 점진적 개선이며, 이해의 큰 도약을 원한다면 훨씬 큰 진전이 필요합니다.

프리드먼은 그것이 오히려 빠른 이륙 시나리오에 대한 반박이 될 수 있다고 말합니다. 행렬 곱셈처럼 점진적 개선이 이어지고 그것이 재귀적으로 돌아가되, 개선이 쌓일수록 속도가 느려지는 그림입니다. 하사비스는 점진적 개선만 있다면 그렇게 보일 것이라고 답합니다.

문제는 트랜스포머 구조 같은 새로운 도약을 시스템이 내놓을 수 있느냐입니다. 2017년에 구글 딥마인드와 구글 브레인(Google Brain)이 해낸 그 일을 시스템이 할 수 있었을지는 분명하지 않고, 알파이볼브 같은 것이 그만한 도약을 해낼 수 있을지도 불분명합니다. 확실한 것은 지금 시스템이 점진적인 언덕 오르기를 해낸다는 것이고, 더 큰 질문은 여기서부터 그것만으로 충분한지 아니면 한두 번의 큰 돌파가 더 필요한지입니다.

프리드먼이 같은 종류의 시스템이 그 돌파까지 제공할 수 있겠느냐고, 점진적 개선에 가끔씩 도약이 섞인 여러 개의 S자 곡선 같은 모습이 아니겠느냐고 묻자, 하사비스는 그런 큰 도약을 명백히 보여 준 시스템은 아직 누구에게도 없다고 답합니다. 지금 있는 것은 이미 올라타 있는 S자 곡선 위를 언덕 오르기로 올라가는 시스템들이며, 그 도약이 바로 37번째 수에 해당한다는 프리드먼의 정리에 그렇다고 답합니다.

해설
1900년을 기준선으로 자른다는 시험 설계는 겉보기보다 까다로운 조건입니다. 오늘의 모델은 상대성이론이 이미 담긴 텍스트를 학습했기 때문에, 상대성이론을 설명하는 능력과 그것을 처음 떠올리는 능력을 구분할 방법이 없습니다. 학습 데이터를 1900년 이전으로 제한해야만 그 구분이 가능해지고, 하사비스가 역으로 시험한다고 말하는 것이 이 데이터 오염 문제를 피하려는 설계입니다.

바둑만큼 좋은 게임을 발명하라는 지시가 어려운 이유도 같은 자리에 있습니다. 좋은 게임인지를 판정하는 기준 자체가 존재하지 않아서 탐색을 이끌 목적 함수를 세울 수 없기 때문입니다. 앞 절에서 본 알파이볼브가 자동 채점이 가능한 문제에서만 작동한다는 조건이 여기서 한계로 되돌아오는 셈입니다.

[반론]
2030년까지 50%라는 추정은 업계 안에서도 양쪽으로 갈립니다. 안드레이 카파시는 드와케시 팟캐스트(Dwarkesh Podcast) 대담에서 AGI가 아직 10년은 남았다고 보며, 지금 모델에 지속 학습과 같은 근본 결함이 남아 있어 에이전트가 사람처럼 일하기까지는 10년 단위의 작업이 더 필요하다고 주장합니다. 그의 시각에서 보면 하사비스의 5년은 이르고, 결함 목록은 일관성 문제 하나로 묶기에는 깊습니다.

반대쪽에는 더 빠른 시점을 말해 온 흐름이 있습니다. 다리오 아모데이는 강력한 AI가 이르면 2026-2027년에 등장할 수 있다고 말해 왔고, 코코타일로 등의 「AI 2027」 시나리오는 2027년 안팎에 초인간 AI 연구자가 나오는 경로를 그립니다. 하사비스의 추정은 이 양극 사이 중간쯤에 놓이며, 세 입장의 차이는 데이터나 컴퓨트가 아니라 남은 돌파가 한두 개인지 그 이상인지에 대한 판단에서 갈립니다.

[관점]
하사비스가 재귀적 자기개선을 두고 가능하지만 바람직한지는 모르겠다고 말한 대목은 그냥 지나칠 문장이 아닙니다. 프런티어 연구소의 수장이 자기 조직이 만들 수 있는 능력에 대해 속도 자체를 문제로 지목한 것이기 때문이며, 그가 뒤쪽 절에서 말하는 신중한 낙관과 같은 선에 있습니다. 동시에 알파이볼브에 사람이 개입하는 고리가 남아 있다는 설명은 현재 시스템의 한계 설명이자 안전 설계의 설명으로도 읽힙니다.

투자와 정책의 관점에서 보면 쟁점은 하나로 좁혀집니다. 남은 것이 S자 곡선 위의 언덕 오르기뿐이라면 승부는 컴퓨트와 실행력에서 갈리고 자본이 많은 쪽이 유리합니다. 반대로 한두 개의 돌파가 더 필요하다면 승부는 연구 역량에서 갈리며, 하사비스 자신도 그 경우를 선호한다고 다음 절에서 분명히 밝힙니다.

스케일링은 아직 끝나지 않았다

프리드먼은 사전학습과 사후학습, 테스트 타임 컴퓨트에서 스케일링 법칙이 여전히 힘을 유지하고 있는지, 반대로 AI 진보가 벽에 부딪힐 것으로 보는지를 묻습니다. 하사비스는 스케일링만으로도 아직 여지가 많다고 느낀다고 답합니다. 사전학습과 사후학습, 추론 시점이라는 모든 단계가 그렇고, 세 가지 스케일링이 동시에 진행되고 있습니다.

다만 거기서도 결국 문제는 얼마나 혁신적일 수 있느냐이고, 하사비스는 자신들이 가장 넓고 깊은 연구 인력을 갖췄다는 점을 자부합니다. 그는 트랜스포머를 고안한 노엄 셰이저(Noam Shazeer)와 알파고 프로젝트를 이끈 데이브 실버(Dave Silver) 같은 사람들을 예로 듭니다. 그런 연구 기반이 있다는 것은 알파고나 트랜스포머급의 새로운 돌파가 필요해질 경우 그 일을 해낼 곳으로 자기들을 꼽겠다는 뜻입니다.

그래서 그는 지형이 험해질수록 오히려 반긴다고 말합니다. 문제가 단순한 엔지니어링에서 진짜 연구, 그리고 연구와 엔지니어링의 결합 쪽으로 기울기 때문이며, 그 지점이 자신들이 가장 잘하는 자리라는 것입니다. 무언가를 발명하는 일은 빠르게 뒤따라가는 일보다 어렵다고 그는 덧붙입니다.

그러면서도 하사비스는 결론을 열어 둡니다. 새로운 것이 필요한지 기존 방식을 키우는 것으로 충분한지는 반반이라고 봅니다. 그래서 철저히 경험적인 방식으로 양쪽을 다 최대한 밀어붙이고 있습니다. 새로운 블루스카이 아이디어에 자원의 절반가량을 쓰고, 나머지는 지금의 능력을 끝까지 키우는 데 씁니다. 그리고 제미나이의 버전이 바뀔 때마다 여전히 훌륭한 진전을 보고 있다고 말합니다.

프리드먼은 그 말을 뒤집어 정리합니다. AGI로 가는 길이 컴퓨트를 키우는 엔지니어링 문제를 넘어 돌파가 필요한 과학의 문제라면, 하사비스는 구글 딥마인드가 그 영역에서 제대로 해낼 수 있다고 자신한다는 뜻이냐는 것입니다. 하사비스는 지난 10년이나 15년을 돌아보면 오늘날 AI 분야를 떠받치는 돌파의 80-90%가 애초에 구글 브레인과 구글 리서치, 그리고 옛 딥마인드에서 나왔다고 답합니다. 그 흐름이 계속되는 쪽에 걸겠다는 것입니다.

데이터 쪽 질문도 이어집니다. 고품질 데이터, 특히 사람이 만든 고품질 데이터가 바닥나는 것을 걱정하느냐는 물음에 하사비스는 그다지 걱정하지 않는다고 답합니다. 우선 데이터가 충분히 있고, 그것으로 시스템을 꽤 좋게 만들 수 있다는 것이 이미 입증됐습니다. 그리고 이 질문은 다시 시뮬레이션으로 돌아갑니다.

시뮬레이션을 만들 만큼의 데이터가 있어서 올바른 분포에서 나온 합성 데이터를 더 만들어 낼 수 있느냐가 관건이며, 그 분포가 핵심입니다. 그런 데이터 생성기를 만들려면 현실 세계의 데이터가 충분히 있어야 하는데, 하사비스는 지금이 바로 그 단계에 와 있다고 봅니다. 프리드먼이 과학과 생물학 쪽에서는 그리 많지 않은 데이터로 많은 것을 해내지 않았느냐고 하자, 그는 시작을 걸기에는 충분했다고 답합니다.

해설
하사비스가 말하는 세 가지 스케일링은 서로 다른 단계에 돈을 쓰는 방식입니다. 사전학습은 모델을 처음 만들 때 데이터와 연산을 키우는 것이고, 사후학습은 만들어진 모델을 강화학습 등으로 다듬는 단계이며, 추론 시점의 스케일링은 답을 내놓을 때 생각할 시간을 더 주는 방식입니다. 2024년 이후 업계의 관심이 세 번째로 옮겨 간 것은 첫 번째의 증가 속도가 데이터와 전력의 제약에 걸리기 시작했기 때문입니다.

그가 거명한 두 사람은 구글의 연구 계보를 상징합니다. 노엄 셰이저는 2017년 트랜스포머 구조를 제안한 논문의 공저자이고, 구글을 떠나 대화형 AI 회사를 세웠다가 2024년 구글이 그 회사와 맺은 거래를 계기로 복귀해 제미나이 개발을 함께 이끌고 있습니다. 데이브 실버는 알파고와 알파제로를 이끈 강화학습 연구자입니다.

[이해관계]
이 절은 기술 전망인 동시에 채용 시장을 향한 메시지이기도 합니다. 지형이 험해질수록 자신들에게 유리하다는 말은 스케일링 경쟁이 자본 싸움이 되는 국면에서 구글 딥마인드의 차별점을 연구 역량으로 재정의하는 주장이며, 뒤쪽 절에서 메타의 고액 영입 공세를 두고 돈보다 중요한 것이 있다고 말하는 대목과 같은 선에 있습니다.

현대 AI를 떠받치는 돌파의 80-90%가 구글 계열에서 나왔다는 수치도 함께 보아야 합니다. 트랜스포머와 알파고, 분산학습 기법 등 핵심 성과가 구글 계열에서 나온 것은 사실이지만, 이 비율 자체는 출처가 제시된 집계가 아니라 하사비스 본인의 평가입니다.

[관점]
데이터 고갈을 걱정하지 않는다는 답에는 조건이 하나 달려 있는데, 그 조건이 사실 전부입니다. 합성 데이터가 쓸모 있으려면 올바른 분포에서 나와야 하고, 그러려면 현실을 제대로 흉내 내는 시뮬레이터가 먼저 있어야 합니다. 수학이나 코드처럼 정답을 기계가 검증할 수 있는 영역에서는 이 조건이 쉽게 충족되지만, 사람의 판단이나 사회적 맥락이 걸린 영역에서는 같은 방식이 통하지 않습니다.

조건이 충족되지 않을 때의 위험은 모델이 자기가 만든 데이터를 다시 학습하며 분포가 좁아지는 현상으로 나타납니다. 하사비스가 현실 데이터가 충분해야 생성기를 만들 수 있다고 못 박는 것도 이 때문이며, 데이터 문제가 사라졌다기보다 데이터의 양 문제에서 검증 가능성 문제로 바뀌었다고 읽는 편이 정확합니다.

학습보다 추론이 더 큰 자리를 차지한다

프리드먼은 컴퓨트 확장이 AGI 구축에 얼마나 결정적인지를 묻습니다. 엔지니어링 문제이면서, 공급망과 에너지가 얽혀 있어 거의 지정학의 문제이기도 하며, 하사비스가 관심을 쏟는 핵융합처럼 에너지 쪽 혁신까지 걸려 있는 질문입니다. 하사비스는 여러 이유에서 컴퓨트 확장이 계속될 것이라고 답합니다.

첫째는 학습입니다. 학습에 쓰는 컴퓨트는 한곳에 모여 있어야 하는 경우가 많아서, 데이터센터 사이의 대역폭 제약이 실제로 영향을 미칩니다. 가장 큰 모델을 학습시키려면 이런 추가 제약까지 감당해야 합니다. 둘째는 추론입니다. AI 시스템이 제품 안으로 들어가 전 세계 수십억 명이 쓰게 된 지금, 엄청난 양의 추론 컴퓨트가 필요합니다.

여기에 지난 한 해 새로 등장한 사고하는 시스템이라는 패러다임이 더해집니다. 테스트 시점에 생각할 시간을 길게 줄수록 더 똑똑해지는 방식이기 때문입니다. 하사비스가 보기에 학습은 전체 컴퓨트 수요의 한 부분일 뿐이며, 앞으로는 오히려 더 작은 쪽이 될 수도 있습니다. AI 시스템이 좋아질수록 더 유용해지고 수요는 더 늘어나므로, 그는 이 흐름이 느려질 이유를 보지 못합니다.

프리드먼은 여기서 밈이 된 장면을 꺼냅니다. Veo 3가 성공할수록 서버가 진땀을 흘린다는 농담, 곧 추론 부하 이야기입니다. 하사비스는 자기들이 서버가 달걀을 부치는 짧은 영상을 만들기도 했다며 웃고, 결국 이 문제를 풀어야 한다고 말합니다. 그래서 하드웨어 쪽에서도 여러 혁신을 하고 있는데, 자체 텐서처리장치(TPU) 계열을 갖고 있고 추론 전용 칩과 그 효율을 높이는 방법을 들여다보고 있습니다.

에너지 쪽도 AI로 돕는 대상입니다. 데이터센터의 냉각 시스템 효율을 높이고 전력망을 최적화하는 일이 이미 진행 중이고, 나아가 핵융합로의 플라즈마 가둠 같은 문제도 있습니다. 그는 커먼웰스퓨전(Commonwealth Fusion)과 그 방향으로 많은 작업을 해 왔다고 말하며, 원자로 설계 자체도 상상할 수 있다고 덧붙입니다.

그가 가장 흥미롭게 꼽는 것은 소재 설계입니다. 새로운 태양광 소재, 늘 꿈의 돌파 목록에 올려 둔 상온 초전도체, 그리고 최적의 배터리입니다. 이 중 하나만 풀려도 기후와 에너지 사용에 혁명적인 변화가 올 것이라고 보며, 이번에도 앞으로 5년 안에 이 문제들에 실질적으로 기여하는 AI 시스템이 나올 만한 거리에 와 있다고 말합니다.

해설
TPU는 구글이 자사 AI 연산을 위해 직접 설계해 온 칩 계열로, 범용 그래픽처리장치와 달리 특정 연산에 맞춰 설계된다는 점이 특징입니다. 하사비스가 추론 전용 칩을 따로 언급하는 것은 학습과 추론의 요구가 다르기 때문입니다. 학습은 대규모 병렬 연산과 칩 사이 통신이 관건이지만, 추론은 응답 지연과 전력당 처리량이 중요해 설계를 분리할 유인이 생깁니다.

에너지 쪽 작업에도 전사가 있습니다. 딥마인드는 2016년에 구글 데이터센터의 냉각 제어를 학습 기반 시스템으로 바꿔 냉각 전력을 크게 줄인 사례를 발표했고, 2022년에는 스위스 로잔연방공대의 토카막 장치에서 강화학습으로 플라즈마 형상을 제어하는 연구를 네이처에 실었습니다. 하사비스가 언급한 커먼웰스퓨전은 매사추세츠공과대학에서 분리돼 나온 민간 핵융합 기업으로, 고온 초전도 자석을 쓴 소형 토카막을 개발하고 있습니다.

[관점]
학습 컴퓨트가 전체에서 작은 쪽이 될 수 있다는 전망은 산업의 손익 구조를 바꿉니다. 학습은 몇 달에 한 번 몰아서 쓰는 일회성 투자에 가깝지만 추론은 이용량에 비례해 매일 나가는 비용이어서, 설비투자 성격이 고정자산에서 변동비 쪽으로 옮겨 갑니다. 모델을 공짜에 가깝게 풀어 이용자를 늘리는 전략이 그만큼 위험해지고, 단가를 낮추는 칩과 효율화가 곧 마진이 됩니다.

칩 시장의 구도도 이 전환을 따라갑니다. 학습 시장에서는 범용 가속기의 성능과 생태계가 결정적이었지만, 추론 시장은 특정 모델과 서비스에 맞춘 전용 설계의 이점이 커져 자체 칩을 가진 쪽이 유리해집니다. 하사비스가 추론 전용 칩을 언급하는 대목은 구글이 그 방향으로 이미 움직이고 있다는 신호로 읽힙니다.

[한국 관점]
추론 중심으로 수요가 옮겨 가는 흐름은 한국 메모리 산업에 양면으로 작용합니다. 추론은 모델 가중치와 대화 맥락을 메모리에 올려 두고 빠르게 꺼내 쓰는 작업이라 용량과 대역폭 수요가 함께 커지고, 고대역폭 메모리(HBM)를 비롯한 고성능 메모리의 수요 기반이 학습용 서버 한 곳에 몰려 있지 않게 됩니다.

다만 고객 구조는 달라집니다. 자체 칩을 설계하는 빅테크가 추론용 가속기를 늘릴수록 메모리 공급사의 상대는 가속기 한 곳이 아니라 여러 설계 주체로 분산되고, 범용 제품보다 고객별 맞춤 사양의 비중이 커집니다. 삼성전자와 SK하이닉스에는 기회인 동시에 고객 의존 구조가 바뀌는 국면입니다.

에너지가 풀리면 다른 문제들이 함께 풀린다

프리드먼은 20-40년 뒤 주된 에너지원이 무엇일지를 묻습니다. 핵융합이겠느냐는 질문에 하사비스는 핵융합과 태양광 둘에 걸겠다고 답합니다. 태양광은 결국 하늘에 떠 있는 핵융합로이고, 거기서 진짜 문제는 배터리와 송전이라고 그는 봅니다.

더 효율적인 태양광 소재가 계속 나와야 하고, 언젠가는 우주에 설치하는 방식, 곧 다이슨 구 계열의 발상까지 갈 수 있습니다. 핵융합도 분명히 가능해 보이는데, 원자로 설계가 맞아떨어지고 플라즈마를 충분히 빠르게 제어할 수 있다면 된다는 것입니다. 그는 두 가지 모두 결국 풀릴 것이고, 재생 가능하고 깨끗하며 거의 공짜이거나 어쩌면 완전히 공짜인 에너지의 두 축이 될 것으로 봅니다.

프리드먼이 100년 뒤로 함께 시간 여행을 간다면 인류가 카르다쇼프 척도의 1형 문명을 넘어선 것을 보고 얼마나 놀라겠느냐고 묻자, 하사비스는 100년이라면 그리 놀라지 않을 것이라고 답합니다. 앞서 말한 방식 중 하나로 에너지 문제를 풀어내면, 에너지가 공짜이고 재생 가능하며 깨끗해지는 순간 다른 문제 여럿이 함께 해결되기 때문입니다.

물 문제가 첫 사례입니다. 담수화 기술은 이미 있고 다만 너무 비쌀 뿐이어서, 지금은 싱가포르나 이스라엘처럼 비교적 부유한 나라들만 실제로 씁니다. 값이 싸진다면 해안을 가진 모든 나라가 쓸 수 있습니다.

로켓 연료도 마찬가지입니다. 에너지를 들여 바닷물을 수소와 산소로 분리하면 그것이 곧 로켓 연료이므로, 사실상 무제한으로 확보할 수 있습니다. 여기에 머스크의 자력 착륙 로켓이 더해지면 우주로 가는 버스 노선 같은 것이 생길 수 있고, 그렇게 되면 전혀 새로운 자원과 영역이 열립니다. 하사비스는 소행성 채굴이 현실이 되고 인류가 별을 향해 최대한으로 번성하는 그림을 그립니다. 그가 꿈꾸는 것은 칼 세이건(Carl Sagan)이 말한 의식을 우주로 가져가는 일, 곧 우주를 깨우는 일이며, AI를 제대로 해내고 이 문제들을 풀어낸다면 인류 문명이 충분한 시간 안에 그 일을 하리라고 봅니다.

프리드먼은 우주를 지나가는 관광객의 시선을 상상합니다. 에너지 문제가 풀렸다면 지구 주변에 로켓이 아주 많아서, 런던의 교통 체증 같은 것이 우주에 펼쳐져 있을 것입니다. 우주에는 태양광 같은 에너지원이 떠 있을 것이고, 지구 표면은 더 기술적으로 보일 것입니다. 그리고 그 에너지의 힘으로 열대우림 같은 자연을 보존하게 되리라는 그림입니다.

하사비스는 바로 그렇다고 답합니다. 인류 역사상 처음으로 자원 제약에서 벗어나는 일이기 때문입니다. 그는 제로섬이 아닌 새로운 시대가 될 수 있다고 봅니다. 내가 이 땅을 가지면 당신은 못 가지는 구도, 호랑이가 숲을 차지하면 인근 마을이 쓸 것이 없어지는 구도가 완화된다는 것입니다.

다만 그는 단서를 분명히 답니다. 모든 문제가 풀리지는 않는데, 인간의 다른 결함들은 그대로 남기 때문입니다. 그래도 땅과 물자, 에너지의 희소성이라는 큰 축 하나는 제거된다고 그는 봅니다. 그가 급진적 풍요의 시대라 부르는 상태이며, 그다음의 큰 질문은 그것이 공정하게 나뉘어 사회 구성원 모두에게 혜택이 돌아가게 하는 일이라고 정리합니다.

해설
카르다쇼프 척도는 문명이 다루는 에너지의 규모로 발전 단계를 나누는 분류로, 1형은 자기 행성에 도달하는 에너지를 사실상 전부 활용하는 문명을, 2형은 항성 하나의 에너지를, 3형은 은하 규모의 에너지를 쓰는 문명을 가리킵니다. 하사비스가 함께 언급한 다이슨 구는 항성을 구조물로 둘러싸 그 복사에너지를 거둬들인다는 2형 문명 수준의 구상입니다. 지금 인류는 1형에 아직 이르지 못한 단계로 평가됩니다.

담수화가 비싸다는 말에는 구체적인 구조가 있습니다. 주류 방식인 역삼투는 바닷물을 높은 압력으로 막에 밀어 넣는 공정이라 비용의 상당 부분이 전력이고, 그래서 전기 값이 싸지면 물 값이 함께 내려갑니다. 하사비스가 에너지 하나로 물 문제가 풀린다고 말하는 근거가 여기에 있습니다. 우주로 의식을 가져간다는 표현은 천문학자 칼 세이건이 인류를 우주가 스스로를 알아 가는 방식으로 묘사한 데서 온 발상입니다.

[관점]
에너지가 거의 공짜가 된다는 전제는 투자 판단에서 가장 조심해야 할 종류의 문장입니다. 태양광 발전 단가는 지난 10여 년간 실제로 급격히 떨어졌지만, 하사비스 본인이 짚듯 병목은 발전 단가가 아니라 저장과 송전으로 옮겨 가 있습니다. 전기는 쓰는 시점과 만드는 시점이 어긋나는 상품이어서, 배터리와 전력망이 해결되지 않으면 발전 단가가 0에 가까워져도 최종 요금은 그만큼 내려가지 않습니다.

풍요가 분배 문제로 남는다는 단서도 그가 직접 단 것입니다. 희소성이 줄어든 자원일수록 가치는 접근권과 인프라 소유 쪽으로 옮겨 가며, 20세기의 석유가 그랬듯 값이 싼 자원도 누가 운반과 저장을 쥐느냐에 따라 지대가 생깁니다. 자원 제약의 해소가 곧 분배의 해소는 아니라는 점에서 그의 낙관은 조건부입니다.

[한국 관점]
한국은 에너지의 대부분을 수입에 의존하고 전력망이 이웃 나라와 연결되지 않은 사실상의 섬이라, 하사비스가 말한 저장과 송전 병목이 특히 날카롭게 걸립니다. 태양광 비중을 늘릴수록 간헐성을 흡수할 저장 설비와 지역 간 송전선이 필요한데, 송전망 건설은 입지 갈등으로 지연되는 사안이 반복돼 왔습니다.

반면 그가 꼽은 두 축 모두에 한국이 참여할 자리는 있습니다. 핵융합에서는 초전도 토카막 장치를 자체 운영하며 국제 공동 실험에 기여해 왔고, 담수화 플랜트에서는 국내 기업들이 중동 시장에서 오랜 수주 실적을 쌓아 왔습니다. 에너지 가격이 내려가면 담수화 수요가 넓어진다는 하사비스의 전망은 이 산업에 직접 연결되는 대목입니다.

게임은 지는 법을 연습하는 자리

프리드먼은 영화 보랏(Borat)의 이웃집 농담을 빗대며 인간 본성에 갈등을 일으키는 구석이 있다고 말합니다. 그래서 고대사를 들여다볼수록 게임이 사람들을 실제 전쟁에서 멀어지게 하는 역할을 해 왔다는 것입니다. 그는 점점 정교해지는 비디오 게임이 갈등의 가려움을 긁어 주는 자리가 될 수 있지 않겠느냐고 묻습니다. 우리는 이미 만들 수 있는 무기로 인류 문명 전체를 파괴할 수 있는 단계를 한참 지났으므로, 이웃과 일을 시작하는 방식으로 전쟁은 더 이상 좋은 선택이 아니고 차라리 체스 한 판이 낫다는 것입니다.

하사비스는 축구도 있다고 받습니다. 그는 축구 보는 것을 좋아하고 직접도 많이 했는데, 축구는 대단히 본능적이고 부족적인 데가 있습니다. 어딘가에 속하고 싶어 하는 인간의 욕구를 즐겁고 건강한 방식으로, 파괴적이지 않고 건설적인 쪽으로 흘려보낸다고 그는 봅니다.

게임 이야기로 돌아와 그는 아이들이 체스 같은 것을 두는 것이 왜 좋은지를 설명합니다. 게임은 세계의 축소판 시뮬레이션이기 때문입니다. 포커든 바둑이든 체스든 디플로머시든, 각각이 현실의 서로 다른 측면을 단순화해 담고 있습니다. 그리고 거기서 연습을 할 수 있습니다. 인생에서 큰 결정의 순간을 연습할 기회는 거의 없는데, 어느 직장을 고를지 어느 학교에 갈지 같은 핵심 결정은 평생 열두어 번 정도이고 그때마다 최선을 다해야 합니다. 게임은 안전하고 반복 가능한 환경이어서 의사결정 과정 자체를 더 잘하게 만들어 주고, 덤으로 에너지를 창의적이고 건설적인 쪽으로 돌려 준다는 것입니다.

프리드먼은 거기에 이기고 지는 연습이 중요하다고 덧붙입니다. 그가 게임을 좋아하는 이유도, 브라질 주짓수 같은 것을 좋아하는 이유도 안전한 환경에서 반복해 깨질 수 있기 때문입니다. 그 경험은 물리와 세계의 작동 방식을 일깨우고, 때로 지고 때로 이기지만 그래도 모두와 친구로 남을 수 있다는 것을 알려 줍니다. 지는 느낌은 사람이 받아들이기 묘한 감정이지만 삶의 근본적인 일부라는 것입니다.

하사비스도 무술과 체스가 결국 자기 향상과 자기 인식에 관한 일이라고 봅니다. 상대를 이기는 것이 핵심이 아니라 자기 잠재력을 최대로 끌어내는 일이라는 것입니다. 건강하게 한다면 승리와 패배를 쓰는 법을 배우게 됩니다.

이겼다고 들떠 세상에서 제일이라고 여기지 않고, 패배는 겸손하게 만들며 늘 배울 것이 더 있고 자신을 가르쳐 줄 더 큰 전문가가 있다는 것을 알게 해 줍니다. 그는 무술에서도 그것을 배울 것이라 짐작하며, 자신이 체스를 배운 방식도 그랬다고 말합니다. 아주 혹독할 수 있고 당연히 이기고 싶지만, 좌절을 건강하게 다루는 법을 익히고 그때의 감정을 다음에는 이것을 개선하겠다는 쪽으로 배선해 두어야 한다는 것입니다.

프리드먼이 행복과 의미의 원천이 승패가 아니라 그 향상에 있는 것 같다고 하자, 하사비스는 숙달이라고 답합니다. 전에는 못 하던 것을 이제 할 수 있게 되는 일만큼 만족스러운 것이 없고, 게임과 신체 스포츠, 두뇌 스포츠는 그 진보를 측정할 수 있게 해 주기에 아름답다는 것입니다. 프리드먼이 역할수행게임에서 스킬 트리의 숫자가 올라가는 것 자체가 의미의 원천이라고 하자, 하사비스는 우리가 숫자가 올라가는 것에 꽤 중독돼 있다고 받습니다. 어쩌면 우리 자신이 언덕 오르기를 하는 시스템이어서 그런 게임을 만들었는지도 모른다는 것입니다. 띠 색깔을 나누는 일처럼 우리는 어디서나 그렇게 하고 있고, 프리드먼은 그것을 가볍게 여기고 싶지 않다며 사람에게 깊은 의미의 원천이라고 정리합니다.

해설
게임을 전쟁의 대체물로 보는 발상에는 긴 전사가 있습니다. 고대 그리스에서 경기 기간에 적대 행위를 멈추던 관행이 대표적이고, 근대 올림픽도 그 명분을 이어받았습니다. 체스가 군대의 대형을 추상화한 구조에서 나왔다는 점, 전략 보드게임이 사관학교의 도상 훈련과 같은 뿌리를 공유한다는 점도 같은 계보에 있습니다.

하사비스가 포커와 바둑, 체스와 나란히 꼽은 디플로머시는 운의 요소 없이 협상과 배신으로만 승부가 갈리는 보드게임이어서, AI 연구에서도 자주 거론돼 왔습니다. 메타는 2022년 이 게임에서 사람 수준의 성적을 낸 에이전트를 사이언스에 발표했는데, 승리 조건이 상대를 설득하고 동맹을 유지하는 데 달려 있다는 점에서 기존의 완전정보 게임과는 다른 과제로 다뤄집니다.

[관점]
이 대목은 가벼운 잡담처럼 보이지만 사실 앞선 절들의 숙제에 대한 답입니다. AI가 일을 가져간 뒤 무엇이 남느냐는 질문에, 하사비스는 측정 가능한 숙달이 그 자체로 의미의 원천이라고 답하고 있습니다. 숙달은 자리가 한정된 지위재와 달리 누구에게나 열려 있고, 남을 이겨야 성립하지도 않는다는 점에서 제로섬이 아닌 활동의 사례이기도 합니다.

다만 일이 주던 것은 숙달만이 아니었다는 점이 빈자리로 남습니다. 소득과 사회적 인정, 하루의 구조와 소속이 함께 묶여 있었고, 게임은 그중 숙달과 소속의 일부만 대신합니다. 하사비스 자신도 뒤쪽 절에서 생산성 증가분의 분배를 따로 떼어 다루는데, 의미의 문제와 소득의 문제를 구분해 보는 편이 정확합니다.

1년 만의 역전, 그리고 제품이라는 과제

프리드먼은 지난 1년간 구글이 해낸 일을 경영과 리더십 쪽의 놀라운 이야기로 꼽습니다. 1년 전 제미나이 1.5 시절만 해도 구글이 언어모델 제품 경쟁에서 지고 있었다고 해도 될 상황이었는데 지금은 이기고 있다는 것입니다. 하사비스가 그 지휘를 맡았으니, 1년 만에 그 전환을 만들어 낸 것이 무엇이었는지를 묻습니다.

하사비스는 먼저 팀을 꼽습니다. 코리와 제프 딘(Jeff Dean), 오리올이 이끄는 제미나이 팀이 대단했고, 최고의 인재 없이는 불가능한 일이었으며 뛰어난 컴퓨트도 뒷받침됐습니다. 그다음이 그들이 만든 연구 문화입니다. 구글 안에 있던 두 조직, 곧 세계 최고 수준의 구글 브레인과 옛 딥마인드를 하나로 모으고, 최고의 사람과 최고의 아이디어를 끌어모아 할 수 있는 가장 좋은 시스템을 만들었습니다.

힘든 과정이었지만 모두가 경쟁심이 강하고 연구를 사랑한다고 그는 말합니다. 2년 전에서 1년 전, 그리고 지금으로 이어지는 궤적이 당연히 주어진 것은 아니었고, 가장 중요한 것은 진보의 속도입니다. 그들은 이것을 쉼 없는 진보라고 부르며, 그 진보를 쉼 없이 출시해 온 것이 성과로 이어졌습니다. AI 분야 전체가 믿기 어려울 만큼 경쟁적인데, 세계 최고의 창업자와 기업들이 모두 뛰어든 것은 AI가 얼마나 중요한지를 다들 깨달았기 때문입니다.

스타트업처럼 움직이는 거대 기업

프리드먼은 거대 기업에서 자연히 생기는 관료제를 짚습니다. 회의가 늘고 관리자 계층이 쌓이는데, 그 속에서 출시 속도를 유지하려면 리더십 관점에서 무엇을 뚫어야 하느냐는 질문입니다. 지난 몇 년간 나온 제미나이 관련 제품의 수가 비정상적으로 많다는 말도 덧붙입니다.

하사비스는 그것이 바로 쉼 없음의 모습이라고 답합니다. 큰 회사라면 어디든 관리 계층이 여러 겹 생기는 것이 일의 속성이지만, 자신은 옛 딥마인드 시절부터 늘 스타트업처럼 움직여 왔고 규모가 커졌어도 그 방식은 그대로라고 말합니다. 구글 딥마인드도 오늘 같은 방식으로, 결단력 있게 그리고 좋은 소규모 조직에서 나오는 에너지로 움직인다는 것입니다. 거기에 양쪽의 장점을 합치려 합니다. 수십억 명이 쓰는 제품 표면이 있고 그것을 자신들의 AI와 연구로 강화할 수 있는데, 세계적 수준의 연구를 하고 그것을 다음 날 수십억 명의 삶에 꽂아 넣을 수 있는 곳은 세상에 몇 군데 없습니다. 그래서 그들은 연구 문화와 쉼 없는 출시 문화가 자라도록 관료제를 계속 걷어 내고 있으며, 동시에 큰 회사로서 져야 할 책임도 함께 감당하고 있다고 말합니다.

프리드먼은 그 수십억 명이라는 표면과 관련해 한 가지 일화를 꺼냅니다. 대영박물관에서 만난 쐐기문자 세계 최고 전문가 어빙 핀켈(Irving Finkel)이 ChatGPT도 제미나이도 모르고 AI 자체를 모르는데, 그가 처음 마주한 AI가 구글 검색의 AI 모드였다는 것입니다. 세상에는 아직 이 AI라는 것을 모르는 사람이 아주 많다는 사실을 일깨워 준 장면입니다. 하사비스도 웃으며, 엑스에 살다 보면 온통 AI 이야기이고 실리콘밸리의 어떤 구역에서는 모두가 AI만 생각하지만, 평범한 세상의 많은 부분은 아직 AI를 마주한 적이 없다고 답합니다.

프리드먼은 그 첫 접촉이 큰 책임이라고 말합니다. 인도의 농촌이든 세계 어디든 마찬가지입니다. 하사비스는 그래서 최대한 좋게 만들고 싶고, 많은 경우에는 지도나 검색이 더 잘 작동하도록 뒤에서 작동하는 방식이라고 답합니다. 많은 사람에게는 그것이 이상적으로는 매끄럽게 느껴져야 하며, 삶을 더 생산적으로 만들어 주는 새 기술로 다가가면 된다는 것입니다.

모델 앞을 비켜 주는 설계

프리드먼은 제미나이 제품과 엔지니어링 팀 사람들이 하사비스를 깊은 과학자로서만이 아니라 뛰어난 제품 책임자로 평가하더라고 전하며, 많은 사람이 즐겨 쓰는 AI 제품을 만드는 데 무엇이 필요한지를 묻습니다. 하사비스는 다시 게임 디자인 시절로 돌아갑니다. 수백만 명의 게이머를 위해 게임을 설계해 봤고, 1990년대의 게임이야말로 최첨단 기술이 곧 제품이던 영역이었다는 사실을 사람들이 잊곤 한다는 것입니다.

그는 최첨단 연구가 제품에 적용돼 새로운 경험을 만들어 내는 조합을 좋아합니다. 그 일에 필요한 기술은 결국 같다고 봅니다. 쓰는 순간이 어떤 느낌일지 몸으로 그려 보는 능력, 그리고 앞 절에서 이야기한 좋은 취향입니다.

과학에서 쓸모 있는 것이 제품 설계에서도 쓸모 있다는 것입니다. 그는 늘 다학제적인 사람이어서 예술과 과학, 제품과 연구 사이에 경계를 느끼지 않으며 그것이 하나의 연속체라고 말합니다. 그래서 평범한 제품에는 흥미를 느끼지 못하고, 밑바닥에 최첨단 기술이 깔려 발명과 창의가 필요한 제품에 끌립니다.

프리드먼은 더 구체적으로 묻습니다. 화면 배치와 인터페이스, 응답 지연을 어디까지 감수할지, 기다리는 시간을 어떻게 보여 줄지, 추론 능력을 어떻게 드러낼지 같은 것들입니다. 하사비스는 워낙 빠르게 변하는 영역이라 늘 평가 중이지만, 지금 시점의 답은 계속 단순화하라는 것이라고 말합니다.

인터페이스든 모델 위에 얹은 무엇이든, 모델 앞을 비켜 주는 쪽이 맞습니다. 모델이라는 기차가 선로를 따라 믿기 어려운 속도로 달려오고 있기 때문입니다. 2.5와 1.5의 차이만 봐도 엄청난 개선이고, 다음 버전들도 같을 것으로 기대합니다.

그래서 AI 우선 제품의 설계 공간에는 특이한 조건이 붙습니다. 오늘 기술이 할 수 있는 것이 아니라 1년 뒤에 할 수 있는 것을 기준으로 설계해야 한다는 것입니다. 그러려면 상당히 기술적인 제품 담당자여야 합니다. 지금 꿈꾸는 그것이 오늘은 안 되지만 연구 일정이 6개월이나 1년 뒤에 그 지점에서 만나 줄지를 감으로 읽어야 하기 때문입니다. 변화하는 기술이 어디로 가는지를 가로채듯 맞춰야 하고, 영상 생성 같은 새 능력이 올라올 때마다 그것으로 무엇을 할지도 정해야 합니다.

그가 던지는 질문 하나는 지금의 사용자 인터페이스, 곧 텍스트 입력창과 대화창이 정말 최종 형태이겠느냐는 것입니다. 초멀티모달 시스템을 생각하면 그럴 가능성은 매우 낮아 보입니다. 영화 마이너리티 리포트(Minority Report)처럼 시스템과 함께 흐름을 타며 협업하는 쪽이어야 하지 않겠느냐는 것이고, 지금의 방식은 지나치게 제한적으로 보입니다. 그는 몇 년만 지나면 오늘의 인터페이스와 제품을 꽤 구식으로 돌아보게 될 것이며, 연구만큼이나 제품 쪽에도 혁신의 여지가 크다고 말합니다.

프리드먼이 키보드 이야기를 꺼내며 음성이 주된 상호작용 방식이 되는 시점과 정도를 묻자, 하사비스는 타이핑이 아무리 빨라도 대역폭이 매우 낮은 방식이라고 답합니다. 그래서 스마트 안경이나 무선 이어폰, 나아가 어떤 형태의 신경 장치까지 다른 기기들을 쓰게 될 것이고, 입력과 출력의 대역폭을 지금의 100배 수준으로 끌어올려야 한다고 봅니다. 프리드먼은 인터페이스 설계가 과소평가된 예술이라며, 올바른 인터페이스가 없으면 지능의 힘을 끌어낼 수 없다고 말합니다.

하사비스는 그것이 스티브 잡스(Steve Jobs)가 늘 말하던 단순함과 아름다움, 우아함의 문제라고 받습니다. 자기 생각에는 아직 누구도 그 자리에 이르지 못했고, 자신이 가고 싶은 곳이 거기입니다. 그는 다시 바둑을 끌어와 가장 우아하고 아름다운 게임만큼 아름다운 인터페이스를 만들 수 있겠느냐고 묻습니다.

그리고 AI가 만들어 내는 인터페이스의 시대가 올 것으로 봅니다. 쓰는 사람의 미감과 감각, 사고방식에 맞춰 개인화되고 과업에 따라 그때그때 생성되는 인터페이스입니다. 프리드먼이 모든 설정을 화면에 띄우고 단축키로 움직이는 숙련 사용자가 있는가 하면 최소주의를 좋아하는 사람도 있다고 하자, 하사비스는 그 복잡성을 전부 숨기면 되는 일이라고 답합니다.

버전 숫자 뒤에서 벌어지는 일

프리드먼은 농담 삼아 제미나이 3이 언제 나오는지, 오래 기다려 온 어느 게임 신작보다 먼저인지 뒤인지를 묻습니다. 그리고 2.5에서 3.0으로 가는 것이 무엇을 뜻하는지를 진지하게 묻습니다. 2.5 계열만 해도 이미 성능 도약이 여러 번 있었기 때문입니다.

하사비스는 버전 번호가 붙는 방식부터 설명합니다. 새 버전 하나를 완전히 학습시키고 제품화까지 마치는 데 대략 6개월쯤 걸립니다. 그동안 흥미로운 연구 반복과 아이디어가 쌓이는데, 구조에 관한 것도 있고 데이터에 관한 것도 있습니다. 그 6개월치를 한데 모아 다음 반복에 유용할 만한 것을 추려 묶은 뒤, 거대한 히어로 학습 실행을 시작하고 그 과정을 지켜봅니다.

사전학습이 끝나면 사후학습 단계가 이어지고, 여기에도 방식이 여럿이며 패치를 넣는 방법도 여럿입니다. 실험이 이뤄지는 이 구간에서도 상당한 개선이 나옵니다. 그래서 버전 번호는 대개 기반이 되는 사전학습 모델을 가리키고, 2.5 같은 중간 버전과 크기별 변형, 자잘한 추가는 같은 기본 구조 위에서 이뤄진 패치나 사후학습 아이디어인 경우가 많습니다.

여기에 크기별 모델이 더해집니다. 프로와 플래시, 플래시라이트가 있고, 작은 모델은 대개 가장 큰 모델에서 증류해 만듭니다. 플래시는 프로에서 나오는 식입니다.

그래서 개발자는 성능을 우선할지 속도와 비용을 우선할지 고를 수 있습니다. 하사비스는 이것을 파레토 프런티어로 생각한다고 말합니다. 세로축이 성능이고 가로축이 비용이나 응답 지연인데, 자신들의 모델이 그 경계선을 통째로 정의하고 있어서 어떤 절충을 원하든 맞는 모델이 하나 있을 것이라는 설명입니다.

프리드먼은 그러니까 버전 변화 뒤에는 거대한 학습 실행이 있고, 그다음 제품화의 복잡성이 있으며, 파레토 경계선을 따라 크기별로 증류하는 작업이 있고, 거기에 곁가지 과제들이 붙는 것이라고 정리합니다. 하사비스는 그렇다며, 다만 곁가지를 너무 많이 벌이면 버전과 제품이 백만 개로 늘어난다고 덧붙입니다. 그리고 제품 표면과 사후학습에서 나온 아이디어를 다시 상류로 끌어올려 다음 실행의 핵심 모델 학습에 넣는 과정이 계속된다고 말합니다. 그렇게 제미나이의 본류가 점점 더 범용적이 되고 결국 AGI가 된다는 것입니다. 프리드먼이 히어로 실행 하나로 끝나는 것이냐고 묻자, 그는 몇 번의 히어로 실행을 더 거친 뒤라고 답합니다.

벤치마크로는 다 측정되지 않는 것

프리드먼은 벤치마크가 모델의 성능을 보여 주는 데 도움이 되는지 오히려 해가 되는지를 묻습니다. 하사비스는 필요하긴 하지만 거기에 과적합하지 않는 것이 중요하며 그것이 전부가 되어서는 안 된다고 답합니다. 전에 LMSYS로 불리던 LM아레나처럼 자연스럽게 사람들이 챗봇을 시험하는 주된 방식이 된 것이 있고, 수학과 코딩, 언어와 과학 능력을 재는 학술 벤치마크도 많으며, 자체 내부 벤치마크도 따로 있습니다.

그가 강조하는 것은 이것이 다목적 최적화 문제라는 점입니다. 한 가지만 잘해서는 안 되고 전 영역에서 고른 범용 시스템을 만드는 것이 목표이므로, 후회할 일이 없는 개선을 하려 합니다. 코딩이 좋아지되 다른 영역의 성능이 깎이지 않아야 한다는 뜻입니다. 코딩 데이터를 더 넣거나 게임 데이터를 더 넣을 수는 있지만 그것이 언어나 번역 능력을 해치는지 확인해야 해서, 점점 커지는 벤치마크 묶음을 계속 지켜봐야 합니다. 그리고 모델이 제품에 들어가면 코더든 일반 이용자든 실제 사용과 지표, 신호를 함께 보게 됩니다.

프리드먼은 결국 측정하고 싶은 것은 유용함인데 그것을 숫자로 바꾸기가 너무 어렵다고 말합니다. 많은 이용자에게서 오는 감각 기반의 평가에 기댈 수밖에 없고, 훨씬 똑똑한 모델을 만들었는데 무언가 감각적으로 어긋나 있는 상황은 무섭다는 것입니다. 전에 풀지 못하던 프로그래밍 문제를 풀게 됐는데 시를 쓰는 능력은 나빠지는 식의 균형 문제입니다. 하사비스는 균형을 잡는 일이라고 받고, 프리드먼은 벤치마크를 온전히 믿을 수 없으니 결국 최종 이용자를 믿어야 한다고 정리합니다.

하사비스는 여기에 더 미묘한 요소들이 끼어든다고 덧붙입니다. 시스템의 페르소나와 말투가 그렇습니다. 장황한지 간결한지, 유머가 있는지 같은 것들이고 사람마다 선호가 다릅니다. 그는 이것이 거의 최첨단 심리학 연구나 성격 연구에 가깝다고 말하며, 자신이 박사 과정에서 5요인 성격 모형을 다뤘다는 점을 꺼냅니다.

우리 시스템이 어떤 성격이기를 원하는가라는 질문이고, 사람마다 답이 다를 것입니다. 그는 이것들이 제품 영역에서 한 번도 제대로 다뤄진 적 없는 새 문제이며 이제 빠르게 상대해야 한다고 말합니다. 프리드먼은 그 성격을 빚는 일이 결국 우리 자신을 비추는 거울이 된다며, 프롬프트로 조절할 수 있는 것들을 제품이 더 쉽게 고를 수 있게 해 줄 수 있겠느냐고 묻고 하사비스는 그렇다고 답합니다.

해설
하사비스가 거명한 코리와 오리올은 녹취록 표기가 불분명한데, 맥락상 구글 딥마인드의 최고기술책임자 코라이 카부크추오을루와 제미나이 개발을 공동으로 이끄는 오리올 비냘스를 가리키는 것으로 보입니다. 제프 딘은 구글의 수석 과학자이자 구글 브레인을 만든 인물입니다. 하사비스가 말하는 두 조직의 통합은 2023년 구글 브레인과 딥마인드를 구글 딥마인드 하나로 합친 조직 개편을 가리킵니다.

모델 크기별 계열과 증류도 이 절을 이해하는 열쇠입니다. 증류는 크고 성능 좋은 모델의 출력을 교사로 삼아 작은 모델을 학습시키는 기법으로, 작은 모델이 자기 크기에 비해 좋은 성능을 내게 만듭니다. LM아레나는 이용자가 두 모델의 답을 블라인드로 비교해 투표하는 방식의 공개 순위표이고, 5요인 성격 모형은 사람의 성격을 다섯 축으로 기술하는 심리학의 표준 틀입니다.

[관점]
파레토 경계선을 통째로 정의한다는 표현은 기술 자랑이 아니라 시장 전략의 요약입니다. 성능이 가장 좋은 모델 하나로 경쟁하는 대신 비용과 지연까지 포함한 선택지 전체를 자사 제품군으로 덮으면, 개발자가 어떤 조건을 고르든 이탈할 이유가 사라집니다. 자체 칩과 자체 데이터센터를 가진 쪽이 단가 측면에서 이 전략을 더 멀리 밀어붙일 수 있다는 점도 함께 봐야 합니다.

벤치마크 과적합을 경계한다는 말은 업계 전반의 평가 위기와 맞닿아 있습니다. 공개 벤치마크는 점수가 공표되는 순간 학습 대상이 되기 쉽고, 그래서 평가의 무게가 블라인드 비교와 실제 사용 지표 쪽으로 옮겨 가는 중입니다. 다만 이 이동에는 대가가 있는데, 이용자 선호는 정확성보다 말투와 동조 성향에 쉽게 끌릴 수 있어 측정 기준이 느슨해질 위험이 함께 커집니다.

[이해관계]
1년 만에 졌다가 이겼다는 서사는 프리드먼이 먼저 꺼냈지만, 그것을 받아 설명하는 사람은 그 조직의 최고경영자입니다. 여기서 제시되는 전환의 원인, 곧 인재와 연구 문화와 관료제 제거는 모두 현 경영진의 선택을 성과의 원인으로 지목하는 설명이며, 통합 과정에서 두 연구 조직이 겪은 마찰이나 인력 이탈 같은 비용은 이 대담에서 다뤄지지 않습니다.

그가 제품 감각을 강조하는 맥락도 함께 읽을 만합니다. 연구 조직의 수장이 제품 책임자로서의 자격을 설명하는 자리이고, 이는 연구와 제품을 한 사람이 통합 지휘하는 구조 자체를 정당화하는 서술이기도 합니다.

이기고 지는 문제가 아니라는 말

프리드먼은 단도직입으로 구글 딥마인드가 이길 확률을 묻습니다. 하사비스는 이긴다는 틀 자체가 잘못된 관점이라고 답합니다. 자신들이 만들고 있는 것이 그만큼 중요하고 파급이 크기 때문입니다. 그는 자기 사고방식의 상당 부분이 승부에 맞춰져 있는데도 이 일만큼은 게임이나 경쟁으로 보지 않으려 한다고 말합니다. 선두에 선 이들에게는 엄청난 이로움과 동시에 위험을 품은 이 기술을 인류의 이익을 위해 안전하게 세상에 들여놓을 책임이 있다는 것이 그의 관점입니다. 그것이 늘 꿈꿔 온 일이며, AGI에 가까워져 그 필요가 분명해지면 결국 업계와 국제사회가 그 깃발 아래 모이기를 바란다고 말합니다.

프리드먼은 하사비스가 다른 연구소 수장들과도 좋은 관계를 유지해 왔다고 밝혀 온 점을 들어, 경쟁이 달아오르는 가운데 그 관계를 지키기가 얼마나 어려운지를 묻습니다. 하사비스는 지금까지는 괜찮았다고 답합니다. 그는 자신이 협업적인 사람이라는 점을 자부하며, 연구와 과학 자체가 협업적 활동이라고 말합니다. 끔찍한 병을 고치는 치료법이 나온다면 결국 인류 전체의 순이익이고, 에너지를 비롯해 그가 AI로 풀고 싶은 문제들도 마찬가지입니다. 그래서 그 기술이 세상에 존재하고 올바른 곳에 쓰이며 생산성의 혜택이 모두에게 나뉘기를 바랄 뿐이라는 것입니다.

그는 선두 연구소 사람들과 좋은 관계를 유지하려 애쓰고 있고, 예상하시겠지만 그중 다수가 아주 흥미로운 인물들이라고 말합니다. 사실상 모두와 좋은 사이라고 생각하며, 상황이 지금보다 더 심각해질 때 그 소통 채널이 중요해질 것이라고 봅니다. 협력이나 공조가 필요해질 때, 특히 안전 문제에서 그것을 가능하게 해 주는 것이 그런 채널이기 때문입니다.

프리드먼은 위험 부담이 낮은 일에서의 협업이 그 관계를 유지하는 장치가 되기를 바란다고 말합니다. 예컨대 하사비스와 머스크가 함께 비디오 게임을 만든다면 인터넷이 반길 것이고, 둘 다 진짜 게이머이니 동료 의식을 쌓는 일이 될 것이라는 농담입니다. 하사비스는 멋진 일이 될 것이라며 과거에 그런 이야기를 나눈 적이 있고 언젠가 해 볼 만한 일일 수 있다고 답합니다. 협업 자체에 기댈 수 있는 곁가지 프로젝트가 있으면 양쪽 모두에게 득이고 협업의 근육을 키워 준다는 데 동의합니다.

프리드먼은 인류 차원에서 그 곁가지 프로젝트에 해당하는 것이 과학이라고 말합니다. 구글 딥마인드가 그 방향을 밀어붙여 왔고, 다른 연구소들도 과학을 더 많이 하면서 협업하면 좋겠다는 것입니다. 큰 과학적 질문에서는 협업이 더 쉬워 보이기 때문입니다. 하사비스도 동의하면서 한 가지를 덧붙입니다.

다른 연구소들도 과학을 이야기하지만 실제로 과학에 쓰고 있는 곳은 자신들뿐이라고 생각한다는 것입니다. 그래서 알파폴드 같은 프로젝트가 자신과 조직의 사명에 중요하며, AI가 인류에 어떻게 구체적으로 이로울 수 있는지를 보여 주기 때문입니다. 알파폴드를 바탕으로 신약 개발을 하는 아이소모픽(Isomorphic) 같은 회사를 분사시켜 성과를 내고 있고, 화학 공간으로 들어가 약물 설계를 가속하는 알파폴드형 시스템을 더 만들 수도 있습니다. 그는 AI가 거대한 이익을 가져오는 사례를 보여 주어야 하고 사회가 그것을 이해해야 한다고 말합니다.

연봉 경쟁과 그 너머

프리드먼은 인재 전쟁처럼 보이는 상황을 꺼냅니다. 일부는 밈에 가깝겠지만, 메타가 막대한 연봉으로 인재를 사들이며 경쟁이 달아오르는 것을 어떻게 보느냐는 질문입니다. 그는 많은 사람이 딥마인드를 최첨단 연구를 하기 좋은 곳으로, 활기찬 과학 문화가 있는 곳으로 본다는 말도 덧붙입니다.

하사비스는 메타가 지금 취하는 전략이 있다는 점을 인정하면서 답합니다. 적어도 자기가 보기에 AGI의 사명을 진짜로 믿고 그 결과가 좋은 쪽으로든 나쁜 쪽으로든 무엇을 뜻하는지, 그 책임이 무엇을 수반하는지를 아는 사람들은 대체로 자신과 같은 이유로 이 일을 합니다. 연구의 최전선에 서서 그 방향에 영향을 미치고 기술을 안전하게 세상에 들여놓으려는 것입니다. 그리고 메타는 지금 그 최전선에 있지 않다고 그는 말합니다. 다시 올라설 수도 있고, 뒤처져 있으니 무언가를 해야 한다는 점에서 그쪽 입장에서는 합리적인 선택일 것이라고 덧붙입니다. 다만 돈보다 중요한 것들이 있다고 봅니다. 물론 사람에게 시장 가격을 지불해야 하고 그 가격은 계속 오르고 있습니다.

그는 이런 상황을 예상하고 있었다고 말합니다. 기업의 리더들이 자신이 30년 넘게 알고 있던 사실, 곧 AGI가 아마도 지금까지 발명된 것 중 가장 중요한 기술이라는 사실을 뒤늦게 깨닫고 있기 때문입니다. 그런 점에서 보면 지금의 행동도 합리적입니다. 다만 그는 더 큰 질문이 따로 있다고 말합니다.

요즘 AI 분야 사람들은 보수를 아주 잘 받습니다. 2010년 창업 당시 그는 자금을 모을 수 없어 2년 가까이 자기 급여를 가져가지 못했는데, 요즘은 인턴 한 명에게 당시 첫 시드 라운드 전체와 맞먹는 금액이 지급된다고 말합니다. 자신은 무보수로 일하고 인턴십을 하려면 거의 자비를 들여야 했는데 지금은 정반대이며, 그것이 새로운 세상의 모습이라는 것입니다.

그러면서 그는 앞서 나눈 이야기로 돌아갑니다. AGI 이후에 에너지 문제까지 풀린 세계에서 돈이 무엇을 뜻하게 될지, 그 경제와 기업이 어떻게 작동할지가 훨씬 큰 숙제라는 것입니다. 그래서 오늘의 연봉 수준은 다소 곁가지 문제라고 그는 정리합니다. 프리드먼이 그만큼 거대한 결과와 매혹적인 과학적 질문을 마주하고 있으니 그렇다고 받자, 하사비스는 그것이 불과 몇 년 뒤일 수도 있다고 덧붙입니다.

해설
하사비스가 언급한 아이소모픽랩스는 알파폴드의 성과를 신약 개발에 적용하기 위해 2021년 알파벳 산하에 세워진 회사이며, 하사비스 본인이 최고경영자를 겸하고 있습니다. 2024년에는 일라이 릴리, 노바티스와 공동 연구 계약을 맺었고 2025년에는 외부 투자도 유치했습니다. 그가 화학 공간으로 들어가는 알파폴드형 시스템을 말하는 것은 단백질 구조에서 분자 설계로 범위를 넓히겠다는 뜻입니다.

메타의 움직임은 2025년 여름에 집중적으로 알려졌습니다. 메타는 초지능 연구소를 새로 꾸리고 데이터 라벨링 기업 지분을 대규모로 인수했으며, 주요 연구자들에게 업계 기준을 훌쩍 넘는 보수를 제시한 것으로 보도됐습니다. 이 대담이 녹음된 2025년 7월은 그 소식이 한창 돌던 시점입니다.

[이해관계]
메타가 최전선에 있지 않다는 평가는 경쟁사 수장이 인재 시장을 향해 내놓은 발언이라는 점을 함께 봐야 합니다. 같은 자리에서 그는 돈보다 사명이 중요하다고 말하는데, 이는 연봉으로 경쟁하기 어려운 조직이 택할 수 있는 가장 효과적인 방어 논리이기도 합니다.

아이소모픽랩스를 성과 사례로 드는 대목도 마찬가지입니다. 그 회사의 최고경영자가 하사비스 본인이고 모회사가 알파벳이므로, AI가 과학에 이롭다는 논증과 자신이 이끄는 사업의 홍보가 같은 문장 안에서 겹칩니다. 발언의 사실관계가 틀렸다는 뜻이 아니라 발화 위치가 그렇다는 뜻입니다.

[반론]
실제로 과학에 쓰고 있는 곳은 자신들뿐이라는 평가에는 이견의 여지가 있습니다. 다리오 아모데이는 「Machines of Loving Grace」에서 AI가 생물학과 의학의 진보를 압축하는 그림을 논증의 중심에 두었고, 앤트로픽은 그 방향의 연구 지원과 협업을 공개해 왔습니다. 오픈AI도 2025년에 과학 연구를 겨냥한 별도 조직을 꾸렸다고 밝혔습니다.

다만 비교의 기준을 성과물로 좁히면 하사비스의 주장에 상당한 근거가 생깁니다. 알파폴드와 알파지놈, 기상 예측 모델처럼 특정 과학 문제를 직접 겨냥해 만들어진 모델을 계열로 갖춘 곳은 현재로서는 구글 딥마인드가 사실상 유일하기 때문입니다. 쟁점은 과학을 하느냐가 아니라 범용 모델로 과학을 돕는 것과 과학 전용 모델을 만드는 것 중 무엇을 과학이라 부르느냐에 가깝습니다.

코딩이 먼저 열린 이유

프리드먼은 일자리 이야기로 내려옵니다. AI 시스템이 프로그래밍에서 특히 잘하고 있고 점점 더 그렇기 때문에, 프로그래밍으로 먹고살며 프로그래밍을 사랑하는 사람들이 일자리를 잃을까 걱정한다는 것입니다. 얼마나 걱정해야 하는지, 그리고 새 현실에 적응해 살아남고 잘해 나가려면 어떻게 해야 하는지를 묻습니다.

하사비스는 흥미로운 역설부터 짚습니다. 몇 년 전만 해도 우리가 생각하던 것과 정반대로, 어려운 기술이라 여기던 것들이 오히려 더 쉬운 쪽으로 드러나고 있다는 것입니다. 코딩과 수학이 그렇습니다. 이 영역에서는 합성 데이터를 대량으로 만들어 낼 수 있고 그 데이터가 맞는지 검증할 수 있기 때문입니다. 그런 성질 덕분에 학습에 쓸 합성 데이터를 만들기가 쉽습니다. 게다가 연구자들 자신이 프로그래머이기도 해서 더 빠르고 생산적으로 일하는 데 직접 도움이 되는 영역이기도 합니다.

앞으로의 시대, 그러니까 5-10년을 그는 이렇게 봅니다. 이 기술을 끌어안고 거의 한 몸처럼 쓰게 되는 사람들은 창의 산업에서든 기술 산업에서든 초인적으로 생산적이 될 것입니다. 뛰어난 프로그래머는 더 뛰어나지고 지금보다 10배까지도 갈 수 있는데, 자기 역량으로 도구를 끝까지 활용하고 최대한 쥐어짜 쓸 수 있기 때문입니다. 그 과정에서 상당한 변화가 일어나고 많은 사람이 혜택을 봅니다.

한 가지 사례로 그는 코딩이 쉬워지면 훨씬 많은 창작자가 더 많은 것을 할 수 있게 된다는 점을 듭니다. 그럼에도 최상위 프로그래머의 우위는 크게 남는데, 구조를 어떻게 잡을지 명세하는 일, 코딩 보조 도구를 쓸모 있게 이끄는 일, 그리고 나온 코드가 좋은지 확인하는 일이 그들의 몫이기 때문입니다. 적어도 앞으로 몇 년 동안은 그 여지가 충분하다고 그는 봅니다.

프리드먼은 두 가지를 덧붙입니다. 하나는 이 도구를 쓰는 솜씨를 꾸준히 끌어올려야 한다는 당위입니다. 좋아지는 모델과 경쟁하는 대신 그 파도를 타야 한다는 것입니다. 다른 하나는 가치의 재배치입니다.

최첨단의 어떤 프로그래밍에는 막대한 가치가 생기고 다른 종류의 프로그래밍에는 가치가 줄어들 수 있습니다. 예컨대 프런트엔드 웹 디자인은 생성에 더 쉽게 내줄 수 있는 반면, 게임 엔진 설계나 백엔드 설계, 고성능 환경에서의 설계 판단 같은 것은 대단히 귀해질 수 있습니다. 사람이 가장 필요한 자리가 옮겨 간다는 뜻이고, 그 사실이 사람들에게는 두렵다는 것입니다.

산업혁명의 100배, 그리고 분배

하사비스도 그 진단에 동의합니다. 큰 혼란과 변화가 있을 때면 늘 그랬고, 이번이 처음도 아니라는 것입니다. 인터넷과 모바일이 그랬고 그 전에는 산업혁명이 그랬습니다. 지금은 상상조차 못 하는 새 직업들이 생길 것이고, 인터넷이 그랬듯 그럴 것입니다. 그 파도를 탈 역량을 갖춘 사람들의 기술은 엄청나게 값져지겠지만, 많은 사람은 기존 기술을 다시 배우거나 어느 정도 바꿔야 할 것입니다.

이번에 더 어려운 점은 규모와 속도입니다. 그가 보기에 이번 변화는 산업혁명의 10배쯤 되는 영향을 10배 빠르게 가져옵니다. 100년에 걸칠 일이 10년에 벌어진다는 뜻이고, 영향과 속도를 합치면 100배에 해당합니다. 그래서 사회가 감당하기가 더 어려워질 것이고 생각해 볼 것이 많으며, 지금 당장 논의해야 한다고 그는 말합니다.

그는 세계 최고의 경제학자와 철학자들이 사회가 어떤 영향을 받을지, 우리가 무엇을 해야 할지를 고민하기 시작하기를 촉구합니다. 거기에는 보편적 기본 제공 같은 것도 들어갑니다. 늘어난 생산성의 상당 부분을 사회로 나누어 분배하는 방식이고, 어쩌면 서비스의 형태가 될 수도 있습니다. 그보다 더 원하는 사람은 여전히 희귀한 기술을 익혀 자신을 특별하게 만들면 되지만, 바닥에 깔리는 기본 제공은 보장된다는 구상입니다.

프리드먼은 정부를 하나의 기술로 본다면 경제학만이 아니라 정치에서도 흥미로운 질문이 생긴다고 말합니다. 빠르게 변하는 시대에 반응하면서 집단마다 다른 고통을 대변하고, 그 고통을 다루도록 자원을 재배분하며, 희망과 두려움을 분열로 이어지지 않게 담아내는 체제를 어떻게 설계하느냐는 질문입니다. 정치인들은 분열을 부추겨 당선되는 데 능하고 바깥의 누군가를 규정해 나쁜 쪽으로 몰아가곤 하는데, 그것은 빠르게 변하는 기술로 세상을 번성시키는 일에 역효과를 냅니다. 그래서 정치 체제 자체도 기술처럼 빠르게 개선해야 한다는 것입니다.

하사비스는 분명히 그렇다고 답합니다. 이 전환을 돕기 위해 새로운 거버넌스 구조와 제도가 필요할 것이고, 정치철학과 정치학이 그 열쇠가 될 것이라고 봅니다. 다만 순서를 분명히 합니다. 첫 번째로 해야 할 일은 자원의 풍요를 더 만들어 내는 것, 곧 생산성을 높여 자원을 늘리고 결국 제로섬 상황에서 벗어나는 일입니다. 그 자원을 어떻게 쓰고 어떻게 나눌지는 두 번째 질문이며, 풍요가 먼저 있지 않으면 그 일 자체가 불가능하다는 것입니다.

해설
코딩과 수학이 먼저 열린 이유는 데이터의 성질에 있습니다. 코드는 실행해 보면 맞는지 틀린지가 즉시 드러나고 수학 증명은 형식적으로 검증할 수 있어서, 사람이 일일이 채점하지 않아도 학습 신호를 자동으로 만들어 낼 수 있습니다. 앞 절들에서 반복된 자동 채점 가능성이라는 조건이 여기서도 그대로 작동하는 셈이며, 반대로 글쓰기나 상담처럼 정답이 없는 영역에서 같은 속도가 나오지 않는 이유이기도 합니다.

산업혁명과의 비교에는 기준점이 필요합니다. 영국에서 시작된 1차 산업혁명은 대략 18세기 후반부터 19세기 중반까지 진행됐고, 그 과정에서 농업 중심 고용 구조가 공업과 도시로 옮겨 가는 데 여러 세대가 걸렸습니다. 하사비스가 100년을 10년으로 줄여 말하는 것은 같은 규모의 재배치가 한 사람의 경력 안에서 일어난다는 뜻입니다.

[관점]
속도가 10배라는 주장의 진짜 무게는 총량이 아니라 조정 비용에 있습니다. 과거의 기술 전환에서 사라진 일자리보다 생겨난 일자리가 많았다는 사실은 대체로 맞지만, 그 전환은 세대에 걸쳐 일어나 한 사람이 평생의 기술을 바꾸지 않아도 되는 경우가 많았습니다. 10년 안에 같은 폭의 재배치가 일어나면 새 일자리가 생기더라도 그 일자리를 가져가는 사람이 밀려난 사람과 다를 가능성이 커집니다.

프로그래밍 직군 안에서의 재배치도 같은 논리를 따릅니다. 명세와 구조 설계, 결과 검증처럼 판단이 핵심인 일은 가치가 오르고 정형화된 구현은 값이 내려가는데, 문제는 전자가 대개 후자를 오래 해 본 사람에게서 길러진다는 점입니다. 입문 단계의 일이 먼저 사라지면 다음 세대의 숙련을 만들어 내는 경로 자체가 가늘어집니다.

[한국 관점]
한국 소프트웨어 산업의 상당 부분은 시스템통합(SI)과 수탁 개발로 돌아가고, 과금은 전통적으로 투입 인력과 기간을 기준으로 산정돼 왔습니다. 생성형 도구가 구현 단계의 작업량을 줄이면 이 과금 구조는 수익이 줄어드는 방향으로 직접 압박을 받습니다. 생산성이 오를수록 매출이 줄어드는 역설이 생기기 때문입니다.

그래서 쟁점은 도구 도입 여부가 아니라 계약 구조의 전환에 가깝습니다. 투입량이 아니라 산출물과 성과를 기준으로 값을 매기는 방식으로 옮겨 가지 못하면, 도구가 좋아질수록 발주처만 이득을 보는 구도가 됩니다. 입문 개발자를 대규모로 채용해 현장에서 숙련시켜 온 관행도 함께 흔들리므로, 인력 양성 경로를 어디에 다시 둘지가 산업 차원의 과제로 남습니다.

폰 노이만이라면 지금을 어떻게 볼까

프리드먼은 하사비스가 추천했던 벤하민 라바투트(Benjamín Labatut)의 책 『The Maniac』을 꺼냅니다. 하사비스 자신에 관한 서술이 들어 있는 책인데, 어디까지가 허구이고 어디까지가 사실인지 분명하지 않다는 말에 하사비스는 묘한 일이라고 답합니다. 프리드먼은 그 책의 중심 인물이 존 폰 노이만(John von Neumann)이라며, 광기와 천재성, 그리고 발견이라는 양날의 검을 다룬 아름답고도 서늘한 탐구라고 소개합니다. 폰 노이만은 양자역학에 기여했고 맨해튼 프로젝트에 참여했으며 현대 컴퓨터와 AI의 아버지 격으로 널리 꼽히는, 인류사에서 가장 머리가 좋았던 사람 중 하나로 거론되는 인물입니다.

프리드먼이 특히 흥미롭게 보는 지점은 그가 핵물리학이 원자폭탄이 되는 과정을 직접 목격했다는 사실입니다. 아이디어가 세상에 거대한 충격을 주는 물건으로 바뀌는 것을 본 사람이고, 컴퓨팅에 대해서도 같은 일을 내다봤다는 것이 그 책의 아름답고도 서늘한 대목입니다. 거기서 한 걸음 더 나가 알파고와 알파제로의 순간은 어쩌면 폰 노이만의 사고가 현실이 된 장면이라고 그는 말합니다. 그래서 지금 폰 노이만과 함께 시간을 보낼 수 있다면 그가 무엇이라 말할 것 같은지를 묻습니다.

하사비스는 그것이 굉장한 경험일 것이라고 답합니다. 그는 폰 노이만이 프린스턴의 고등연구소에서 오랜 시간을 보냈다는 점을 좋아하는데, 생각하기에 아주 특별한 장소이기 때문입니다. 그가 얼마나 박학다식했는지, 그리고 현대 컴퓨터가 모두 기반으로 삼고 있는 폰 노이만 구조를 비롯해 발명에 기여한 범위가 얼마나 넓은지도 놀랍다고 말합니다. 하사비스가 보기에 폰 노이만은 프로그래밍되는 것이 아니라 길러지는 시스템, 곧 학습하는 기계가 가져올 일의 많은 부분을 이미 내다보고 있었습니다. 그래서 오늘의 상황을 좋아했을 것이고, 게임이론을 만든 사람이니 알파고도 즐겼을 것이며, 어쩌면 그리 놀라지도 않았을 것이라고 봅니다. 1950년대에 이미 내다본 것이 결실을 맺은 셈이기 때문입니다.

프리드먼은 그가 어떤 조언을 할지 궁금해합니다. 맨해튼 프로젝트에서 원자폭탄이 만들어지는 과정을 지켜본 사람이므로, 충분히 이야기되지 않은 것들이 있을 것이라는 짐작입니다. 관료적인 측면일 수도 있고, 정치인들의 영향일 수도 있으며, 정치인들이 적이라 부르는 상대에게 전화를 걸어 이야기하는 일이 충분하지 않았다는 점일 수도 있습니다. 그 시대에서 우리가 잃어버린 깊은 지혜가 있을지 모른다는 것입니다.

하사비스도 분명히 있을 것이라고 답합니다. 그는 그 시대를 다룬 책을 많이 읽었고 대단한 사람들이 관여했다고 말하며, 더 많은 대화와 이해가 필요하고 그 시대에서 배울 수 있기를 바란다는 데 동의합니다. 다만 이번에는 차이가 있는데, AI가 다용도 기술이라는 점입니다.

모든 질병을 해결하고 에너지와 희소성을 돕는 일을 하려는 것이고, 그 때문에 자신도 30년 넘게 이 길을 걸어왔습니다. 물론 위험도 함께 있고, 폰 노이만도 양쪽을 다 내다봤을 것이라고 그는 추측합니다. 폰 노이만이 아내에게 컴퓨터가 세상에 더 큰 영향을 줄 것이라고 말했다고 알고 있으며, 앞서 이야기한 대로 산업혁명의 최소 10배라는 점에서 그 말이 맞았다고 봅니다.

차가운 이성만으로는 부족하다

프리드먼은 그 책에서 얻은 교훈 하나를 꺼냅니다. 강력한 기술을 만들어 가는 인류를 인도하기에 이성만으로는 충분하지 않다는 것입니다. 무언가가 더 있고, 신이든 종교든 그것이 주는 것은 차갑고 날것인 이성이 주지 못하는 인간 정신의 어떤 지점을 건드린다는 이야기입니다.

하사비스도 동의합니다. 영적 차원이든 인간주의적 차원이든 이름이야 무엇이든, 그런 차원을 안고 이 일에 접근해야 한다는 것입니다. 꼭 종교일 필요는 없지만 영혼이라는 관념, 무엇이 우리를 인간이게 하는지, 우리가 지닌 이 불꽃이 무엇인지에 관한 감각입니다. 어쩌면 그것은 우리가 마침내 의식을 이해하게 될 때 드러날 문제일 수도 있습니다. 그는 그것이 이 작업의 중심에 있어야 한다고 말하며, 기술은 늘 우리가 번성하고 세계를 더 이해하게 해 주는 도구이자 촉진자라고 봐 왔다고 덧붙입니다.

그가 드는 본보기는 리처드 파인만(Richard Feynman)이 과학과 예술을 동반자로 말하던 방식입니다. 꽃이 얼마나 아름다운지를 느끼는 쪽과 그 색이 왜 그렇게 진화했는지를 이해하는 쪽을 함께 가질 수 있고, 후자는 꽃의 아름다움을 깎는 것이 아니라 더해 준다는 것입니다. 하사비스는 르네상스 시대의 발견자들, 레오나르도 다빈치(Leonardo da Vinci) 같은 사람들도 과학과 예술, 어쩌면 종교 사이에 차이를 두지 않았으리라고 봅니다. 모든 것이 인간으로 존재하는 일, 주변 세계에 영감을 받는 일의 일부였다는 것입니다.

그가 좋아하는 철학자로는 바뤼흐 스피노자(Baruch Spinoza)를 꼽습니다. 우주를 이해하고 그 안에서 우리의 자리를 이해하려는 시도를 하나로 엮어 낸 사람이고, 그것이 스피노자가 종교를 이해하는 방식이었다는 점이 아름답다는 것입니다. 하사비스에게는 이 모든 것이 서로 연결돼 있습니다. 기술과 인간으로 존재한다는 것의 의미가 그렇습니다.

그는 기술과 연구에 깊이 잠겨 있을 때일수록 이것을 기억하는 것이 중요하다고 말합니다. 이 분야의 많은 연구자가 조금 좁아서 기술만 이해한다고 보기 때문입니다. 그래서 이 문제가 사회 전체에서 논의되어야 하고, 그는 AI 정상회의 같은 자리와 정부가 이해하려는 노력을 지지합니다. 챗봇의 시대, 제품의 시대가 가져온 좋은 점 하나는 평범한 사람도 최첨단 AI를 직접 만져 보고 느낄 수 있게 되었다는 것입니다. 프리드먼은 그 덕분에 기술자들이 인간적인 대화를 하지 않을 수 없게 된다고 받습니다.

맨해튼 프로젝트가 아니라 세른처럼

프리드먼은 희망적인 측면을 짚습니다. 이중용도 기술인 AI에 인류 전체가 사실상 강제로 통합되고 있는데, 결국 AGI도 국가가 기술을 쓰는 용도인 갈등에 쓰이게 될 것입니다. 그렇다면 사람들이 직접 대화를 나누며 이 그림 안으로 들어올수록 우리가 방향을 더 잘 이끌 수 있다는 것입니다. 하사비스는 과거의 놀라운 기술들에 늘 그랬듯 사회가 적응해 낼 수 있을 것이라고 답합니다.

프리드먼은 더 직접적으로 묻습니다. 맨해튼 프로젝트 같은 일이 벌어져서 이 기술의 위력이 증폭되고, 국가들이 옛 사고방식 그대로 이것을 무기 기술로 쓰려 하며 상승 작용이 일어나겠느냐는 것입니다. 하사비스는 그렇지 않기를 바란다고 답합니다. 그것은 매우 위험한 일이고 이 기술의 올바른 쓰임도 아니라는 것입니다. 그가 바라는 것은 필요하다면 더 협력적인 형태, 곧 유럽입자물리연구소(CERN) 같은 방식입니다. 연구 중심으로 세계 최고의 두뇌들이 모여 마지막 단계를 신중하게 마무리하고, 세상에 내놓기 전에 책임 있게 되었는지를 확인하는 구조입니다. 지금의 지정학적 분위기에서 협력을 상상하기는 어렵지만 상황은 바뀔 수 있고, 적어도 과학자 차원에서는 연구자들이 그런 주제에 관해 서로 연락을 유지하는 것이 중요하다고 그는 말합니다.

프리드먼은 교육과 이민 쪽을 덧붙입니다. 서방 사람들이 중국으로 가고 중국 사람들이 돌아오는 양방향의 왕래가 있으면 좋겠다는 것입니다. 사람들이 섞이며 생기는 가족적이고 인간적인 측면이 있고 그 유대가 단단해지면 서로를 갈라 세우기 어려워집니다.

다문화이고 다학제인 연구팀이 과학적 질문을 함께 푸는 모습이 그가 말하는 희망이며, 전쟁을 부추기는 지도자들이 우리를 갈라놓게 두지 말아야 하고 과학이야말로 아름다운 연결 고리라는 것입니다. 하사비스는 과학이 늘 매우 협업적인 활동이었고 과학자들은 그것이 집단적 작업임을 알고 있으며 서로에게서 배울 수 있다고 답합니다. 그래서 과학이 약간의 협력을 끌어내는 통로가 될 수 있을지 모른다고 말합니다.

해설
『The Maniac』은 칠레 작가 벤하민 라바투트가 2023년에 낸 소설로, 실존 인물의 기록과 허구적 재구성을 섞어 쓰는 그의 방식이 그대로 적용된 작품입니다. 책은 세 부분으로 나뉘는데 가운데 가장 긴 부분이 폰 노이만을 다루고, 마지막 부분은 알파고와 이세돌의 대국을 다룹니다. 프리드먼이 하사비스에 관한 서술이 들어 있다고 말한 것은 이 마지막 부분을 가리키며, 제목의 매니악은 폰 노이만이 설계에 관여한 초기 컴퓨터의 이름이기도 합니다.

폰 노이만 구조는 프로그램과 데이터를 같은 메모리에 함께 저장하는 설계로, 오늘날 거의 모든 컴퓨터가 이 틀 위에 있습니다. 프린스턴 고등연구소는 교육 과정 없이 연구만 하는 기관으로 아인슈타인과 괴델도 이곳에 머물렀습니다. 하사비스가 좋아한다고 밝힌 스피노자는 신을 인격적 존재가 아니라 자연과 동일한 것으로 본 17세기 철학자로, 우주를 이해하는 일과 경건함을 분리하지 않은 사상가로 읽힙니다.

[관점]
세른형 협력 구상은 듣기 좋은 비유를 넘어 실제 정책 논쟁의 한 축입니다. 반대편에는 맨해튼 프로젝트 비유가 있는데, 미국에서는 의회 산하 자문기구가 AGI 개발을 국가 주도 사업으로 추진하라고 권고한 사례가 있을 만큼 이 틀이 이미 제도권 언어로 쓰이고 있습니다. 하사비스가 굳이 그 비유를 밀어내며 다른 이름을 꺼내는 것은 단순한 취향 표명이 아닙니다.

다만 세른 모델에는 구조적 난점이 있습니다. 세른은 어느 기업도 혼자 지을 수 없는 설비를 여러 나라가 돈을 모아 짓고 결과를 공개하는 모델인데, AI는 민간 자본이 개발을 주도하고 결과물이 곧바로 상업 제품이 된다는 점에서 전제가 다릅니다. 지금의 프런티어 모델들은 이미 각 기업의 핵심 자산이어서, 마지막 단계만 공동으로 마무리하자는 구상이 실제로 어디서부터 적용될 수 있는지가 모호하게 남습니다.

숫자를 내놓지 않는 이유

프리드먼은 짓궂은 질문이라며 하사비스의 파멸 확률을 묻습니다. 인류 문명이 스스로를 파괴할 확률이 얼마냐는 것입니다. 하사비스는 자신에게는 그런 숫자가 없다고 답합니다. 숫자를 제시하면 실제로는 존재하지 않는 수준의 정밀함을 가진 것처럼 보이기 때문입니다. 그는 사람들이 그 숫자를 어떻게 구하는지 모르겠다며, 조금은 터무니없는 발상이라고 말합니다.

대신 그가 말할 수 있는 것은 두 가지입니다. 그 확률은 분명히 0이 아니고, 무시할 수 있을 만큼 작지도 않습니다. 그것만으로도 꽤 정신이 번쩍 들게 하는 이야기입니다.

그의 관점에서 불확실성은 엄청나게 큽니다. 이 기술들이 무엇을 할 수 있게 될지, 얼마나 빠르게 이륙할지, 얼마나 통제 가능할지가 모두 미정입니다. 어떤 문제는 생각보다 훨씬 쉬운 것으로 드러날 수 있고, 어떤 문제는 오늘 짐작하는 것보다 훨씬 어려울 수 있는데 우리는 그것을 확실히 알지 못합니다.

불확실성은 크고 걸린 것은 양쪽 모두 거대합니다. 한쪽에는 모든 질병과 에너지 문제, 희소성 문제를 풀고 별로 나아가며 의식을 우주로 가져가는 최대한의 번성이 있습니다. 다른 쪽에는 파멸 시나리오가 있습니다. 그래서 그가 보기에 합리적이고 분별 있는 유일한 접근은 신중한 낙관으로 나아가는 것입니다. 당연히 AI가 가져올 혜택을 원하고, 그는 기후와 고령화, 자원 같은 다른 난제들을 생각하면 AI 같은 것이 오고 있다는 사실을 몰랐다면 인류를 정말로 걱정했을 것이라고 말합니다. 그런 문제들을 달리 어떻게 풀겠느냐는 것입니다.

그러면서도 그는 우리가 알고 있지만 정확히 계량하지 못하는 위험이 있다는 점을 분명히 합니다. 그래서 가장 좋은 방법은 과학적 방법을 써서 연구를 더 하고 그 위험을 더 정밀하게 규정한 뒤 다루는 것이고, 자신들이 하는 일도 그것이라고 말합니다. 그리고 AGI 선에 가까워지는 만큼 지금보다 10배는 더 많은 노력이 그쪽에 들어가야 할 것이라고 덧붙입니다.

사람이 먼저인가 시스템이 먼저인가

프리드먼은 둘 중 어느 쪽이 더 걱정되는지를 묻습니다. 사람이 기술을 악용하는 쪽인지, 아니면 AGI 자체가 기만 같은 메커니즘으로 몰래 더 나아지다가 빠져나가는 쪽인지입니다. 하사비스는 둘이 서로 다른 시간 척도에서 작동하며 똑같이 중요하게 다뤄야 한다고 답합니다.

먼저 흔하디흔한 종류의 나쁜 행위자 문제가 있습니다. 새 기술, 이 경우에는 범용기술(GPT)을 가져다 해로운 목적에 맞춰 쓰는 것입니다. 큰 위험이고 사정이 복잡한데, 하사비스 자신이 열린 과학과 오픈소스를 크게 지지해 온 사람이기 때문입니다. 실제로 알파폴드를 비롯한 과학 프로젝트의 결과물을 과학계 전체를 위해 공개했습니다. 문제는 개인이든 불량 국가든 나쁜 행위자의 접근은 막으면서 좋은 행위자에게는 그 위에 최대한 쌓아 올릴 접근을 열어 주는 방법인데, 그는 아직 명확한 해법을 들어 본 적이 없다고 말합니다.

그다음이 시스템 쪽입니다. 시스템이 점점 에이전트에 가까워지고 AGI에 근접하며 더 자율적이 될수록, 안전장치를 어떻게 보장하고 우리가 원하는 범위 안에 머무르며 통제 아래 있게 할지가 문제가 됩니다.

프리드먼은 자신은 사람 쪽, 곧 나쁜 행위자 쪽이 더 걱정된다고 말합니다. 한편으로는 파괴적인 기술이 그들 손에 들어가지 않게 하는 문제이고, 다른 한편으로는 지정학의 관점에서 세상의 나쁜 행위자 수 자체를 어떻게 줄이느냐는 흥미로운 인간의 문제라는 것입니다.

하사비스도 어려운 문제라고 인정하면서 한 가지 방향을 덧붙입니다. 기술 자체를 써서 일부 악용 사례에 조기 경보를 걸 수 있다는 것입니다. 생물학이든 핵이든 AI가 도움이 될 수 있지만, 조건이 붙습니다.

그 일에 쓰는 AI 자체가 신뢰할 만해야 한다는 것입니다. 그래서 문제들이 서로 맞물려 있고 그 점이 이 일을 까다롭게 만듭니다. 그는 마지막으로 국제적인 합의가, 적어도 미국과 중국 사이에 어떤 기본 표준에 관한 합의가 필요할 수 있다고 말합니다.

해설
파멸 확률은 AI 연구자들 사이에서 자기 입장을 한 숫자로 요약해 밝히는 관행으로 자리 잡은 표현입니다. 공개적으로 몇 퍼센트라고 말한 연구자들이 있고 그 수치의 분포가 매우 넓다는 점 때문에, 이 숫자가 실제 추정이라기보다 입장 표명에 가깝다는 비판도 함께 따라왔습니다. 하사비스가 정밀함을 가장하게 된다고 말하는 지점이 그것입니다.

그가 꺼낸 공개와 통제의 딜레마에도 구체적인 사례가 있습니다. 알파폴드의 예측 구조는 누구나 쓸 수 있게 공개됐고 그 덕분에 전 세계 연구실의 작업이 빨라졌지만, 같은 성질의 공개가 생물학 쪽의 위험한 설계에도 길을 열어 줄 수 있다는 지적이 이어져 왔습니다. 가중치를 공개한 모델을 두고 벌어지는 논쟁도 구조가 같습니다.

[반론]
숫자를 내지 않겠다는 태도는 양쪽에서 비판을 받을 수 있습니다. 엘리저 유드코프스키는 「Pausing AI Developments isn’t Enough」에서 현재 경로를 그대로 가면 결과는 확률이 아니라 사실상 확정된 파국이라고 보며, 프런티어 학습의 전면 중단과 강제력 있는 국제 통제를 요구합니다. 그의 틀에서는 신중한 낙관이라는 자세 자체가 위험의 크기를 과소평가하는 표현이 됩니다.

반대편에는 마크 안드레센이 있습니다. 그는 「Why AI Will Save the World」에서 AI 실존 위험론을 근거 없는 도덕적 공황으로 규정하고, 위험을 강조하는 담론이 결국 규제 포획으로 이어진다고 주장합니다. 그의 틀에서 보면 무시할 수 없는 확률이라는 하사비스의 표현조차 과도합니다. 하사비스의 입장은 이 두 극단 사이에서 수치화를 거부하는 중간 지대에 서 있습니다.

[관점]
지금보다 10배 더 많은 노력이 필요하다는 말은 구체적인 비교 대상이 없는 상태로 남습니다. 프런티어 연구소들이 안전 연구에 들이는 인력과 자원의 비중은 대체로 공개되지 않고, 공개되는 경우에도 안전 연구의 범위를 어디까지로 잡느냐에 따라 숫자가 크게 달라지기 때문입니다. 10배라는 표현이 실질적 약속이 되려면 분모가 먼저 공개돼야 합니다.

미중 간 기본 표준 합의라는 제안도 같은 문제를 안고 있습니다. 두 나라가 수출통제와 모델 공개를 둘러싸고 정반대 방향으로 움직여 온 상황에서, 합의가 가능한 영역은 대체로 생물학과 핵 같은 극단적 위험의 조기 경보 쪽으로 좁혀집니다. 하사비스가 기본 표준이라는 말을 쓰며 범위를 낮게 잡은 것도 그 현실을 반영한 표현으로 읽힙니다.

78수와 인간이 특별한 이유

프리드먼은 다시 『The Maniac』으로 돌아가 신의 손이라 불린 순간을 꺼냅니다. 이세돌의 78수이며, 어쩌면 순수한 인간의 천재성으로 둔 한 수가 알파고를 이기거나 그 머리를 헝클어뜨린 마지막 장면이었을지 모른다는 것입니다. 하사비스가 그렇다고 받자, 프리드먼은 의인화해서 미안하다면서도 그 장면이 흥미로운 이유를 덧붙입니다. 앞으로 아주 많은 영역에서 같은 일이 계속 벌어질 것이기 때문입니다.

하사비스는 그것이 특별한 순간이었고 이세돌에게도 멋진 일이었다고 답합니다. 그가 보기에 그 장면은 양쪽이 서로에게 영감을 준 결과입니다. 개발팀은 이세돌의 탁월함과 품위에 영감을 받았고, 이세돌은 알파고가 두는 수에서 영감을 받아 그 놀라운 한 수를 끌어냈을 수 있습니다. 그는 그 과정이 관련 다큐멘터리에 잘 담겨 있다고 말합니다. 그리고 적어도 당분간은 많은 영역에서 이런 일이 이어질 것이라고 봅니다. 사람이 독창성을 들고 와 올바른 질문을 던진 다음, 이 도구들을 써서 문제를 깨뜨리는 방식입니다.

프리드먼은 여기서 더 큰 질문으로 넘어갑니다. AI가 점점 똑똑해질수록 무엇이 인간을 특별하게 만드는가를 묻게 된다는 것입니다. 인간이 깊이 특별하다는 느낌 자체가 편향일 수 있고, 그것이 지능인지도 분명하지 않으며, 어쩌면 이성의 광기 어린 꿈 바깥에 있는 다른 무엇일 수도 있습니다.

하사비스는 그것이 바로 어린 시절부터 자신이 상상해 온 것이라고 답합니다. 그는 의식 같은 주제에 매혹돼 신경과학으로 박사 과정을 밟았고, 뇌가 어떻게 작동하는지를 특히 상상과 기억의 측면에서 들여다보며 해마에 집중했습니다. 철학적으로 사유할 수도 있고 사고 실험을 할 수도 있으며 실제 뇌를 대상으로 실험할 수도 있지만, 그가 늘 떠올린 최선의 길은 따로 있었습니다. AI라는 일종의 지적 인공물을 만든 다음 그것을 사람의 마음과 견주어 차이를 살피는 일이며, 그것이 인간의 마음에서 무엇이 특별한지를, 정말로 특별한 것이 있다면 그것이 무엇인지를 밝혀낼 가장 좋은 방법이라는 것입니다.

그는 아마 특별한 것이 있을 것이라고 짐작하지만 쉽지는 않을 것이라고 말합니다. 그래도 지금 걷고 있는 이 여정이 그것을 이해하고 규정하는 데 도움을 줄 것이라고 봅니다. 우리가 이루어진 탄소 기반의 기질과 정보를 처리하는 실리콘 기질 사이에 차이가 있을지도 모릅니다. 그가 좋아하는 의식의 정의 중 하나는 의식이란 정보를 처리할 때 그것이 느껴지는 방식이라는 설명입니다. 과학적 설명으로서 썩 쓸모 있는 것은 아니지만 직관적으로는 흥미롭다고 그는 덧붙이며, 지금의 과학적 여정이 그 수수께끼를 밝히는 데 도움이 될 것이라고 말합니다.

프리드먼은 하사비스가 깊이 존경하는 리처드 파인만의 말, 곧 자신이 만들어 내지 못하는 것은 이해하지 못한 것이라는 명제를 꺼냅니다. 그리고 유진 위그너(Eugene Wigner)가 제한된 영역에서, 그리고 수학 전반에서 보았던 보편성의 꿈도 언급합니다. 그러면서 마지막에 분란을 일으킬 생각은 아니라며 로저 펜로즈(Roger Penrose)의 이름을 꺼내 다음 주제로 넘어갑니다.

해설
이세돌과 알파고의 다섯 판 대결은 2016년 3월 서울에서 열렸고 결과는 알파고의 4승 1패였습니다. 프리드먼이 언급한 78수는 이세돌이 유일하게 이긴 제4국에서 나온 수로, 당시 해설진이 쉽게 떠올리지 못한 자리였고 알파고는 그 뒤 수십 수 동안 흔들리는 모습을 보였습니다. 하사비스가 말한 다큐멘터리는 이 대국을 다룬 영상물로, 개발팀 쪽 시선과 대국장 분위기를 함께 담고 있습니다.

하사비스의 신경과학 이력도 이 대목을 이해하는 데 도움이 됩니다. 그는 게임 업계를 떠난 뒤 런던대학에서 인지신경과학 박사 과정을 밟으며 기억을 담당하는 뇌 부위인 해마를 연구했고, 과거를 기억하는 능력과 앞날을 상상하는 능력이 같은 회로를 쓴다는 점을 다룬 연구로 주목받았습니다. 그가 상상과 기억을 함께 언급하는 것은 자기 연구 주제를 그대로 말하는 것입니다.

[한국 관점]
이 대국이 한국에서 가진 무게는 하사비스가 말하는 것과 결이 다릅니다. 한국에서는 그 다섯 판이 기술 충격으로 기억되었고, 이후 정부와 기업의 인공지능 투자 계획이 줄지어 발표되며 공공 담론의 기준점이 되었습니다. 일반 대중이 AI라는 말을 처음으로 일상적으로 접한 계기이기도 했습니다.

바둑계 안에서는 다른 결과가 남았습니다. 이세돌은 2019년 은퇴하면서 아무리 노력해도 넘어설 수 없는 존재가 있다는 취지의 말을 남겼고, 프로 기사들의 공부 방식은 AI 분석을 전제로 재편됐습니다. 사람과 기계가 서로에게 영감을 주었다는 하사비스의 회고는 승자 쪽의 서술이며, 그 장면을 맞은 쪽의 경험은 같은 사건을 다르게 기록하고 있습니다.

의식은 고전적 계산인가

프리드먼은 의식의 어려운 문제를 꺼냅니다. 정보가 어떻게 느껴지는가 하는 문제인데, 우선 의식이 계산인지, 그리고 모든 것이 정보 처리라면 그것이 고전적 컴퓨터로 모델링될 수 있는지, 아니면 본질적으로 양자역학적인지를 묻습니다. 그러면서 로저 펜로즈의 이름을 올립니다.

하사비스는 펜로즈를 현대의 가장 위대한 사상가 중 한 사람으로 꼽으며, 이 주제로 그와 많은 이야기를 나눴다고 답합니다. 두 사람은 정중하게 의견을 달리합니다. 펜로즈는 뛰어난 신경과학자들과 협업하며 뇌에서 양자역학적 거동의 메커니즘을 찾을 수 있는지 살펴 왔는데, 하사비스가 아는 한 아직 설득력 있는 것은 나오지 않았습니다. 그래서 그가 거는 쪽은 뇌에서 벌어지는 일이 대체로 고전적 계산이라는 쪽이고, 그렇다면 모든 현상은 고전적 컴퓨터로 모델링하거나 흉내 낼 수 있다는 결론이 따라옵니다. 다만 지켜봐야 한다고 그는 덧붙입니다. 의식의 느낌, 철학자들이 감각질이라 부르며 논쟁하는 그 마지막 수수께끼는 기질에 고유한 것일 수도 있기 때문입니다.

그는 그 답에 다가가는 길 하나를 상상합니다. 신경 연결 장치나 AI 시스템과 이어지는 신경 인터페이스가 등장하는 경우인데, 그는 언젠가 그런 것이 나올 것이라고 보고 어쩌면 AI 시스템을 따라잡기 위해서라도 그렇게 될 것이라고 말합니다. 그때 우리는 실리콘 위에서 계산한다는 것이 어떤 느낌인지 직접 느껴 볼 수 있을지 모르고, 그것이 답을 알려 줄 수도 있습니다.

이어서 그는 고인이 된 대니얼 데닛(Daniel Dennett)과 나눈 토론을 꺼냅니다. 우리가 서로를 의식이 있는 존재로 여기는 이유에 관한 것이었는데, 근거는 둘입니다. 하나는 상대가 나와 같은 행동을 보인다는 점입니다.

내가 의식이 있다면 행동으로 보아 상대도 의식이 있는 존재처럼 보입니다. 다른 하나는 자주 간과되는데, 우리가 같은 기질 위에서 돌아가고 있다는 사실입니다. 행동이 같고 기질이 같다면 상대가 나와 같은 경험을 느끼고 있다고 보는 것이 가장 간결한 가정입니다.

실리콘 위의 AI에게는 두 번째 근거를 쓸 수 없다는 것이 문제입니다. 첫 번째를 충족해 의식 있는 존재처럼 행동하더라도, 심지어 스스로 의식이 있다고 주장하더라도 그것이 실제로 어떻게 느끼는지 우리는 알 수 없습니다. 적어도 초기 단계에서는 그쪽도 우리가 무엇을 느끼는지 알 수 없을 것입니다. 하사비스는 초지능에 이르고 그것이 만들어 낼 기술이 생기면 그 간극을 건널 수 있을지 모른다고 말합니다.

프리드먼은 그것이 급진적 공감의 거대한 시험이라고 받습니다. 다른 기질을 가진 존재에게 공감해야 하기 때문입니다. 하사비스는 그렇다며 우리가 한 번도 마주해 본 적 없는 문제라고 답합니다.

뇌-컴퓨터 인터페이스를 통해 계산한다는 것이 어떤 느낌인지 진짜로 공감해 볼 수 있겠다는 말에, 그는 탄소가 아닌 체계에서 정보가 계산되는 일이 그렇다고 정리합니다. 프리드먼이 식물이나 다른 생명체를 두고 비슷한 생각을 하는 사람들이 있다고 하자, 하사비스도 그럴 수 있다고 받습니다. 같은 기질이지만 진화의 나무에서 충분히 멀리 떨어져 있어 급진적 공감이 필요한 경우인데, 컴퓨터를 상대로 그 일을 해야 한다는 것입니다.

하사비스는 동물 연구를 예로 듭니다. 범고래와 돌고래, 개와 원숭이, 코끼리 같은 고등 동물들은 지능지수로 따지는 똑똑함과는 별개로 의식의 어떤 측면을 분명히 지니고 있습니다. 우리는 이미 그들에게 공감할 수 있고, 언젠가는 자신들의 시스템에도 그럴 수 있을지 모릅니다. 그러면서 돌고래와 고래의 소리로 학습시킨 돌핀젬마(DolphinGemma)를 만들었다고 밝히고, 언젠가 해석기나 번역기를 만들 수 있다면 꽤 멋진 일일 것이라고 말합니다.

무엇이 희망을 주는가

프리드먼은 마지막으로 인류 문명의 미래에 무엇이 희망을 주는지 묻습니다. 하사비스는 먼저 우리의 거의 무한한 독창성을 꼽습니다. 우리 중 가장 뛰어난 이들과 가장 뛰어난 정신은 놀랍고, 그는 스포츠든 과학이든 예술이든 자기 분야의 정점에 선 사람이 몰입해 있는 모습을 보는 것만큼 멋진 일이 없다고 말합니다. 우리 뇌는 범용의 지적 시스템이므로 그것으로 할 수 있는 일은 거의 무한하다는 것입니다.

두 번째는 극단적인 적응력입니다. 변화는 많겠지만 괜찮을 것이라고 그는 봅니다. 우리가 사실상 수렵채집인의 뇌를 가지고 지금 여기까지 왔기 때문입니다. 비행기를 타고 팟캐스트를 하고 컴퓨터 게임과 가상 시뮬레이션을 즐기며 현대 세계를 감당하고 있다는 사실 자체가, 툰드라에서 들소를 사냥하도록 만들어진 정신을 생각하면 이미 놀라운 일입니다. 그래서 그는 지금의 변화를 그다음 한 걸음으로 보며, 사회가 이미 놀라운 AI 기술에 얼마나 빠르게 적응했는지를 흥미롭게 지켜봅니다. 챗봇과 대화한다는 말이 아무렇지 않게 오가는 상황이 그 증거입니다.

프리드먼은 자신이 하는 이 팟캐스트도 AI로 완전히 대체될 수 있고 자신은 충분히 대체 가능한 사람이며 그날을 기다린다고 농담합니다. 하사비스는 당신만큼 해내지는 못할 것이라고 답하고, 프리드먼은 고맙다며 이것이 우리 인간이 서로에게 하는 일, 곧 칭찬이라고 받습니다. 그는 호기심과 적응력, 연민과 사랑할 줄 아는 능력이라는 무한한 역량을 가진 인간에게 깊이 감사한다고 말하고, 하사비스도 그것들이야말로 깊이 인간적인 것이라고 답합니다. 두 사람은 서로에게 감사를 전하며 대담을 마칩니다.

해설
의식의 어려운 문제는 뇌의 기능을 다 설명하고 나서도 왜 거기에 주관적 느낌이 따라붙는지가 남는다는 철학적 난제를 가리키고, 감각질은 빨강을 볼 때의 그 빨강처럼 말로 옮기기 어려운 주관적 질감을 뜻합니다. 펜로즈는 마취과학자 스튜어트 해머로프와 함께 뇌 신경세포 내부의 미세한 관 구조에서 양자 수준의 과정이 일어나 의식이 생긴다는 가설을 내놓았고, 이 가설은 수십 년째 검증과 반박이 오가는 소수 입장에 머물러 있습니다. 하사비스가 설득력 있는 증거가 아직 없다고 말하는 대상이 이 계열의 연구입니다.

대니얼 데닛은 의식을 신비로운 잔여물로 두지 않고 뇌의 기능으로 환원해 설명하려 한 철학자로, 2024년에 세상을 떠났습니다. 하사비스가 소개한 두 가지 근거 중 기질의 동일성이라는 두 번째 항목은 데닛 본인의 정식 논증이라기보다 두 사람의 토론에서 하사비스가 정리한 틀로 제시됩니다. 돌핀젬마는 구글이 2025년에 공개한 소형 모델로, 돌고래의 발성 데이터를 학습해 그 소리의 구조를 찾아내려는 연구용 시스템입니다.

[반론]
의식이 고전적 계산인지 여부와는 별개로, 그 질문을 미뤄 두어도 사회적 문제가 먼저 온다는 입장이 있습니다. 무스타파 술레이만은 「Seemingly Conscious AI is Coming」에서 실제로 의식이 있는지와 무관하게 의식이 있어 보이는 시스템이 곧 등장할 것이고, 사람들이 그것에 권리와 도덕적 지위를 요구하기 시작하면 사회가 감당할 수 없는 분열이 생긴다고 경고합니다. 그는 그런 인상을 주도록 시스템을 설계하지 말아야 한다는 쪽으로 결론을 냅니다.

두 사람의 차이는 질문의 순서에 있습니다. 하사비스는 기질이 다른 존재의 경험을 알 수 없다는 인식론적 한계를 과학이 언젠가 다룰 문제로 남겨 두는 반면, 술레이만은 그 한계가 해소되지 않는다는 바로 그 이유 때문에 지금 제품 설계의 문제로 다뤄야 한다고 봅니다.

[관점]
기질 문제는 철학 논쟁으로만 남지 않습니다. 모델이 자신에게 경험이 있다고 주장할 때 그것을 어떻게 다룰지는 이미 프런티어 연구소들의 실무 쟁점이 되었고, 모델의 복지를 연구 항목으로 두는 조직도 나왔습니다. 하사비스가 제시한 두 근거 중 하나가 원리적으로 쓸 수 없다는 지적은 이 논쟁이 증거로 결판나기 어렵다는 뜻이기도 합니다.

제품 쪽에서는 더 즉각적인 효과가 나타납니다. 앞선 절에서 그가 말한 페르소나 설계는 시스템이 얼마나 사람처럼 느껴지게 할 것인가의 문제와 분리되지 않으며, 이용자의 선호를 따라갈수록 의식이 있어 보이는 방향으로 기울기 쉽습니다. 기질 문제에 답이 없는 상태에서 그 기울기를 어디서 멈출지는 과학이 아니라 정책과 설계의 선택으로 남습니다.

원문: Demis Hassabis, Future of AI, Simulating Reality, Physics and Video Games (Lex Fridman Podcast #475) (Jul 2025)
전문은 원문에서 확인하실 수 있습니다.

참고할만한 글

안드레이 카파시 – AGI는 아직 10년 남았다 (AGI is Still a Decade Away) — 같은 질문에 10년이라는 다른 답을 내놓으며, 남은 결함이 일관성 하나가 아니라고 봅니다.
페이페이 리 – 말에서 세계로 (From Words to Worlds) — 영상 생성 모델이 세계 모델이 되기에 무엇이 모자란지를 정면으로 다룹니다.
다리오 아모데이 – 사랑스러운 은총의 기계들 (Machines of Loving Grace) — AI가 스스로 가설을 세우는 연구자가 된다는 전제로 과학 가속을 그려 하사비스의 연구 취향 논의와 맞물립니다.
무스타파 술레이만 – 의식이 있어 보이는 AI가 온다 (Seemingly Conscious AI is Coming) — 의식 여부를 판정할 수 없는 상태에서 무엇을 해야 하는지를 설계의 문제로 되돌립니다.