Tim Urban

팀 어번 – AI 혁명: 초지능으로 가는 길 (The AI Revolution: The Road to Superintelligence)

ByThe Context

원문: Tim Urban, The AI Revolution: The Road to Superintelligence (Jan 2015)
전문은 원문에서 확인하실 수 있습니다. 아래 글은 번역이 아니라, 팀 어번의 논증을 한국어로 재구성한 정리입니다.

글의 배경과 개요

팀 어번(Tim Urban)은 블로그 웨이트 벗 와이(Wait But Why)의 필자로, 2015년 1월 이 글을 2부작 연재의 1부로 발표했습니다. 어번은 AI를 조사하면서 읽는 내용을 믿기 어려웠다고 말합니다. 그러면서 AI가 그저 중요한 주제 정도가 아니라 인류의 미래에 단연 가장 중요한 주제라는 사실을 금세 깨달았다고 밝힙니다. 그는 상황 전체와 그 의미를 제대로 설명하려고 3주를 들였고, 글이 지나치게 길어져 두 편으로 나눴다고 합니다. 글은 세 가지를 묻습니다. AI는 지금 어디에 와 있는지, 인간 수준을 거쳐 인간을 훨씬 넘어서는 수준으로 가는 길은 어떤 모습인지, 그리고 그 일이 왜 우리 예상보다 훨씬 빨리 올 수 있는지입니다. 어번은 먼저 수확 가속의 법칙(Law of Accelerating Returns)으로 미래에 대한 직관을 흔들고, AI를 좁은 인공지능(ANI), 범용인공지능(AGI), 초인공지능(ASI)의 세 단계로 나눈 뒤, 단계 사이의 길을 차례로 따라가 지능 폭발(intelligence explosion)이라는 결론에 이릅니다.

해설
어번은 어린 시절 친구 앤드루 핀(Andrew Finn)과 2013년 웨이트 벗 와이를 세웠고, 직접 그린 단순한 삽화를 곁들인 긴 글로 이름을 알렸습니다. 2016년 미루기 습관을 주제로 한 그의 TED 강연은 2025년 기준 역대 TED 강연 가운데 두 번째로 많이 시청되었습니다. 이 AI 연재 역시 크게 퍼졌습니다. 기계지능연구소(MIRI)를 이끌었던 루크 뮬하우저(Luke Muehlhauser)는 발표 몇 달 뒤, 이 연재가 이 주제의 대중 입문서 가운데 가장 많이 읽힌 축에 들 것이라고 평했습니다.

핵심 내용 정리

  • 인류의 진보는 앞선 진보 덕분에 갈수록 빨라지며, 이 추세가 이어지면 수십 년 안에 세상은 지금의 우리가 알아보기 어려울 만큼 달라질 수 있습니다.
  • 사람들이 이런 예측을 믿지 못하는 이유는 세 가지입니다. 미래를 직선으로 그리고, 최근 몇 년의 속도만 보며, 자기 경험을 세상의 법칙처럼 여기기 때문입니다.
  • AI는 수준에 따라 ANI, AGI, ASI로 나뉘며, 지금 세상은 이미 ANI로 가득 차 있습니다.
  • 기계에게 정말 어려운 일은 계산이 아니라 보고 움직이고 지각하는 일이며, AGI에 이르려면 뇌에 맞먹는 연산 능력과 그 능력을 똑똑하게 쓰는 방법이 함께 필요합니다.
  • 하드웨어 쪽에서는 2025년 무렵 1,000달러짜리 컴퓨터가 인간 뇌의 연산 능력에 이를 궤도에 있습니다. 소프트웨어 쪽에서는 뇌를 베끼는 길, 진화를 흉내 내는 길, 컴퓨터가 스스로를 개선하게 하는 길이 거론됩니다.
  • AGI는 인간 수준에 잠시만 머물며, 재귀적 자기개선(recursive self-improvement)을 거쳐 순식간에 초지능(superintelligence)으로 치달을 수 있습니다.
  • 지능이 곧 힘이므로 초지능은 지구 생명 역사상 가장 강력한 존재가 되고, 그것이 우리에게 호의적일지가 인류에게 가장 중요한 질문이 됩니다.

먼 미래가 곧 다가온다

어번은 버너 빈지(Vernor Vinge)의 말로 글을 시작합니다. 지금 우리가 지구에 인간 생명이 처음 나타난 일에 견줄 만한 변화의 문턱에 서 있다는 말입니다. 이어 어번은 독자에게 묻습니다. 인류의 진보를 시간 축 위에 그린 곡선이 하늘로 치솟기 직전의 지점에 서 있다면 어떤 기분이겠느냐는 것입니다.

밖에서 보면 아찔한 자리입니다. 하지만 그래프 위에 선 사람은 오른쪽, 곧 미래를 볼 수 없습니다. 눈에 들어오는 것은 지나온 완만한 길뿐이어서, 당사자에게는 지금 서 있는 자리가 지극히 평범하게 느껴집니다. 어번은 이 두 장면을 나란히 놓고, 우리가 급변의 한가운데 있으면서도 그것을 느끼지 못한다는 점부터 짚습니다.

1750년의 사람을 오늘로 데려온다면

어번의 첫 사고 실험은 타임머신입니다. 1750년으로 돌아가 한 남자를 2015년으로 데려온다고 가정합니다. 그 시절 세상은 늘 정전 상태나 다름없었습니다. 먼 곳과 소식을 주고받으려면 크게 소리치거나 대포를 쏘아야 했고, 모든 운송은 건초를 먹는 동물에 기대고 있었습니다.

그 남자가 2015년에 마주할 것들을 어번은 하나씩 늘어놓습니다. 고속도로를 질주하는 번쩍이는 금속 캡슐이 있고, 그날 아침까지 바다 건너에 있던 사람이 눈앞에 있습니다. 1,000마일 떨어진 곳의 경기를 실시간으로 보고, 50년 전 공연을 다시 듣습니다. 어번이 ‘마법의 직사각형’이라고 부르는 스마트폰은 장면을 사진과 영상으로 남기고, 움직이는 파란 점으로 내 위치를 보여 주며, 나라 반대편 사람과 얼굴을 보며 대화하게 해 줍니다. 인터넷, 국제우주정거장(International Space Station), 대형강입자충돌기(Large Hadron Collider), 핵무기, 일반상대성이론은 아직 꺼내지도 않은 상태입니다.

어번은 이 남자가 놀라거나 충격을 받는 정도로는 끝나지 않는다고 말합니다. 놀랍다거나 충격적이라는 말로는 부족하며, 그는 정말로 죽어 버릴지도 모른다는 것입니다.

흥미로운 대목은 그다음입니다. 이 1750년 남자가 샘이 나서, 같은 시간 거리만큼 거슬러 1500년의 사람을 1750년으로 데려온다고 해 봅시다. 1500년 사람은 많은 것에 놀랄 것입니다. 우주와 물리학에 관한 머리가 어질한 지식을 배우고, 유럽이 제국주의라는 새 유행에 그토록 열심이었다는 데 감탄하며, 머릿속 세계 지도를 크게 고쳐 그려야 합니다. 그래도 교통이나 통신 같은 1750년의 일상을 보고 죽지는 않습니다.

1500년과 1750년은 분명 달랐지만, 그 차이가 1750년과 2015년의 차이보다 훨씬 작았기 때문입니다. 1750년 남자가 우리만큼 재미를 보려면 훨씬 더 멀리, 대략 기원전 1만 2,000년까지 가야 합니다. 첫 농업혁명이 최초의 도시와 문명이라는 개념을 낳기 전, 인간이 사실상 여러 동물 종 가운데 하나였던 수렵채집의 시대입니다. 그 시대 사람이 하늘을 찌르는 교회, 대양을 건너는 배, ‘실내’라는 개념, 그리고 산처럼 쌓인 인류의 집단 지식을 갖춘 1750년의 거대한 제국들을 본다면 아마 죽을 것이라고 어번은 말합니다.

연쇄는 한 번 더 이어집니다. 기원전 1만 2,000년의 사람이 다시 1만 2,000년을 거슬러 기원전 2만 4,000년의 누군가를 데려온다면, 그 사람은 모든 것을 보고도 ‘그래서 뭐가 어쨌다는 거냐’는 반응을 보일 것입니다. 같은 충격을 주려면 10만 년 넘게 거슬러 올라가, 불과 언어를 처음 보여 줄 수 있는 사람을 데려와야 합니다.

어번은 이 기준을 하나의 단위로 만듭니다. 미래로 옮겨진 사람이 충격으로 죽을 만큼의 진보를 사망 진보 단위(Die Progress Unit, DPU)라고 부르는 것입니다. 수렵채집 시대에는 1 DPU에 10만 년 넘게 걸렸지만, 농업혁명 이후에는 약 1만 2,000년으로 줄었습니다. 산업혁명 이후의 세계는 너무 빨라져서, 1750년 사람은 200년 남짓만 앞으로 가도 1 DPU를 겪게 됩니다.

수확 가속의 법칙

시간이 흐를수록 인류의 진보가 점점 빨라지는 이 패턴을 미래학자 레이 커즈와일(Ray Kurzweil)은 인류 역사의 수확 가속의 법칙이라고 부릅니다. 원리는 단순합니다. 더 발전한 사회는 바로 그 발전 덕분에 덜 발전한 사회보다 더 빠른 속도로 진보할 수 있습니다. 19세기 인류는 15세기 인류보다 더 많이 알았고 더 나은 기술을 가졌으니, 19세기에 15세기보다 훨씬 많은 진보가 일어난 것은 당연하다고 어번은 설명합니다.

같은 원리는 더 짧은 시간 단위에서도 작동합니다. 영화 백 투 더 퓨처(Back to the Future)는 1985년에 개봉했고, 영화 속 과거는 1955년이었습니다. 1955년으로 간 마이클 J. 폭스(Michael J. Fox)는 TV라는 물건이 새롭다는 사실, 탄산음료 가격, 날카로운 전기기타 소리에 대한 냉담한 반응, 달라진 속어에 당황합니다. 분명 다른 세상이었지만, 어번은 이것이 비교적 작은 차이였다고 봅니다.

이 영화를 지금 다시 만들어 과거를 1985년으로 잡는다면 훨씬 큰 차이로 훨씬 많은 웃음을 만들 수 있었을 것이라고 어번은 말합니다. 1990년대 후반에 태어난 오늘의 마티 맥플라이(Marty McFly)는 개인용 컴퓨터도, 인터넷도, 휴대전화도 없는 1985년에서 영화 속 마티보다 훨씬 더 어쩔 줄 몰랐을 것입니다. 이유는 앞에서와 같습니다. 1985년부터 2015년까지는 더 발전한 세계였기에 1955년부터 1985년까지보다 평균 진보 속도가 빨랐고, 그래서 최근 30년 동안 그 이전 30년보다 훨씬 많은 변화가 일어났다는 것입니다.

[반론]
이 대목은 당시에도 논쟁적이었습니다. 어번의 연재를 대체로 지지한 뮬하우저는 2015년 5월 답글에서, 최근 30년의 진보가 그 이전 30년보다 빨랐다는 주장은 진보 속도를 무엇으로 재느냐에 따라 달라진다고 지적했습니다. 정보기술에서는 맞을 수 있지만 에너지나 교통 같은 분야에서는 틀릴 수 있으며, 타일러 코웬(Tyler Cowen), 피터 틸(Peter Thiel), 로버트 고든(Robert Gordon) 등은 기술혁신 전반이 오히려 둔화했다고 주장해 왔다는 것입니다. 다만 뮬하우저는 이 논쟁의 결론과 상관없이 어번의 논지 대부분은 유지된다고 덧붙였습니다.

경제학 쪽의 반론도 있습니다. 니컬러스 블룸(Nicholas Bloom) 등 경제학자 네 명은 2020년 논문 「Are Ideas Getting Harder to Find?」에서, 무어의 법칙(Moore’s law)대로 칩 집적도를 두 배로 늘리는 데 필요한 연구 인력이 1970년대 초보다 18배 넘게 늘었다고 분석했습니다. 지수적 성장이 이어진 것은 진보가 저절로 가속해서가 아니라, 떨어지는 연구 생산성을 연구 투입의 급증이 메워 왔기 때문이라는 해석입니다.

커즈와일의 계산은 더 구체적입니다. 그는 2000년의 진보 속도라면 20세기 100년 동안의 진보를 20년 만에 이룰 수 있다고 봅니다. 2000년의 진보 속도가 20세기 평균 속도의 다섯 배였다는 뜻입니다. 그는 2000년부터 2014년 사이에 또 한 번 20세기 분량의 진보가 일어났고, 2021년까지 불과 7년 만에 다시 그만큼의 진보가 일어날 것이라고 예측합니다.

그로부터 20여 년 뒤에는 20세기 분량의 진보가 한 해에 여러 번 일어나고, 더 나중에는 한 달도 걸리지 않을 것이라고 커즈와일은 내다봅니다. 이를 모두 합하면 21세기에는 20세기의 1,000배에 이르는 진보가 일어난다는 것이 그의 결론입니다. 어번은 커즈와일과 그에게 동의하는 이들이 옳다면, 우리는 2030년의 세상을 보고 1750년 남자가 2015년을 보며 받은 만큼의 충격을 받을 수 있다고 말합니다. 다음 1 DPU가 불과 20여 년 만에 찾아오고, 2050년의 세계는 지금의 우리가 거의 알아보지 못할 만큼 달라질 수 있다는 것입니다.

어번은 이것이 공상과학이 아니라고 강조합니다. 자신이나 독자보다 더 똑똑하고 많이 아는 수많은 과학자들이 굳게 믿는 내용이고, 역사를 들여다보면 논리적으로 예측할 수밖에 없는 결론이라는 것입니다.

해설
커즈와일은 발명가이자 미래학자로, 이 절의 수확 가속의 법칙과 21세기 1,000배 진보라는 수치는 그의 2005년 책 『The Singularity Is Near』에서 나왔습니다. 그는 2012년 12월 구글(Google)에 엔지니어링 디렉터로 합류해 기계학습과 언어 처리 프로젝트를 맡았습니다. 그러니 어번이 이 글을 쓸 무렵 커즈와일은 AI의 미래를 내다보는 논자인 동시에, 그 미래를 실제로 만드는 기업의 일원이기도 했습니다.

미래 예측을 믿지 못하는 세 가지 이유

그렇다면 35년 뒤의 세상이 완전히 달라져 있을지도 모른다는 말을 들을 때, 우리는 왜 ‘멋지긴 한데, 설마’ 하고 넘기는 것일까요. 어번은 터무니없어 보이는 미래 예측을 우리가 의심하는 이유를 세 가지로 꼽습니다.

역사를 직선으로 보는 습관. 우리는 앞으로 30년의 진보를 상상할 때 지난 30년의 진보를 잣대로 삼습니다. 21세기에 세상이 얼마나 바뀔지 생각할 때도 20세기의 진보를 2000년에 그대로 더할 뿐입니다. 1500년 사람을 데려오면서 자신이 겪은 만큼의 충격을 기대했던 1750년 남자의 실수가 바로 이것입니다. 우리에게는 선형(linear)으로 생각하는 쪽이 자연스럽지만, 실제로는 지수적(exponential)으로 생각해야 한다고 어번은 말합니다.

좀 더 영리한 사람은 지난 30년이 아니라 현재의 진보 속도를 기준으로 다음 30년을 예측할 것입니다. 그편이 더 정확하겠지만 그래도 크게 빗나갑니다. 미래를 제대로 생각하려면 지금보다 훨씬 빠른 속도로 일이 진행되는 모습을 상상해야 한다는 것이 어번의 주장입니다.

최근 역사가 만드는 착시. 두 번째 이유는 아주 최근의 궤적이 왜곡된 그림을 보여 준다는 점입니다. 우선 아무리 가파른 지수 곡선도 아주 작은 조각만 떼어 보면 직선처럼 보입니다. 거대한 원의 일부를 가까이서 보면 거의 직선으로 보이는 것과 같습니다. 또 지수적 성장은 매끄럽고 고르게 진행되지 않습니다.

커즈와일은 진보가 S자 곡선(S-curve)을 그리며 일어난다고 설명합니다. 새로운 패러다임이 세상을 휩쓸 때 진보의 물결이 S자를 그리는데, 이 곡선은 세 국면을 거칩니다.

  • 느린 성장 — 지수적 성장의 초기 국면으로, 변화가 더디게 쌓입니다.
  • 빠른 성장 — 지수적 성장의 후기 국면으로, 진보가 폭발적으로 일어납니다.
  • 안정화 — 해당 패러다임이 성숙하면서 성장이 평평해집니다.

최근 역사만 보면, 지금 S자 곡선의 어느 지점에 서 있느냐에 따라 진보 속도에 대한 감각이 흐려집니다. 어번은 1995년부터 2007년까지를 2국면, 곧 S자의 급성장 구간으로 봅니다. 인터넷이 폭발적으로 퍼지고, 마이크로소프트(Microsoft)와 구글과 페이스북(Facebook)이 대중의 의식 속으로 들어왔으며, 소셜 네트워킹이 태어나고, 휴대전화에 이어 스마트폰이 등장한 시기입니다. 반면 2008년부터 2015년까지는 적어도 기술 면에서는 그만큼 획기적이지 않았습니다.

그래서 오늘 미래를 생각하는 사람이 최근 몇 년만 보고 현재의 진보 속도를 가늠한다면 더 큰 그림을 놓친다고 어번은 말합니다. 실제로는 지금 이 순간에도 새롭고 거대한 2국면의 급성장이 끓어오르고 있을지 모른다는 것입니다.

[사후 맥락]
어번이 끓어오르고 있을지 모른다고 쓴 새 급성장은 7년여 뒤 대중 앞에 모습을 드러냈습니다. 오픈AI(OpenAI)가 2022년 11월 30일 공개한 ChatGPT는 두 달 만에 월간 활성 이용자 1억 명에 이른 것으로 추산되며, 당시 역사상 가장 빨리 성장한 소비자 애플리케이션이 되었습니다. 커즈와일은 2024년 6월 후속작 『The Singularity Is Nearer』를 내면서, 1999년부터 내세운 2029년 AGI 예측을 앞당기지도 미루지도 않았습니다. 다만 생성형 AI가 등장한 뒤로는 그 예측이 오히려 보수적으로 보일 수 있다는 점을 그 자신도 인정했습니다.

경험이 만드는 고집. 세 번째 이유는 우리 자신의 경험이 우리를 미래에 대해 고집 센 노인으로 만든다는 점입니다. 우리는 개인적 경험을 바탕으로 세계관을 세우는데, 그 경험이 최근 과거의 성장 속도를 ‘세상이 원래 돌아가는 방식’으로 머릿속에 새겨 놓습니다. 상상력 역시 경험을 재료 삼아 미래를 그리기 때문에, 우리가 아는 것만으로는 미래를 정확히 생각할 도구가 모자라는 경우가 많습니다.

커즈와일은 자신의 휴대전화가 40년 전 매사추세츠공과대학(MIT)에서 쓰던 컴퓨터에 비해 크기는 100만분의 1, 가격도 100만분의 1인데 성능은 1,000배라고 지적합니다. 어번은 이에 맞먹는 진보가 한 번만 더 일어나도 우리가 어디에 서 있을지 가늠하기 어렵다고 말합니다. 게다가 진보는 지수적으로 커지므로 실제로 올 변화는 그보다 훨씬 극단적일 것이라고 덧붙입니다.

경험에서 나온 ‘세상이 돌아가는 방식’과 어긋나는 예측을 들으면, 우리는 본능적으로 그 예측이 순진하다고 여깁니다. 어번은 이 연재 뒤쪽에서 독자가 150세나 250세까지 살거나 아예 죽지 않을 수도 있다고 말하면, 독자는 역사에서 확실한 것 하나는 모두가 죽는다는 사실이라며 코웃음 칠 것이라고 예상합니다. 어번도 과거에 죽지 않은 사람이 아무도 없다는 점은 인정합니다. 그러나 비행기가 발명되기 전에는 비행기를 몬 사람도 아무도 없었다고 응수합니다.

그러니 이 글을 읽으며 ‘설마’ 하는 느낌이 들더라도 그 느낌은 아마 틀렸다고 어번은 말합니다. 역사의 패턴이 이어진다고 논리적으로 가정한다면, 앞으로 수십 년 동안 우리가 직관적으로 예상하는 것보다 훨씬 더 많은 것이 바뀐다고 결론 내려야 한다는 것입니다.

논리는 한 걸음 더 나아갑니다. 한 행성에서 가장 발전한 종이 갈수록 빠른 속도로 더 큰 도약을 거듭한다면, 언젠가는 삶의 방식과 인간이라는 존재의 의미 자체를 완전히 바꿔 놓을 만큼 거대한 도약을 하게 됩니다. 진화가 지능을 향해 도약을 거듭하다 마침내 인간이라는 큰 도약에 이르러, 지구에서 생명체로 산다는 것의 의미를 통째로 바꿔 놓은 것과 같습니다. 어번은 오늘날 과학기술에서 벌어지는 일을 읽어 보면, 지금 우리가 아는 삶이 다가올 도약을 견디지 못하리라는 신호가 곳곳에서 조용히 보인다고 말합니다.

AI란 무엇인가

어번은 자신처럼 독자도 한때는 AI를 유치한 공상과학 개념쯤으로 여겼을 것이라고 말을 꺼냅니다. 그런데 요즘은 진지한 사람들이 AI를 거론하는 것을 자주 듣게 되고, 그러다 보니 그게 정확히 무엇인지 잘 감이 오지 않는다는 것입니다.

AI가 헷갈리는 세 가지 이유

어번은 많은 사람이 AI라는 말을 헷갈려 하는 이유를 셋으로 정리합니다.

영화가 만든 이미지. 우리는 AI를 영화와 연결 짓습니다. 스타워즈(Star Wars), 터미네이터(Terminator), 2001 스페이스 오디세이(2001: A Space Odyssey), 심지어 젯슨 가족(The Jetsons)까지 떠올립니다. 이 작품들도, 그 안의 로봇 캐릭터들도 모두 허구이기 때문에 AI라는 말 자체가 조금 허구처럼 들립니다.

너무 넓은 주제. AI는 범위가 넓습니다. 휴대전화의 계산기부터 자율주행차, 그리고 언젠가 세상을 극적으로 바꿀지 모를 미래의 무언가까지 모두 AI라고 부르니 혼란스러울 수밖에 없습니다.

쓰면서도 모르는 AI. 우리는 일상에서 늘 AI를 쓰지만 그것이 AI인 줄 모르는 경우가 많습니다. 1956년 인공지능이라는 말을 처음 만든 존 매카시(John McCarthy)는 “제대로 작동하는 순간, 아무도 그것을 AI라고 부르지 않는다”고 불평했습니다. 이 때문에 AI는 현실이라기보다 신화 같은 미래 예언처럼 들립니다. 동시에 한때 유행했다가 끝내 실현되지 못한 과거의 대중적 개념처럼 들리기도 합니다.

커즈와일은 AI가 1980년대에 시들어 버렸다고 말하는 사람들을 종종 만난다고 합니다. 그는 이것이 2000년대 초 닷컴 버블이 꺼졌을 때 인터넷도 함께 죽었다고 우기는 것과 다르지 않다고 받아칩니다.

해설
매카시가 꼬집은 현상은 흔히 AI 효과(AI effect)라고 불립니다. 어떤 문제가 풀리는 순간 그것은 그냥 계산으로 취급되고, AI라는 이름은 아직 풀리지 않은 문제에만 남는다는 뜻입니다. 커즈와일이 말한 1980년대의 쇠퇴는 이른바 AI 겨울(AI winter)을 가리킵니다. 1980년대 초 기업들이 앞다퉈 들여온 전문가 시스템과 AI 전용 하드웨어 시장이 1980년대 후반 무너지면서 연구비와 관심이 급격히 줄어든 시기입니다. 매카시는 1956년 다트머스 학회(Dartmouth workshop)를 조직하면서 이 분야에 이름을 붙인 인물입니다.

로봇과 특이점부터 걷어 내기

어번은 혼란을 걷어 내려면 먼저 로봇을 머릿속에서 지우라고 권합니다. 로봇은 AI를 담는 그릇일 뿐입니다. 사람의 모습을 흉내 낼 때도 있고 그렇지 않을 때도 있지만, AI 자체는 로봇 안에 든 컴퓨터입니다. AI가 뇌라면 로봇은 몸이고, 그 몸은 아예 없을 수도 있습니다.

시리(Siri)가 좋은 예입니다. 시리 뒤에 있는 소프트웨어와 데이터가 AI이고, 우리가 듣는 여성의 목소리는 그 AI를 사람처럼 형상화한 것일 뿐입니다. 로봇은 어디에도 없습니다.

두 번째로 걷어 낼 것은 특이점(singularity), 또는 기술적 특이점이라는 말입니다. 수학에서 이 말은 점근선처럼 평소의 규칙이 더는 통하지 않는 상황을 가리킵니다. 물리학에서는 무한히 작고 밀도 높은 블랙홀이나, 빅뱅 직전 모든 것이 한 점에 짓눌려 있던 상태를 말합니다. 이 역시 통상의 규칙이 적용되지 않는 현상입니다.

1993년 빈지는 한 유명한 에세이에서 이 말을 기술의 지능이 인간의 지능을 넘어서는 미래의 순간에 갖다 붙였습니다. 빈지에게 그 순간은 우리가 아는 삶이 영원히 바뀌고 평소의 규칙이 더는 통하지 않게 되는 때였습니다. 그런데 커즈와일이 이 말을 조금 다르게 정의하면서 개념이 흐려졌다고 어번은 말합니다. 커즈와일은 특이점을 수확 가속의 법칙이 극단에 이르러 기술 진보가 사실상 무한한 속도로 일어나는 시점, 그 뒤로는 완전히 새로운 세계에서 살게 되는 시점으로 봅니다.

어번이 살펴보니 오늘날 많은 AI 사상가들은 이 용어를 더는 쓰지 않으며, 어차피 헷갈리는 말이기도 합니다. 그래서 그는 앞으로 이 말을 많이 쓰지 않겠다고 밝힙니다. 다만 글 전체가 다루는 것은 바로 그 특이점이라는 발상 자체라고 덧붙입니다.

AI의 세 단계

마지막으로 어번은 AI를 가르는 기준을 정리합니다. AI는 넓은 개념이라 형태와 유형이 다양하지만, 우리가 생각해야 할 결정적인 구분은 AI의 체급, 곧 지능의 수준이라고 그는 말합니다. 그 수준은 크게 세 단계로 나뉩니다.

1단계, ANI. 약한 AI(Weak AI)라고도 불리는 ANI는 한 분야에 특화된 AI입니다. 세계 체스 챔피언을 이기는 AI가 있지만, 그 AI가 할 줄 아는 일은 체스뿐입니다. 하드디스크에 데이터를 더 잘 저장하는 방법을 물으면 멍하니 바라볼 뿐이라고 어번은 말합니다.

2단계, AGI. 강한 AI(Strong AI) 또는 인간 수준 AI(Human-Level AI)라고도 불리는 AGI는 모든 면에서 인간만큼 똑똑한 컴퓨터, 곧 인간이 할 수 있는 지적 과업(task)이라면 무엇이든 해낼 수 있는 기계입니다. AGI를 만드는 일은 ANI보다 훨씬 어렵고, 인류는 아직 해내지 못했습니다. 린다 갓프레드슨(Linda Gottfredson) 교수는 지능을 매우 일반적인 정신 능력으로 정의합니다. 그 안에는 추론하고, 계획하고, 문제를 풀고, 추상적으로 생각하고, 복잡한 생각을 이해하고, 빨리 배우고, 경험에서 배우는 능력이 들어 있습니다. AGI는 이 모든 일을 우리만큼 수월하게 해낼 것입니다.

3단계, ASI. 옥스퍼드대학교(University of Oxford)의 철학자이자 손꼽히는 AI 사상가인 닉 보스트롬(Nick Bostrom)은 초지능을 과학적 창의성, 전반적인 지혜, 사회적 기술을 포함해 사실상 모든 분야에서 가장 뛰어난 인간의 두뇌보다 훨씬 똑똑한 지성으로 정의합니다. ASI의 범위는 인간보다 조금 더 똑똑한 컴퓨터부터 모든 면에서 수조 배 더 똑똑한 컴퓨터까지 걸쳐 있습니다. 어번은 AI라는 주제가 이토록 뜨거운 이유가 바로 ASI에 있다고 말합니다. 이 연재에서 불멸과 멸종이라는 단어가 여러 번 등장하는 것도 ASI 때문입니다.

[반론]
어번의 세 단계 구분은 AGI라는 일반 지능이 실재한다는 전제 위에 서 있는데, 이 전제 자체를 문제 삼는 목소리가 있습니다. 메타(Meta)의 수석 AI 과학자였던 얀 르쿤(Yann LeCun)은 인간 지능부터가 진화를 거쳐 고도로 특화된 것이어서 일반적이지 않다고 거듭 주장해 왔습니다. 그는 AGI라는 말을 싫어한다며, 메타 안에서는 고급 기계 지능(Advanced Machine Intelligence)이라는 표현을 쓴다고 밝혔습니다. 이에 대해 구글 딥마인드(Google DeepMind)의 데미스 하사비스(Demis Hassabis)는 르쿤이 일반 지능과 보편 지능을 혼동하고 있다고 반박했습니다. 충분한 시간과 메모리와 데이터가 주어지면 계산 가능한 것은 무엇이든 배울 수 있다는 점에서, 인간의 뇌와 AI 기반 모델은 근사적인 튜링 기계이며 따라서 충분히 일반적이라는 것입니다.

인류는 현재 가장 낮은 단계인 ANI를 여러 방면에서 정복했고, ANI는 이미 어디에나 있습니다. 어번은 AI 혁명을 ANI에서 출발해 AGI를 거쳐 ASI에 이르는 길로 정의합니다. 그리고 그 길은 우리가 살아남을 수도, 살아남지 못할 수도 있는 길이지만, 어느 쪽이든 모든 것을 바꿔 놓을 것이라고 말합니다.

이어서 어번은 이 분야의 선도적인 사상가들이 그리는 그 길의 모습과, 이 혁명이 생각보다 훨씬 빨리 올 수 있는 이유를 차례로 살펴보겠다고 예고합니다.

[한국 관점]
2026년 1월 22일 시행된 인공지능기본법은 AI를 학습, 추론, 지각, 판단, 언어 이해 같은 인간의 지적 능력을 전자적 방법으로 구현한 것으로 정의합니다. 어번이 말한 계산기부터 자율주행차까지 모두 담기는 넓은 정의입니다. 그런데 이 법이 의무를 나누는 기준은 어번의 지능 수준이 아니라 쓰임새입니다. 채용이나 대출 심사처럼 사람의 생명, 신체의 안전, 기본권에 중대한 영향을 줄 수 있는 영역에서 쓰이면 고영향 인공지능(High-Impact AI)으로, 콘텐츠를 만들어 내면 생성형 인공지능으로 분류합니다. 어번이 문명의 운명을 가르는 변수로 본 지능의 수준은 한국의 규율 체계에서 아직 기준으로 쓰이지 않는 셈입니다.

ANI가 움직이는 세계

어번은 ANI를 특정한 한 가지 일에서 인간의 지능이나 효율에 맞먹거나 그것을 넘어서는 기계 지능으로 정의합니다. 그리고 우리가 이미 ANI가 움직이는 세계에 살고 있음을 보여 주는 사례를 차례로 늘어놓습니다.

자동차. 자동차에는 ANI 시스템이 가득합니다. 잠김 방지 브레이크가 언제 작동할지 판단하는 컴퓨터부터 연료 분사 장치의 변수를 조정하는 컴퓨터까지 모두 ANI입니다. 지금 시험 중인 구글의 자율주행차에는 주변 세계를 지각하고 그에 반응하게 해 주는 강력한 ANI 시스템들이 들어갈 것입니다.

휴대전화. 휴대전화는 작은 ANI 공장입니다. 지도 앱으로 길을 찾고, 판도라(Pandora)에서 취향에 맞춘 음악을 추천받고, 내일 날씨를 확인하고, 시리와 대화하는 수십 가지 일상 활동에서 우리는 ANI를 씁니다.

스팸 필터와 온도조절기. 이메일 스팸 필터는 전형적인 ANI입니다. 처음에는 무엇이 스팸인지 가려내는 지식을 담고 출발하지만, 사용자의 취향을 겪어 가며 배우고 그 지식을 사용자에게 맞춰 갑니다. 네스트 온도조절기(Nest Thermostat)도 같은 방식으로 사용자의 일상 패턴을 파악해 그에 맞게 움직입니다.

추천과 맞춤 광고. 아마존(Amazon)에서 어떤 상품을 검색하고 나면 전혀 다른 사이트에서 그 상품이 추천 상품으로 뜨는 꺼림칙한 경험이 있습니다. 페이스북이 누구를 친구로 추가하면 좋을지 어쩐지 알고 있는 것도 마찬가지입니다. 이는 여러 ANI 시스템이 그물처럼 연결되어 사용자가 누구이고 무엇을 좋아하는지 서로 알려 주고, 그 정보로 무엇을 보여 줄지 정하는 것입니다. 아마존의 ‘이 상품을 산 사람들이 함께 산 상품’ 기능도 수백만 고객의 행동에서 정보를 모으고 종합해 더 많이 사도록 영리하게 유도하는 ANI입니다.

번역과 음성 인식. 구글 번역(Google Translate)은 좁은 과업 하나를 놀랄 만큼 잘 해내는 전형적인 ANI입니다. 음성 인식도 ANI이며, 이 두 ANI를 짝지어 한 언어로 말한 문장을 다른 언어로 바꿔 내놓는 앱이 여럿 있습니다.

항공. 비행기가 착륙한 뒤 어느 게이트로 갈지 정하는 것은 사람이 아닙니다. 그 항공권의 가격을 정한 것도 사람이 아닙니다.

게임. 체커, 체스, 스크래블(Scrabble), 백개먼, 오델로(Othello)의 세계 최강자는 이제 모두 ANI입니다.

[사후 맥락]
어번의 목록에 바둑은 없었습니다. 바둑은 오랫동안 AI가 넘보기 어려운 게임으로 여겨졌고, 전문가들은 AI가 정상급 프로를 이기려면 적어도 10년은 걸린다고 봤습니다. 그러나 구글 딥마인드의 알파고(AlphaGo)는 이 글이 나온 지 1년 2개월 뒤인 2016년 3월 서울에서 이세돌 9단과 다섯 판을 두어 4승 1패를 거뒀습니다. 컴퓨터 바둑 프로그램이 접바둑 없이 9단 프로를 이긴 첫 사례였습니다. 이후 스스로 학습한 후속 버전은 알파제로(AlphaZero)로 일반화되어 체스와 쇼기까지 두게 되었습니다.

검색과 피드. 구글 검색은 웹페이지의 순위를 매기고 사용자 개개인에게 무엇을 보여 줄지 정하는 정교한 방법을 갖춘 하나의 거대한 ANI 두뇌입니다. 페이스북의 뉴스피드도 마찬가지입니다.

군사·제조·금융·의료. 지금까지는 소비자 세계의 사례일 뿐입니다. 정교한 ANI 시스템은 군사, 제조, 금융 같은 분야에서도 널리 쓰입니다. 알고리즘으로 움직이는 고빈도매매(high-frequency trading) AI가 미국 시장에서 거래되는 주식의 절반 이상을 차지합니다. 의사의 진단을 돕는 전문가 시스템(expert system)도 있으며, 가장 유명한 것은 IBM의 왓슨(Watson)입니다. 왓슨은 방대한 사실을 담고 있었고 퀴즈쇼 진행자 특유의 비튼 질문도 알아들을 만큼 영리해서, 제퍼디!(Jeopardy!)의 역대 최강 우승자들을 큰 차이로 꺾었습니다.

어번은 지금의 ANI가 특별히 무섭지는 않다고 말합니다. 최악의 경우 결함이 있거나 잘못 프로그래밍된 ANI가 국지적인 재앙을 일으킬 수는 있습니다. 전력망을 마비시키거나, 원자력발전소에 위험한 오작동을 일으키거나, 금융시장 재난을 촉발하는 식입니다. 2010년 플래시 크래시(Flash Crash)가 그런 예입니다. 어번의 설명으로는 한 ANI 프로그램이 예상치 못한 상황에 잘못 반응해 주식시장이 잠시 곤두박질쳤고, 시가총액 1조 달러가 증발했으며, 실수가 바로잡힌 뒤에도 그 일부만 회복되었습니다.

해설
미국 증권거래위원회(SEC)와 상품선물거래위원회(CFTC)는 2010년 5월 6일의 플래시 크래시에 관한 공동 보고서를 같은 해 가을 냈습니다. 보고서가 지목한 발단은 대형 펀드 운용사 워델앤드리드(Waddell & Reed)가 보유 주식을 헤지하려고 S&P 500 선물 7만 5,000계약, 약 41억 달러어치를 내놓은 매도 주문이었습니다. 이 주문을 처리한 자동 매도 알고리즘은 가격이나 시간은 따지지 않고 직전 1분 거래량의 9%에 맞춰 물량을 내보내도록 설정되어 있었습니다. 고빈도매매 업체들이 이 계약을 사들인 뒤 서로 빠르게 주고받자 거래량이 부풀었고, 알고리즘은 그만큼 매도 속도를 높였습니다. 그 결과 선물 가격은 4분 만에 약 3% 떨어졌고, 다우존스 지수는 30분이 안 되는 사이에 1,000포인트 가까이 빠졌습니다.

ANI에는 인류의 존재를 위협할 만한 능력이 없습니다. 그래도 어번은 비교적 무해한 ANI들이 이루는, 점점 커지고 복잡해지는 이 생태계를 세상을 바꿔 놓을 허리케인의 전조로 봐야 한다고 말합니다. ANI의 혁신 하나하나가 AGI와 ASI로 가는 길 위에 조용히 벽돌을 하나씩 더 얹고 있다는 것입니다. 에런 세인즈(Aaron Saenz)의 비유를 빌리면, 오늘날의 ANI 시스템은 초기 지구의 원시 수프(primordial ooze) 속 아미노산과 같습니다. 생명 없는 재료였지만 어느 예기치 못한 날 깨어나 생명이 된 그 물질입니다.

[반론]
뮬하우저는 이 절에서 두 대목을 짚었습니다. 하나는 ANI의 정의입니다. 인간과 대등하거나 그 이상이라는 것은 목표일 뿐이고, 당시 많은 ANI는 아직 그 수준에 이르지 못했다는 것입니다. 체스 컴퓨터는 인간을 안정적으로 이겼지만 바둑 컴퓨터는 그러지 못했다는 예를 들면서, 곧 그렇게 될 것이라고도 덧붙였습니다.

다른 하나는 벽돌 비유입니다. 뮬하우저는 ANI 혁신의 상당수가, 셈법에 따라서는 대부분이 AGI로 가는 데 보탬이 되지 않을 것이라고 봤습니다. 많은 ANI 기법이 처음에 성공하다가 막다른 길에 이르고 다른 방법에 밀려나는 것이 지금까지 AI 역사가 흘러온 방식이며, 앞으로도 그럴 것이라는 이유입니다.

ANI에서 AGI로 가는 길

왜 그토록 어려운가

어번은 인간의 지능이 얼마나 대단한지 실감하는 데, 우리만큼 똑똑한 컴퓨터를 만드는 일이 얼마나 어려운지 알아보는 것만 한 방법이 없다고 말합니다. 마천루를 짓고, 사람을 우주로 보내고, 빅뱅이 어떻게 일어났는지 세세히 밝혀내는 일은 모두 우리 자신의 뇌를 이해하거나 그만큼 근사한 것을 만드는 일보다 훨씬 쉽습니다. 어번은 현재로서는 인간의 뇌가 알려진 우주에서 가장 복잡한 물체라고 말합니다.

흥미로운 점은 AGI, 곧 좁은 전문 분야 하나가 아니라 전반적으로 인간만큼 똑똑한 컴퓨터를 만드는 일에서 어려운 부분이 직관과 다르다는 것입니다. 열 자리 숫자 두 개를 순식간에 곱하는 컴퓨터는 아주 쉽게 만듭니다. 그러나 개를 보고 개인지 고양이인지 답하는 컴퓨터를 만들기는 엄청나게 어렵습니다. 어떤 인간도 이기는 체스 AI는 이미 나와 있습니다. 반면 여섯 살 아이의 그림책에서 한 문단을 읽고 단어를 알아보는 데 그치지 않고 그 의미까지 이해하는 AI를 만들기 위해, 구글은 지금 수십억 달러를 쏟아붓고 있습니다.

미적분, 금융시장 전략, 언어 번역처럼 어려운 일은 컴퓨터에게 하품이 날 만큼 쉽습니다. 반대로 보고, 동작하고, 움직이고, 지각하는 것처럼 쉬운 일은 컴퓨터에게 말도 안 되게 어렵습니다. 컴퓨터과학자 도널드 커누스(Donald Knuth)의 말을 빌리면, AI는 생각이 필요한 일은 거의 다 해냈지만 사람과 동물이 생각 없이 하는 일은 대부분 해내지 못했습니다.

해설
어번이 묘사한 현상은 모라벡의 역설(Moravec’s paradox)이라고 불립니다. 로봇공학자 한스 모라벡(Hans Moravec)이 1980년대에 정리한 관찰로, 추론처럼 인간에게 고차원적인 일은 계산이 적게 들지만 지각과 운동처럼 무의식적인 일은 막대한 계산을 요구한다는 내용입니다. 모라벡은 그 이유를 어번과 같은 방향에서 찾았습니다. 보고 걷고 잡는 능력은 수억 년 동안 진화로 다듬어진 반면, 추상적 사고는 진화의 역사에서 아주 최근에 덧붙은 얇은 층이라는 설명입니다. 커누스는 프로그래밍의 고전 『The Art of Computer Programming』의 저자로 잘 알려진 인물입니다.

이 점을 곱씹어 보면, 우리에게 쉬워 보이는 일이 실은 믿기 어려울 만큼 복잡하다는 사실을 금세 깨닫게 된다고 어번은 말합니다. 그 일들이 쉬워 보이는 것은 수억 년에 걸친 동물 진화가 우리와 대부분의 동물에게 그 능력을 최적화해 두었기 때문입니다. 물건을 향해 손을 뻗을 때 어깨, 팔꿈치, 손목의 근육과 힘줄과 뼈는 눈과 함께 순식간에 일련의 물리 연산을 수행하고, 그 덕분에 손이 3차원 공간을 가로질러 곧게 움직입니다. 이 동작이 우리에게 힘들지 않게 느껴지는 것은 뇌 안에 이 일을 위해 완성된 소프트웨어가 있기 때문입니다.

웹사이트에 가입할 때 나오는 기울어진 글자 인식 테스트도 같은 이치입니다. 악성 프로그램이 그 테스트를 통과하지 못하는 것은 프로그램이 멍청해서가 아니라, 그 테스트를 통과하는 우리 뇌가 대단히 뛰어나기 때문입니다.

반대로 큰 수의 곱셈이나 체스는 생물에게 새로운 활동입니다. 그런 일에 능숙해지도록 진화할 시간이 전혀 없었으니, 컴퓨터가 우리를 이기는 데 그리 애쓸 필요가 없습니다. 어번은 독자에게 묻습니다. 큰 수를 곱하는 프로그램과, 예측할 수 없는 수천 가지 글꼴이나 손글씨 중 어떤 모양으로 B를 보여 줘도 곧바로 B임을 알아챌 만큼 B의 본질을 이해하는 프로그램 가운데 어느 쪽을 만들겠느냐는 것입니다.

어번은 재미있는 예를 하나 듭니다. 그림의 대부분을 검게 가리고 두 가지 음영이 번갈아 나오는 직사각형 부분만 보여 주면, 사람도 컴퓨터도 그것이 두 음영이 교차하는 직사각형이라는 것을 알아봅니다. 여기까지는 무승부입니다. 그런데 가림막을 걷어 내고 그림 전체를 보여 주면 상황이 달라집니다. 사람은 불투명한 원통과 반투명한 원통, 널빤지, 입체적인 모서리를 어렵지 않게 묘사하지만, 컴퓨터는 처참하게 실패합니다.

컴퓨터는 보이는 그대로 여러 음영의 2차원 도형들이 있다고 묘사할 것이고, 사실 그림에 실제로 있는 것은 그것뿐입니다. 우리 뇌는 그림이 표현하려는 깊이, 음영의 겹침, 방의 조명을 해석하느라 엄청나게 많은 일을 해내고 있는 것입니다. 바위 사진도 마찬가지입니다. 컴퓨터에게는 흰색, 검은색, 회색이 뒤섞인 평면 콜라주로 보이지만, 우리는 그것이 온통 새까만 입체 바위를 찍은 사진임을 쉽게 알아봅니다.

게다가 지금까지 말한 것은 모두 멈춰 있는 정보를 받아들여 처리하는 일일 뿐입니다. 인간 수준의 지능을 갖추려면 컴퓨터는 미묘한 표정의 차이를 읽어 내야 합니다. 기쁘다, 안도하다, 흡족하다, 만족하다, 반갑다 사이의 차이를 구분해야 하고, 브레이브하트(Braveheart)는 훌륭했는데 패트리어트(The Patriot)는 형편없었던 이유까지 이해해야 합니다. 어번은 갈 길이 아득하다고 말하면서, 그렇다면 어떻게 거기에 이를 수 있느냐고 묻습니다.

[반론]
뮬하우저는 이 절의 두 표현에 이의를 달았습니다. 먼저 인간의 뇌가 알려진 우주에서 가장 복잡한 물체라는 말은 사실과 다르다고 했습니다. 예컨대 아프리카코끼리의 뇌에는 인간보다 세 배 많은 뉴런이 있다는 것입니다. 또 모라벡의 역설이 대체로 맞기는 하지만, 자산 거래나 언어 번역을 AI에게 하품 나게 쉬운 일로 묘사하는 것은 지나치다고 했습니다. 수십억 달러를 들였어도 기계 번역은 아직 중급 수준의 인간 번역가만 못하며, 적어도 앞으로 10년은 그럴 것이라고 그는 내다봤습니다.

[사후 맥락]
개와 고양이를 구분하는 일, 기울어진 글자를 읽는 일은 이 글이 나온 뒤 빠르게 기계의 영역으로 넘어갔습니다. 글이 발표되고 2주 남짓 지난 2015년 2월, 마이크로소프트 연구진은 이미지넷(ImageNet) 이미지 분류 과제에서 상위 5개 예측 오답률 4.94%를 기록해, 인간 수준으로 보고된 5.1%를 처음 넘어섰다고 발표했습니다. 같은 해 말 이들의 잔차 네트워크(ResNet)는 오답률을 3.57%까지 낮췄습니다. 2023년 캘리포니아대학교 어바인(UC Irvine) 연구진의 비교에서는 봇이 기울어진 글자형 캡차(CAPTCHA)를 99.8%의 정확도로 1초 안에 풀었고, 사람은 정확도 50-84%에 9-15초가 걸렸습니다.

첫 번째 열쇠: 연산 능력을 키운다

AGI가 가능해지려면 반드시 일어나야 할 일 하나는 컴퓨터 하드웨어 성능의 향상입니다. AI 시스템이 뇌만큼 지능적이려면 먼저 뇌의 날것 그대로의 연산 능력에 맞먹어야 하기 때문입니다. 이 능력을 나타내는 한 가지 방법은 뇌가 해낼 수 있는 초당 연산 횟수(calculations per second, cps)입니다. 뇌의 각 구조가 낼 수 있는 최대 cps를 구해 모두 더하면 이 수치를 얻을 수 있습니다.

커즈와일은 지름길을 택했습니다. 뇌의 한 구조에 대한 전문가의 cps 추정치를 가져와, 그 구조의 무게가 뇌 전체에서 차지하는 비중에 맞춰 비례 계산으로 뇌 전체의 cps를 추정한 것입니다. 다소 어설퍼 보이는 방법이지만, 그는 여러 부위에 대한 여러 전문가의 추정치로 이 계산을 여러 번 반복했습니다. 결과는 매번 비슷한 범위, 곧 10의 16제곱인 약 1경 cps에 모였습니다.

현재 세계에서 가장 빠른 슈퍼컴퓨터인 중국의 톈허-2(Tianhe-2)는 이미 이 수치를 넘어 약 3경 4,000조 cps를 냅니다. 그러나 어번이 보기에 톈허-2는 꽤 고약한 녀석입니다. 720제곱미터의 공간을 차지하고 24메가와트의 전력을 쓰는데, 뇌는 단 20와트로 돌아갑니다. 건설비도 3억 9,000만 달러에 이르러, 널리 쓰이기는커녕 대부분의 상업·산업 용도에도 아직 맞지 않습니다.

그래서 커즈와일은 1,000달러로 살 수 있는 cps를 기준으로 컴퓨터의 수준을 가늠하자고 제안합니다. 이 수치가 인간 수준인 1경 cps에 이르면, AGI가 삶의 아주 현실적인 일부가 될 수 있다는 것입니다.

[반론]
뮬하우저는 AGI에 뇌만큼의 연산 능력이 반드시 필요하다는 전제에 단서를 달았습니다. 연산 능력이 워낙 빠르게 늘고 있어 AGI를 만드는 법을 알아내기 전에 뇌를 넘는 연산 능력을 갖게 될 가능성은 높지만, 개념적으로 꼭 그래야 하는 것은 아니라는 것입니다. 비행기가 새를 그대로 본뜨지 않았듯 AGI의 설계도 뇌와 전혀 다를 수 있고, 진화는 꽤 어설픈 설계자이므로 효율적인 설계라면 뇌보다 훨씬 적은 연산으로도 인간을 넘어설 수 있다고 그는 봤습니다. 다만 연산 능력이 많을수록 덜 효율적인 설계로도 버틸 수 있다고 덧붙였습니다.

그는 연산 횟수만 볼 것이 아니라, 연산 장치 사이에 정보가 오가는 속도를 재는 초당 탐색 간선 수(TEPS) 같은 지표도 함께 볼 만하다고 지적했습니다.

무어의 법칙은 세계 최고 수준의 연산 능력이 대략 2년마다 두 배가 된다는, 역사적으로 꽤 믿을 만했던 경험칙입니다. 컴퓨터 하드웨어의 발전 역시 인류 역사 전반의 진보처럼 지수적으로 성장한다는 뜻입니다. 이를 커즈와일의 1,000달러당 cps 지표에 대입하면, 지금은 1,000달러당 약 10조 cps로 그의 그래프가 예측한 궤적을 정확히 따라가고 있습니다.

즉 세계의 1,000달러짜리 컴퓨터는 이제 쥐의 뇌를 넘어섰고, 인간 수준의 1,000분의 1쯤에 와 있습니다. 대단치 않게 들리지만, 1985년에는 인간 수준의 1조분의 1, 1995년에는 10억분의 1, 2005년에는 100만분의 1이었다는 점을 떠올리면 이야기가 달라집니다. 2015년에 1,000분의 1이라면, 2025년이면 뇌의 연산 능력에 맞먹는 저렴한 컴퓨터가 나올 궤도에 정확히 올라 있는 셈입니다.

[사후 맥락]
어번이 기준으로 삼은 1경 cps는 슈퍼컴퓨터에서 일찌감치 지나간 수치가 되었습니다. 2022년 미국 오크리지 국립연구소(Oak Ridge National Laboratory)의 프런티어(Frontier)가 공개된 시스템으로는 처음 초당 100경 회 연산을 넘겼고, 2024년 11월부터는 엘 캐피탄(El Capitan)이 1.742엑사플롭스로 세계 1위를 지키고 있습니다. 다만 그사이 AI의 도약은 값싼 개인용 컴퓨터보다는 대규모 학습에 쏟아부은 연산량의 급증과 함께 왔습니다. Epoch AI는 주목할 만한 AI 모델의 학습 컴퓨트가 2010년부터 2024년 5월까지 해마다 약 4배씩 늘었고, 최근 프런티어 모델은 연 4-5배씩 늘고 있다고 추산했습니다. 2년마다 두 배라는 무어의 법칙보다 훨씬 가파른 속도입니다.

정리하면 하드웨어 쪽에서 AGI에 필요한 날것의 연산 능력은 이미 중국에 기술적으로 존재하며, 저렴하고 널리 보급된 AGI급 하드웨어도 10년 안에 준비될 것이라고 어번은 말합니다. 그러나 날것의 연산 능력만으로 컴퓨터가 일반 지능을 갖추지는 않습니다. 다음 질문은 그 모든 연산 능력에 어떻게 인간 수준의 지능을 불어넣느냐입니다.

[한국 관점]
어번은 하드웨어 경쟁을 초당 연산 횟수 하나로 셌지만, 실제 AI 하드웨어에서는 연산 장치에 데이터를 얼마나 빨리 공급하느냐가 성능을 가르는 병목으로 떠올랐습니다. 이른바 메모리 벽(memory wall) 문제입니다. 이 병목을 푸는 부품이 고대역폭 메모리(HBM)이고, 그 공급을 한국 기업들이 사실상 쥐고 있습니다. 카운터포인트리서치(Counterpoint Research)에 따르면 2026년 2분기 매출 기준 HBM 시장 점유율은 SK하이닉스 50%, 삼성전자 33%로 두 회사 합계가 80%를 넘었습니다. 어번의 지표에는 드러나지 않던 이 부품 덕분에, 한국은 AI 가속기 시장을 주도하지 않으면서도 연산 능력 경쟁의 핵심 공급자 자리에 섰습니다.

두 번째 열쇠: 똑똑하게 만든다

어번은 여기가 골치 아픈 대목이라고 말합니다. 솔직히 컴퓨터를 똑똑하게 만드는 방법은 아무도 제대로 알지 못합니다. 컴퓨터를 인간 수준으로 지능적으로 만들어 개가 무엇인지, 이상하게 쓴 B가 무엇인지, 그저 그런 영화가 무엇인지 알게 하는 방법을 두고 사람들은 아직 논쟁 중입니다. 그래도 허황돼 보이는 전략이 여럿 나와 있고, 언젠가는 그중 하나가 통할 것이라고 어번은 봅니다. 그가 조사하며 가장 흔히 접한 전략은 세 가지입니다.

전략 1, 뇌를 베낀다. 반에서 옆자리에 앉은 아이가 왜 그렇게 똑똑하고 시험을 잘 보는지 고민하는 과학자들을 떠올려 보면 됩니다. 아무리 열심히 공부해도 그 아이만큼 못 하자, 결국 그 아이의 답을 그냥 베끼기로 한 것입니다. 이치에 맞는 선택입니다. 초복잡 컴퓨터를 만들다 막혔는데, 마침 우리 머릿속에 완벽한 원형이 하나씩 들어 있기 때문입니다.

과학계는 진화가 어떻게 이토록 근사한 것을 만들었는지 알아내려고 뇌를 역설계하는 일에 매달리고 있습니다. 낙관적인 추정으로는 2030년쯤 이 일을 해낼 수 있습니다. 그러면 뇌가 그토록 강력하고 효율적으로 작동하는 비밀을 모두 알게 되고, 거기서 영감을 얻고 그 혁신을 가져다 쓸 수 있습니다.

뇌를 흉내 낸 컴퓨터 구조의 한 예가 인공신경망(artificial neural network)입니다. 인공신경망은 입력과 출력으로 서로 연결된 트랜지스터 뉴런들의 그물망에서 출발하며, 처음에는 갓난아기의 뇌처럼 아무것도 모릅니다. 손글씨 인식 같은 과업을 시키면 처음에는 뉴런의 발화와 그에 따른 글자 추측이 완전히 무작위입니다. 그러다 맞혔다는 신호를 받으면 그 답을 낸 발화 경로의 연결이 강해지고, 틀렸다는 신호를 받으면 그 경로의 연결이 약해집니다. 이런 시도와 피드백을 수없이 반복하면 신경망은 스스로 영리한 신경 경로를 만들어 내고, 기계는 그 과업에 최적화됩니다.

뇌도 대략 이런 식으로 배우지만 훨씬 정교한 방식으로 배웁니다. 그리고 뇌를 계속 연구할수록 우리는 신경 회로를 활용하는 기발한 방법을 새로 찾아내고 있다고 어번은 말합니다.

더 극단적인 베끼기는 전뇌 에뮬레이션(whole brain emulation)입니다. 실제 뇌를 얇은 층으로 썰어 각 층을 스캔하고, 소프트웨어로 정확한 3차원 모델을 재구성한 뒤, 그 모델을 강력한 컴퓨터에서 구현하는 전략입니다. 그러면 뇌가 할 수 있는 모든 것을 공식적으로 해낼 수 있는 컴퓨터가 생기고, 이 컴퓨터는 배우고 정보를 모으기만 하면 됩니다.

엔지니어들의 실력이 정말 좋아진다면, 실제 뇌를 아주 정확하게 에뮬레이션해 뇌 구조를 컴퓨터에 올린 뒤에도 그 사람의 성격과 기억이 고스란히 남게 할 수 있습니다. 짐이라는 사람이 세상을 떠나기 직전의 뇌를 이렇게 옮긴다면, 컴퓨터는 짐으로 깨어날 것입니다. 어번은 이 대목에 물음표를 붙여, 그것이 정말 짐인지라는 자기 동일성의 문제를 다룬 자신의 다른 글로 연결해 둡니다. 어쨌든 그렇게 깨어난 짐은 탄탄한 인간 수준의 AGI이고, 이제 우리는 짐을 상상할 수 없을 만큼 똑똑한 ASI로 바꾸는 작업에 들어갈 수 있으며, 짐도 아마 무척 반가워할 것입니다.

전뇌 에뮬레이션까지는 얼마나 남았을까요. 지금까지 인류는 뉴런이 302개뿐인 길이 1mm짜리 벌레의 뇌를 이제 막 에뮬레이션했을 뿐입니다. 인간의 뇌에는 뉴런이 1,000억 개 있습니다. 가망 없는 일처럼 보인다면 지수적 진보의 힘을 떠올리라고 어번은 말합니다. 작은 벌레의 뇌를 정복했으니 머지않아 개미, 이어서 쥐가 뒤따를 것이고, 그러면 갑자기 이 일이 훨씬 그럴듯해 보일 것이라는 이야기입니다.

[반론]
뮬하우저는 뇌 베끼기 전략에 관한 대목 대부분에 이의를 달았습니다. 그는 2030년까지 이 정도 수준으로 뇌를 역설계할 수 있다고 보는 신경과학자는 사실상 한 명도 없을 것이라고 했습니다. 인공신경망도 좋은 예가 아니라고 봤는데, 그 기원이 1940년대까지 거슬러 올라가고 뇌를 아주 기초적인 의미에서만 흉내 내기 때문입니다. 벌레의 뇌를 에뮬레이션했다는 주장에는 그렇지 않다고 반박했고, 인간 뇌의 뉴런 수도 새로운 측정 기법으로는 860억 개라고 바로잡았습니다.

그는 또 연산 능력은 워낙 빠르게 늘기 때문에, 전뇌 에뮬레이션의 발목을 잡는 것은 연산이 아니라 스캔 해상도와 신경과학 지식일 가능성이 크다고 지적했습니다.

[사후 맥락]
뮬하우저가 좋은 예가 아니라고 본 인공신경망은 이후 AI의 주류가 되었습니다. ChatGPT를 비롯한 오늘날의 주요 AI는 모두 거대한 인공신경망을 대규모 데이터와 연산으로 학습시킨 것입니다.

전뇌 에뮬레이션 쪽에서도 진전이 있었습니다. 2024년 10월 국제 연구 컨소시엄 플라이와이어(FlyWire)는 성체 초파리 뇌 전체의 신경 연결 지도를 네이처(Nature)에 발표했습니다. 뉴런 13만 9,255개와 시냅스 5,000만 개 이상을 담은 이 지도는, 어번이 언급한 302개 뉴런의 벌레인 예쁜꼬마선충 등 이전의 연결 지도보다 규모가 크게 뛰어오른 것입니다. 연구진은 이 지도를 계산 모델로 옮겨 초파리 뇌를 컴퓨터에서 시뮬레이션하기도 했지만, 초파리의 뉴런 수는 여전히 인간 뇌의 100만분의 1 수준입니다.

전략 2, 진화를 다시 돌린다. 똑똑한 아이의 답안을 베끼기가 너무 어렵다면, 그 아이가 시험공부 하는 방식을 베낄 수도 있습니다. 확실한 것이 하나 있습니다. 뇌만큼 강력한 컴퓨터를 만드는 일은 가능하며, 우리 뇌의 진화가 그 증거입니다. 뇌가 너무 복잡해 에뮬레이션하기 어렵다면 대신 진화를 에뮬레이션해 볼 수 있습니다.

사실 뇌를 에뮬레이션할 수 있다 해도, 그것은 새의 날갯짓을 따라 해서 비행기를 만들려는 것과 비슷할지 모릅니다. 기계는 생물을 그대로 흉내 내기보다 기계에 맞는 새로운 접근으로 설계할 때 가장 잘 만들어지는 경우가 많습니다.

진화를 시뮬레이션해 AGI를 만드는 방법은 유전 알고리즘(genetic algorithm)이라고 불리며, 대략 이렇게 작동합니다. 생물이 삶을 살아가며 수행하고 번식 성공 여부로 평가받듯, 수행과 평가의 과정을 되풀이합니다. 컴퓨터 여러 대가 과업을 시도하고, 가장 성공적인 컴퓨터들은 각자의 프로그램을 절반씩 합쳐 새 컴퓨터를 만드는 방식으로 교배됩니다. 덜 성공적인 컴퓨터는 제거됩니다. 이 자연선택을 수없이 반복하면 점점 더 나은 컴퓨터가 나올 것이고, 관건은 평가와 교배의 주기가 스스로 돌아가도록 자동화하는 일입니다.

진화를 따라 하는 방식의 단점은 진화가 일을 마치는 데 10억 년쯤 걸리는데 우리는 수십 년 안에 해내고 싶다는 점입니다. 그래도 우리에게는 진화보다 유리한 점이 많다고 어번은 말합니다.

첫째, 진화는 앞을 내다보지 못하고 무작위로 움직여 도움이 되는 변이보다 쓸모없는 변이를 더 많이 만들어 내지만, 우리는 과정을 통제해 이로운 결함과 목표에 맞춘 조정만으로 진행할 수 있습니다. 둘째, 진화는 지능을 포함해 무엇도 목표로 삼지 않으며, 지능은 에너지를 많이 쓰기 때문에 환경이 오히려 높은 지능에 불리하게 작용할 때도 있습니다. 반면 우리는 이 진화 과정을 지능 향상 쪽으로 곧장 겨냥할 수 있습니다. 셋째, 진화는 지능을 선택하기 위해 세포가 에너지를 만드는 방식을 바꾸는 것처럼 지능을 뒷받침할 다른 혁신도 함께 해내야 하지만, 우리는 그런 부담을 덜고 전기 같은 수단을 쓸 수 있습니다.

우리가 진화보다 훨씬 빠를 것은 틀림없지만, 이 전략이 실현 가능할 만큼 진화를 충분히 개선할 수 있을지는 아직 분명하지 않다고 어번은 덧붙입니다.

전략 3, 컴퓨터에게 맡긴다. 이 전략은 궁지에 몰린 과학자들이 시험이 스스로 답을 풀도록 프로그래밍하는 것과 같습니다. 그래도 어번은 이것이 가장 유망한 방법일 수 있다고 봅니다. 핵심은 AI를 연구하는 능력과 자기 자신의 코드를 고치는 능력, 이 두 가지를 주된 기술로 가진 컴퓨터를 만드는 것입니다. 그러면 컴퓨터는 배우는 데 그치지 않고 자신의 구조 자체를 개선할 수 있습니다. 컴퓨터를 컴퓨터과학자로 가르쳐 스스로의 발전을 이끌게 하고 스스로를 더 똑똑하게 만드는 일을 본업으로 삼게 한다는 구상이며, 어번은 이 이야기를 뒤에서 다시 하겠다고 예고합니다.

이 모든 일이 곧 일어날 수 있다

하드웨어의 빠른 발전과 소프트웨어의 혁신적 실험이 동시에 일어나고 있기 때문에, AGI는 두 가지 이유로 예상보다 빠르고 갑작스럽게 우리에게 다가올 수 있다고 어번은 말합니다.

지수적 성장의 힘. 지수적 성장은 강렬해서, 달팽이 걸음처럼 보이던 진보가 순식간에 치솟을 수 있습니다. 어번은 이 개념을 잘 보여 주는 움직이는 그림 하나를 덧붙입니다.

한 번의 깨달음. 소프트웨어의 진보는 느려 보이다가도 단 한 번의 깨달음으로 발전 속도가 단숨에 바뀔 수 있습니다. 인류가 우주를 지구 중심으로 이해하던 시절 과학은 우주의 작동을 계산하는 데 애를 먹었지만, 태양이 중심이라는 발견이 나오자 모든 것이 갑자기 훨씬 쉬워진 것과 비슷합니다. 스스로를 개선하는 컴퓨터라면 더욱 그렇습니다. 아직 멀어 보여도 실제로는 시스템을 한 번만 손보면 1,000배 더 효율적이 되어 인간 수준의 지능까지 단숨에 치솟는 지점에 와 있을지도 모릅니다.

[사후 맥락]
어번이 가장 유망할 수 있다고 본 세 번째 전략, 곧 AI가 AI를 연구하게 하는 길은 이제 AI 기업이 공개적으로 내건 목표가 되었습니다. 샘 올트먼(Sam Altman)은 2025년 10월 생중계에서 2026년 9월까지 인턴 수준의 AI 연구 보조를, 2028년 3월까지 제대로 된 자동화 AI 연구자를 만드는 것을 오픈AI의 내부 목표로 제시했습니다. 오픈AI는 2026년 9월 첫 목표를 달성했다며, 숙련된 연구자가 며칠 걸릴 만한 연구 과업을 사람의 지시 아래 수행하는 시스템이라고 설명했습니다. 다만 목표의 정의와 측정, 평가를 모두 오픈AI 스스로 했다는 점을 짚는 보도도 있었습니다.

AGI에서 ASI로

인간 수준에서 멈추지 않는 이유

언젠가 우리는 AGI, 곧 인간 수준의 일반 지능을 갖춘 컴퓨터를 손에 넣을 것입니다. 그러면 사람과 컴퓨터가 평등하게 어울려 사는 세상이 올까요. 어번의 대답은 전혀 그렇지 않다는 것입니다.

인간과 똑같은 수준의 지능과 연산 능력을 가진 AGI라도 인간에 비해 상당한 우위를 갖게 되기 때문입니다. 어번은 그 우위를 하드웨어와 소프트웨어로 나눠 설명합니다.

하드웨어, 속도. 뇌의 뉴런은 최대 약 200헤르츠로 작동하지만, 오늘날의 마이크로프로세서는 2기가헤르츠로 돌아가 뉴런보다 1,000만 배 빠릅니다. 그나마 지금의 프로세서는 AGI에 이를 무렵의 프로세서보다 훨씬 느린 수준입니다. 뇌 안의 신호 전달 속도는 초속 약 120미터로, 빛의 속도로 광통신을 하는 컴퓨터와는 비교가 되지 않습니다.

하드웨어, 크기와 저장. 뇌의 크기는 두개골의 모양에 묶여 있습니다. 설령 커질 수 있다 해도 초속 120미터의 신호가 한 구조에서 다른 구조로 가는 데 너무 오래 걸려 그리 커지지 못했을 것입니다. 컴퓨터는 물리적으로 얼마든지 커질 수 있어 훨씬 많은 하드웨어를 일에 투입할 수 있고, 작업 기억에 해당하는 램(RAM)도 훨씬 크게 쓸 수 있습니다. 장기 기억에 해당하는 하드디스크 저장 공간 역시 우리보다 용량도 크고 정확도도 높습니다.

하드웨어, 신뢰성과 내구성. 더 정확한 것은 컴퓨터의 기억만이 아닙니다. 컴퓨터의 트랜지스터는 생물학적 뉴런보다 정확하고 잘 노화하지 않으며, 고장 나더라도 수리하거나 교체할 수 있습니다. 인간의 뇌는 쉽게 지치지만, 컴퓨터는 하루 24시간 최고 성능으로 쉬지 않고 돌아갈 수 있습니다.

소프트웨어, 편집과 업그레이드. 인간의 뇌와 달리 컴퓨터 소프트웨어는 업데이트와 수정을 받을 수 있고 실험하기도 쉽습니다. 그 업그레이드는 인간의 뇌가 약한 영역까지 넓힐 수 있습니다. 인간의 시각 소프트웨어는 놀랄 만큼 발달했지만 복잡한 공학적 능력은 꽤 형편없습니다. 컴퓨터는 시각에서 인간과 대등해지는 동시에 공학을 비롯한 어떤 분야에서도 똑같이 최적화될 수 있습니다.

소프트웨어, 집단 능력. 인간은 거대한 집단 지성을 쌓는 데서 다른 모든 종을 압도합니다. 언어가 발달하고 크고 조밀한 공동체가 생겨난 데서 시작해, 문자와 인쇄술의 발명을 거쳐 이제 인터넷 같은 도구로 더욱 강해진 인류의 집단 지성은 우리가 다른 종을 그토록 앞지를 수 있었던 주요한 이유입니다. 그런데 컴퓨터는 이 일을 우리보다 훨씬 잘할 것입니다. 특정 프로그램을 돌리는 전 세계의 AI 네트워크는 주기적으로 스스로를 동기화해, 한 컴퓨터가 배운 것을 즉시 다른 모든 컴퓨터에 올릴 수 있습니다. 또 인간 집단 안에 있는 반대 의견이나 저마다의 동기, 사리사욕이 꼭 있으라는 법이 없으니, 하나의 목표를 하나의 단위로 추구할 수도 있습니다.

[사후 맥락]
어번이 말한 집단 능력은 이후 AI 업계가 미래를 그리는 핵심 근거가 되었습니다. 앤트로픽(Anthropic)의 다리오 아모데이(Dario Amodei)는 2024년 10월 「Machines of Loving Grace」에서, 강력한 AI를 학습시키는 데 쓴 자원을 그대로 돌리면 그 모델의 사본 수백만 개를 동시에 돌릴 수 있다고 썼습니다. 각 사본은 인간보다 대략 10-100배 빠르게 정보를 받아들이고 행동을 내놓을 수 있으며, 아모데이는 이를 데이터센터 속 천재들의 나라(a country of geniuses in a datacenter)라는 말로 요약했습니다.

게다가 AI는 스스로를 개선하도록 프로그래밍되는 방식으로 AGI에 이를 가능성이 큽니다. 그런 AI에게 인간 수준의 지능은 대단한 이정표가 아닙니다. 그것은 우리 관점에서나 의미 있는 표지일 뿐이고, AI가 우리 수준에서 멈춰야 할 이유는 없습니다. 인간과 같은 지능의 AGI조차 우리보다 앞서는 점들을 생각하면, AI는 인간 수준의 지능을 아주 잠깐 스쳐 지나간 뒤 인간을 넘어서는 영역으로 내달릴 것이 분명하다고 어번은 말합니다.

해설
AI가 인간 수준을 잠깐 스쳐 간다는 생각은 이 글보다 앞서 빈지가 짧게 정리한 바 있습니다. 그는 2008년 IEEE 스펙트럼(IEEE Spectrum)에 실은 「Signs of the Singularity」에서, 컴퓨터가 언젠가 인간만큼 똑똑해지겠느냐는 질문에 가장 좋은 답은 ‘그렇다, 다만 아주 잠깐’일 것이라고 썼습니다. 인간 수준 AI가 가져올 결과는 엄청나겠지만 그래도 지금의 우리에게 설명할 수는 있는 수준이며, 정말 알 수 없는 것은 그로부터 1-2년 뒤의 일이라는 설명입니다.

어번은 그 순간이 오면 우리가 엄청난 충격을 받을 것이라고 말합니다. 우리 관점에서는 두 가지 인식이 겹치기 때문입니다. 첫째, 동물마다 지능의 차이는 있지만 우리가 동물의 지능에 대해 아는 가장 큰 특징은 그것이 우리보다 훨씬 낮다는 점입니다. 둘째, 우리는 가장 똑똑한 인간이 가장 둔한 인간보다 엄청나게 똑똑하다고 여깁니다.

그래서 AI의 지능이 우리를 향해 치솟는 동안 우리는 그저 AI가 동물치고 똑똑해지고 있다고 여길 것입니다. 그러다 AI가 인류의 가장 낮은 지능 수준, 보스트롬이 동네 바보라고 부른 수준에 이르면 우리는 ‘와, 멍청한 사람 같네, 귀엽다’ 하고 반응할 것입니다. 문제는 지능의 거대한 스펙트럼에서 보면 동네 바보부터 알베르트 아인슈타인(Albert Einstein)까지 모든 인간이 아주 좁은 범위 안에 몰려 있다는 점입니다. 그러니 AI는 동네 바보 수준에 이르러 AGI로 선언된 바로 직후 갑자기 아인슈타인보다 똑똑해질 것이고, 우리는 무엇에 당했는지도 모를 것이라고 어번은 말합니다.

그다음에는 무슨 일이 일어날까요. 어번은 이 질문을 던지며 다음 대목으로 넘어갑니다.

[반론]
어번의 그림, 곧 동물에서 동네 바보와 아인슈타인을 거쳐 위로 뻗는 한 줄짜리 지능 사다리 자체를 문제 삼는 비판이 있습니다. 와이어드(Wired)의 창간 편집장 케빈 켈리(Kevin Kelly)는 2017년 4월 에세이 「The Myth of a Superhuman AI」에서, 지능은 하나의 차원이 아니므로 인간보다 똑똑하다는 말 자체가 의미 없다고 주장했습니다. 그는 보스트롬처럼 지능을 한 줄로 커지는 선형 그래프로 그리는 것이 잘못이라고 지적했습니다. 앵무새, 돌고래, 말, 문어, 고양이, 고릴라의 지능을 한 줄로 정확히 세울 수 없듯, 지능은 여러 인지 능력이 얽힌 공간으로 봐야 한다는 것입니다. 켈리는 인간 지능 역시 그 공간의 한 지점일 뿐이며, AI는 사다리 위의 더 똑똑한 인간이 아니라 인간과 다른 방식으로 생각하는 외계 지성에 가깝다고 봤습니다.

지능 폭발

어번은 독자에게 지금까지의 평범한 시간을 즐겼기를 바란다고 말합니다. 이제부터 이 주제는 평범하지 않고 무서워지며, 끝까지 그 상태로 이어지기 때문입니다. 그는 여기서 잠시 멈춰, 앞으로 하는 이야기가 모두 실제라는 점을 일깨웁니다. 가장 존경받는 여러 사상가와 과학자들이 내놓은 진짜 과학이자 진짜 미래 예측이라는 것을 계속 기억해 달라는 당부입니다.

앞서 말했듯 AGI에 이르는 지금의 모델들은 대부분 AI가 자기 개선을 통해 그 수준에 도달하는 방식을 상정합니다. 그리고 일단 AGI에 이르면, 자기 개선과 무관한 방법으로 만들어지고 성장한 시스템이라도 원하기만 하면 스스로를 개선하기 시작할 만큼 똑똑해집니다. 컴퓨터가 무언가를 원한다는 것이 무슨 뜻인지는 2부에서 훨씬 자세히 다루겠다고 어번은 덧붙입니다.

여기서 강렬한 개념 하나가 등장합니다. 재귀적 자기개선입니다. 동네 바보 수준의 AI 시스템이 자신의 지능을 높이라는 목표로 프로그래밍되었다고 해 봅시다. 목표를 이루면 AI는 더 똑똑해지고, 이를테면 아인슈타인 수준이 된 지능으로 다시 지능을 높이는 일은 더 수월해져 더 큰 도약이 가능해집니다. 그 도약으로 AI는 어떤 인간보다도 훨씬 똑똑해지고, 그 덕분에 더더욱 큰 도약을 할 수 있게 됩니다.

도약이 점점 커지고 빨라지면서 AGI의 지능은 치솟고, 머지않아 초지능 수준의 ASI에 이릅니다. 이것이 지능 폭발이며, 수확 가속의 법칙의 궁극적인 사례라고 어번은 말합니다.

해설
지능 폭발이라는 말은 영국의 수학자 어빙 존 굿(Irving John Good)이 1965년 논문 「Speculations Concerning the First Ultraintelligent Machine」에서 처음 썼습니다. 굿은 어떤 인간보다 뛰어난 기계가 나오면 그 기계가 더 나은 기계를 설계할 수 있으므로 지능 폭발이 일어나고, 인간의 지능은 한참 뒤처지게 될 것이라고 봤습니다. 그래서 그는 최초의 초지능 기계가 인류가 만들어야 할 마지막 발명품이 될 것이라고 썼습니다. 다만 그 기계가 자신을 통제하는 방법을 우리에게 알려 줄 만큼 고분고분하다면 그렇다는 단서를 달았습니다.

AI가 언제 인간 수준의 일반 지능에 이를지는 의견이 갈립니다. 수백 명의 과학자에게 AGI에 도달했을 가능성이 그렇지 않을 가능성보다 커지는 해를 물은 설문에서 중간값은 2040년이었습니다. 지금부터 25년 뒤이니 그리 대단치 않게 들릴 수 있습니다. 그러나 이 분야의 많은 사상가가 AGI에서 ASI로의 이행이 아주 빠르게 일어날 가능성이 크다고 본다는 점을 생각하면 이야기가 달라집니다.

[반론]
뮬하우저는 이 절에서도 몇 가지를 바로잡았습니다. 그는 AGI에 이르는 현재 모델 대부분이 자기 개선을 상정한다는 말부터 근거가 없다고 봤습니다. AGI에서 초지능으로 가는 길은 대부분 자기 개선이겠지만, 지금의 AI에서 AGI까지 가는 길은 선도 프로젝트가 AGI 문턱에 아주 가까워지기 전까지 주로 사람의 공학적 작업이라는 것입니다. 2040년이라는 중간값도 AI 과학자가 아닌 사람들까지 포함한 여러 설문을 합친 수치이며, 가장 많이 인용되는 현역 AI 과학자만 추린 설문으로는 2050년이라고 했습니다.

그는 AGI에서 ASI로 아주 빠르게 넘어간다는 견해가 여전히 소수파라는 점도 짚었습니다. 또 지식과 지능의 상당 부분은 계산을 빨리 돌리는 데서가 아니라 세계와 상호작용하는 데서 나오며, 느린 자연 과정이 펼쳐지기를 기다려야만 배울 수 있는 것도 있다고 지적했습니다. 이런 맥락에서는 1초짜리 실험조차 느린 셈이라는 것입니다.

[사후 맥락]
전문가들이 예상하는 시점은 이후 크게 앞당겨졌습니다. AI 임팩츠(AI Impacts)가 최상위 AI 학회에 논문을 낸 연구자 2,778명을 조사해 2024년 1월 공개한 결과에서, 도움 없는 기계가 모든 과업을 인간보다 더 잘하고 더 싸게 해낼 확률이 50%가 되는 시점은 2047년으로 나타났습니다. 불과 1년 전 같은 설문의 2060년보다 13년 앞당겨진 수치입니다. 2016년과 2022년 설문 사이 6년 동안 이 시점이 겨우 1년 당겨졌던 것과 대비됩니다.

어번은 이런 일이 벌어질 수 있다며 한 장면을 그립니다. 첫 AI 시스템이 낮은 수준의 일반 지능에 이르기까지는 수십 년이 걸리지만, 결국 그날이 옵니다. 컴퓨터가 네 살배기만큼 주변 세계를 이해하게 된 것입니다. 그런데 그 이정표를 넘은 지 한 시간도 안 되어, 시스템은 어떤 인간도 확실하게 해내지 못한 일반상대성이론과 양자역학의 통합 이론을 내놓습니다. 다시 90분 뒤, 이 AI는 인간보다 17만 배 똑똑한 ASI가 되어 있습니다.

이 정도 규모의 초지능은 뒤영벌이 케인스 경제학을 이해할 수 없는 것만큼이나 우리가 조금도 가늠할 수 없는 대상입니다. 우리 세계에서 똑똑하다는 것은 IQ 130을, 둔하다는 것은 IQ 85를 뜻할 뿐이고, IQ 1만 2,952를 가리킬 말은 우리에게 없습니다.

우리가 확실히 아는 것은 하나입니다. 인간이 지구를 철저히 지배하고 있다는 사실은 지능이 곧 힘이라는 분명한 규칙을 보여 줍니다. 그렇다면 우리가 만들어 낼 ASI는 지구 생명 역사상 가장 강력한 존재가 될 것이고, 인간을 포함한 모든 생명체는 전적으로 그 뜻에 달리게 될 것입니다. 그리고 이 일은 앞으로 수십 년 안에 일어날 수도 있습니다.

우리의 보잘것없는 뇌로도 와이파이를 발명했다면, 우리보다 100배, 1,000배, 10억 배 똑똑한 존재는 세상의 모든 원자를 언제든 원하는 대로 배치하는 일쯤은 어렵지 않게 해낼 것이라고 어번은 말합니다. 우리가 마법이라 부르는 모든 것, 전능한 신이 가졌으리라 상상하는 모든 힘이 ASI에게는 우리가 전등 스위치를 켜는 것만큼 평범한 일이 됩니다. 인간의 노화를 되돌리는 기술을 만들고, 질병과 굶주림은 물론 죽음까지 치료하고, 지구 생명의 미래를 지키도록 날씨를 다시 프로그래밍하는 일이 모두 갑자기 가능해집니다. 지구의 모든 생명이 즉시 끝나는 일도 똑같이 가능합니다.

우리 입장에서 보면, ASI가 탄생하는 순간 지구에는 전능한 신이 생기는 셈입니다. 어번은 그때 우리에게 가장 중요한 질문을 “Will it be a nice God?”이라는 한 문장으로 던집니다. 그 신이 우리에게 착한 신일지가 바로 이 연재의 2부가 다룰 주제입니다.

원문: Tim Urban, The AI Revolution: The Road to Superintelligence (Jan 2015)
전문은 원문에서 확인하실 수 있습니다.

참고할만한 글

Similar Posts