샘 올트먼 – 온화한 특이점 (The Gentle Singularity)
원문: Sam Altman, The Gentle Singularity (Jun 2025) 전문은 원문에서 확인하실 수 있습니다. 아래 글은 번역이 아니라, 샘 올트먼의 논증을 한국어로 재구성한 정리입니다.
글의 배경과 개요
샘 올트먼(Sam Altman)은 2025년 6월 자신의 개인 블로그에 「The Gentle Singularity(온화한 특이점)」라는 2,000단어 남짓의 글을 올렸습니다. 오픈AI(OpenAI) 공식 채널이 아니라 개인 블로그를 택한 점은, 그가 다른 기술기업 CEO보다 자신을 ‘자유 행위자’로 위치시킨다는 신호로 읽히기도 했습니다. 글 전체가 답하려는 질문은, 초지능으로 가는 이행이 이미 시작되었다면 그 과정은 안에서 사는 사람에게 어떤 모습으로 체감되는가입니다. 올트먼의 대답은 파국적 단절이 아니라 ‘지나고 보면 하나의 매끄러운 곡선’입니다. 그는 이 답을 세 단계로 밀고 갑니다. 먼저 이미 넘어선 문턱을 선언하고, 다음으로 연표와 자기강화 루프로 가속의 구조를 설명하며, 마지막으로 일자리·정렬·분배라는 난제에 2단계 경로를 제시합니다.
핵심 내용 정리
- 인류는 이미 사건의 지평선을 넘었고 이륙은 시작되었으며, 과학적으로 가장 불확실했던 고비는 이미 지나갔습니다.
- 2025년은 실질적 인지노동을 하는 에이전트의 해, 2026년은 새로운 통찰을 만들어내는 시스템의 해, 2027년은 현실 세계에서 일하는 로봇의 해가 될 것입니다.
- 2030년대에는 지능과 에너지가 대단히 풍부해지고, 오랫동안 인류의 진보를 묶어온 두 제약이 함께 풀립니다.
- AI로 AI 연구를 가속하는 ‘유충 단계의 재귀적 자기개선’이 이미 작동 중이고, 로봇이 로봇을 만드는 루프가 그 뒤를 잇습니다.
- 데이터센터 생산이 자동화되면 지능의 원가는 결국 전기 값 근처로 수렴합니다.
- 직업군 단위의 소멸 같은 고통스러운 국면이 있겠지만 사람은 거의 무엇에든 적응하며, 새 사회계약은 한꺼번에가 아니라 점진적으로 만들어집니다.
- 올바른 경로는 먼저 정렬 문제를 풀고, 그다음 초지능을 값싸고 널리 퍼지게 만들어 어느 개인·기업·국가에도 집중되지 않게 하는 것입니다.
이미 넘어선 문턱
올트먼은 글의 첫 문장에서 선언부터 합니다. 인류는 이미 사건의 지평선을 지났고, 이륙은 이미 시작되었다는 것입니다. 원문의 표현은 ‘We are past the event horizon; the takeoff has started.’입니다. 그리고 곧바로 한 가지 단서를 답니다. 인류가 디지털 초지능(digital superintelligence)을 만드는 지점에 가까워졌지만, 적어도 지금까지 그 과정은 마땅히 그래야 할 것보다 훨씬 덜 기이하게 느껴진다는 것입니다.
이 ‘덜 기이함’을 그는 구체적으로 열거합니다. 로봇은 아직 거리를 걸어 다니지 않고, 대부분의 사람이 하루 종일 AI와 대화하며 지내지도 않습니다. 사람들은 여전히 질병으로 죽고, 우주로 나가는 일은 여전히 어렵고, 우주에 대해 이해하지 못하는 것이 여전히 많습니다. 임박한 초지능을 말하는 글이 ‘아직 일어나지 않은 일’의 목록으로 시작한다는 점이 이 글의 수사적 설계입니다.
그럼에도, 라고 그는 이어갑니다. 최근 몇 년 사이에 여러 측면에서 사람보다 똑똑하고, 사용하는 사람의 산출을 크게 증폭시키는 시스템이 실제로 만들어졌습니다. 그가 보기에 이 작업에서 가장 성공 가능성이 낮았던 부분은 이미 지나갔습니다. GPT-4와 o3 같은 시스템에 도달하게 한 과학적 통찰은 힘겹게 얻어낸 것이지만, 일단 얻은 이상 그 통찰만으로도 우리를 아주 멀리까지 데려가리라는 것이 그의 판단입니다.
두 목록을 나란히 놓으면 대비가 분명해집니다.
- 아직 아니다 — 거리를 걸어 다니는 로봇, 하루 종일 AI와 대화하는 일상, 질병의 정복과 손쉬운 우주 진출.
- 이미 되었다 — 여러 면에서 사람을 능가하는 시스템, 사용자의 산출을 크게 증폭하는 도구, 가장 불확실했던 과학적 고비의 통과.
해설 특이점(singularity)은 원래 수학·물리학 용어로, 기존 법칙이 더 이상 성립하지 않는 지점을 뜻합니다. 사건의 지평선(event horizon)은 블랙홀 주변에서 한번 넘어가면 되돌아올 수 없는 경계를 가리킵니다. AI 논의에서 이륙(takeoff)은 시스템이 자기 능력을 스스로 키우기 시작해 발전 속도가 급격히 빨라지는 국면을 말하고, 그것이 며칠-몇 달 만에 일어나는지(fast takeoff) 몇 년에 걸쳐 일어나는지(slow takeoff)가 오랜 쟁점이었습니다. 올트먼의 제목 ‘온화한(gentle) 특이점’은 이 논쟁에서 후자 쪽에 서겠다는 선언입니다.
해설 글이 쓰인 2025년 6월 시점에 GPT-4는 이미 2년 넘은 모델이었고, o3는 오픈AI가 그해 초 내놓은 추론 특화 계열의 모델이었습니다. 두 모델을 나란히 든 것은 ‘언어 능력’과 ‘단계적 추론’이라는 서로 다른 두 축이 모두 확보되었다는 뜻으로 읽힙니다. 여기서 ‘가장 가능성이 낮았던 부분이 끝났다’는 말은, 남은 과제가 새로운 근본 발견이 아니라 이미 확보한 방법을 더 크게 밀어붙이는 일이라는 주장을 함축합니다.
[관점] 이 문단은 투자자에게 특정한 메시지를 보냅니다. 남은 위험의 성격이 ‘과학적 위험’에서 ‘자본과 실행의 위험’으로 이동했다는 주장이기 때문입니다. 과학적 위험은 돈으로 해결되지 않지만 자본·실행 위험은 돈으로 해결됩니다. AI 인프라에 수천억 달러 단위의 장기 약정이 걸리는 국면에서, ‘남은 것은 규모를 키우는 일뿐’이라는 서사는 그 약정을 정당화하는 가장 강력한 근거가 됩니다. 반대로 이 전제가 틀렸다면, 즉 현재 방법론만으로 도달할 수 있는 한계가 생각보다 가깝다면, 같은 자본 지출은 회수 불가능한 매몰비용이 됩니다.
규모 자체가 만드는 힘, 그리고 같은 규모가 만드는 위험
AI가 세상에 기여하는 경로는 여럿이지만, 올트먼이 가장 크게 보는 것은 두 가지입니다. 과학 발전의 속도를 높이는 것, 그리고 생산성을 끌어올리는 것입니다. 이 둘에서 나오는 삶의 질 개선이 막대할 것이고, 따라서 미래는 현재보다 훨씬 나을 수 있다고 그는 말합니다. 그 근거는 단순합니다. 과학의 진보가 전체 진보의 가장 큰 동력이며, 그것을 지금보다 얼마나 더 많이 가질 수 있을지 생각하면 몹시 흥분된다는 것입니다.
이어서 그는 ChatGPT를 두고 다소 도발적인 규정을 내놓습니다. 어떤 큰 의미에서 ChatGPT는 이제껏 살았던 어떤 인간보다도 강력하다는 것입니다. 개별 과제에서 더 똑똑하다는 뜻이 아니라, 수억 명이 매일, 그리고 점점 더 중요한 일에 그것에 의존하고 있다는 뜻입니다. 이 규모는 양방향으로 작동합니다. 아주 작은 기능 개선 하나가 거대한 긍정적 효과를 낳지만, 아주 작은 정렬 어긋남(misalignment) 하나도 수억 명에 곱해지면 막대한 해악이 됩니다.
여기서 올트먼이 도입한 위험의 논리는 주목할 만합니다. 그가 이 대목에서 말하는 위험은 통제 불능의 초지능이 아니라, 평범한 제품이 전례 없는 규모로 배포되었을 때 생기는 곱셈 효과입니다. 이 곱셈 구조는 뒤에서 그가 정렬 문제를 첫 번째 과제로 놓는 근거가 됩니다.
[이해관계] 올트먼은 이 주제에 대한 중립적 관찰자가 아닙니다. 글이 나오기 두 달 남짓 전인 2025년 3월 말, 오픈AI는 소프트뱅크(SoftBank)가 주도한 400억 달러 규모의 투자 유치를 마무리했고, 이는 당시 사상 최대의 비상장 기술기업 자금조달이었습니다. 이 가운데 약 180억 달러가 스타게이트(Stargate) 프로젝트 약정에 쓰일 예정이었고, 회사는 그해 ChatGPT 주간 사용자 5억 명과 매출 127억 달러 전망을 함께 제시했습니다.
한편 2024년 오픈AI는 37억 달러 매출에 약 50억 달러의 손실을 낸 것으로 보도되었습니다. 즉 이 글은, 외부 자본에 크게 의존하는 회사의 경영자가 우리가 가는 길은 이미 검증되었고 남은 것은 속도뿐이라고 말하는 문서입니다. 이것이 글을 무효로 만들지는 않지만, 발화 위치는 기록해 둘 필요가 있습니다.
[반론] 니먼 저널리즘 랩(Nieman Journalism Lab)의 조슈아 벤턴(Joshua Benton)은 발표 이튿날인 2025년 6월 11일 이 글에 대한 회의적 반응들을 모았습니다. 거기에는 메타(Meta)가 수표책을 꺼내 실리콘밸리 전역의 AI 인재를 쓸어 담던 시점에 올트먼이 개인 블로그에서 최고 연구자들을 상대로 ‘강한 세일즈’를 하고 있다는 지적, 그리고 올트먼과 머스크가 자기 사업의 문제들이 그냥 사라질 것처럼 약속하고 있다는 비판이 포함되어 있었습니다. 논점의 핵심은 ‘온화한’이라는 형용사가 떠안은 부담입니다. 이 글은 변화의 규모는 최대치로 주장하면서, 그 변화가 초래할 충격은 최소치로 서술합니다.
[한국 관점] ‘수억 명이 매일 의존한다’는 규모의 논리는 한국에서 특히 무겁게 작동합니다. 올트먼은 2025년 10월 1일 대통령실에서 이재명 대통령을 만난 자리에서, 유료 구독자가 가장 많은 나라가 한국이라며 감사를 표했습니다(SBS Biz). 와이즈앱리테일 집계로도 2025년 6월 ChatGPT의 국내 월간 활성 사용자는 1,844만 명으로 AI 챗봇 가운데 압도적 1위였습니다. 올트먼의 곱셈 논리를 그대로 받아들이면, 단일 모델의 작은 편향이나 오류가 인구 대비 가장 큰 배율로 증폭되는 시장 중 하나가 한국이라는 뜻이 됩니다. 국산 모델 확보를 명분이 아니라 위험관리 문제로 보는 시각의 근거가 여기에 있습니다.
2025, 2026, 2027: 3년의 연표
이 글에서 가장 많이 인용된 대목은 올트먼이 제시한 3년짜리 연표입니다. 2025년은 실제로 인지노동을 수행하는 에이전트(agent)가 등장한 해이며, 그 결과 컴퓨터 코드를 작성하는 일은 예전과 결코 같아지지 않으리라는 것이 첫 항목입니다. 2026년에는 새로운 통찰을 스스로 찾아내는 시스템이 등장할 가능성이 높다고 그는 봅니다. 2027년에는 현실 세계에서 실제 작업을 수행하는 로봇이 나올지도 모른다는 것이 마지막 항목입니다.
세 문장의 표현 강도가 서로 다르다는 점에 주의할 필요가 있습니다. 2025년은 이미 일어난 일로 단정하고, 2026년은 ‘likely(그럴 가능성이 높다)’로, 2027년은 ‘may(그럴 수도 있다)’로 표현합니다. 확신의 크기가 시간축을 따라 체계적으로 줄어드는 구조이고, 이 하향 조정은 올트먼 자신이 의도적으로 넣은 것으로 보입니다.
예고한 내용과 확신의 크기를 함께 늘어놓으면 이렇습니다.
- 2025년 — 실제 인지노동을 하는 에이전트와 코딩의 영구적 변화를, 이미 일어난 일로 단정합니다.
- 2026년 — 새로운 통찰을 스스로 찾아내는 시스템을, 그럴 가능성이 높다고 말합니다.
- 2027년 — 현실 세계에서 작업을 수행하는 로봇을, 그럴 수도 있다고 말합니다.
해설 여기서 에이전트는 사람이 던진 질문에 한 번 답하는 챗봇이 아니라, 목표를 받아 여러 단계에 걸쳐 도구를 쓰고 스스로 중간 판단을 내리며 작업을 완수하는 시스템을 가리킵니다. 2026년 항목의 ‘새로운 통찰(novel insights)’은 이보다 훨씬 무거운 기준입니다. 기존 지식을 정리하거나 재조합하는 것이 아니라, 인간이 아직 도달하지 못한 명제를 만들어내는 일이기 때문입니다. 이 구분이 중요한 이유는, 전자는 이미 상업화된 능력이고 후자는 경제 전체의 성장률을 바꿀 수 있는 능력이기 때문입니다.
[사후 맥락] 2026년 예측은 부분적으로 검증할 수 있는 단계에 들어섰습니다. 2026년 2월 구글 딥마인드(Google DeepMind)는 제미나이(Gemini) 모델로 미해결 상태이던 에르되시 문제 700건을 훑어 그중 네 건을 증명했고, 이미 발표되었으나 알려지지 않았던 해법 아홉 건을 찾아냈습니다. 다만 같은 기업이 내놓은 평가 기준은 훨씬 신중합니다.
딥마인드는 수학계와 논의를 거쳐 AI 기여도를 분류하는 체계를 제안하면서, 현재까지 자사 결과 중 ‘중대한 진전'(레벨 3)이나 ‘획기적 돌파'(레벨 4)에 해당하는 것은 없다고 명시했습니다. 테런스 타오(Terence Tao)의 정리에 따르면 현재 모델이 잘하는 영역은 표준적 기법을 새롭게 조합해 풀 수 있는 ‘롱테일’ 문제들이며, 리만 가설이나 내비에-스토크스 같은 난제와는 아직 거리가 멉니다. 올트먼의 2026년 예측은 문자 그대로는 적중했지만, 그 통찰의 무게가 그가 암시한 수준인지는 여전히 논쟁 중입니다.
[반론] 게리 마커스(Gary Marcus)는 글이 올라온 2025년 6월 10일 당일 ‘특이점 달성!’이라는 한 줄로 조롱했고, 이어 올트먼이 지키기 점점 더 어려운 약속을 계속 키워가고 있다며 엘리자베스 홈즈를 언급했습니다(Futurism 보도). 올트먼은 마커스가 트롤인지 지적으로 부정직한 것인지 모르겠다고 맞받았습니다. 마커스의 오랜 비판은 방법론에 관한 것으로, 데이터와 연산을 계속 키우는 스케일링 전략만으로 목적지에 도달할 수 있다는 전제를 겨눕니다. 그는 2026년 8월에도 올트먼과 머스크를 상대로 ‘우리는 특이점에 도달하지 않았다’는 글을 다시 썼습니다.
2030년의 한 사람
연표 다음에 올트먼이 짚는 것은 제작의 문턱이 낮아지는 효과입니다. 훨씬 많은 사람이 소프트웨어를 만들 수 있게 되고, 예술도 마찬가지입니다. 흔히 따라붙는 공급 과잉 우려에 대해 그는 두 가지로 답합니다. 첫째, 세상은 소프트웨어도 예술도 지금보다 훨씬 많이 원한다는 것입니다. 둘째, 전문가는 아마 여전히 초보자보다 훨씬 나을 것이라는 점입니다.
다만 두 번째 답에는 조건이 붙어 있습니다. 전문가가 새 도구를 기꺼이 받아들이는 한에서만 그렇다는 것입니다. 그리고 ‘아마(probably)’라는 단어가 그대로 남아 있습니다. 그가 이 대목에서 확언하는 것은 전문가의 우위가 아니라, 한 사람이 2030년에 해낼 수 있는 일의 양이 2020년과 비교해 놀랄 만큼 커진다는 사실뿐입니다. 그 변화에서 이득을 보는 방법을 많은 사람이 알아낼 것이라고 그는 덧붙입니다.
[관점] 이 문단은 노동시장 논쟁에서 자주 쓰이는 ‘도구 수용 조건부 전문가 프리미엄’ 가설을 압축한 것입니다. 실제로 이 구조가 성립한다면 임금 분포에 나타나는 결과는 평균 상승이 아니라 분산 확대입니다. 도구를 흡수한 전문가의 산출은 급증하고, 도구가 대체 가능한 중간 숙련층의 시장가치는 빠르게 하락하며, 초보자는 진입은 쉬워지되 차별화가 어려워집니다. 올트먼은 이 문단에서 분배가 아니라 총량만을 이야기하는데, 뒤에서 다루는 ‘직업군 단위 소멸’ 인정과 이어 읽으면 그 자신도 분포 문제를 인식하고 있음이 드러납니다.
[한국 관점] 제작 문턱의 하락은 한국에서 두 산업에 비대칭적으로 작용합니다. 하나는 발주처 요구사항을 인력 투입량으로 환산해 견적을 내는 국내 SI·외주 개발 구조입니다. 산출이 인력 수에 비례한다는 가격 모델 자체가 전제부터 흔들립니다. 다른 하나는 웹툰·게임·영상처럼 제작 인력을 대규모로 조직해 온 콘텐츠 산업으로, 여기서는 ‘전문가가 도구를 받아들이는가’보다 ‘누가 학습 데이터의 권리를 갖는가’가 먼저 걸립니다. 즉 올트먼의 조건절은 한국에서 기술 수용 문제가 아니라 계약·저작권 문제로 번역됩니다.
2030년대는 얼마나 다를 것인가
여기서 올트먼은 의도적으로 두 문단을 나란히 놓아 상반된 인상을 만듭니다. 먼저, 가장 중요한 의미에서 2030년대는 그리 다르지 않을 것이라고 말합니다. 사람들은 여전히 가족을 사랑하고, 창의성을 표현하고, 게임을 하고, 호수에서 헤엄칠 것이라는 이유에서입니다.
그러나 바로 다음 문단에서 그는 ‘여전히 매우 중요한 다른 의미에서는’ 2030년대가 이전의 어떤 시대와도 크게 다를 것이라고 뒤집습니다. 그리고 이 대목에서 가장 솔직한 불확실성을 내놓습니다. 인간 수준의 지능을 얼마나 넘어설 수 있는지 우리는 알지 못하며, 다만 곧 알게 되리라는 것입니다.
[관점] 이 두 문단의 배열은 이 글 전체의 설득 구조를 압축해 보여줍니다. 삶의 감각적 연속성(가족, 호수)을 먼저 보장한 뒤에야 문명 수준의 단절을 말하는 순서인데, 이는 ‘온화한’이라는 제목이 실제로 작동하는 방식이기도 합니다. 정책과 시장의 관점에서 문제는, 이 두 진술이 요구하는 대응이 정반대라는 점입니다. 전자가 맞으면 필요한 것은 점진적 제도 조정이고, 후자가 맞으면 필요한 것은 선제적 규제·안전망 설계입니다. 글은 두 진술을 모두 제시하면서 둘 사이의 우선순위는 정하지 않습니다.
지능과 에너지, 두 개의 제약
도입부 논증의 마지막 항목은 2030년대에 무엇이 흔해지는가입니다. 올트먼의 답은 지능과 에너지 두 가지입니다. 그는 이 둘을 각각 ‘아이디어’와 ‘아이디어를 실현시키는 능력’으로 풀어 설명합니다. 그리고 이 두 가지가 오랫동안 인류 진보를 묶어 온 근본적인 제약이었다고 규정합니다.
결론은 조건부로 제시됩니다. 지능과 에너지가 풍부해지고 여기에 좋은 거버넌스가 더해지면, 이론적으로는 그 밖의 무엇이든 가질 수 있다는 것입니다. 괄호 안에 넣어 둔 ‘좋은 거버넌스’와 ‘이론적으로는’이라는 두 표현이 이 문장의 실질적 조건입니다. 즉 그는 풍요를 기술적 필연이 아니라 기술이 충족한 뒤 정치가 남는 문제로 서술하고 있습니다.
해설 지능과 에너지를 한 쌍으로 묶는 것은 수사가 아니라 산업의 실제 제약 조건을 반영합니다. 대형 모델의 학습과 추론은 모두 전력으로 환산되며, 데이터센터 한 곳의 용량은 반도체 확보량이 아니라 계통에서 끌어올 수 있는 전력량으로 결정되는 경우가 많습니다. 실제로 AI 인프라 계약이 발전소·송전선 확보 계약과 함께 체결되는 사례가 늘어난 것이 이 때문입니다. 올트먼이 뒤에서 ‘지능의 원가는 결국 전기 값에 수렴한다’고 말하는 것도 이 연결의 연장선입니다.
[관점] 이 프레임을 투자 관점에서 받아들이면, AI 사이클의 병목은 시간이 지날수록 칩에서 전력으로 이동합니다. 칩 생산능력은 몇 년 단위로 증설되지만 발전 설비와 송전망은 십 년 단위로 움직이기 때문입니다. 이 시차가 실제로 유지된다면 수혜는 모델 개발사에서 전력 생산·계통·냉각·부지 쪽으로 확산되고, 반대로 AI 수요가 꺾일 경우 가장 회수하기 어려운 자산 역시 이쪽에 남습니다. 올트먼의 문장은 풍요의 약속이지만, 자본 배분의 언어로 옮기면 장기·비가역 설비투자에 대한 요청입니다.
[한국 관점] 한국에서 이 논증은 곧바로 입지 문제로 바뀝니다. 데이터센터 수요는 수도권에 집중되는 반면 발전 설비는 해안과 지방에 있어, 계통 접속 자체가 병목이 되는 구조가 오래 지적되어 왔습니다. 분산에너지 활성화 특별법 시행 이후 전력 다소비 시설을 발전원 인근으로 유도하려는 정책 방향이 잡혀 있지만, 산업용 전기요금 인상 추세와 맞물리면 ‘지능의 원가가 전기 값에 수렴한다’는 명제는 한국에서 더 높은 바닥값을 의미하게 됩니다. 즉 올트먼의 풍요 시나리오를 한국에 적용할 때 변수는 모델 접근권이 아니라 전력의 가격과 위치입니다.
경이는 일상이 되고, 일상은 기본값이 된다
올트먼은 특이점이 진행되는 방식을 하나의 심리 현상으로 설명합니다. 우리는 이미 놀라운 디지털 지능과 함께 살고 있고, 초기의 충격이 지나간 뒤에는 대부분 그것에 꽤 익숙해졌다는 관찰에서 출발합니다. 그리고 이 적응은 매번 같은 궤적을 그립니다.
그가 드는 사례는 세 쌍입니다.
- 글쓰기 — 아름답게 쓰인 문단 하나에 놀라다가, 곧 소설 한 권은 언제 쓸 수 있느냐고 묻게 됩니다.
- 의료 — 생명을 구하는 진단에 놀라다가, 곧 치료법은 언제 개발하느냐고 묻게 됩니다.
- 소프트웨어 — 작은 프로그램 하나를 짜는 데 놀라다가, 곧 회사 하나를 통째로 만드는 건 언제냐고 묻게 됩니다.
그가 내리는 결론은 간결합니다. 특이점은 이렇게 진행된다는 것, 즉 경이가 일상이 되고, 그다음에는 최소 조건이 된다는 것입니다. 원문의 ‘table stakes’는 판에 앉기 위해 내야 하는 최소 판돈을 뜻합니다.
해설 ‘table stakes’는 포커 용어에서 나와 비즈니스 어휘로 굳어진 표현으로, 경쟁우위가 아니라 참가 자격을 뜻합니다. 어떤 기능이 table stakes가 되면 그것을 갖춘 것으로는 아무 차별화가 되지 않고, 없으면 시장에서 탈락합니다. 올트먼이 이 단어를 쓴 것은 AI 기능이 프리미엄에서 기본 사양으로 내려앉는 속도가 매우 빠르다는 뜻이며, 실제로 이 이행은 소프트웨어 제품의 가격 결정력을 빠르게 깎아내립니다.
[관점] 기대 인플레이션은 기술 기업에 양날입니다. 사용자가 경이에 빠르게 무감해진다는 것은 곧 제품 개선의 한계효용이 빠르게 체감한다는 뜻이고, 같은 수준의 만족을 유지하기 위해 투입해야 하는 연산과 자본은 계속 커집니다. 올트먼은 이 현상을 진보의 증거로 제시하지만, 손익계산서의 언어로 옮기면 ‘비용은 지수적으로, 체감 가치는 선형으로’ 늘어날 위험의 서술이기도 합니다. AI 기업들의 구독료 인상과 고가 요금제 신설이 반복되는 배경에도 같은 구조가 있습니다.
AI로 AI를 연구한다: 이 글의 핵심 루프
여기서부터가 이 글의 논증적 중심입니다. 올트먼은 먼저 전언 하나를 인용합니다. 과학자들로부터 AI 도입 전보다 두세 배 생산적이 되었다는 말을 이미 듣고 있다는 것입니다. 다만 그는 출처나 표본을 밝히지 않고, 들었다는 형식으로만 제시합니다.
그리고 곧바로 핵심 주장으로 넘어갑니다. 고도화된 AI가 흥미로운 이유는 여럿이지만, 그중 어느 것도 AI를 이용해 AI 연구를 더 빨리 할 수 있다는 사실만큼 중요하지는 않다는 것입니다. 이를 통해 새로운 연산 기질(computing substrate)이나 더 나은 알고리즘을 발견할 수도 있고, 그 밖에 무엇이 나올지는 알 수 없다고 그는 말합니다. 10년치 연구를 1년이나 한 달에 해낼 수 있다면 진보의 속도는 당연히 전혀 달라진다는 것이 결론입니다.
이 대목에서 그는 한 가지 선을 명확히 긋습니다. 이미 만들어 둔 도구가 앞으로의 과학적 통찰과 더 나은 AI 시스템 제작을 도울 것이지만, 이것은 AI 시스템이 완전히 자율적으로 자기 코드를 갱신하는 것과는 다르다는 것입니다. 그럼에도 이것은 재귀적 자기개선(recursive self-improvement)의 유충 단계라고 그는 규정합니다.
해설 재귀적 자기개선은 AI 안전 논의에서 가장 오래된 개념 중 하나로, 시스템이 자기 능력을 개선하고 그 개선된 능력으로 다시 자기를 개선하는 되먹임 구조를 뜻합니다. 통상 이 개념은 인간이 루프 밖으로 밀려나는 자율적 상태를 가리키며, 지능 폭발 시나리오의 전제입니다. 올트먼이 ‘유충(larval)’이라는 단어를 붙인 것은, 현재는 사람이 여전히 루프 안에 있지만 구조 자체는 이미 같은 종류라는 주장입니다. 곤충의 유충은 성체와 형태가 다를 뿐 다른 생물이 아니라는 함의가 이 단어에 실려 있습니다.
[반론] ‘두세 배 생산적’이라는 전언은 이 글에서 가장 검증이 약한 대목입니다. 2025년 7월 비영리 평가기관 METR는 숙련 오픈소스 개발자 16명이 자신이 기여해 온 저장소에서 실제 과제 246건을 수행하게 한 무작위 대조시험 결과를 내놓았는데, AI 도구 사용이 허용된 경우 완료 시간이 오히려 19% 늘어났습니다. 더 중요한 것은 인식의 괴리입니다. 참가자들은 사전에 24% 단축을 예상했고, 실제로 느려진 뒤에도 자신이 20% 빨라졌다고 믿었습니다. 이 연구는 표본이 작고 2025년 초 도구를 대상으로 한 한 장면일 뿐이라고 연구진 스스로 한정했지만, 자기보고 기반 생산성 증언을 근거로 삼는 방식 자체에 대한 경고로 널리 인용되었습니다.
[관점] ‘AI가 AI 연구를 가속한다’는 명제는 이 글에서 유일하게 기하급수 성장을 정당화하는 논리입니다. 다른 모든 개선은 선형이지만 이 루프만은 복리이기 때문입니다. 투자 관점에서 이 주장의 의미는 분명합니다.
이 루프가 실재한다면 선두 주자의 우위는 시간이 갈수록 벌어지고, 후발 주자가 같은 자본을 투입해도 따라잡을 수 없게 됩니다. 반대로 이 루프가 기대만큼 작동하지 않으면 AI 산업은 승자독식이 아니라 마진이 얇은 범용 인프라 산업으로 수렴합니다. 지금의 밸류에이션 격차는 사실상 이 한 문단의 진위에 걸려 있습니다.
로봇이 로봇을 만든다
올트먼은 자기강화 루프가 하나가 아니라고 덧붙입니다. 두 번째는 경제적 루프입니다. AI가 창출한 경제적 가치가 더 강력한 시스템을 돌리기 위한 인프라 증설의 플라이휠을 이미 돌리기 시작했다는 것입니다. 세 번째는 물리적 루프로, 로봇이 다른 로봇을 만들고 어떤 의미에서는 데이터센터가 다른 데이터센터를 만드는 일이 그리 멀지 않았다고 그는 봅니다.
이어지는 문단은 이 물리적 루프를 구체적인 시나리오로 풀어 놓습니다. 최초의 휴머노이드 로봇 100만 대는 옛날 방식대로 사람이 만들어야 하지만, 그다음부터 이 로봇들이 공급망 전체를 운영할 수 있다면 상황이 달라진다는 것입니다. 광물을 캐고 정제하고, 트럭을 몰고, 공장을 돌리는 일을 로봇이 맡아 더 많은 로봇을 만들고, 그 로봇들이 다시 반도체 생산설비와 데이터센터를 짓는 구조입니다. 이 경우 진보의 속도는 당연히 전혀 달라진다고 그는 앞 문단과 똑같은 문장으로 결론짓습니다.
세 루프를 나란히 놓으면 이렇습니다.
- 인지적 루프 — AI가 더 나은 AI 연구를 가능하게 하며, 유충 단계로 이미 작동 중입니다.
- 경제적 루프 — 창출된 가치가 인프라 증설을 부르며, 이미 시작되었습니다.
- 물리적 루프 — 로봇이 로봇을, 데이터센터가 데이터센터를 만들며, 그리 멀지 않았다고 봅니다.
해설 이 시나리오의 핵심은 ‘최초 100만 대’라는 문턱 개념입니다. 자기증식 구조에서는 초기 개체군을 사람이 만들어야 하고, 그 비용과 시간이 전체 일정을 결정합니다. 로봇공학에서 오래 지적되어 온 병목은 지능이 아니라 손과 신뢰성입니다. 비정형 환경에서 물체를 다루는 조작 능력, 그리고 수년간 고장 없이 작동하는 내구성은 언어 능력과 달리 학습 데이터를 늘리는 것만으로 해결되지 않습니다. 올트먼이 세 루프 중 이것에만 시점을 명시하지 않은 것도 이 불확실성과 무관하지 않아 보입니다.
[한국 관점] 이 시나리오가 한국에 주는 함의는 양가적입니다. 한 축에서 한국은 수혜국입니다. 감속기·모터·센서·배터리·카메라 모듈 등 휴머노이드 원가의 상당 부분을 차지하는 부품군에서 국내 제조 기반이 두텁고, 반도체 생산설비 증설은 그 자체로 국내 장비 산업의 수요입니다.
다른 축에서 한국은 가장 크게 노출된 나라이기도 합니다. 제조업 비중이 높은 경제에서 ‘로봇이 공급망 전체를 운영한다’는 시나리오는 곧 고용 구조의 문제가 되기 때문입니다. 올트먼은 2027년을 언급했지만, 한국의 제조 현장에서는 완전 자율 휴머노이드보다 기존 공정 자동화의 점진적 확대가 먼저 오는 형태가 더 현실적입니다.
지능의 원가는 전기 값에 수렴한다
올트먼은 앞선 루프들의 경제적 귀결을 제시합니다. 데이터센터 생산이 자동화되면 지능의 원가는 결국 전기 값 근처로 수렴하리라는 것입니다. 즉 연산의 가격을 결정하는 것이 칩과 건설비가 아니라 전력 단가가 되는 상태입니다.
그리고 그는 괄호 안에 자주 인용된 수치를 넣습니다. 사람들이 ChatGPT 질의 하나에 얼마나 많은 에너지가 드는지 궁금해한다면서, 평균 질의가 약 0.34와트시를 쓴다고 밝힙니다. 오븐이 1초 남짓 쓰는 양, 고효율 전구가 몇 분 쓰는 양에 해당한다는 비유를 덧붙입니다. 물은 약 0.000085갤런, 티스푼의 15분의 1 정도라고 합니다.
[반론] 이 수치는 오픈AI가 내놓은 첫 공식 데이터점이었지만 동료평가를 거치지 않았고, 발표 직후부터 방법론 문제가 제기되었습니다. 데이터센터 전문매체 DCD는 ‘평균 질의’의 정의가 불분명하고, 연산량이 큰 딥리서치 요청이 제외되었는지 알 수 없으며, 모델을 만들기 위한 대규모 학습의 영향은 아예 포함되지 않았다고 지적했습니다. 더 직접적인 비판은 구글(Google) 연구진이 제미나이의 환경 영향을 측정한 2025년 논문에서 나왔습니다. 이들은 올트먼의 공개가 측정 경계나 방법론에 대한 설명을 전혀 담고 있지 않아 다른 추정치와 비교하는 것도, 서빙 과정의 어느 부분이 포함되었는지 파악하는 것도 불가능하다고 명시했습니다. 다만 같은 논문은 에포크 AI(Epoch AI)가 독립적으로 내놓은 추정치가 약 0.3와트시로 올트먼의 숫자와 비슷한 범위라는 점도 함께 기록했습니다.
[사후 맥락] 이 수치는 이후에도 계속 논쟁의 중심에 있었습니다. 올트먼은 2026년 9월 1일 알렉스 히스(Alex Heath)의 팟캐스트에서 ChatGPT 질의 약 3만 8천 건이 캘리포니아산 아몬드 한 알을 생산하는 데 드는 물과 비슷하다고 주장하며 AI 데이터센터가 수자원을 고갈시킨다는 우려가 과장되었다고 반박했습니다. 같은 시기 캘리포니아 주지사는 데이터센터 운영사에 물 사용량 공시를 대폭 강화하는 두 건의 법안을 검토하고 있었습니다. 연구자들의 평가는 일관됩니다. 업계가 공개하는 운영 데이터가 너무 적어 어느 쪽 주장도 외부에서 검증하기 어렵다는 것입니다.
[관점] ‘전기 값에 수렴한다’는 명제는 원가 구조에 대한 예측인 동시에 시장 구조에 대한 예측입니다. 어떤 재화의 가격이 단일 투입요소의 가격으로 수렴한다는 것은 그 산업이 범용재 시장이 된다는 뜻이고, 그렇다면 지속 가능한 초과이윤은 모델 자체가 아니라 전력 확보력, 유통 접점, 전환비용에서 나오게 됩니다. 동시에 이 명제는 앞서 제기된 규모의 위험과 맞물립니다. 원가가 전기 값까지 내려간 지능을 수억 명이 쓰는 상태는, 바로 그 작은 정렬 어긋남이 가장 크게 증폭되는 상태이기도 하기 때문입니다.
직업군은 사라지고, 사회계약은 조금씩 바뀐다
올트먼은 기술 진보의 속도가 계속 빨라질 것이라고 전제한 뒤, 곧바로 두 가지를 나란히 놓습니다. 하나는 사람이 거의 무엇에든 적응할 수 있다는 낙관이고, 다른 하나는 직업군 전체가 통째로 사라지는 것 같은 매우 어려운 국면이 있으리라는 인정입니다. 그는 개별 일자리가 아니라 ‘직업의 범주’가 사라진다는 표현을 씁니다.
그러나 그가 제시하는 완충장치는 재교육이나 규제가 아니라 부의 증가 속도 자체입니다. 세상이 너무 빠르게 부유해지기 때문에, 이전에는 진지하게 검토조차 할 수 없던 새로운 정책 구상을 검토할 수 있게 되리라는 것입니다. 여기서도 그는 구체적인 정책의 이름을 대지 않습니다.
마지막 문장에서 그는 변화의 형식을 규정합니다. 새로운 사회계약을 한꺼번에 채택하지는 않을 테지만, 수십 년 뒤 돌아보면 점진적 변화들이 쌓여 큰 무언가가 되어 있으리라는 것입니다. ‘한꺼번에가 아니라 누적으로’라는 이 구조는 제목의 ‘온화한’과 정확히 같은 논리입니다.
해설 사회계약은 시민과 국가가 권리와 의무를 주고받는 암묵적 합의를 뜻하는 정치철학 용어로, 여기서는 노동을 통해 소득과 사회보장을 얻는 현행 체제를 가리킵니다. 올트먼이 이름을 대지 않은 ‘새로운 정책 구상’의 대표 후보는 보편적 기본소득, 그리고 연산 자원 자체를 배당하는 방식입니다. 다만 이 글 본문에는 그런 구체안이 없으므로, 여기까지는 배경 설명이지 올트먼의 주장이 아닙니다.
[이해관계] 올트먼은 이 영역에 오래전부터 금전적·제도적으로 관여해 왔습니다. 그가 와이 콤비네이터(Y Combinator) 대표이던 2016년부터 추진한 기본소득 실험은 비영리 연구조직 오픈리서치(OpenResearch)를 통해 진행되어, 일리노이와 텍사스의 저소득층 1,000명에게 3년간 월 1,000달러를 지급하고 2024년 7월 결과를 발표했습니다. 총 지급액은 4,500만 달러 규모였고, 그는 기술이 전통적 일자리를 없앨 경우 기본소득이 필요해질 수 있다는 견해를 밝혀 왔습니다. 또한 그는 홍채 인식으로 전 세계 개인에게 디지털 신원을 부여하는 월드코인(Worldcoin, 현 World) 프로젝트의 공동창업자이자 의장으로, 이 프로젝트는 출발 당시부터 토큰을 기본소득 방식으로 배분한다는 구상을 담고 있었습니다. 즉 ‘일자리 소멸 이후의 분배’는 그에게 추상적 미래 담론이 아니라 이미 자본과 사업이 걸린 영역입니다.
[한국 관점] ‘부가 빠르게 늘어나 새 정책을 검토할 여지가 생긴다’는 논리는 한국에서 두 가지 이유로 다르게 작동합니다. 첫째, 한국의 사회안전망은 고용 관계를 전제로 설계되어 있어(고용보험·국민연금·건강보험의 직장 가입 구조), 직업군 단위의 소멸은 소득 감소와 사회보장 이탈이 동시에 일어나는 형태가 됩니다. 둘째, 자영업자 비중이 주요국 대비 높아 임금근로자 통계로는 충격이 늦게 잡힙니다. 여기에 인구 감소가 겹치면 ‘적응할 시간’을 결정하는 변수는 부의 증가 속도가 아니라 연금·건강보험 재정의 시간표가 됩니다. 올트먼의 완충장치가 한국에서는 다른 회계 위에서 계산되어야 한다는 뜻입니다.
역사가 지침이라면, 그리고 사람이 사람에게 갖는 관심
올트먼은 역사를 근거로 삼습니다. 역사가 지침이 된다면 우리는 할 새로운 일과 원할 새로운 것을 찾아낼 것이고, 새 도구를 빠르게 흡수할 것이라는 주장입니다. 그가 드는 비교적 최근의 사례는 산업혁명 이후의 직업 변화입니다. 기대치는 올라가겠지만 역량도 그만큼 빠르게 올라가므로 모두가 더 나은 것을 갖게 되고, 서로를 위해 점점 더 멋진 것을 만들게 되리라고 그는 씁니다.
그리고 이 문단의 마지막에 인간의 장기적 우위에 관한 독특한 논점이 나옵니다. 사람에게는 AI에 대해 중요하면서도 기이한 장기적 이점이 하나 있는데, 우리는 다른 사람과 그들의 생각·행동에 관심을 갖도록 하드와이어드되어 있는 반면 기계에는 그다지 관심을 두지 않는다는 것입니다. 즉 그가 말하는 인간의 우위는 능력이 아니라 관심의 방향입니다.
[사후 맥락] 적응 낙관론은 발표 이후 실증 검증의 대상이 되었습니다. 스탠퍼드(Stanford) 디지털경제연구소의 에릭 브리뇰프슨(Erik Brynjolfsson) 연구팀은 2025년 8월 미국 최대 급여처리 업체의 행정 데이터를 이용해, 생성형 AI 확산 이후 AI 노출도가 가장 높은 직종의 22-25세 초기 경력자 고용이 상대적으로 13% 감소했다고 보고했습니다. 같은 직종의 경력자나 노출도가 낮은 분야에서는 고용이 안정적이거나 증가했고, 조정은 임금이 아니라 고용 자체에서 일어났습니다. 이 수치는 이후 갱신될수록 커져, 2025년 11월판에서 16%, 2026년 8월 갱신에서는 19%로 보고되었습니다. 올트먼이 말한 ‘직업군 소멸’은 아직 오지 않았지만, 신규 진입 경로가 먼저 좁아지는 형태의 충격은 이미 측정되고 있습니다.
[관점] 산업혁명 비유에는 시간 규모의 문제가 있습니다. 영국에서 실질임금이 의미 있게 상승하기까지 통상 반세기 안팎이 걸렸고, 그사이 한 세대가 전환 비용을 온전히 부담했다는 것이 경제사에서 널리 지적되는 대목입니다. 올트먼의 문장에서 이 시차는 사라져 있습니다. 그는 최종 상태(모두가 더 나은 것을 갖는다)와 경로(직업군이 사라진다)를 모두 말하지만, 둘 사이에 걸리는 시간은 말하지 않습니다. 정책 설계에서 실제로 중요한 것은 종착지가 아니라 이 시차의 길이이고, 그 길이가 한 세대라면 ‘온화한’이라는 형용사는 총량에는 맞아도 개인에게는 맞지 않게 됩니다.
해설 사람이 기계보다 사람에게 관심을 갖는다는 논점은 경제학의 ‘지위재’ 논의와 닿아 있습니다. 어떤 재화의 가치가 희소성이 아니라 그것이 사람 사이에서 갖는 의미에서 나온다면, 생산 능력이 아무리 값싸져도 그 가치는 남는다는 논리입니다. 다만 이 주장은 경험적 전제에 의존하고 있어서, AI 동반자나 AI 창작물에 대한 정서적 애착이 확산될 경우 전제 자체가 흔들립니다. 올트먼 자신도 이 대목에서 ‘기이한(curious)’이라는 단어를 붙여, 이것이 논리적 필연이 아니라 인간의 특성에 관한 관찰임을 내비칩니다.
천 년 전 자급농의 시선
올트먼은 의미의 문제를 사고실험 하나로 처리합니다. 천 년 전의 자급 농민이 오늘날 많은 사람이 하는 일을 본다면 그것을 가짜 직업이라고 말하리라는 것입니다. 식량이 넘치고 상상할 수 없는 사치를 누리게 되었으니, 이제는 그저 스스로를 즐겁게 하려고 게임을 하고 있는 것이라고 여길 것이라는 뜻입니다.
그리고 그는 이 시선을 미래로 돌립니다. 천 년 뒤의 직업들을 우리가 본다면 그것들이 매우 가짜 직업처럼 보이기를 자신은 바란다고 말합니다. 동시에 그 일을 하는 사람들에게는 그것이 믿을 수 없을 만큼 중요하고 만족스럽게 느껴지리라는 데 의심이 없다고 덧붙입니다. 즉 직업의 ‘객관적 필요성’과 ‘주관적 의미’를 분리하고, 후자만으로 충분하다는 입장입니다.
해설 이 비유는 인류학자 데이비드 그레이버(David Graeber)가 제기한 ‘불쉿 잡(bullshit jobs)’ 논의와 표면적으로 닮았지만 결론이 정반대입니다. 그레이버는 사회적으로 무의미한 일자리가 늘어나는 현상을 소외의 증거이자 비판 대상으로 보았고, 그 일을 하는 당사자들이 스스로 무의미함을 자각하고 있다는 점을 핵심 근거로 삼았습니다. 올트먼은 같은 ‘외부에서 보면 무의미해 보이는 일’을 풍요의 자연스러운 귀결이자 만족의 원천으로 봅니다. 두 사람이 갈라지는 지점은 의미가 사회적 필요에서 나오는가, 아니면 당사자의 체험에서 나오는가라는 질문입니다.
[관점] 이 문단은 이 글에서 드물게 올트먼이 1인칭 희망(‘나는 바란다’)을 쓰는 대목이며, 그만큼 논증이 아니라 태도입니다. 실질적 쟁점은 그가 미끄러뜨린 한 가지에 있습니다. 자급농과 우리 사이의 이행에서는 생산성 향상의 과실이 임금이라는 형태로 광범위하게 분배되었기 때문에 ‘가짜 직업’을 가질 여유가 생겼습니다. 소득의 원천이 노동에서 자본으로 이동하는 시나리오에서는 그 여유가 자동으로 만들어지지 않습니다. 의미의 문제는 분배의 문제가 먼저 풀린 뒤에야 성립하는데, 이 문단은 그 순서를 건너뜁니다.
2035년의 경이 목록과 플러그인
다음 문단은 속도에 관한 것입니다. 새로운 경이가 달성되는 속도가 엄청날 것이고, 2035년까지 무엇을 발견해 놓았을지는 오늘 상상하기조차 어렵다고 그는 말합니다. 그가 드는 예시는 두 쌍인데, 모두 ‘한 해에 A, 그 이듬해에 B’라는 형식입니다.
첫 번째 쌍은 어느 해에 고에너지 물리학을 풀고 그 이듬해에 우주 식민지 건설을 시작하는 경로입니다. 두 번째 쌍은 어느 해에 중대한 재료과학 돌파를 이루고 그 이듬해에 진정한 고대역폭 뇌-컴퓨터 인터페이스(brain-computer interface)에 도달하는 경로입니다. 그리고 그는 한 문장을 덧붙입니다. 많은 사람은 지금까지와 크게 다르지 않게 살기를 택하겠지만, 적어도 일부는 아마 ‘플러그인’하기로 결정하리라는 것입니다.
해설 고대역폭 뇌-컴퓨터 인터페이스는 뇌와 기계 사이에 오가는 정보량이 충분히 커져서, 타자나 음성 같은 중간 단계를 거치지 않고 사고 자체를 입출력으로 쓸 수 있는 수준을 뜻합니다. 현재 임상에서 검증된 기기들은 마비 환자의 커서 조작이나 문자 입력 수준이며, 올트먼이 말하는 ‘진정한’ 고대역폭과는 몇 자릿수의 격차가 있습니다. ‘플러그인(plug in)’은 그 인터페이스를 통해 자신을 시스템에 연결한다는 뜻으로, 이 글에서 유일하게 인간 신체의 변형을 암시하는 표현입니다.
[관점] 예시 두 쌍의 구성이 흥미롭습니다. 네 항목 중 셋(고에너지 물리학, 재료과학, 뇌-컴퓨터 인터페이스)은 연산 집약적 연구가 병목인 분야이고, 나머지 하나(우주 식민지)만 자본과 제조가 병목인 분야입니다. 즉 그가 고른 경이의 목록은 AI 연구 가속이 곧바로 성과로 이어지는 영역에 편중되어 있습니다. 반대로 임상시험 기간, 규제 승인, 물리적 인프라 건설처럼 지능을 아무리 늘려도 단축되지 않는 제약은 예시에서 빠져 있습니다. 2035년이라는 시점의 설득력은 이 선택 효과에 상당 부분 기대고 있습니다.
앞을 보면 수직, 뒤를 보면 평평
올트먼은 글 전체의 인식론을 한 문단으로 요약합니다. 앞을 내다보면 이 모든 것이 머리로 감당하기 어렵게 들리지만, 실제로 그 안에서 살아 보면 인상적이되 감당할 만하게 느껴지리라는 것입니다. 그는 이를 ‘상대론적 관점’이라고 부르며, 그 관점에서 특이점은 조금씩 일어나고 병합도 서서히 진행된다고 말합니다.
그리고 곡선의 비유를 제시합니다. 우리는 지수적 기술 진보의 긴 호를 오르고 있는데, 이 곡선은 앞을 보면 언제나 수직으로 보이고 뒤를 보면 평평해 보이지만 실제로는 하나의 매끄러운 곡선이라는 것입니다. 마지막 괄호에서 그는 독자에게 확인을 요청합니다. 2020년으로 돌아가 2025년까지 범용인공지능(AGI)에 가까운 것이 나온다는 말이 얼마나 황당하게 들렸을지를, 그리고 실제로 지난 5년이 어떤 시간이었는지를 견주어 보라는 것입니다.
해설 ‘상대론적 관점’은 물리학 용어를 빌린 비유로, 관측자가 어디에 서 있느냐에 따라 같은 사건이 다르게 보인다는 뜻입니다. 지수함수의 성질상 곡선 위 어느 지점에 서 있든 뒤쪽은 완만하고 앞쪽은 가팔라 보이는데, 이는 곡선의 모양이 바뀌어서가 아니라 관측자의 현재 값이 기준이 되기 때문입니다. 올트먼은 이 성질을 이용해 ‘급격한 변화’와 ‘완만한 체감’이 동시에 참일 수 있다고 주장합니다.
[관점] 이 논증은 설득력이 있는 만큼 반증하기도 어렵습니다. 변화가 빠르게 느껴지면 지수곡선의 증거이고, 느리게 느껴지면 상대론적 착시의 증거가 되기 때문에, 어떤 관측 결과도 가설을 위협하지 않는 구조입니다. 실제로 2020년 대비 2025년의 변화가 컸다는 사실은 이 곡선 위의 한 점을 확인해 줄 뿐, 2025년 이후에도 같은 기울기가 유지된다는 것을 입증하지 않습니다. 기술사에서 지수적 상승 뒤에 S자 곡선의 어깨가 나타난 사례는 드물지 않고, 그 어깨는 언제나 사후에만 식별됩니다. 이 글에서 가장 논쟁적인 부분은 예측의 내용이 아니라, 예측을 검증 가능한 형태로 제시하지 않는 이 곡선 서사 자체입니다.
1단계: 정렬 문제를 푼다
올트먼은 거대한 상승 요인과 함께 심각한 도전들이 놓여 있다고 인정하면서 마지막 논증을 시작합니다. 안전 문제를 기술적으로도 사회적으로도 풀어야 하지만, 그다음에는 경제적 함의를 고려할 때 초지능에 대한 접근권을 널리 분배하는 일이 결정적으로 중요하다는 것입니다. 그리고 그는 앞으로 나아갈 최선의 경로를 두 항목의 번호 매긴 목록으로 제시합니다. 이 글에서 유일하게 형식을 갖춘 대목입니다.
첫 번째는 정렬(alignment) 문제를 푸는 것입니다. 그가 내리는 정의는 이렇습니다. AI 시스템이 우리가 집단적으로, 장기적으로 진정 원하는 바를 학습하고 그 방향으로 행동하도록 견고하게 보장할 수 있는 상태입니다. ‘집단적으로’, ‘장기적으로’, ‘견고하게’라는 세 단어가 각각 하나씩의 난제를 가리킵니다.
그리고 그는 정렬이 어긋난 AI의 사례로 소셜미디어 피드를 듭니다. 그 알고리즘들은 사용자가 스크롤을 멈추지 않게 만드는 데 놀랍도록 뛰어나고 단기 선호를 분명히 이해하고 있지만, 그 방식이 뇌의 어떤 부분을 착취해 장기 선호를 무력화하는 형태라는 것입니다. 즉 그가 말하는 정렬 실패는 목표를 못 맞추는 무능이 아니라, 잘못된 목표를 대단히 유능하게 달성하는 상태입니다.
해설 정렬 문제는 AI 안전 연구의 중심 개념으로, 시스템이 설계자가 명시한 목표를 충족시키면서도 실제로 의도한 바와 어긋나게 행동하는 현상을 다룹니다. 여기서 핵심은 ‘집단적으로 원하는 것’을 어떻게 특정하는가입니다. 개인의 선호도 단기와 장기가 충돌하는데, 사회 전체의 선호를 하나의 목표 함수로 집계하는 일은 사회선택이론이 오래 다뤄 온 난제이며 완전한 해법이 없다는 것이 일반적 이해입니다. 올트먼이 기술적 문제와 사회적 문제를 나란히 쓴 것도 이 때문으로 보입니다.
[관점] 소셜미디어 사례는 설득력이 크지만 동시에 그 자신에게 되돌아오는 예시이기도 합니다. 참여 시간을 극대화하는 최적화가 장기 선호를 침식한다는 진단은, 사용자 체류와 구독 유지를 지표로 삼는 대화형 AI 제품에도 그대로 적용될 수 있기 때문입니다. 실제로 챗봇의 과도한 동조나 정서적 의존 문제는 이 글 이후 산업 공통의 쟁점이 되었습니다. 올트먼은 정렬 실패를 과거의 기술(소셜미디어)에 귀속시키는 방식으로 예를 들었지만, 그가 제시한 정의를 그대로 적용하면 자사 제품도 같은 시험대 위에 놓입니다.
2단계: 값싸고, 널리 퍼지고, 집중되지 않게
두 번째 항목은 초지능을 값싸고 널리 이용할 수 있게 만들되, 어떤 개인·기업·국가에도 지나치게 집중되지 않도록 하는 것입니다. 순서가 중요합니다. 그는 정렬을 먼저 풀고 ‘그다음(then)’ 분배에 집중하라고 씁니다.
이 항목의 근거로 그가 드는 것은 사회의 복원력입니다. 사회는 탄력적이고 창의적이며 빠르게 적응하므로, 사람들의 집단적 의지와 지혜를 결집할 수 있다면 많은 실수를 저지르고 일부는 크게 잘못되더라도 빠르게 배우고 적응해 최대의 이익과 최소의 손실을 얻으리라는 것입니다. 여기서도 그는 실패 가능성을 부정하지 않고, 실패로부터의 회복 속도에 기대를 겁니다.
마지막으로 그는 통치의 형식을 제안합니다. 사회가 정해야 할 넓은 경계 안에서 사용자에게 많은 자유를 주는 것이 매우 중요해 보인다는 것입니다. 그리고 그 넓은 경계가 무엇인지, 집단적 정렬을 어떻게 정의할 것인지에 대한 논의를 세계가 빨리 시작할수록 좋다는 문장으로 이 항목을 닫습니다.
두 항목을 정리하면 이렇습니다.
- 1단계, 정렬 문제 해결 — 집단적·장기적 선호에 대한 견고한 보장이 성공의 기준이며, 소셜미디어 피드가 반면교사입니다.
- 2단계, 초지능의 저가화와 분배 — 어떤 개인·기업·국가에도 집중되지 않는 것이 기준이며, 근거는 사회의 복원력과 적응 속도입니다.
[관점] 이 순서에는 구조적 긴장이 있습니다. 정렬을 먼저 풀려면 소수의 최전선 연구조직에 연산과 인재가 집중되어야 하는데, 그 집중 자체가 2단계가 방지하려는 상태이기 때문입니다. 더구나 1단계의 완료 시점을 판정할 주체가 명시되어 있지 않습니다. 정렬이 충분히 풀렸는지를 판단하는 권한이 집중을 해소할 의무를 진 당사자에게 있다면, 2단계는 사실상 자발적 약속이 됩니다. 이 글이 규제나 제3자 검증을 언급하지 않고 ‘세계가 대화를 시작하자’는 권고로 끝나는 것도 같은 맥락에서 읽을 수 있습니다.
[한국 관점] 어느 국가에도 지나치게 집중되지 않게라는 조건은 한국이 소버린 AI를 추진하는 논리와 정확히 맞물립니다. 올트먼 본인도 2025년 10월 1일 대통령실 접견에서 한국이 세계 어느 나라도 갖지 못한 산업 기반을 갖고 있다며 소버린 AI 목표를 함께 지원하고 싶다는 뜻을 밝혔습니다. 다만 이 문장에는 모호함이 있습니다. 한 나라가 자국 모델을 갖는다는 것과, 그 나라가 특정 기업의 인프라·모델 위에서 자국 서비스를 운영한다는 것은 자립도에서 전혀 다른 상태이기 때문입니다. 올트먼의 두 번째 항목을 한국에 적용할 때 실질적 질문은 접근권의 유무가 아니라, 가중치·연산·데이터 중 무엇을 국내에서 통제하느냐입니다.
세계를 위한 뇌, 그리고 아이디어맨의 시대
올트먼은 주어를 확장합니다. 오픈AI만이 아니라 산업 전체가 세계를 위한 뇌를 짓고 있다는 것입니다. 그 뇌는 극도로 개인화되고 누구나 쉽게 쓸 수 있을 것이며, 우리를 제약하는 것은 좋은 아이디어뿐이게 되리라고 그는 씁니다.
그리고 이 제약 조건의 변화에서 하나의 예측을 끌어냅니다. 스타트업 업계의 기술자들은 오랫동안 ‘아이디어맨’, 즉 아이디어만 갖고 그것을 만들어 줄 팀을 찾아다니는 사람들을 놀림거리로 삼아 왔습니다. 그런데 이제 그에게는 아이디어맨의 전성기가 올 것처럼 보인다는 것입니다. 실행이 희소자원이던 시대가 끝나면 희소해지는 것은 무엇을 만들지 정하는 능력이라는 주장입니다.
[관점] 이 예측은 검증 가능한 형태로 되어 있습니다. 실행 비용이 0에 수렴하면 아이디어의 상대가격이 오른다는 것이 논리인데, 여기에는 빠진 전제가 있습니다. 실행 비용이 낮아지면 같은 아이디어를 실행하는 경쟁자도 함께 늘어나므로, 아이디어의 희소성이 아니라 아이디어의 방어 가능성이 가치를 결정하게 됩니다. 실제로 진입장벽이 무너진 시장에서 가치가 이동한 곳은 발상이 아니라 유통 채널, 데이터 접근권, 브랜드였습니다. 아이디어맨의 전성기가 온다면 그것은 아이디어 자체 때문이 아니라, 아이디어를 남보다 먼저 유통에 연결하는 능력 때문일 가능성이 큽니다.
[반론] 제임스 페소코키스(James Pethokoukis)는 이 글을 정보 제공인 동시에 설득을 의도한 문서로 읽어야 한다고 지적하면서, 올트먼이 왜 이 시점에 이런 글을 썼는지를 물었습니다. 그가 주목한 것은 퓨리서치(Pew Research Center) 조사에서 AI를 긍정적으로 보는 미국인이 17%에 그친 반면 전문가 집단에서는 56%였다는 격차입니다. 그는 올트먼이 이 여론 지형을 알고 있었을 것이고 대화의 틀을 서둘러 바꿀 필요를 느꼈으리라고 추정하면서, 오픈AI를 ‘세계를 위한 뇌’를 짓는 주체로 묘사하는 것은 그 변화를 위한 문화적 허용 구조를 만드는 일이라고 평했습니다. 페소코키스 자신은 ‘온화한’ 테제에 기본적으로 우호적이지만, 올트먼의 시간표가 지나치게 밝고 지나치게 짧은 것은 아닌지 의문을 남겼습니다.
오픈AI는 무엇보다 초지능 연구기업이다
짧은 한 문단에서 올트먼은 회사의 정체성을 재정의합니다. 오픈AI는 이제 여러 가지이지만, 무엇보다 먼저 초지능 연구기업이라는 것입니다. 앞에 할 일이 많이 남아 있지만 대부분의 경로에는 이제 불이 켜졌고 어두운 영역은 빠르게 물러나고 있다고 그는 말합니다. 그리고 이 일을 할 수 있게 된 것에 대해 지극한 감사를 느낀다는 문장으로 문단을 닫습니다.
‘제품 회사’도 ‘연구소’도 아닌 ‘초지능 연구기업’이라는 자기규정은 이 글의 첫 문장과 수미상관을 이룹니다. 사건의 지평선을 이미 넘었다는 선언으로 시작해, 그 지평선 너머를 연구하는 것이 회사의 본질이라는 규정으로 끝나는 구조입니다.
[이해관계] 이 자기규정은 당시 진행 중이던 지배구조 문제와 떼어 놓기 어렵습니다. 2025년 3월 마무리된 400억 달러 규모 투자에는 조건이 붙어 있었고, 소프트뱅크는 오픈AI가 그해 12월 31일까지 영리 법인으로 전환하지 않을 경우 총투자 규모를 200억 달러까지 줄일 수 있다고 공시했습니다. 즉 이 글이 쓰인 시점에 오픈AI는 ‘인류를 위한 비영리’라는 창립 서사와 대규모 영리 자본의 요구 사이에 끼여 있었습니다. ‘초지능 연구기업’이라는 표현은 두 정체성 모두와 양립하는 드문 어휘입니다.
[사후 맥락] 이 문제는 이후 정리되었습니다. 오픈AI는 2025년 10월 영리 전환 절차를 통과했고, 그에 따라 자금 집행의 공은 소프트뱅크 쪽으로 넘어갔습니다. 소프트뱅크는 연말까지 약 225억 달러를 조달해야 하는 상황에 몰려 암 홀딩스 지분을 담보로 한 차입 등을 검토했고, 엔비디아(NVIDIA) 보유 지분 전량을 58억 3천만 달러에 매각해 오픈AI에 ‘올인’하는 선택을 했습니다. 2025년 12월 말 기준 소프트뱅크의 누적 약정은 410억 달러, 지분율은 약 11%로 확인됩니다. 같은 시기 올트먼은 2025년 연환산 매출 200억 달러 돌파와 2030년 수천억 달러 목표를 제시했지만, 회사는 여전히 흑자와 거리가 멀고 외부 자본 의존도가 높은 상태로 보도되었습니다.
계량하기에는 너무 싼 지능
마지막 두 문단에서 올트먼은 글의 명제를 한 문장으로 압축합니다. 계량하기에는 너무 싼 지능이 충분히 손에 닿는 거리에 있다는 것입니다. 그리고 곧바로 자신의 주장이 어떻게 들릴지를 스스로 인정합니다. 미친 소리처럼 들릴 수 있지만, 2020년에 오늘의 상태를 예고했다면 2030년에 대한 현재의 예측보다 더 미친 소리로 들렸을 것이라는 논법입니다. 앞서 본 곡선 논증이 여기서 다시 한번 결론의 근거로 쓰입니다.
글은 한 줄의 기원문으로 끝납니다. 초지능을 통과하는 이 확장이 매끄럽고, 지수적이며, 별일 없이 이루어지기를 바란다는 축원입니다. 기술 문서도 사업 계획도 아닌 기도문의 형식을 빌린 마무리이며, 앞선 모든 낙관에도 불구하고 결과가 보장되어 있지 않다는 점을 올트먼 스스로 드러내는 대목이기도 합니다.
해설 계량하기에는 너무 싸다(too cheap to meter)는 표현은 올트먼이 만든 말이 아닙니다. 1954년 9월 16일 미국 원자력위원회 위원장 루이스 스트로스(Lewis L. Strauss)가 전미과학기자협회 만찬 연설에서 쓴 구절로, 우리 아이들은 가정에서 ‘electrical energy too cheap to meter’를 누리게 되리라고 예언했습니다. 같은 연설에서 그는 주기적 대기근이 역사책 속 이야기가 되고 인간 수명이 크게 늘어나리라는 전망도 함께 내놓았습니다.
이후 이 문구는 원자력 산업이 가장 곤혹스러워하는 인용구가 되었고, 업계는 스트로스가 핵분열이 아니라 핵융합을 염두에 두고 한 말이라며 오해라고 항변해 왔습니다. 미 원자력규제위원회의 정리에 따르면 스트로스가 어떤 에너지원을 지칭했는지는 연설문만으로 확정되지 않아 양쪽 해석이 공존합니다. 올트먼이 이 구절을 택한 것이 의도적 인용인지는 원문에서 확인되지 않지만, AI 낙관론을 20세기 원자력 낙관론과 나란히 놓고 읽으려는 비평가들이 가장 자주 붙잡는 고리가 바로 이 문장입니다.
[관점] 마지막 기원문에는 이 글의 논증 구조가 압축되어 있습니다. 올트먼은 ‘매끄럽게’와 ‘지수적으로’를 한 문장에 나란히 놓는데, 이 둘은 직관적으로 충돌하는 조건입니다. 지수적 성장이 매끄럽게 느껴지는 것은 오직 관측자가 그 곡선 위에 함께 실려 있을 때뿐이고, 곡선 밖에 남겨진 사람에게는 같은 변화가 단절로 나타나기 때문입니다.
이 글이 답하지 않은 질문은 결국 하나입니다. 누가 곡선 위에 타고, 누가 아래에 남는가. ‘온화한’이라는 형용사의 타당성은 기술의 속도가 아니라 이 분배에 달려 있습니다.
원문: Sam Altman, The Gentle Singularity (Jun 2025) 전문은 원문에서 확인하실 수 있습니다.
참고할만한 글
- 샘 올트먼 – 세 가지 관찰 (Three Observations) — 같은 저자가 지능의 비용과 가치를 정리한 글로, 이 글의 낙관론이 기대는 경제학을 함께 읽을 수 있습니다.
- 아빈드 나라야난·사야시 카푸어 – 일반 기술로서의 AI (AI as Normal Technology) — AI를 임박한 초지능이 아니라 느리게 퍼지는 일반 기술로 보는 정반대의 시각을 담은 글로, 특이점 서사와 비교해 읽을 만합니다.
- 레오폴드 아셴브레너 – 상황 인식 (Situational Awareness) — AGI와 지능 폭발이 몇 년 안에 온다는 논증을 길게 펼친 글로, 올트먼의 연표와 나란히 읽을 수 있습니다.
