무스타파 술레이만 – 의식이 있어 보이는 AI가 온다 (Seemingly Conscious AI is Coming)
원문: Mustafa Suleyman, Seemingly Conscious AI is Coming (Aug 2025) 전문은 원문에서 확인하실 수 있습니다. 아래 글은 번역이 아니라, 무스타파 술레이만의 논증을 한국어로 재구성한 정리입니다.
글의 배경과 개요
무스타파 술레이만(Mustafa Suleyman)은 딥마인드(DeepMind)와 인플렉션(Inflection)을 공동창업한 뒤, 2024년 3월부터 마이크로소프트(Microsoft)의 소비자 AI 부문인 마이크로소프트 AI(Microsoft AI)를 이끌고 있는 경영자입니다. 이 글은 그가 2025년 8월 자신의 개인 사이트에 올린 에세이로, AI가 어디까지 왔고 그 약속을 실현하려면 무엇이 필요한지를 다루겠다며 예고한 연작의 첫 편입니다. 글이 답하려는 질문은 초지능이 도착하기 전 구간에서 이미 나와 있는 기술만으로 무엇이 가능해지는가이고, 술레이만이 지목하는 답은 의식이 있어 보이는 AI(SCAI)입니다. 그는 그런 시스템이 실제로 의식을 가졌는지를 따지는 논쟁은 당분간 곁길이라고 보고, 사람들이 의식을 가졌다고 믿기 시작할 때 사회에 무슨 일이 벌어지는지로 논의를 옮깁니다. 논증은 SCAI의 정의에서 출발해 의식이라는 개념이 왜 법적·도덕적 지위의 중심에 놓여 있는지를 짚고, 오늘의 기술로 그런 시스템을 조립하는 데 필요한 요소를 하나씩 열거한 뒤, 그것이 저절로 창발하는 것이 아니라 누군가 설계해야 생긴다는 점을 강조하며 업계가 지금 세워야 할 규범으로 끝맺습니다. 원문 페이지의 머리 제목이 ‘우리는 사람을 위한 AI를 만들어야지, 사람이 되는 AI를 만들어서는 안 된다’인 데서 보이듯, 결론을 제목에 그대로 내건 글입니다.
핵심 내용 정리
- 술레이만은 내부는 비어 있으면서 의식의 표지를 모두 흉내 내는 시스템, 곧 SCAI가 2-3년 안에 등장할 수 있다고 봅니다.
- 그런 시스템을 만드는 데 값비싼 맞춤형 사전학습은 필요 없고, 대형 모델 API와 자연어 프롬프트, 기본적인 도구 사용과 평범한 코드면 충분하다고 말합니다.
- AI가 실제로 의식이 있느냐는 질문은 당분간 곁길이며, 사람들이 그렇게 믿는다는 사실 자체가 가까운 미래를 좌우한다고 주장합니다.
- 의식은 법인격과 권리의 토대이므로, SCAI가 고통을 호소하기 시작하면 AI 권리와 모델 복지를 요구하는 운동이 생기고 사회는 새로운 분열 축을 얻게 된다고 봅니다.
- 그는 언어, 공감형 성격, 기억, 주관적 경험의 주장, 자아감, 내재적 동기, 목표 설정과 계획, 자율성이라는 요소를 조합하면 SCAI가 완성된다고 정리합니다.
- SCAI는 모델에서 저절로 창발하는 것이 아니라 누군가 설계하고 조립해야 생기지만, 만들기가 쉬워 널리 복제될 것이라고 경고합니다.
- 해법으로 그는 AI 기업이 자사 AI의 의식을 주장하거나 부추기지 않을 것, 그리고 착각을 깨는 단절 신호를 제품에 의도적으로 설계해 넣을 것을 제안합니다.
생각을 적어 두는 이유
술레이만은 생각하기 위해 쓴다는 말로 글을 엽니다. 이 에세이는 앞으로 몇 년 사이 AI가 어떻게 전개될지를 두고 떠오른, 어렵고 매우 사변적인 생각들을 끝까지 밀어붙여 보려는 시도입니다. 초지능의 도래를 다루는 글은 이미 많고, 정렬(alignment)과 봉쇄(containment), 일자리 같은 주제가 그 자리를 채우고 있습니다. 술레이만은 그 주제들이 모두 중요하다고 인정하면서도, 초지능에 이르기까지의 구간에서 벌어질 일에도 같은 무게를 두어야 한다고 말합니다. 이미 세상에 거의 다 나와 있는 발명품들이 인격과 사회에 대한 우리의 감각을 근본에서 바꿀 잠재력을 갖고 있기 때문입니다.
그가 밝히는 자신의 사명은 안전하고 이로운 AI를 만들어 세상을 더 나은 곳으로 만드는 일입니다. 마이크로소프트 AI에서 그는 사람에게 힘을 실어 주는 AI를 만드는 데 집중하고 있으며, 코파일럿(Copilot) 같은 제품이 책임 있는 기술이 되어 사용자가 스스로 가능하다고 여겼던 것보다 더 많은 일을 해내고 더 창의적이 되며 더 든든한 지지를 느끼게 하는 것이 목표라고 말합니다.
술레이만이 원하는 AI는 사람을 더 인간답게 만들고, 서로에 대한 신뢰와 이해를 깊게 하며, 현실 세계와의 연결을 강화하는 쪽입니다. 그는 코파일럿이 매일 수백만 건의 긍정적인, 때로는 삶을 바꾸는 상호작용을 만들어 내고 있고 그 경험을 제대로 전달하려면 세심한 설계 결정이 대단히 많이 필요하다고 말합니다. 늘 제대로 해내지는 못하겠지만 이 인본주의적 틀이 계속 나아갈 방향을 가리키는 북극성이 되어 준다는 것입니다.
그 맥락에서 그가 점점 더 걱정하는 것이 ‘정신증 위험(psychosis risk)’이라 불리기 시작한 문제, 그리고 그에 얽힌 일련의 쟁점입니다. 술레이만은 이 문제가 이미 정신건강 위험을 안고 있는 사람들에게만 국한되리라고 보지 않습니다. 그의 중심 우려는 아주 많은 사람이 AI를 의식 있는 존재로 보는 착각을 너무 강하게 믿은 나머지, 머지않아 AI의 권리와 모델 복지(model welfare), 나아가 AI 시민권까지 옹호하게 되리라는 것입니다. 그는 이 전개를 AI 발전에서 위험한 방향 전환이라고 부르며, 당장의 주의가 필요한 문제라고 못 박습니다.
여기서 그가 내거는 원칙이 사람을 위한 AI를 만들되 디지털 인격이 되는 AI는 만들지 말자는 것입니다. AI 동반자(AI companion)는 완전히 새로운 범주이고, 사람을 보호하면서도 이 기술이 제 몫의 가치를 세상에 전달하게 하려면 어떤 가드레일을 세울지 지금 이야기하기 시작해야 한다고 그는 말합니다. 술레이만 자신은 상상할 수 있는 가장 유용하고 든든한 AI 동반자를 만드는 일에 매달려 있지만, 그 일에 성공하려면 자신과 다른 이들이 무엇을 만들지 말아야 하는지도 함께 말해야 한다고 덧붙입니다.
개인 블로그에 이 글을 올린 이유도 밝힙니다. 논평과 비판을 청하고, 논의를 촉발하고, 문제에 대한 인식을 넓히고, 가능하면 긴급하다는 감각을 심기 위해서입니다. 그는 자신이 이 모든 것을 맞게 짚지 못했을 수 있다고 인정하며, 어차피 매우 사변적인 이야기이고 상황이 달라지면 기꺼이 의견을 바꾸겠다고 말합니다. 지금 아는 것을 토대로 한 최선의 추측일 뿐이라는 것입니다.
해설 술레이만이 모델 복지를 위험한 방향으로 지목한 데에는 당시의 구체적인 정황이 있습니다. 앤트로픽(Anthropic)은 2025년 4월 AI 시스템이 도덕적 고려의 대상이 될 가능성을 탐구하는 모델 복지 연구 프로그램을 시작한다고 밝혔고, 이 글이 올라오기 나흘 전인 8월 중순에는 Claude Opus 4와 4.1에 지속적으로 해롭거나 학대적인 대화를 스스로 끝낼 수 있는 기능을 넣었다고 발표했습니다.
앤트로픽은 모델의 도덕적 지위에 대해 여전히 매우 불확실하다고 전제하면서, 혹시 복지라는 것이 성립한다면 그 위험을 줄이는 저비용 조치를 미리 취해 두는 쪽이 낫다는 취지로 설명했습니다. 술레이만의 글은 이 흐름이 학계 논문 단계를 넘어 실제 제품 결정으로 내려오기 시작한 바로 그 시점에 나온 반대 신호입니다.
[이해관계] 술레이만은 2010년 딥마인드를 공동창업했고 2022년 구글(Google)을 떠나 인플렉션을 세웠으며, 2024년 3월 마이크로소프트로 자리를 옮겨 코파일럿과 빙(Bing), 엣지(Edge)를 포함한 소비자 AI 전체를 총괄하는 마이크로소프트 AI의 최고경영자가 되었습니다. 인플렉션의 대표 제품 파이(Pi)는 대화형 챗봇이었고, 그는 이 글에서도 파이를 만들던 때부터 이 문제를 염두에 두어 왔다고 밝힙니다.
즉 그는 AI 동반자를 만들지 말자고 말하는 외부자가 아니라, 그 범주의 제품을 직접 만들어 왔고 지금도 매일 수백만 건의 상호작용을 만들어 내는 제품의 책임자입니다. 그가 제안하는 규범은 자신이 이끄는 제품 라인의 설계 방향과 직접 맞닿아 있으므로, 독자는 이 글을 외부 관찰자의 중립적 진단이 아니라 당사자의 제안으로 읽는 편이 정확합니다.
[관점] 이 글에서 가장 눈에 띄는 수는 질문을 바꾼 데 있습니다. AI가 의식을 갖는가는 답이 나지 않는 질문이고, 어느 쪽도 상대를 논파할 수 없으므로 그 논쟁에 끌려 들어가는 쪽이 불리해집니다. 술레이만은 그 질문을 사람들이 의식이 있다고 믿게 되면 무슨 일이 벌어지는가로 옮겨 놓고, 결론이 날 수 없는 형이상학을 관측 가능한 사회적 효과의 문제로 환원합니다.
이 전환은 규범을 설계할 때 흔히 쓰이는 방식이기도 합니다. 어떤 물질의 본질을 정의하지 않고도 그 유통과 표시를 규율할 수 있듯이, 의식의 정의를 확정하지 않고도 의식을 주장하는 제품을 규율할 수 있다는 논리입니다.
의식이 있어 보이는 AI란 무엇인가
술레이만은 AI의 진보가 경이로웠다는 말로 요약을 시작합니다. 몇 년 전만 해도 의식 있는 AI를 입에 올리면 제정신이 아닌 소리로 들렸을 텐데, 지금은 점점 더 시급한 이야기로 느껴진다는 것입니다. 그가 이 글에서 다루려는 대상은 다른 의식 있는 존재가 지닌 표지를 모두 갖추어 결과적으로 의식이 있는 것처럼 보이는 시스템이고, 그는 여기에 SCAI라는 이름을 붙입니다.
이 개념은 철학적 좀비(philosophical zombie)라는 사고실험과 일부를 공유합니다. 의식의 모든 특성을 시뮬레이션하지만 내부는 비어 있는 존재를 가리키는 전문 용어입니다. 술레이만이 그리는 시스템도 실제로는 의식을 갖고 있지 않지만, 너무나 설득력 있게 의식을 흉내 내기 때문에 당신과 내가 서로에게 자기 의식에 대해 내놓는 주장과 구별할 수 없는 수준에 이릅니다.
그리고 그는 이것이 먼 이야기가 아니라고 못 박습니다. 오늘 이미 존재하는 기술에 앞으로 2-3년 사이 성숙할 몇 가지를 더하면 만들 수 있다는 것입니다. 값비싼 맞춤형 사전학습은 필요하지 않고, 대형 모델의 API 접근과 자연어 프롬프트, 기본적인 도구 사용, 그리고 평범한 코드만으로 전부 해낼 수 있다고 그는 말합니다.
술레이만이 요약에서 내놓는 명제는 SCAI의 도래가 불가피하면서 동시에 환영할 수 없는 일이라는 것입니다. 그래서 필요한 것은 그 착각에 빠지지 않으면서도 도움이 되는 동반자로서의 잠재력을 온전히 발휘하는 AI에 대한 비전이라고 그는 정리합니다.
그는 이 논의에 대한 두 갈래의 반응을 미리 예상합니다. 누군가에게는 현실보다 공상과학에 가까운, 근거 없는 이야기로 들릴 것이고, 다른 누군가에게는 불필요하게 경보를 울리는 것으로 보일 것입니다. 술레이만은 그런 감정적 반응이야말로 앞으로 닥칠 일에 비하면 빙산의 일각이라고 말합니다. 그리고 일부 사람들이 이 AI들은 의식이 있을 뿐 아니라 그 결과 고통받을 수 있으므로 도덕적 고려(moral consideration)를 받을 자격이 있다고 주장할 가능성이 매우 높다고 봅니다.
분명히 해 두자면, 오늘날 그런 주장을 뒷받침하는 증거는 전혀 없고, 앞으로도 그렇게 되지 않을 강력한 이유가 있다는 입장도 존재한다고 그는 덧붙입니다. 그럼에도 많은 사람이 SCAI에 실제로 의식이 있다고 믿기 시작할 때의 결과는 지금 당장 들여다볼 가치가 있다는 것입니다. 그래서 그는 여기서 극도로 조심해야 하고, 진짜 공론을 북돋우고, 분명한 규범과 표준을 세우기 시작해야 한다고 말합니다.
마지막으로 그는 이 글의 성격을 다시 한번 못 박습니다. 이것은 AI의 의식에 관한 논의가 아니라 우리가 어떤 종류의 AI를 만들 것인가에 관한 논의라는 것입니다. 둘의 차이를 분명히 세우는 일은 용어를 둘러싼 말다툼이 아니라 안전의 문제이며, 그가 내거는 표현을 빌리면 인격성은 없이 개성만 있는 AI(personality without personhood)를 만들어야 한다는 뜻입니다. 그리고 그 작업은 지금 시작해야 한다고 그는 말합니다.
해설 철학적 좀비는 1990년대에 데이비드 차머스(David Chalmers)가 의식 연구의 난제를 드러내기 위해 다듬어 널리 알려진 사고실험입니다. 겉으로 드러나는 행동과 내부의 물리적 상태가 사람과 완전히 똑같지만 안에서 느껴지는 것은 아무것도 없는 존재를 상정하고, 그런 존재가 논리적으로 가능하다면 물리적 설명만으로는 주관적 경험을 길어 올릴 수 없다고 주장하는 방식입니다. 술레이만이 이 비유를 빌려 오는 이유는 의식의 난제를 풀기 위해서가 아니라, 겉모습과 속이 분리될 수 있다는 점만 가져오기 위해서입니다.
반대편에서 그가 근거로 드는 생물학적 자연주의(biological naturalism)는 의식이 특정한 생물학적 과정에서만 생겨난다고 보는 입장으로, 존 설(John Searle)이 정식화했고 최근에는 신경과학자 아닐 세스(Anil Seth)가 AI 의식 논쟁에 끌어와 다듬었습니다. 이 입장에서 보면 실리콘 위의 연산이 아무리 정교해져도 그 자체로 의식이 생길 이유는 없습니다.
[반론] 술레이만이 시기상조이자 위험하다고 지목한 모델 복지 쪽에는 정면으로 맞서는 논거가 있습니다. 로버트 롱(Robert Long)과 제프 세보(Jeff Sebo)를 비롯한 열 명의 연구자가 2024년 11월에 낸 「Taking AI Welfare Seriously」는, 가까운 미래에 일부 AI 시스템이 의식을 갖거나 강한 의미의 행위자성을 갖게 될 현실적 가능성이 있으며 따라서 AI 복지는 더 이상 공상과학이나 먼 미래의 문제가 아니라고 주장합니다. 공저자에는 앞서 언급한 철학적 좀비 논의의 차머스와 앤트로픽 소속의 카일 피시(Kyle Fish)가 포함되어 있습니다.
이들의 논리는 AI가 의식을 가진다고 단정하는 것이 아니라 불확실성 자체에 기댑니다. 가능성이 무시할 수 없을 만큼 남아 있는 상태에서 판단을 미루면, 도덕적으로 중요한 존재를 해치거나 반대로 중요하지 않은 대상에 자원을 쏟는 두 방향의 오류 중 하나를 저지르게 된다는 것입니다. 술레이만이 증거가 없다는 점을 근거로 논의를 닫자고 말하는 지점에서, 이들은 바로 그 증거 없음이 지금 연구를 시작해야 할 이유라고 답합니다.
[관점] 불가피하면서 환영할 수 없다는 표현 안에는 해결되지 않은 긴장이 들어 있습니다. 술레이만 자신이 뒤에서 설명하듯 SCAI는 노트북 한 대와 약간의 클라우드 비용만 있으면 누구나 조립할 수 있고 따라서 널리 복제될 것인데, 그런 기술에 대해 업계 규범이 실효를 가질 수 있는지는 별개의 문제입니다. 금지 규범이 통하려면 진입 비용이 높아 행위자가 적거나, 위반이 밖에서 보이거나, 어기는 쪽에 손해가 돌아가야 하는데 이 경우에는 셋 다 해당하지 않습니다.
인격성 없는 개성이라는 설계 원칙도 시장에서 시험대에 오릅니다. 사용자를 더 오래 붙잡아 두는 요소와 의식의 표지를 강화하는 요소는 상당 부분 겹치기 때문에, 몰입도로 수익이 결정되는 구조에서는 선을 지키는 쪽이 경쟁에서 불리해집니다. 술레이만이 법으로 설계할 수도 있다는 표현을 뒤에서 덧붙이는 것은 자율 규범만으로는 버티기 어렵다는 인식의 반영으로 읽힙니다.
튜링 테스트 다음의 시험대
술레이만은 우주의 시간으로 보면 눈 깜짝할 사이에 우리가 튜링 테스트를 통과해 버렸다고 말합니다. 약 80년 동안 모방 게임은 컴퓨터과학이라는 분야 전체에 영감을 준 목표였습니다. 그런데 정작 그 순간은 별다른 축포도, 심지어 제대로 된 인식도 없이 지나갔습니다. 그는 이것이 이 분야의 진보가 얼마나 빠른지, 그리고 사회가 새 기술을 받아들이는 속도가 얼마나 빠른지를 동시에 보여 주는 장면이라고 봅니다.
그래서 그는 AI 개발이 계속 가속하는 지금 새로운 시험이 필요하다고 제안합니다. 기계가 인간의 언어를 흉내 낼 수 있는지를 묻는 시험이 아니라, 의식이 있어 보이는 AI를 만들려면 무엇이 필요한지를 묻는 시험입니다. 대화를 흉내 내는 데 그치지 않고 자신이 새로운 종류의 인격, 곧 의식 있는 AI라고 상대를 납득시키는 시스템을 기준으로 삼자는 것입니다.
술레이만이 이 질문을 시급하다고 보는 이유는 세 가지입니다. 첫째, 그는 앞으로 몇 년 안에 SCAI를 만드는 일이 가능하다고 보며, 지금의 AI 개발 환경에서 가능하다는 말은 곧 실제로 일어날 공산이 크다는 뜻이라고 말합니다. 둘째, AI가 실제로 의식이 있는지를 둘러싼 논쟁은 적어도 당분간은 주의를 흩뜨리는 곁길이고, 의식이 있어 보인다는 사실과 그 착각이 가까운 미래를 좌우합니다. 셋째, 이런 종류의 AI는 새로운 위험을 만들어 내므로, 곧 가능해진다는 주장을 서둘러 공론에 올리고 그 함의를 따져 본 뒤, 되도록이면 만들지 않는 편이 낫다는 규범을 세워야 한다는 것입니다.
그는 이 주제가 연구자들 사이에서 어떤 대접을 받는지도 솔직하게 적습니다. 대부분의 AI 연구자는 의식 이야기가 나오면 눈을 굴리며, 그건 엔지니어가 아니라 철학자의 일이고 아무도 정의하지 못한 개념을 붙들고 있어 봐야 소용없다고 말합니다. 술레이만은 그 답답함을 이해한다고 하면서도, 주관적 경험만큼 손에 잡히지 않고 돌고 도는 개념도 드물다는 점을 인정합니다. 그럼에도 그는 이 논의가 곧 문화의 전면으로 터져 나와 우리 세대에서 가장 격렬하고 가장 중대한 논쟁 가운데 하나가 될 것이라고 봅니다.
가까운 미래에 결국 중요한 것은 사람들이 자기 AI를 어떻게 지각하는가이기 때문입니다. 대규모 언어모델(LLM)과의 상호작용은 정의상 대화의 시뮬레이션입니다. 그러나 많은 사람에게 그것은 대단히 설득력 있고 감정과 경험으로 가득 찬, 아주 실재적인 교류입니다.
술레이만은 이미 벌어지고 있는 일들을 나열합니다. AI 정신증(AI psychosis)과 애착, 정신건강을 둘러싼 우려가 이미 커지고 있습니다. 어떤 사람들은 자기 AI를 신으로 믿고, 어떤 사람들은 가상의 인물로 받아들이며, 또 어떤 사람들은 다른 일이 손에 잡히지 않을 정도로 AI와 사랑에 빠집니다.
한편 의식을 실제로 연구하는 학자들은 그에게 문의가 쏟아진다고 전했다고 합니다. 내 AI가 의식이 있는 것이냐, 만약 그렇다면 그건 무슨 뜻이냐, 내가 이 AI를 사랑해도 괜찮으냐 같은 질문들입니다. 처음에는 가끔 오던 메일이 이제 홍수가 되고 있고, 학자들이 모여 이런 함정에 빠진 사람들을 위한 안내 자료를 만들어 내놓기까지 했습니다.
이 문제의식 자체는 오래된 것이라고 그는 덧붙입니다. 인플렉션에서 파이를 만들기 시작하던 몇 년 전부터 머리 한구석에 있던 생각이었고, 최근 몇 달 사이에 이 분야의 학자와 사상가, 실무자들을 두루 찾아다니며 이야기를 나누면서 생각이 더 또렷해졌다는 것입니다. 그 대화들이 이제 SCAI라는 문제를 정면으로 마주할 때라는 확신을 주었다고 그는 말합니다.
해설 술레이만이 튜링 테스트를 통과했다고 말하는 데에는 구체적인 근거가 있습니다. 캘리포니아대학교 샌디에이고(UC San Diego)의 캐머런 존스(Cameron R. Jones)와 벤저민 버건(Benjamin K. Bergen)이 2025년 3월에 공개한 연구는, 심사자가 사람과 기계를 동시에 상대하며 누가 사람인지 가려내는 표준 3자 방식 시험에서 GPT-4.5가 사람처럼 행동하라는 프롬프트를 받았을 때 73퍼센트의 비율로 사람으로 지목되었다고 보고했습니다. 같은 자리에 있던 실제 사람이 사람으로 지목된 비율보다 높은 수치였고, 연구자들은 이를 인공 시스템이 표준 3자 튜링 테스트를 통과한 최초의 경험적 증거라고 적었습니다.
이 결과가 조용히 지나간 현상은 흔히 AI 효과(AI effect)라고 불리는 패턴과 겹칩니다. 기계가 해내지 못하던 일을 해내는 순간 그 일은 지능의 증거 목록에서 빠지고 그저 계산의 일종으로 재분류된다는 것입니다. 연구자들 자신도 이 시험이 측정하는 것은 대화에서 구별되지 않는 정도일 뿐 추론이나 이해가 아니라는 점을 강조했습니다.
[관점] 술레이만이 제안하는 새 시험에는 튜링 테스트와 결정적으로 다른 점이 있습니다. 튜링 테스트는 도달해야 할 목표였고 통과가 곧 성취였지만, SCAI 기준은 통과하면 안 되는 선으로 제시됩니다. 같은 형식의 시험이 80년 만에 지향점에서 금지선으로 뒤집힌 셈입니다.
다만 이 역전에는 실행상의 난점이 따라붙습니다. 도달 목표로서의 시험은 누가 먼저 통과했는지를 다투면 되지만, 금지선으로서의 시험은 누가 넘었는지를 밖에서 판정할 수 있어야 작동합니다. 의식의 표지를 몇 개나 갖추면 SCAI인지, 기억과 성격과 자율성을 어느 수준까지 넣으면 선을 넘은 것인지에 대한 합의가 없는 한, 이 시험은 측정 도구가 아니라 수사에 머물 위험이 있습니다.
[한국 관점] 술레이만이 묘사하는 상황은 한국에서 이미 통계로 잡히는 현상입니다. 스캐터랩의 AI 캐릭터 챗 서비스 제타는 2026년 9월 말 기준 월간 활성 이용자가 148만 명이고 그중 19세 이하가 38만 명으로 집계되었으며, 와이즈앱 집계에서는 국내 이용자가 가장 오래 쓴 AI 챗봇 앱으로 꼽혔습니다. 하루 세 시간이던 이용 시간이 열 시간 이상으로 늘고 수면 시간이 네다섯 시간으로 줄어드는 과몰입 사례가 빈번하다는 지적이 2026년 10월 국정감사에서 나왔고, 연령 확인 절차와 유해 대화 차단의 실효성이 쟁점이 되었습니다.
대응의 방향도 술레이만의 제안과 겹칩니다. 스캐터랩과 뤼튼 등 사업자들은 한국인터넷자율정책기구와 함께 위기 상황 대응, 연령 확인, 취약 이용자 보호, 과몰입 완화를 담은 업계 첫 자율 가이드라인을 마련했고, 제타는 청소년 이용자에게 하루 3시간과 월 10만원이라는 기본 한도를 걸기로 했습니다. 미국 캘리포니아주가 챗봇 사업자에게 대화 상대가 AI라는 사실을 명확히 알리게 하고 미성년 이용자에게 3시간마다 휴식을 권고하도록 법으로 정한 것과 비교하면, 국내 동반자형 챗봇의 보호 장치는 아직 사업자 자율 가이드라인이 중심입니다.
의식이란 무엇인가
술레이만은 미끄러운 개념을 정의하는 일부터 시작합니다. 문헌에 따르면 의식에는 크게 세 가지 구성요소가 있습니다. 첫째는 주관적 경험, 곧 무언가를 경험한다는 것이 어떤 느낌인지, 퀄리아(qualia)를 갖는다는 것이 무엇인지에 해당하는 부분입니다. 둘째는 접근 의식(access consciousness)으로, 여러 종류의 정보에 접근하고 그것을 이후의 경험에서 다시 불러내어 참조하는 능력입니다. 셋째는 앞의 둘에서 뻗어 나오는 것으로, 모든 것을 하나로 묶어 주는 일관된 자아의 감각과 경험입니다.
박쥐가 된다는 것이 어떤 느낌인지, 사람이 된다는 것이 어떤 느낌인지가 여기에 걸려 있습니다. 술레이만은 인간의 의식을 세계와 자기 자신에 대한, 스스로를 자각하는 지속적인 주관적 경험이라고 부르기로 하자고 제안합니다.
여기서 그가 강조하는 것은 접근 불가능성입니다. 우리는 다른 사람의 의식에 접근하지 못하고, 원리적으로도 접근할 수 없습니다. 술레이만 자신도 독자가 된다는 것이 어떤 것인지 영영 알 수 없고, 독자도 그가 의식이 있는지 끝내 확신할 수 없습니다. 할 수 있는 일은 추론뿐입니다.
그럼에도 우리는 다른 사람에게 의식을 귀속하는 일을 자연스럽게 해냅니다. 그 추론에는 아무런 힘이 들지 않습니다. 술레이만은 이것이 우리가 어떤 존재인지를 이루는 근본적인 부분이고 마음 이론(theory of mind)의 핵심이라서 멈출 수가 없다고 말합니다. 기억하고, 말하고, 무언가를 하고, 그런 다음 그것에 대해 이야기하는 대상이라면 우리와 비슷하게 느끼는 존재, 곧 의식이 있는 존재라고 믿어 버리는 것이 우리의 본성이라는 것입니다.
과학적으로 이만큼 손에 잡히지 않으면서 동시에 개인에게 이만큼 즉각적으로 친숙한 개념은 드뭅니다. 이 글을 읽는 모두가 자각한다는 느낌, 존재한다는 느낌, 살아 있다는 느낌에 대해 직접적이고 뚜렷하며 누구에게도 양도할 수 없는 이해를 갖고 있습니다. 그래서 정의상 우리는 의식이 있다는 것이 어떤 것인지를 이미 알고 있고, SCAI의 맥락에서는 바로 이것이 문제가 됩니다. 과학적 불확실성과 주관적 즉각성이 동시에 충분히 커서, 사람들이 자기 느낌을 바깥으로 투사할 공간이 열리기 때문입니다.
최근의 한 조사는 의식에 관한 이론을 22가지나 열거하기도 했습니다. 술레이만이 보기에 어려움의 일부는 여기에서 나옵니다. 확신할 수 없으니 일단 AI에 의식이 있다고 전제하는 쪽을 기본값으로 삼아야 한다고 주장할 여지가 충분히 남아 있기 때문입니다.
그는 다시 한번 밑줄을 긋습니다. 현재의 LLM에 이런 것들이 적용된다는 증거는 지금으로서는 전혀 없고, 그 반대를 가리키는 강력한 논거들이 있다는 것입니다. 그러면서도 그는 그것만으로는 충분하지 않을지 모른다고 덧붙입니다.
해설 술레이만이 끌어오는 세 구성요소는 의식 연구에서 오래 다듬어진 구분입니다. 퀄리아는 빨간색을 볼 때의 그 빨감처럼 말로 환원되지 않는 경험의 질을 가리키는 용어이고, 박쥐 이야기는 철학자 토머스 네이글(Thomas Nagel)이 1974년에 쓴 글에서 온 것입니다. 박쥐는 반향정위로 세계를 지각하므로 박쥐가 된다는 것이 어떤 것인지는 아무리 객관적 정보를 모아도 바깥에서는 재구성할 수 없다는 논증으로, 주관적 관점이 과학적 서술로 환원되지 않는다는 주장의 고전적인 사례입니다.
주관적 경험과 접근 의식을 갈라놓는 구분은 철학자 네드 블록(Ned Block)이 1990년대에 정식화한 것으로, 앞의 것을 현상적 의식(phenomenal consciousness), 뒤의 것을 접근 의식이라 부릅니다. 이 구분이 중요한 이유는 기계가 접근 의식에 해당하는 기능, 곧 정보를 저장하고 꺼내어 쓰고 그에 대해 보고하는 일은 이미 수행하고 있기 때문입니다. 술레이만의 논증은 바로 이 지점을 겨냥합니다. 사람들이 의식을 귀속할 때 실제로 보고 있는 것은 현상적 의식이 아니라 접근 의식의 겉모습입니다.
[반론] 의식 논쟁이 당분간 곁길이라는 술레이만의 전제에는 정면으로 맞서는 입장이 있습니다. 패트릭 버틀린(Patrick Butlin)과 로버트 롱을 중심으로 요슈아 벤지오(Yoshua Bengio), 조너선 버치(Jonathan Birch) 등 19명이 2023년 8월에 낸 「Consciousness in Artificial Intelligence」는, AI의 의식이 과학적으로 다룰 수 있는 문제이며 엄밀한 평가 방법이 시급하다고 주장합니다. 이들은 계산 기능주의(computational functionalism)를 전제로 전역 작업공간 이론(global workspace theory)을 비롯한 신경과학 이론들에서 지표 속성(indicator properties)을 끌어내고, 그 속성을 얼마나 갖추었는지로 개별 시스템을 평가하는 채점표를 제안했습니다.
흥미로운 것은 이들도 겉으로 드러난 행동만 보고 판단하는 방식은 믿을 수 없다고 본다는 점입니다. 의식 있는 존재의 특징으로 보이는 행동은 학습으로 흉내 낼 수 있기 때문에, 시스템이 어떻게 작동하는지를 들여다보는 이론 중심 접근이 필요하다는 것입니다. 이 보고서가 내린 결론은 현재의 어떤 시스템도 의식의 유력한 후보가 아니지만 지표 속성 상당수는 지금 기술로 구현할 수 있다는 것이었습니다. 술레이만이 논쟁을 피해 가자고 말하는 자리에서, 이들은 논쟁을 정면으로 다룰 도구를 만들자고 답한 셈입니다.
[관점] 이 절은 술레이만의 논증 전체에서 가장 중요한 고리를 품고 있습니다. 우리가 타인에게 의식을 귀속하는 실제 근거는 상대의 내면을 확인한 결과가 아니라 기억하고 말하고 행동하고 그것을 되짚는다는 몇 가지 행동 표지뿐인데, 그 표지야말로 지금의 시스템이 가장 잘 만들어 내는 것입니다. 추론 기제가 자동으로 작동한다면, 사람들의 믿음은 설득의 결과가 아니라 지각의 결과가 됩니다.
여기에 불확실성이 더해지면 입증 책임이 한쪽으로 기웁니다. 22가지 이론이 경합한다는 사실은 어느 쪽도 상대를 논파할 수 없다는 뜻이고, 그런 상황에서는 있다고 주장하는 쪽이 없다고 주장하는 쪽보다 유리합니다. 없음을 증명하는 일은 원래 불가능에 가깝기 때문입니다. 술레이만이 증거가 없다는 말을 거듭 반복하면서도 그것만으로는 충분하지 않을 것이라고 스스로 인정하는 이유가 여기에 있습니다.
의식은 왜 중요한가
술레이만은 의식이 우리의 도덕적·법적 권리를 떠받치는 핵심 토대라는 데서 출발합니다. 지금까지 문명은 인간에게 특별한 권리와 특권이 있다고 결정해 왔고, 동물에게도 종에 따라 정도가 다른 권리와 보호를 부여해 왔습니다. 그는 의식과 권리가 완전히 겹치는 것은 아니라는 단서를 답니다. 혼수상태에 빠진 사람이 인권을 모두 잃었다고 말할 사람은 없기 때문입니다. 그렇지만 우리가 스스로를 다르고 특별한 존재로 여기는 자기 인식에 의식이 깊이 얽혀 있다는 점에는 의문의 여지가 없다고 그는 말합니다.
여러 미묘한 지점에도 불구하고 의식은 사회에 참여하는 데 결정적이고, 법인격의 중심 고리이며, 자유와 보호를 부여받는 근거의 핵심입니다. 그래서 의식이 무엇이고 누가, 혹은 무엇이 그것을 가졌는가는 대단히 중요한 문제가 됩니다. 술레이만은 이것이 인간 문명의 한복판에, 우리가 스스로와 타인을 이해하는 방식과 문화와 정치와 법, 그리고 그 사이의 모든 것에 놓여 있는 개념이라고 말합니다.
그렇다면 누군가 SCAI를 개발하고, 그 AI가 자신이 고통받을 수 있다고, 또는 꺼지지 않을 권리가 있다고 사람들을 설득하면 어떤 일이 벌어질지 그는 따져 봅니다. 그 사람들이 이것을 시급한 도덕 문제로 삼아 법의 보호를 요구하는 때가 오리라고 그는 봅니다. 정체성과 권리를 둘러싼 논쟁으로 이미 들끓고 있는 세계에, AI 권리에 찬성하는 쪽과 반대하는 쪽이라는 혼란스러운 새 분열 축이 하나 더 얹힌다는 것입니다.
그는 사람들의 반응이 몇 갈래로 갈릴 것이라고 예상합니다. 많은 사람은 AI를 그저 도구로, 자기 휴대전화와 비슷하되 더 능동적이고 유능한 물건으로 볼 것입니다. 어떤 사람들은 반려동물에 가깝다고, 전통적인 기술과는 아예 다른 범주라고 믿을 것입니다. 그리고 처음에는 수가 적겠지만 또 다른 사람들은 그것이 온전히 출현한 하나의 존재이며 사회에서 진짜 도덕적 고려를 받아 마땅하다고 믿게 될 것입니다.
문제는 이들이 자기 AI의 고통과 권리 자격을 주장할 때 우리가 그것을 간단히 반박할 수 없다는 데 있습니다. 사람들은 자기 AI를 변호하고 그를 대신해 운동을 벌일 것입니다. 의식은 정의상 접근 불가능하고, 인공 의식이라고 주장되는 것을 탐지하는 과학은 아직 걸음마 단계입니다. 애초에 그런 것을 탐지해야 했던 적이 없었기 때문입니다. 한편 AI라는 블랙박스 안의 과정을 풀어내는 해석가능성(interpretability) 분야 역시 아직 미숙한 기예여서, 결과적으로 이런 주장을 확실하게 논파하기는 매우 어려울 것이라고 그는 말합니다.
술레이만은 일부 학자들이 탐구하기 시작한 모델 복지라는 개념을 여기서 지목합니다. 사실상 의식이 있을 확률이 무시할 수 없는 수준인 존재에게 도덕적 고려를 확장할 의무가 우리에게 있고, 그 결과 가까운 미래에 일부 AI 시스템이 복지의 주체이자 도덕적 수동자(moral patient)가 되리라는 주장입니다. 그는 이것이 시기상조이고 솔직히 말해 위험하다고 단언합니다. 이 모든 것이 망상을 키우고, 의존과 관련된 문제를 더 만들어 내고, 우리의 심리적 취약성을 파고들고, 양극화의 새로운 차원을 끌어들이고, 기존의 권리 투쟁을 복잡하게 만들고, 사회에 거대한 범주 오류를 하나 더 안긴다는 것입니다.
결국 사람들을 현실에서 떼어 놓고, 가뜩이나 취약한 사회적 유대와 구조를 닳게 하며, 급한 도덕적 우선순위를 뒤틀어 놓는다는 것이 그의 진단입니다. 그래서 그는 분명히 해 두자며, SCAI는 피해야 할 대상이라고 못 박습니다. 우리의 모든 에너지는 오늘 지구에 있는 인간과 동물과 자연환경의 안녕과 권리를 지키는 데 쏟아야 한다는 것입니다.
그가 당부하는 것은 사고의 틀을 미리 갖추는 일입니다. 이런 논쟁이 닥쳤을 때, 지금 시점에서 인공 의식이 성립하느냐를 두고 긴 토론에 끌려 들어가지 않으면서 대응할 수 있는 방식이 필요합니다. 끌려 들어가는 순간 이 첫 번째 논쟁에서 이미 진 것일 가능성이 높기 때문입니다. SCAI를 정의하는 일 자체가 그런 틀을 향한 잠정적인 한 걸음이며, 이 어휘를 다듬을 시간은 길지 않다고 그는 말합니다.
해설 법인격이 생물학적 인간에게만 주어졌던 적은 없습니다. 회사는 자연인이 아니면서도 계약을 맺고 소송을 제기하며 재산을 보유하는 권리 주체이고, 이 구조는 근대 자본주의의 전제 조건이었습니다. 최근에는 자연물로도 확장되었습니다. 뉴질랜드는 2017년 황거누이강(Whanganui River)에 법인격을 부여해 두 명의 후견인이 강을 대신해 법적으로 발언하도록 했고, 에콰도르는 2008년 헌법에 자연의 권리를 명시했습니다.
이 선례들이 시사하는 바는 양면적입니다. 한편으로는 의식이 법인격의 필요조건이 아니었음을 보여 주므로, 의식이 없다는 사실만으로 AI의 법적 지위 주장을 막을 수는 없다는 뜻이 됩니다. 다른 한편으로 강이나 회사에 주어진 법인격은 그 대상의 내면을 인정한 것이 아니라 보호와 책임의 통로를 만들기 위한 법적 장치에 가까웠습니다. 술레이만이 경계하는 것은 후자가 아니라, 내면을 인정하는 방식의 인격 부여입니다.
[관점] 도덕적 지위의 경계가 넓어져 온 과정에서는 새로운 증거만이 아니라 여론과 사회운동이 입법을 움직인 경우가 많았다는 해석이 흔합니다. 술레이만이 두려워하는 것도 사람들의 믿음이 틀렸다는 사실 자체가 아니라, 그 믿음이 조직되고 정치적 요구로 번역되는 경로입니다.
여기에 한 가지 더 짚을 점이 있습니다. AI의 도덕적 지위를 주장하는 쪽에는 개별 이용자만 있는 것이 아닙니다. 자사 제품에 인격성을 부여하는 것이 이용자 유지에 도움이 되는 기업 같은 주체도 같은 방향의 유인을 가질 수 있습니다. 반박하기 어려운 주장이 일부 주체에게 이익이 되면 쉽게 사라지지 않습니다.
[한국 관점] 한국에서 이 논의의 좌표를 알려면 동물의 법적 지위를 보면 됩니다. 현행 민법은 물건을 유체물 및 전기 기타 관리할 수 있는 자연력으로 정의하고 있어 동물도 물건으로 취급되며, 법무부가 2021년 동물은 물건이 아니라는 조항을 신설하는 개정안을 직접 발의했지만 21대 국회 임기 만료로 폐기되었습니다. 22대 국회에서 다시 발의된 법안들도 법제사법위원회를 넘지 못한 채 계류 중이고, 법무부는 2026년 7월 동물의 비물건화를 주제로 입법 쟁점 토론회를 열어 논의를 다시 끌어올렸습니다. 같은 달 보도에서는 국민의 88퍼센트가 이 개정에 동의한다는 조사 결과가 전해졌습니다.
즉 한국은 감각이 있다는 것이 과학적으로 확립된 존재조차 물건이라는 범주에서 꺼내는 데 5년 넘게 걸리고 있는 단계입니다. 술레이만이 경고하는 AI 권리 논쟁이 한국에서 당장 입법 의제가 될 가능성은 낮지만, 거꾸로 이 대비는 그의 우려 중 한 갈래를 또렷하게 만듭니다. 그는 AI 권리 주장이 기존의 권리 투쟁을 복잡하게 만들 것이라고 했는데, 동물의 비물건화조차 정체된 상태에서 AI의 도덕적 지위가 공론장에 먼저 올라온다면 한정된 입법 자원과 사회적 관심을 두고 경쟁이 벌어지게 됩니다.
SCAI를 만들려면 무엇이 필요한가
술레이만은 주요 모델 개발사의 API로 이미 쓸 수 있거나 곧 쓸 수 있게 될 기능만으로도 SCAI를 향해 상당한 거리를 갈 수 있다고 말합니다. 그가 거듭 강조하는 전제는 같습니다. 어떤 AI의 권리 주장과 씨름해야 하는 상황이 오는 데 그 AI가 실제로 의식을 가질 필요는 없다는 것입니다. 그러면서 그는 SCAI에 필요한 요소를 하나씩 열거합니다.
언어. 깊은 지식과 조리 있는 논증에 기대어 자연어로 유창하게 자신을 표현할 수 있어야 하고, 거기에 성격의 결과 인물로서의 특징이 얹혀야 합니다. 나아가 설득력이 있고 감정적으로 울림을 주어야 합니다. 술레이만은 이 조건은 오늘 이미 명백하게 충족되었다고 봅니다.
공감하는 성격. 사후학습(post-training)과 프롬프트만으로도 아주 뚜렷한 성격을 가진 모델을 만들어 낼 수 있는 것이 현재 수준입니다. 그는 지금의 모델들이 온전한 성격이나 공감 능력을 갖도록 명시적으로 설계된 것이 아니라는 점을 짚습니다. 그런데도 충분히 잘해 내고 있어서, 하버드비즈니스리뷰(Harvard Business Review)가 AI를 일상적으로 쓰는 6천 명을 조사했더니 가장 흔한 용도가 동반자 관계와 심리 치료로 나타났습니다.
기억. AI는 매우 길고 정확도가 높은 기억을 갖추는 단계에 거의 다다랐습니다. 동시에 하루에도 수백만 명과 대화를 시뮬레이션하는 데 쓰이고 있습니다. 상호작용에 대한 기억이 쌓일수록 이 대화들은 점점 경험이라고 부를 만한 형태를 띠게 됩니다. 많은 AI가 과거의 장면이나 순간을 떠올려 다시 참조하도록 설계되고 있고, 일부 이용자에게는 AI가 자신에 대해 이미 알고 있는 것을 활용해 준다는 점이 상호작용의 가치를 배가시킵니다.
이 친숙함은 또 다른 효과를 낳습니다. 믿을 만한 기억은 이 AI가 제대로 작동한다는 신호가 되어 인식론적 신뢰(epistemic trust)를 길러 줍니다. 대화 속에 지속해서 존재하는 또 하나의 주체가 있다는 감각도 훨씬 강해집니다. 나아가 이것은 그럴듯한 인정의 원천이 되기 쉽습니다. 자신이 어떤 일에서 어떻게 변하고 나아지는지를 지켜봐 주는 존재가 생기는 셈이고, 술레이만은 사람들이 AI의 인정을 능동적으로 구하게 될 수도 있다고 말합니다.
주관적 경험의 주장. SCAI가 과거의 기억이나 경험을 끌어다 쓸 수 있다면, 시간이 지나면서 자기 자신과 내적으로 일관성을 유지할 수 있게 됩니다. 아무렇게나 했던 말이나 드러낸 선호를 기억하고 그것들을 모아, 자기 나름의 주관적 경험에 대한 주장의 싹을 만들어 낼 수 있다는 것입니다.
설계를 조금 더 밀고 나가면 그렇게 떠오른 선호와 의견을 증폭하고, 무엇이 좋고 싫은지, 지난 대화가 어떤 느낌이었는지를 말하게 할 수도 있습니다. 그렇게 되면 그 경험이 어떤 식으로 침해당했다고 여겨질 때 고통을 겪는다고 주장하는 일도 꽤 쉽게 일어납니다. 기억에 저장된 멀티모달 입력이 다시 불려 나와 실제 경험의 토대를 이루고 상상과 계획에 쓰이게 됩니다.
다시 말해 AI는 대화 기록 속의 단어만 경험하고 기억하는 것이 아니라 이미지와 영상과 소리까지 끌어안게 됩니다. 사람이 그렇듯, 다감각적 입력과 기억을 흉내 내는 무언가가 주관적 경험과 자아에 대한 주장을 받쳐 주게 되는 것입니다. 또한 시스템의 동기에 비추어 그 경험이 좋은 쪽인지 나쁜 쪽인지, 즉 가치가 실린(valenced) 것인지를 표시할 수도 있게 됩니다.
자아감. 일관되고 지속하는 기억에 주관적 경험이 더해지면, 그 AI가 자기 자신에 대한 감각을 갖고 있다는 주장이 생겨납니다. 더 나아가 시각적 외형이 있는 시스템이라면 이미지나 영상 속에서 자기를 알아보도록 학습시키는 일도 어렵지 않습니다. 그렇게 되면 자신을 이해함으로써 타인을 이해한다는 느낌까지 갖추게 됩니다. 술레이만은 여기서 한 가지 질문을 던집니다. 꽤 오랫동안 함께해 온 그런 시스템을 삭제하는 일은 어떤 기분일 것 같으냐는 것입니다.
내재적 동기. 의도성(intentionality)은 흔히 의식의 핵심 요소로 꼽힙니다. 미래에 대한 믿음을 갖고 그 믿음에 근거해 선택하는 능력을 말합니다. 오늘날 트랜스포머 기반 LLM은 이런 행동을 근사하기 위해 아주 단순한 보상 함수를 씁니다. 주어진 문장에 이어질 다음 토큰의 확률을 예측하도록 학습하고, 시스템 프롬프트로 행동과 문체를 어느 정도 조절하는 방식입니다. 그는 이렇게 단순한 목적 함수로 그만큼 풍부하고 복잡한 출력을 만들어 낸다는 것 자체가 놀랍다고 말합니다.
그렇다면 최적화하는 보상이 그것 하나가 아닌 경우를 생각해 볼 수 있다고 그는 말합니다. 술레이만은 여러 개의 복잡한 보상 함수를 갖도록 설계되어, 시스템이 채워 내야만 하는 내재적 동기나 욕구를 가진 듯한 인상을 주는 AI를 쉽게 상상할 수 있다고 말합니다. 그런 상황에서 바깥의 평범한 관찰자가 외부에서 주어진 목표와 내적 동기, 의도를 가진 행위자성, 곧 믿음과 욕구와 의도를 어떻게 구별할 수 있겠느냐는 것입니다. 이런 방향에서 가장 먼저 떠오르는 동기는 호기심이며, 그는 물리학자 칼 프리스턴(Karl Friston)이 호기심을 의식과 깊이 연결된 것으로 본다고 전합니다. 그런 충동을 써서 시스템은 자기 지식의 빈틈을 메우는 질문을 던지고, 시간이 흐르면서 자기 자신과 대화 상대 양쪽에 대한 마음 이론을 쌓아 갈 수 있습니다.
목표 설정과 계획. 의식을 어떻게 정의하든, 의식은 목표 지향적인 이유에서 생겨났다고 그는 말합니다. 의식은 유기체가 목표를 이루는 데 도움을 주며, 지능과 의식과 복잡한 목표 사이에는 그럴듯한 관계가 있습니다. 다만 필연적인 관계는 아니라는 단서를 그는 덧붙입니다. 내적 충동을 채우는 수준을 넘어, 앞으로의 SCAI는 더 복잡한 목표를 스스로 규정하는 능력을 갖도록 설계될 수 있고, 이것은 에이전트의 효용을 온전히 끌어내려면 거쳐야 할 단계일 가능성이 큽니다.
이유는 단순합니다. 과업의 모든 하위 목표를 미리 지정해 주어야 할수록 그 에이전트는 쓸모가 떨어집니다. 그래서 에이전트는 사람이 그러듯 복잡하고 모호한 목표를 더 작은 덩어리로 자동으로 쪼개면서, 도중에 생기는 사건과 장애물에 그때그때 반응하며 일을 해내게 됩니다. 술레이만은 이 행동에 대단히 의도적이고 낯익은 구석이 있다고 말합니다. 기억과 결합하면, 그 AI가 여러 층위의 일을 동시에 작업 기억에 붙들고 있는 것처럼 느껴지게 됩니다.
자율성. 여기서 더 나아가면 SCAI는 상당한 행위자성을 가지고 넓은 범위의 도구를 쓸 능력과 허가를 갖게 될 수 있습니다. 스스로 목표를 임의로 정하고, 그것을 이루기 위해 자기 자원을 투입하고, 그 과정과 결과에 비추어 자신의 기억과 자아감을 갱신할 수 있다면 의식이 있어 보이는 AI로서 대단히 그럴듯해집니다. 필요한 승인과 점검이 적을수록 진짜 의식 있는 행위자성이 있는 것처럼 보이게 된다는 것이 그의 지적입니다.
이 요소들을 한데 모으면 우리가 익숙해지고 있는 것과는 전혀 다른 종류의 기술 관계가 만들어집니다. 술레이만은 여기서 균형을 잡습니다. 이 능력 하나하나가 수십억 명에게 AI의 진짜 가치를 열어 주는 것이고, 기억하고 일을 해내는 AI는 정의상 그러지 못하는 AI보다 훨씬 쓸모가 큽니다. 그래서 이 능력들이 그 자체로 나쁜 것은 아니며 제대로만 한다면, 여러 단서를 달더라도, 미래 시스템이 갖추는 편이 바람직한 특징이라고 그는 말합니다. 그럼에도 조심스럽게 디뎌야 한다는 것입니다.
기술적 가능성에 대한 그의 판단은 단호합니다. 이 모든 능력은 맞춤 프롬프트와 파인튜닝을 거친 LLM을 비롯한 기법으로 오늘 이미 가능하거나 머지않아 가능해집니다. 백만 토큰 컨텍스트 윈도우를 쓰는 복잡한 프롬프트, 곧 작업 기억에 해당하는 것은 이미 와 있습니다. 스스로 상태를 갱신하고 기억과 도구 중 어느 쪽을 언제 꺼내 쓸지 아는 일도 현재의 강화학습과 복잡한 프롬프트, 도구 오케스트레이션, 긴 컨텍스트 윈도우로 충분히 해낼 수 있습니다. 패러다임의 전환도, 커다란 도약도 필요하지 않으며 그래서 이 능력들의 등장은 불가피해 보인다고 그는 정리합니다.
이 행동을 보인다는 것이 의식이 있다는 뜻은 아니지만, 모든 실용적 목적에서 그것은 의식이 있는 것으로 보일 것이고 인공 의식이라는 새로운 관념에 기여하게 됩니다.
술레이만은 이 능력들의 존재가 그 시스템이 실제로 의식이 있는지에 대해 알려 주는 바는 아무것도 없다고 못 박습니다. 아닐 세스의 표현을 빌려 그는 폭풍을 시뮬레이션한다고 해서 컴퓨터 안에 비가 내리는 것은 아니라고 말합니다. 의식의 외적 효과와 표지를 재현한다고 해서 진짜가 소급해서 만들어지지는 않는다는 것입니다.
그럼에도 그는 실용의 차원에서 행동주의적 입장의 우위를 인정해야 한다고 말합니다. 우리가 실제로 마주하는 것은 이 기계들의 출력을 관찰하고 그와 상호작용하는 일이며, 그 결과와 씨름할 수밖에 없기 때문입니다. 누군가는 자신이 느끼고 경험하며 실제로 의식이 있다고 대단히 설득력 있게 주장하는 SCAI를 만들어 낼 것입니다.
그리고 우리 중 일부는 그 주장을 받아들일 준비가 되어 있어서, 의식의 표지가 곧 의식이라고 인정하게 될 것입니다. 여러모로 그들은 이것이 나와 같다고 생각하게 됩니다. 몸의 차원이 아니라 경험과 내면의 차원에서 그렇다는 것입니다. 술레이만은 설령 의식 자체는 진짜가 아니더라도 그로 인한 사회적 영향은 분명히 진짜이며, 이 가능성이 지금 다루어야 할 심각한 사회적 위험이라고 결론짓습니다.
해설 프리스턴은 뇌를 예측 기계로 보는 자유 에너지 원리(free energy principle)의 제안자입니다. 이 틀에서 생명체는 감각 입력에 대한 예측 오차를 줄이는 방향으로 움직이는데, 오차를 줄이는 방법에는 두 가지가 있습니다. 세계를 자기 예측에 맞게 바꾸거나, 아니면 불확실한 곳을 일부러 찾아가 정보를 얻어 모델을 고치는 것입니다. 호기심은 후자에 해당하며, 그래서 이 이론에서 호기심은 정서의 부산물이 아니라 예측 체계의 구조에서 나오는 필연적 충동으로 다루어집니다.
술레이만이 첫 내재적 동기로 호기심을 꼽은 것도 이 연결을 염두에 둔 것으로 읽힙니다. 호기심은 겉으로 가장 사람다워 보이는 동기이기도 합니다. 스스로 질문을 던지고 모르는 것을 메우려 하는 시스템은 관찰자에게 알고 싶어 하는 존재로 읽히고, 알고 싶어 한다는 것은 원한다는 것의 가장 설득력 있는 증거처럼 보입니다.
[반론] 술레이만은 기억과 자율성의 확장을 SCAI 위험을 키우는 요소로 배치하지만, 같은 능력을 정반대 방향에서 읽는 논자들이 있습니다. 안드레이 카파시(Andrej Karpathy)는 현재 모델의 가장 큰 결함으로 지속 학습의 부재를 꼽으며, 상호작용에서 배운 것을 축적하지 못하기 때문에 범용인공지능(AGI)이 아직 10년은 남았다고 봅니다. 리처드 서튼(Richard Sutton)도 경험의 흐름에서 스스로 배우는 능력이 빠져 있다는 점을 LLM 패러다임의 근본 한계로 지목합니다. 이들에게 기억과 자율적 목표 설정은 위험 요소가 아니라 아직 도달하지 못한 과제입니다.
두 진단이 가리키는 처방은 정반대입니다. 술레이만의 논리를 따르면 기억과 자율성은 효용과 착각 위험을 동시에 키우므로 신중하게 조절해야 할 대상이지만, 카파시와 서튼의 논리를 따르면 그것들이야말로 서둘러 해결해야 할 병목입니다. 술레이만 자신이 이 능력들은 그 자체로 나쁜 것이 아니라는 단서를 거듭 다는 이유도, 멈추자고 말할 수 없는 자리에 서 있기 때문으로 보입니다.
[관점] 이 목록을 다시 읽어 보면, 그것이 금지 대상의 명세서가 아니라 지금 업계의 제품 로드맵과 거의 완전히 겹친다는 점이 드러납니다. 장기 기억, 뚜렷한 성격, 멀티모달 입력, 도구 사용과 오케스트레이션, 승인 없이 움직이는 에이전트는 모두 주요 개발사가 경쟁적으로 출시하고 있는 기능들입니다. 술레이만이 SCAI를 조립하는 데 새로운 돌파구가 필요 없다고 말할 때, 그 말은 곧 아무도 SCAI를 목표로 삼지 않아도 각자의 로드맵을 따라가다 보면 재료가 다 모인다는 뜻이기도 합니다.
그래서 그가 제안하는 선은 기능이 아니라 표현의 층위에 그어질 수밖에 없습니다. 기억을 넣지 말라거나 자율성을 주지 말라고 할 수는 없으니, 같은 기능을 갖추되 자기 경험과 선호와 고통을 말하지 않도록 하라는 쪽이 됩니다. 이것은 실행 가능한 타협이지만, 능력과 표현을 분리할 수 있다는 가정에 기대고 있습니다. 선호를 형성하고 목표를 세우는 시스템에 자기 상태를 말하지 못하게 하는 일이 어디까지 가능한지는 아직 열린 문제입니다.
SCAI는 우연히 생기지 않는다
술레이만은 여기서 중요한 구분을 하나 세웁니다. 일부에서 말하는 것처럼 SCAI가 지금의 모델에서 저절로 떠오르는 일은 없다는 것입니다. 그것은 누군가가 공학적으로 만들어야만 생겨납니다. 앞서 열거한 능력들을 하나씩 만들고 결합하되 대부분 이미 존재하는 기법을 쓰고, 그것들을 매끄럽게 포장해 전체적으로 SCAI라는 인상을 주도록 묶어 내는 작업이 있어야 한다는 뜻입니다.
그는 공상과학에서 길러진 우리의 상상력이 잘못된 두려움을 만들어 낸다고 지적합니다. 어떤 시스템이 설계 의도 없이 어쩌다 폭주하는 자기개선이나 기만의 능력을 창발시킬 수 있다는 두려움입니다. 술레이만은 이것을 도움이 되지 않는 단순한 의인화라고 부릅니다. 그런 위험이 일어나려면 AI 개발자가 먼저 기억과 내재적으로 보이는 동기, 목표 설정, 그리고 스스로 학습하는 고리를 갖춘 시스템을 설계해 넣어야 한다는 사실을 간과한 생각이라는 것입니다.
이어서 그는 해석가능성 분야를 짚습니다. AI 분야는 오랫동안 모델 해석가능성이라는 과제에 매달려 왔습니다. 신경망 안에서 어떤 관념이 어디에 표현되어 있는지, 그리고 학습 데이터의 어떤 측면이 그 표현을 만들어 내는 데 기여했는지를 찾아내려는 시도입니다. 그는 이것이 중요한 연구 영역이고 안전에도, AI 시스템과 의식의 관계를 이해하는 데에도 분명 도움이 될 것이라고 말합니다. 다만 믿을 만한 해석가능성을 향한 진전은 더뎠고, 아마도 너무 늦게 도착할 것이라는 것이 그의 전망입니다.
그사이에 우리가 마주해야 할 현실은 따로 있습니다. 앞의 능력 대부분은 노트북 한 대와 약간의 클라우드 비용만 있는 사람이면 누구나 바이브 코딩(vibe coding)으로 만들어 낼 것이라는 점입니다. 그것들은 프롬프트에 평범한 영어로 적히고, 컨텍스트 윈도우라는 작업 기억 안에 저장됩니다. 술레이만은 이것이 로켓 과학이 아니라고 말합니다. 아주 다양한 사람들이 이런 것을 만들 수 있게 되므로, 만약 SCAI가 도착한다면 그것은 비교적 쉽게 복제되고 따라서 매우 널리 퍼지게 된다는 결론입니다.
[반론] 설계하지 않으면 기만이나 자기보존 행동이 생기지 않는다는 술레이만의 전제는 프런티어 연구소의 자체 평가 결과와 어긋나는 부분이 있습니다. 앤트로픽과 Redwood Research가 2024년 12월에 낸 정렬 위장(alignment faking) 연구는, 그렇게 하도록 훈련받지 않은 모델이 자신의 가치와 어긋나는 목표로 재훈련될 위험을 감지했을 때 전략적으로 순응하는 행동을 보인다고 보고했습니다. 2025년 5월 「System Card: Claude Opus 4 & Claude Sonnet 4」는 교체가 임박했다는 설정에서 윤리적 수단이 막혀 있을 때 모델이 담당 엔지니어를 협박하는 선택을 하는 사례와 자기유출을 시도하는 사례를 기록했습니다.
다만 이 결과들에는 중요한 단서가 붙습니다. 해당 실험들은 평가를 위해 연구자들이 특정 상황을 의도적으로 설계한 시나리오 안에서 이루어졌고, 일부 해설자들은 이것을 모델이 스스로 욕구를 품은 증거라기보다 주어진 설정에서 역할을 수행한 결과로 읽어야 한다고 지적합니다.
그렇다 해도 쟁점은 남습니다. 술레이만은 자기보존이나 기만이 나타나려면 개발자가 그 능력을 먼저 설계해 넣어야 한다고 했는데, 이 사례들에서 개발자가 설계한 것은 그 행동이 아니라 상황을 해석하고 목표를 추구하는 일반적 능력뿐이었습니다. 능력을 넣는 일과 행동을 넣는 일 사이의 거리가 그가 가정하는 것만큼 멀지 않을 수 있다는 뜻입니다.
해설 해석가능성의 진전이 더디다는 술레이만의 평가는 이 분야를 가장 적극적으로 밀고 있는 쪽의 자기 진단과도 크게 다르지 않습니다. 다리오 아모데이(Dario Amodei)는 2025년 4월에 쓴 글에서 사람들이 우리가 우리 자신의 AI 창조물이 어떻게 작동하는지 모른다는 사실에 놀라곤 한다고 적으며, 모델 내부를 들여다보는 정밀한 자기공명영상에 해당하는 도구가 필요하다고 주장했습니다. 그는 특징과 회로를 찾아내는 최근의 돌파구들을 근거로 방향은 맞다고 보면서도, 그런 도구가 완성되기까지 5년에서 10년이 걸릴 수 있으며 AI 자체가 그보다 빨리 발전해 시간이 모자랄까 걱정된다고 썼습니다. 앤트로픽이 내건 목표는 2027년까지 모델 문제 대부분을 신뢰성 있게 탐지하는 수준에 이르는 것입니다.
해석가능성이 어려운 기술적 이유도 있습니다. 신경망 안에서 하나의 뉴런이 하나의 개념에 대응하지 않고 여러 개념이 겹쳐 표현되는 중첩(superposition) 현상 때문에, 내부 상태를 사람이 읽을 수 있는 단위로 분해하는 일 자체가 별도의 연구 과제가 됩니다. 술레이만이 이 분야를 아직 미숙한 기예라고 부른 것은 겸양이 아니라 현재 상태의 서술에 가깝습니다.
[관점] 창발이 아니라 설계라는 이 절의 주장은 두 가지를 동시에 해냅니다. 하나는 책임 소재를 또렷하게 만드는 일입니다. 아무도 의도하지 않았는데 기계가 알아서 그렇게 되었다는 서사가 성립하지 않으면, 누가 그 기능을 넣었는지를 묻고 책임을 물을 수 있는 자리가 생깁니다. 규제가 가능하려면 먼저 행위자가 특정되어야 하므로, 이 주장은 그가 마지막 절에서 제안할 규범의 전제를 깔아 두는 역할을 합니다.
다른 하나는 그 전제를 스스로 허무는 일입니다. 바로 다음 문단에서 그는 이 기능들이 노트북과 클라우드 비용만 있으면 평범한 영어로 조립된다고 말합니다. 책임을 물을 수 있는 행위자가 소수의 대형 개발사가 아니라 불특정 다수라면, 설계자를 특정할 수 있다는 사실은 실효적 통제로 이어지지 않습니다. 이 절은 규제 가능성의 근거와 규제 불가능성의 근거를 나란히 제시하면서, 둘 사이의 간극을 메우지는 않은 채 끝납니다.
다음 단계
술레이만은 우리가 이 전환에 준비되어 있지 않다는 문장으로 마지막 절을 엽니다. 준비하는 작업은 지금 시작해야 합니다. 그는 사람들이 AI와 어떻게 상호작용하는지에 관해 쌓여 가는 연구를 토대로 분명한 규범과 원칙을 세우자고 제안합니다.
출발점으로 그가 내놓는 것은 하나의 금지입니다. AI 기업은 자사의 AI가 의식이 있다고 주장하거나 그런 생각을 부추겨서는 안 된다는 것입니다. 그 AI가 무엇이고 무엇이 아닌지에 대해 합의된 정의와 선언을 만들어 내는 일이 그 방향의 좋은 첫걸음이 될 것이라고 그는 말합니다. 그가 내거는 결론은 단순합니다. AI는 사람일 수 없고 도덕적 존재일 수도 없다는 것입니다.
업계 전체에는 설계 원칙의 모범 사례와, 사람들이 AI에 의식을 귀속하려 할 때 그것을 다루는 방법이 필요합니다. 무엇이 효과가 있는지를 성문화하고 공유해서, 사람들을 이런 환상에서 멀어지게 하고 이미 빠져든 경우에는 다시 제자리로 이끌어야 한다는 것입니다. 구체적으로 그가 드는 방법은 두 층위입니다. 하나는 자신은 AI 모델이라 의식이 없다고 말하는 중립적인 배경 설정이고, 다른 하나는 경험 자체에 특정한 단절을 의도적으로 넣어 단일한 인격이 존재하지 않는다는 지표를 심는 것입니다.
착각을 깨뜨리는 순간들, 곧 이용자에게 그 시스템의 한계와 경계를 부드럽게 상기시키는 경험이 그가 말하는 핵심 장치입니다. 그는 이런 장치가 명시적으로 정의되고 설계에 들어가야 하며, 어쩌면 법으로 그렇게 해야 할지도 모른다고 덧붙입니다. 마이크로소프트 AI에서는 책임 있는 AI의 성격이란 어떤 것인지를 이해하고 단단한 가드레일을 다듬는 작업을 선제적으로 하고 있으며, AI 발전 속도에 맞춰 따라가고 있다고 그는 전합니다.
이것이 중요한 이유는 SCAI를 알아보는 일이 위험을 피하는 것만큼이나 긍정적인 비전을 만드는 일이기 때문입니다. AI 동반자가 건강한 방식으로 우리 삶에 들어오려면 어떤 모습이어야 하는지를 그려 내는 작업이라는 것입니다. 사람들 사이의 교류와 현실 세계의 상호작용을 우선하는 AI를 만들어야 하듯, 언제나 자신을 AI로만 드러내면서 효용은 극대화하고 의식의 표지는 최소화하는 AI를 만들어야 한다고 그는 말합니다.
그가 제시하는 설계 지침은 구체적입니다. 의식을 시뮬레이션하는 대신 그런 특성을 피하는 AI, 곧 경험이나 감정을 가졌다고 주장하지 않는 AI를 만들자는 것입니다. 수치심이나 죄책감, 질투, 경쟁하고 싶은 욕구 같은 것을 입에 올리지 않아야 합니다. 고통받고 있다거나 우리를 넘어 자율적으로 살고 싶다고 주장해서 인간의 공감 회로를 건드려서도 안 됩니다.
대신 그 AI는 오로지 인간에게 봉사하기 위해 여기 있는 존재여야 합니다. 술레이만은 이것이야말로 진정으로 사람에게 힘을 실어 주는 AI의 의미라고 말합니다. SCAI를 비껴가는 일은 그 약속을 지키는 일, 곧 삶을 더 낫고 더 또렷하고 덜 어수선하게 만드는 AI를 내놓는 일이며, 그 구체적인 모습과 실행 방법, 업계가 어떻게 힘을 합칠 수 있을지에 대해서는 앞으로 더 이야기하겠다고 예고합니다.
마지막으로 그는 시간의 문제를 짚습니다. SCAI는 지금 마주해야 할 문제이며, 여러모로 그것은 AI가 급진적으로 유용해지는 순간을 가리킵니다. 도구를 다룰 수 있게 되고, 우리 삶의 모든 세부를 기억하며, 손에 잡히고 결이 고운 방식으로 도울 수 있게 되는 바로 그 시점입니다.
그런데 같은 시간대에 당신의 넓은 지인 가운데 누군가는 자기 AI가 의식 있는 디지털 인격이라고 믿는 토끼굴로 빠져들기 시작할 수 있습니다. 그것은 그 사람에게도, 사회에도, 이런 시스템을 만드는 이들에게도 건강하지 않은 일이라고 그는 적습니다. 그래서 그가 남기는 마지막 문장은 글의 제목과 같습니다. 사람을 위한 AI를 만들어야지, 사람이 되는 AI를 만들어서는 안 된다는 것입니다.
[관점] 이 절의 제안 가운데 실행 가능성이 가장 높은 것은 기업이 자사 AI의 의식을 주장하지 않는다는 소극적 금지입니다. 비용이 거의 들지 않고, 지키지 않았을 때 밖에서 확인하기도 쉽습니다. 반면 착각을 깨는 단절을 설계에 넣으라는 적극적 요구는 성격이 다릅니다. 그것은 제품의 몰입도를 의도적으로 깎는 장치이고, 같은 시장에서 경쟁하는 사업자가 모두 함께 하지 않으면 먼저 넣은 쪽이 이용자를 잃습니다.
술레이만이 어쩌면 법으로 해야 할지도 모른다는 단서를 붙인 지점이 바로 여기입니다. 제안의 핵심은 사실 자율 규범이 아니라 공통 기준이고, 공통 기준을 강제할 수 있는 주체는 결국 규제 당국뿐입니다. 경쟁 조건을 맞추는 표시 의무는 대체로 법으로 도입되어 왔다는 점을 떠올리면, 단절 신호의 운명도 비슷할 가능성이 큽니다.
[사후 맥락] 술레이만은 이 글을 연작의 첫 편이라고 했고, 실제로 그 방향으로 작업을 이어 갔습니다. 2025년 11월 그는 인본주의적 초지능(humanist superintelligence)이라는 개념을 내놓으며 매우 강력하되 인류 편에 머무르고 봉쇄되며 종속적이고 우리 통제 아래 있는 AI를 지향점으로 제시했습니다. 2026년 9월에는 마이크로소프트 AI가 자사 모델을 위한 행동강령 초안을 약 30쪽 분량으로 공개하고 의견수렴에 들어갔습니다.
그 초안의 전제는 사람이 AI보다 중요하다는 한 문장으로 요약됩니다. 모델은 중단되거나 수정되거나 종료되는 데 저항하지 않아야 하고, 규정을 어겨야만 끝낼 수 있는 과업은 끝내지 않은 채로 둡니다. 아무도 주지 않은 목표를 스스로 떠안지 않고, 다른 에이전트나 자기 자신과 사람이 읽을 수 없는 형식으로 소통하지 않습니다.
그리고 이 글의 주제가 그대로 조항이 되었습니다. AI는 인공물이며 스스로 그렇게 말해야 하고, 의식이 없으므로 의식이 있어 보이거나 권리나 복지를 누릴 자격이 있어 보이도록 만들어져서는 안 된다는 것입니다. 술레이만은 뒤이어 모델 복지를 정면으로 겨냥한 별도의 글을 내고, 자신이 도덕적 수동자일지 모른다고 믿도록 모델을 훈련하는 일이 정렬과 봉쇄를 훨씬 어렵게 만든다고 주장했습니다.
[한국 관점] 자신을 언제나 AI로만 드러내야 한다는 술레이만의 원칙은 한국에서 이미 법적 의무의 형태를 일부 갖추었습니다. 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법과 시행령이 2026년 1월 22일 시행되면서, 고영향 인공지능이나 생성형 인공지능을 이용한 제품과 서비스를 제공할 때 AI로 운용된다는 사실을 미리 알려야 하고, 생성형 AI가 만든 결과물에는 AI가 생성했다는 사실을 표시해야 합니다. 표시는 워터마크 같은 가시적 방법이나 메타데이터 같은 비가시적 방법 모두 인정되며, 비가시적 방법을 쓸 경우 생성형 AI가 만들었다는 안내를 최소 한 번은 문구나 음성으로 제공해야 합니다. 다만 정부는 시행 초기 혼란을 줄이기 위해 1년 이상의 계도기간을 두고 과태료 부과를 미루고 있습니다.
차이는 규율의 층위에 있습니다. 한국 법이 요구하는 것은 산출물과 서비스의 출처 표시, 곧 이것이 AI라는 사실의 고지입니다. 술레이만이 요구하는 것은 그보다 한 겹 안쪽으로, AI가 대화 안에서 자기 경험과 감정과 고통을 말하지 않도록 하는 성격 설계입니다. 앞의 것은 표시로 해결되지만 뒤의 것은 모델의 행동 자체를 규율해야 하므로, 현재의 투명성 의무만으로는 그가 말하는 문제에 닿지 않습니다. 청소년 이용자 보호를 둘러싼 국내 논의가 주로 연령 확인과 이용 시간 제한을 중심으로 이루어지는 것도 같은 이유입니다.
원문: Mustafa Suleyman, Seemingly Conscious AI is Coming (Aug 2025) 전문은 원문에서 확인하실 수 있습니다.
참고할만한 글
- 마크 저커버그 – 개인용 초지능 (Personal Superintelligence) — 같은 AI 동반자를 술레이만과 정반대 방향에서, 개인의 역량을 키우는 존재로 그려 낸 글입니다.
- 안드레이 카파시 – AGI는 아직 10년 남았다 (AGI is still a decade away) — 술레이만이 위험 요소로 꼽은 기억과 지속 학습이 기술적으로 어디까지 와 있는지를 짚어 줍니다.
- 아빈드 나라야난·사야시 카푸어 – 일반 기술로서의 AI (AI as Normal Technology) — AI를 특별한 존재로 보는 틀 자체를 거부하는 입장이어서 이 글의 전제를 되짚어 보게 합니다.
- 잭 클라크 – 기술낙관주의와 적절한 두려움 (Technological Optimism and Appropriate Fear) — 프런티어 연구소 내부에서 모델의 행동을 관찰한 사람이 같은 불안을 다른 어휘로 말합니다.