Mark Zuckerberg

마크 저커버그 – 오픈소스 AI가 나아갈 길 (Open Source AI is the Path Forward)

ByThe Context

원문: Mark Zuckerberg, Open Source AI is the Path Forward (Jul 2024) 전문은 원문에서 확인하실 수 있습니다. 아래 글은 번역이 아니라, 마크 저커버그의 논증을 한국어로 재구성한 정리입니다.

글의 배경과 개요

마크 저커버그(Mark Zuckerberg)는 메타(Meta)의 창업자 겸 CEO로, 2024년 7월 회사 뉴스룸에 이 공개서한을 올렸습니다. 같은 날 메타는 라마(Llama) 3.1 405B를 내놓았고, 이 글은 그 공개에 붙인 설명이자 오픈소스 AI 노선 전체에 대한 변론입니다. 글이 답하려는 질문은 하나입니다. 가장 앞선 AI 모델을 누구나 내려받아 고쳐 쓸 수 있게 푸는 것이 과연 옳은 길인가 하는 물음입니다. 저커버그는 폐쇄형 유닉스(Unix)가 오픈소스 리눅스(Linux)에 표준의 자리를 내준 역사를 먼저 꺼낸 뒤, 개발자와 메타와 세계라는 세 수신자 각각에게 왜 공개가 이익인지를 차례로 논증합니다. 마지막에는 안전과 미중 경쟁이라는 가장 민감한 반대 논거를 정면으로 받아, 오히려 공개 쪽이 더 안전하고 미국에 유리하다고 주장합니다.

핵심 내용 정리

  • 저커버그는 폐쇄형 유닉스가 오픈소스 리눅스에 표준의 자리를 내준 역사가 AI에서도 되풀이될 것이라고 봅니다.
  • 라마 3.1 405B를 프런티어급에 도달한 첫 오픈소스 AI 모델이라고 소개하며, 내년부터는 라마가 업계에서 가장 앞선 모델이 될 것으로 기대한다고 밝힙니다.
  • 개발자에게 좋은 이유로 자기 데이터로 모델을 학습시켜 원하는 크기로 줄일 자유, 특정 공급자에 묶이지 않을 자유, 데이터 보호, 폐쇄형 모델의 절반 수준인 추론 비용, 장기 표준에 대한 투자를 듭니다.
  • 메타에 좋은 이유로, 모델 접근권 판매가 사업 모델이 아니어서 공개가 수익을 깎지 않고, 애플(Apple) 같은 플랫폼 사업자에게 갇혔던 경험이 열린 생태계를 선호하게 만들었다는 점을 듭니다.
  • 안전 문제를 의도하지 않은 피해와 의도된 피해로 나누고, 대다수 우려가 속하는 전자에서는 공개 모델이 더 투명해 오히려 안전하다고 주장합니다.
  • 중국 같은 국가 행위자에 대해서는 모델을 닫아도 유출을 막지 못하므로 미국의 강점인 분산되고 열린 혁신을 키우는 쪽이 낫다고 말합니다.
  • 오픈소스 AI가 경제적 기회와 안보를 동시에 키울 최선의 길이며, 라마 3.1 공개가 업계의 변곡점이 될 것이라고 전망합니다.

리눅스가 걸어간 길, 라마가 걸어갈 길

닫힌 유닉스를 이긴 열린 리눅스

고성능 컴퓨팅이 막 자리를 잡던 시절, 당대의 주요 기술 기업들은 저마다 자기만의 폐쇄형 유닉스를 만드는 데 큰돈을 쏟아부었습니다. 저커버그는 그때만 해도 그만큼 정교한 소프트웨어가 다른 방식으로 만들어질 수 있으리라고는 상상하기 어려웠다고 적습니다. 그런데 결국 표준의 자리를 차지한 쪽은 오픈소스인 리눅스였습니다. 처음에는 개발자가 코드를 원하는 대로 고칠 수 있고 값이 더 쌌기 때문이었고, 시간이 지나면서는 어떤 폐쇄형 유닉스보다도 더 앞서고 더 안전하며 더 많은 기능을 떠받치는 넓은 생태계를 갖추게 되었기 때문입니다.

오늘날 리눅스는 클라우드 컴퓨팅의 표준 기반이자 대부분의 모바일 기기를 돌리는 운영체제의 표준 기반입니다. 저커버그는 그 결과 우리 모두가 더 나은 제품을 쓰게 되었다고 정리합니다.

해설 유닉스는 1970년대 벨연구소(Bell Labs)에서 만들어진 뒤 기업마다 자기 버전으로 갈라졌습니다. 같은 뿌리에서 나왔지만 서로 호환되지 않는 상용 유닉스들이 난립했고, 쓰는 쪽은 한번 고르면 그 공급자에게 묶였습니다.

리눅스는 1991년 한 대학생이 취미로 시작한 커널에서 출발했습니다. 지금은 클라우드 서버 대부분과 안드로이드(Android)가 리눅스 계열 위에서 돌아갑니다. 저커버그가 끌어오는 유비의 설득력은 이 결과값에 기대고 있습니다.

AI도 같은 길을 간다

저커버그는 AI가 비슷한 경로를 밟으리라고 봅니다. 지금은 여러 기술 기업이 앞선 폐쇄형 모델을 개발하고 있지만 오픈소스가 그 격차를 빠르게 좁히고 있다는 것입니다. 그는 자사 모델의 세대별 위치를 이렇게 정리합니다. 지난해 라마 2는 프런티어보다 한 세대 뒤처진 모델들과 견줄 만한 수준이었고, 올해 라마 3는 가장 앞선 모델들과 경쟁하며 일부 영역에서는 앞서고 있습니다. 내년부터는 라마가 업계에서 가장 앞선 모델이 될 것으로 기대하며, 그 이전에도 이미 개방성과 수정 가능성, 비용 효율에서는 선두라고 말합니다.

이 글과 함께 공개된 것이 라마 3.1 405B입니다. 저커버그는 이 모델을 프런티어급에 도달한 최초의 오픈소스 AI 모델이라고 규정하고, 개선된 70B와 8B 모델도 함께 내놓는다고 밝힙니다. 폐쇄형 모델 대비 비용 대비 성능이 크게 낫다는 점과 별개로, 그가 꼽는 핵심은 405B가 열려 있다는 사실 자체가 파인튜닝(fine-tuning)과 소형 모델 증류(distillation)에 최선의 선택이 되게 한다는 점입니다.

[반론] 메타가 쓰는 ‘오픈소스’라는 말 자체가 쟁점입니다. 오픈소스이니셔티브(OSI)는 라마 2가 나왔을 때 그 라이선스가 오픈소스 정의를 충족하지 못한다고 밝혔고, 라마 3 라이선스를 두고도 같은 지적이 나왔습니다. 라마 2 라이선스에는 월간 사용자 7억 명을 넘는 서비스는 메타의 별도 허가가 필요하다는 조항이 있었고, 이용정책에는 용도 제한이 담겨 있었습니다.

OSI의 스테파노 마풀리(Stefano Maffulli)는 파이낸셜타임스(Financial Times) 인터뷰에서 메타가 오픈소스라는 용어를 오염시키고 있다고 비판했습니다. 메타가 공개하는 것은 모델 가중치이고 학습 데이터셋은 공개되지 않기 때문에, 커뮤니티에서는 ‘오픈소스’ 대신 ‘가중치 공개(open weights)’라는 표현이 더 정확하다는 지적이 이어졌습니다.

생태계를 함께 키우는 일

저커버그는 메타가 오픈소스 AI에 전념하고 있다고 못박은 뒤, 모델을 푸는 데서 그치지 않고 생태계를 함께 키우는 작업을 강조합니다. 아마존(Amazon), 데이터브릭스(Databricks), 엔비디아(NVIDIA)가 개발자의 파인튜닝과 증류를 돕는 서비스 묶음을 내놓고, 그록(Groq) 같은 곳은 새 모델 전부에 대해 지연이 짧고 값이 싼 추론 서빙을 구축했다고 열거합니다. 모델은 아마존웹서비스(AWS), 애저(Azure), 구글(Google), 오라클(Oracle)을 비롯한 모든 주요 클라우드에서 쓸 수 있습니다. 스케일AI(Scale AI), 델(Dell), 딜로이트(Deloitte) 같은 기업들은 기업 고객이 라마를 도입하고 자사 데이터로 맞춤 모델을 학습시키도록 돕습니다.

새로운 서비스를 내놓는 기업이 늘어날수록 라마를 업계 표준으로 함께 만들어 갈 수 있다는 것이 그의 구상입니다. 이어서 저커버그는 세 가지를 차례로 설명하겠다고 예고합니다. 왜 오픈소스가 쓰는 쪽에게 최선의 개발 스택인지, 라마 공개가 왜 메타에 이득인지, 그리고 왜 오픈소스 AI가 세계에 좋으며 따라서 오래 지속될 플랫폼인지입니다.

[이해관계] 이 글은 독립된 에세이가 아니라 제품 공개와 같은 날 같은 뉴스룸에 올라간 글입니다. 본문 한 단락이 파트너 기업 명단으로 채워져 있다는 점도 그 성격을 보여 줍니다. 노선을 설명하는 글인 동시에 생태계 참여를 끌어모으는 발표문인 셈입니다.

메타의 수익은 대부분 광고에서 나오고 모델 판매에서 나오지 않습니다. 저커버그의 설명대로라면 같은 선택이 폐쇄형 공급자에게는 매출을 깎는 일이 되므로, 두 진영이 서로 다른 결론에 이르는 데에는 사업 모델의 차이가 깔려 있습니다.

개발자에게 오픈소스가 좋은 이유

저커버그는 세계 각지의 개발자와 기업 경영자, 정부 관계자를 만날 때마다 몇 가지 주제가 반복해 나온다고 말합니다. 그는 이를 다섯 가지 요구로 정리하며, 각각을 오픈소스를 택해야 하는 이유로 연결합니다.

자체 학습과 증류. 조직마다 필요가 다르고, 그 필요는 저마다 다른 크기의 모델을 자기 데이터로 학습시키거나 파인튜닝해서 채우는 것이 가장 낫습니다. 기기에서 직접 돌려야 하는 과업이나 분류 과업에는 작은 모델이 필요하고, 복잡한 과업에는 큰 모델이 필요합니다. 라마가 열려 있으므로 이제는 가장 앞선 모델을 가져다 자기 데이터로 학습을 이어 간 뒤 원하는 크기로 줄일 수 있습니다. 저커버그가 특히 힘주어 적는 대목은 그 과정에서 메타도 다른 누구도 그 데이터를 볼 수 없다는 점입니다.

공급자 종속 회피. 많은 조직은 자기가 직접 돌리고 통제할 수 없는 모델에 기대고 싶어 하지 않습니다. 폐쇄형 공급자가 모델을 바꾸거나 이용약관을 고치거나 서비스를 아예 중단해 버릴 수 있기 때문입니다. 특정 모델에 독점적 권리를 가진 단일 클라우드에 묶이는 상황도 꺼립니다. 오픈소스는 서로 호환되는 툴체인을 갖춘 기업들의 넓은 생태계를 만들어 내고, 그 안에서는 한 곳에서 다른 곳으로 쉽게 옮겨 갈 수 있습니다.

데이터 보호. 민감한 데이터를 다루는 조직은 그 데이터를 클라우드 API를 통해 외부의 폐쇄형 모델로 보낼 수 없습니다. 아예 폐쇄형 공급자에게 자사 데이터를 맡기는 것 자체를 신뢰하지 않는 조직도 있습니다. 모델이 열려 있으면 원하는 곳 어디서든 직접 돌릴 수 있으므로 이 문제가 풀립니다. 저커버그는 여기에 더해, 오픈소스 소프트웨어가 더 투명하게 개발되기 때문에 더 안전한 경향이 있다는 것은 이미 널리 받아들여진 사실이라고 덧붙입니다.

운영 비용. 라마 3.1 405B는 자체 인프라에서 돌릴 경우 GPT-4o 같은 폐쇄형 모델을 쓸 때의 대략 절반 비용으로 추론할 수 있다는 것이 그의 주장입니다. 사용자를 직접 상대하는 추론이든 오프라인 추론이든 마찬가지라고 적습니다.

장기 표준에 대한 투자. 많은 사람이 오픈소스가 폐쇄형 모델보다 빠른 속도로 전진하고 있다고 보고, 장기적으로 가장 큰 이점을 안겨 줄 아키텍처 위에 자기 시스템을 올리고 싶어 한다는 것입니다.

해설 여기 나오는 두 작업은 성격이 다릅니다. 파인튜닝은 이미 학습을 마친 모델에 자기 분야의 데이터를 추가로 먹여 그 용도에 맞게 조정하는 일입니다. 증류는 크고 성능 좋은 모델이 내놓는 답을 교사 삼아 작은 모델을 가르쳐, 성능은 최대한 지키면서 크기와 비용을 줄이는 일입니다.

그래서 405B 같은 큰 모델의 가중치가 공개된다는 것은 단지 큰 모델 하나가 풀린다는 뜻이 아닙니다. 그 모델을 교사로 삼아 자기 환경에 맞는 작은 모델들을 찍어 낼 수 있는 공장 하나가 열리는 셈입니다. 저커버그가 405B의 공개를 파인튜닝과 증류의 최선의 선택이라고 말하는 이유가 여기에 있습니다.

[관점] 비용 절반이라는 숫자는 조건부로 읽어야 합니다. 폐쇄형 모델의 API 요금은 토큰 단위로 정해져 있지만, 자체 인프라 추론의 단가는 그래픽처리장치(GPU)를 얼마나 쉬지 않고 돌리느냐에 좌우됩니다. 수요가 들쭉날쭉한 조직이 405B급 모델을 상시 띄워 두면 유휴 시간이 그대로 비용이 되므로, 절반이라는 수치는 가동률이 충분히 높은 사업자에게 해당하는 이야기에 가깝습니다. 여기에 모델 서빙을 다룰 엔지니어 인건비까지 더해야 총소유비용이 나옵니다.

종속 회피 논거에도 한계가 있습니다. 가중치를 내려받아 두면 공급자가 서비스를 끊어도 쓰던 모델은 계속 돌릴 수 있다는 점은 분명한 이점입니다. 다만 다음 세대 모델을 받을지, 어떤 조건으로 받을지는 여전히 메타가 정합니다. 라이선스 조건과 공개 여부의 결정권이 한 회사에 있다는 점에서, 공개 모델 생태계도 그 회사의 전략 변화에 노출되어 있습니다.

[한국 관점] 데이터를 밖으로 내보낼 수 없다는 제약은 한국에서 특히 강하게 작동합니다. 금융권의 망분리, 공공과 국방 영역의 폐쇄망 운영, 개인정보의 국외 이전 절차 같은 제약은 모델을 가져다 안에서 돌리는 방식에 유리하게 작용합니다. 국내 기업이 가중치 공개 모델을 검토할 때 성능 순위 못지않게 이런 제약이 변수가 될 수 있습니다.

정부 차원의 대응도 같은 방향으로 움직였습니다. 과학기술정보통신부는 2025년 독자 AI 파운데이션 모델 프로젝트를 공모해 15개 팀 가운데 5개 정예팀을 선정했고, 평가 기준에 성능뿐 아니라 개방성과 생태계 파급력을 넣었습니다. LG AI연구원이 엑사원 4.0을 허깅페이스(Hugging Face)에 가중치 공개 모델로 올린 것처럼, 국내에서도 공개가 생태계를 모으는 수단으로 쓰이고 있습니다. 다만 저커버그의 논증은 공개하는 쪽이 이미 프런티어급 모델을 만들 수 있는 위치에 있다는 점을 전제로 하고, 그 위치에 아직 이르지 못한 곳에서는 공개 모델이 자립의 수단이라기보다 추격의 발판으로 쓰이는 차이가 있습니다.

메타에 오픈소스가 좋은 이유

애플의 규칙 아래에서 배운 것

저커버그는 메타의 사업 모델이 사람들에게 가장 좋은 경험과 서비스를 만들어 주는 데 있다고 전제를 깝니다. 그러려면 두 가지가 충족되어야 합니다. 언제나 최고의 기술에 접근할 수 있어야 하고, 경쟁사의 닫힌 생태계 안에 갇혀 무엇을 만들지 제약받는 처지에 놓이지 않아야 합니다.

이 대목에서 그는 자신을 형성한 경험으로 애플을 꺼냅니다. 메타는 오랫동안 애플이 허용하는 범위 안에서만 자사 서비스를 만들어 왔습니다. 개발자에게 물리는 수수료, 자의적으로 적용되는 규칙, 출시 자체가 막힌 제품 혁신들을 열거하면서, 경쟁사가 만들 수 있는 것을 제한하지 못하는 환경이었다면 메타를 비롯한 여러 회사가 훨씬 나은 서비스를 내놓았을 것이라고 적습니다. 그는 이 경험이 철학적인 차원에서 자신이 AI와 증강현실·가상현실(AR/VR)에서 열린 생태계를 강하게 지지하게 만든 주된 이유라고 밝힙니다. 다음 세대 컴퓨팅의 판이 또 한 번 닫힌 채로 짜이는 것을 막겠다는 뜻입니다.

해설 애플과의 갈등에는 구체적인 금액이 걸려 있습니다. 애플은 앱스토어에서 개발자에게 수수료를 매겨 왔고, 2021년에는 이용자가 앱 간 추적을 거부할 수 있게 하는 앱 추적 투명성(App Tracking Transparency) 기능을 도입했습니다. 이 기능으로 광고 타기팅 능력이 떨어지자 메타는 2022년 2월 실적 발표에서 그해 매출에 100억 달러 규모의 역풍이 될 것이라고 밝혔습니다. 당시 최고재무책임자는 이 수치가 정밀한 계산이 아니라 최선의 추정이라고 덧붙였고, 발표 직후 메타 주가는 하루 만에 20퍼센트 넘게 빠졌습니다.

플랫폼 소유자의 결정 하나가 그 위에 올라탄 회사의 매출을 어떻게 바꾸는지를 메타는 숫자로 겪은 셈입니다.

기술 우위를 내준다는 걱정이 놓치는 것

사람들이 가장 자주 던지는 질문은 라마를 공개하면 기술 우위를 내주는 것 아니냐는 것입니다. 저커버그는 이 질문이 큰 그림을 놓치고 있다고 보고 네 가지 이유를 듭니다.

첫째는 생태계입니다. 최고의 기술에 계속 접근하고 장기적으로 닫힌 생태계에 갇히지 않으려면, 라마가 도구와 효율 개선, 반도체 최적화, 각종 연동까지 아우르는 완결된 생태계로 자라야 합니다. 메타가 라마를 쓰는 유일한 회사라면 그런 생태계는 생기지 않고, 그 경우 메타의 처지는 폐쇄형 유닉스 변종들과 다를 바 없게 됩니다.

둘째는 경쟁의 성격입니다. AI 개발은 앞으로도 매우 치열할 것이고, 그렇다면 특정 시점에 어떤 모델 하나를 공개한다고 해서 그 시점의 차순위 모델들에 비해 엄청난 우위를 거저 넘겨주는 일은 아니라는 것입니다. 라마가 업계 표준이 되는 길은 한 번의 공개가 아니라, 세대를 거듭하며 꾸준히 경쟁력 있고 효율적이며 열려 있는 모델을 내놓는 데 있습니다.

셋째는 사업 모델입니다. 메타와 폐쇄형 공급자를 가르는 핵심 차이는 AI 모델에 대한 접근권을 파는 것이 메타의 사업이 아니라는 점입니다. 그래서 라마를 공개해도 매출이나 지속가능성, 연구에 재투자할 여력이 깎이지 않습니다. 폐쇄형 공급자에게는 같은 선택이 바로 그것들을 깎는 일이 되고, 저커버그는 몇몇 폐쇄형 공급자가 정부를 상대로 꾸준히 오픈소스 반대 로비를 벌이는 이유 가운데 하나가 여기 있다고 괄호 안에 덧붙입니다.

넷째는 메타 자신의 전력입니다. 메타는 오픈소스 프로젝트에서 성공한 이력이 길다고 그는 말합니다. 오픈컴퓨트프로젝트(Open Compute Project)를 통해 서버와 네트워크, 데이터센터 설계를 공개하고 공급망이 그 설계를 표준으로 삼게 만들면서 수십억 달러를 아꼈습니다. 파이토치(PyTorch)와 리액트(React)를 비롯한 주요 도구를 공개한 덕분에 생태계가 만들어 낸 혁신의 과실도 함께 얻었습니다. 그는 이 방식이 길게 밀고 나갈 때마다 메타에 일관되게 통했다고 정리합니다.

[이해관계] 메타의 수익은 대부분 광고에서 나오고, 저커버그가 본문에서 직접 밝히듯 모델 접근권 판매는 메타의 사업 모델이 아닙니다. 그래서 라마를 공개해도 메타의 매출이 직접 깎이지는 않습니다. 반면 이 글이 열린 생태계를 지지하는 근거로 드는 경험은 애플 플랫폼의 제약이며, 메타는 그 제약의 당사자입니다.

저커버그는 폐쇄형 공급자들이 정부에 오픈소스 반대 로비를 한다고 괄호 안에서 주장하지만, 글 안에서 이 주장의 근거는 제시되지 않습니다.

[사후 맥락] 이 글이 나온 뒤 메타의 노선은 눈에 띄게 흔들렸습니다. 2025년 4월 공개한 라마 4는 벤치마크 제출 방식을 둘러싼 논란에 휘말렸습니다. 리더보드에 올린 모델이 일반에 공개된 버전과 달랐다는 점을 메타도 실험용 대화 버전이었다고 인정했습니다. 최상위 모델로 예고했던 베헤모스(Behemoth)는 성능이 기대에 못 미친다는 내부 평가 속에 출시가 미뤄졌다고 월스트리트저널(The Wall Street Journal)이 보도했습니다.

2025년 6월 메타는 스케일AI에 143억 달러를 투자하며 창업자를 영입했고, AI 조직을 메타 초지능 연구소(Meta Superintelligence Labs)라는 이름으로 재편했습니다. 같은 해 7월 저커버그가 내놓은 개인 초지능 서한에는 무엇을 공개할지에 신중해야 한다는 취지의 문장이 들어갔고, 언론은 이를 공개가 더 이상 기본값이 아닐 수 있다는 신호로 읽었습니다. 메타 대변인은 오픈소스에 대한 입장은 바뀌지 않았다면서도 앞으로 공개 모델과 비공개 모델을 함께 학습시킬 것으로 예상한다고 밝혔습니다.

세계에 오픈소스가 좋은 이유

저커버그는 긍정적인 AI 미래를 위해 오픈소스가 필요하다고 단언하며 이 절을 엽니다. 그가 보기에 AI는 현대의 어떤 기술보다도 인간의 생산성과 창의성, 삶의 질을 끌어올릴 잠재력이 크고, 경제 성장을 앞당기면서 의학과 과학 연구의 진전을 함께 풀어낼 힘을 갖고 있습니다. 공개는 이 혜택과 기회가 더 많은 사람에게 닿게 하고, 힘이 소수 기업의 손에 몰리지 않게 하며, 기술이 사회 전반에 더 고르고 안전하게 자리 잡게 만든다고 그는 말합니다.

공개 모델의 안전성을 둘러싼 논쟁이 진행 중이라는 사실도 그는 인정합니다. 그럼에도 오픈소스 AI가 다른 선택지보다 더 안전할 것이라는 것이 그의 견해이고, 각국 정부 역시 공개를 지지하는 편이 세계를 더 번영하고 더 안전하게 만든다는 판단에 이를 것이라고 내다봅니다.

의도하지 않은 피해와 의도된 피해

안전을 사고하는 그의 틀은 피해를 두 범주로 나누는 데서 출발합니다. 의도하지 않은 피해는 운용하는 쪽이 해를 끼칠 뜻이 전혀 없었는데도 AI 시스템이 해를 끼치는 경우입니다. 오늘의 모델이 잘못된 건강 조언을 내놓는 일이 그런 예이고, 더 미래지향적인 쪽으로는 모델이 의도치 않게 자기복제를 하거나 목표를 인류에게 해로운 방향으로 극단까지 최적화할지 모른다는 우려가 여기 속합니다. 의도된 피해는 악의를 가진 행위자가 해를 끼치겠다는 목적으로 모델을 쓰는 경우입니다.

저커버그는 사람들이 AI를 두고 품는 우려의 대다수가 첫 번째 범주에 속한다고 짚습니다. 수십억 명이 쓰게 될 시스템이 그들에게 어떤 영향을 미칠지부터 인류에게 파국이 될 만한 공상과학적 시나리오 대부분까지가 의도하지 않은 피해입니다. 그리고 바로 이 영역에서는 시스템이 투명해 널리 검증받을 수 있는 공개 쪽이 훨씬 안전하다는 것이 그의 주장입니다. 오픈소스 소프트웨어가 역사적으로 더 안전했던 이유도 같습니다. 라마 가드(Llama Guard) 같은 안전 시스템과 함께 쓰는 라마가 폐쇄형 모델보다 더 안전하고 보안도 나을 가능성이 높다고 그는 적고, 그래서 공개 AI의 안전 논쟁은 대부분 두 번째 범주인 의도된 피해에 집중된다고 정리합니다.

메타의 안전 절차에 대한 설명도 이어집니다. 모델이 의미 있는 수준의 피해를 일으킬 능력이 있는지 엄격한 시험과 레드팀(red team) 공격으로 평가하고, 공개 전에 위험을 줄이는 것이 목표입니다. 모델이 열려 있으므로 누구든 직접 시험해 볼 수 있다는 점도 덧붙입니다. 그가 제시하는 판단 기준은 이것입니다. 이 모델들은 이미 인터넷에 있는 정보로 학습되었으므로, 피해를 따지는 출발점은 구글 같은 검색으로 금세 얻을 수 있는 정보보다 모델이 더 큰 피해를 돕는지 여부여야 한다는 것입니다.

[반론] 공개 모델의 안전장치가 공개 이후에도 유지되느냐가 이 논증의 약한 고리로 지적되어 왔습니다. 팔리세이드리서치(Palisade Research)의 사이먼 레르먼(Simon Lermen) 등은 저랭크 적응(LoRA) 기법으로 라마 2-챗의 7B, 13B, 70B 모델에서 안전 학습을 되돌리는 데 GPU 한 장과 200달러 미만이면 충분했다고 보고했습니다. 일반 성능은 대체로 유지된 채 유해한 지시를 거부하는 비율만 크게 떨어졌습니다.

이 연구진은 모델 가중치를 공개할지 판단할 때 파인튜닝으로 인한 위험 평가가 핵심 요소가 되어야 한다고 주장했습니다. 라마 3.1 이전 세대 모델을 대상으로 한 연구이지만, 가중치에 접근할 수 있다면 안전 학습을 되돌릴 수 있다는 것이 이 연구의 핵심 주장입니다.

개인 악용자와 힘의 균형

의도된 피해를 따질 때는 개인이나 소규모 행위자가 할 수 있는 일과, 막대한 자원을 가진 국가 같은 대규모 행위자가 할 수 있는 일을 구분하는 것이 유용하다고 저커버그는 말합니다.

언젠가는 개인 악용자가 AI 모델의 지능을 이용해 인터넷에 있는 정보로부터 완전히 새로운 피해를 만들어 낼 수 있게 될 것이라고 그는 인정합니다. 그 지점에서는 힘의 균형이 AI 안전에 결정적이 됩니다. 그는 AI가 널리 배치된 세계에서 더 큰 행위자가 더 작은 악의적 행위자의 힘을 견제할 수 있으므로 그쪽이 낫다고 봅니다. 메타가 소셜 네트워크의 보안을 다뤄 온 방식이 바로 그것이라는 설명이 따라붙습니다. 더 튼튼한 AI 시스템이, 흔히 더 작은 규모의 AI를 쓰는 덜 정교한 공격자의 위협을 찾아내 막아 왔다는 것입니다.

더 넓게 보면 큰 기관들이 대규모로 AI를 배치할수록 사회 전체의 보안과 안정이 올라갑니다. 다만 여기에는 조건이 하나 붙습니다. 모두가 비슷한 세대의 모델에 접근할 수 있는 한에서만 컴퓨트 자원이 더 많은 정부와 기관이 컴퓨트가 적은 악의적 행위자를 억제할 수 있고, 오픈소스가 바로 그 조건을 만들어 준다는 것입니다.

중국이라는 질문

다음 질문은 중국처럼 막대한 자원을 가진 국가의 위협을 미국과 민주주의 국가들이 어떻게 다룰 것인가입니다. 저커버그는 미국의 강점이 분산되고 열린 혁신에 있다고 전제합니다. 중국의 접근을 막으려면 모델을 닫아야 한다는 주장이 있지만, 그는 그 방법이 통하지 않을뿐더러 미국과 동맹만 불리하게 만든다고 반박합니다.

근거는 세 가지입니다. 적성국은 첩보에 능하고, USB 메모리 하나에 들어가는 모델을 훔치는 일은 비교적 쉬우며, 대부분의 기술 기업은 그 일을 어렵게 만들 만한 방식으로 운영되고 있지 않습니다. 그래서 닫힌 모델만 존재하는 세계의 가장 유력한 귀결은, 소수의 큰 기업과 지정학적 적성국만 선도 모델을 손에 쥐고 스타트업과 대학과 소기업은 기회를 놓치는 상황이라고 그는 봅니다. 게다가 미국의 혁신을 닫힌 개발로 묶어 두면 아예 선두를 내줄 확률이 커집니다. 그가 제안하는 최선의 전략은 튼튼한 열린 생태계를 짓고, 선도 기업들이 정부 및 동맹과 긴밀히 협력해 최신 성과를 최대한 활용함으로써 장기적으로 지속 가능한 선점자 이익을 확보하는 것입니다.

절의 마지막에서 그는 시야를 넓힙니다. 오늘날 앞서가는 기술 기업과 과학 연구의 대부분이 오픈소스 소프트웨어 위에 지어졌다는 사실을 기억하라는 것입니다. 다음 세대의 기업과 연구도 우리가 함께 투자한다면 오픈소스 AI를 쓰게 될 것이고, 여기에는 이제 막 출발한 스타트업뿐 아니라 최첨단 AI를 맨바닥에서 만들 자원이 없는 대학과 국가의 사람들도 포함됩니다. 결론은 한 문장으로 압축됩니다. 오픈소스 AI야말로 이 기술로 모두를 위한 경제적 기회와 안보를 최대로 끌어낼 세계 최선의 승부수라는 것입니다.

[사후 맥락] 이 글이 나온 지 석 달 만에 중국 접근 문제는 가설이 아니라 사례가 되었습니다. 로이터(Reuters)는 2024년 11월, 중국 인민해방군 군사과학원(Academy of Military Science) 소속을 포함한 연구진이 라마 2의 130억 파라미터 모델을 바탕으로 군사용 챗봇 ChatBIT을 만들었다고 보도했습니다. 라마의 이용정책은 군사, 전쟁, 첩보 목적 사용을 금지하고 있었고, 메타는 무단 사용이자 정책 위반이라고 밝히면서도 구버전 모델 하나의 역할은 중국의 투자 규모에 비추어 의미가 없다고 반박했습니다. 이어서 메타는 미국 정부와 국가안보 분야 계약업체에 라마를 제공하겠다고 발표했습니다.

2025년에는 딥시크(DeepSeek)의 R1 이후 중국 기업들이 오픈AI(OpenAI)의 모델에 맞먹거나 앞서는 공개 모델을 내놓고 있다는 보도가 나왔습니다. 저커버그가 열린 생태계를 미국의 강점으로 내세운 구도에서, 공개 모델을 만드는 쪽에 중국 기업이 들어왔다는 점은 이 글이 다루지 않은 변수입니다.

[한국 관점] 힘의 균형 논증은 한국에서 전제부터 다르게 작동합니다. 저커버그의 구도에서 악용자를 억제하는 쪽은 컴퓨트가 더 많은 정부와 기관인데, 한국은 모델에는 쉽게 접근할 수 있어도 그 모델을 대규모로 돌릴 연산 자원의 격차가 큽니다. 공개 모델의 혜택은 즉시 받지만 균형을 떠받치는 쪽에 서기에는 조건이 부족한 위치입니다.

과학기술정보통신부의 독자 AI 파운데이션 모델 사업이 선정 팀에 GPU와 데이터, 인재를 종합 지원하고 총 2,136억 원을 투입하는 것도 이 문제의식과 맞닿아 있습니다. 공개 모델이 선택지로 있어도, 그것을 대규모로 돌리고 안전하게 운용할 기반을 자국에 갖추려는 시도가 병행되고 있다는 뜻입니다.

함께 만들자는 제안

저커버그는 마지막 절에서 이번 공개가 이전과 무엇이 다른지를 밝힙니다. 과거의 라마 모델들은 메타가 자기 필요에 따라 만들고 나서 내놓는 방식이었고, 더 넓은 생태계를 키우는 일에는 크게 공을 들이지 않았습니다. 이번에는 접근을 바꿨다고 그는 말합니다. 가능한 한 많은 개발자와 파트너가 라마를 쓸 수 있도록 사내에 전담 팀을 꾸리고 있고, 생태계 안의 더 많은 기업이 자기 고객에게 고유한 기능을 제공할 수 있도록 제휴를 적극적으로 맺고 있다는 설명입니다.

그리고 전망을 하나 내놓습니다. 라마 3.1 공개가 대다수 개발자가 오픈소스를 주로 쓰기 시작하는 업계의 변곡점이 될 것이고, 그 흐름은 앞으로 커지기만 할 것이라는 예측입니다. 글은 AI의 혜택을 세계 모든 사람에게 가져가는 이 여정에 함께해 달라는 권유로 맺습니다. 모델은 메타의 라마 사이트에서 바로 받을 수 있다고 안내한 뒤, 팔을 굽힌 이모지 하나와 자신의 이니셜만으로 서명합니다.

[관점] 변곡점이라는 예측은 절반만 맞았다고 볼 수 있습니다. 공개 모델이 산업의 정식 선택지가 되었다는 방향은 정황이 뒷받침합니다. 메타가 아닌 오픈AI까지 가중치 공개 모델을 내놓았기 때문입니다. 반면 라마가 업계에서 가장 앞선 모델이 되리라는 기대는 이어지지 않았습니다. 앞서 본 라마 4를 둘러싼 논란과 베헤모스 지연이 그 정황입니다.

공개 진영이 프런티어를 추월한다는 명제와 공개 모델이 선택지로 정착한다는 명제는 서로 다른 주장입니다. 이 글이 함께 묶어 던진 두 예측 가운데 뒤쪽만 정황이 뒷받침합니다.

[사후 맥락] 이 글이 나온 뒤 공개 모델 흐름에는 메타 밖의 주체도 합류했습니다. 오픈AI는 2025년 8월 gpt-oss-120b와 gpt-oss-20b를 Apache 2.0 라이선스로 내놓았습니다. 2019년 GPT-2 이후 처음 공개한 가중치 공개 언어모델이었고, 악의적인 파인튜닝을 가정한 시험에서도 생물무기 개발 등 위험 능력의 임계선에는 이르지 않은 것으로 평가됐다는 보도가 나왔습니다. 저커버그가 무엇을 공개할지 신중하겠다는 서한을 낸 2025년 7월의 바로 다음 달이었습니다.

정책 환경도 비슷한 방향으로 움직였습니다. 2025년 7월 미국 정부가 내놓은 AI 행동계획은 오픈소스와 가중치 공개 모델을 명시적으로 지지했습니다. 정부가 공개를 지지하게 되리라는 이 글의 전망과 같은 방향의 움직임입니다.

원문: Mark Zuckerberg, Open Source AI is the Path Forward (Jul 2024) 전문은 원문에서 확인하실 수 있습니다.

참고할만한 글

Similar Posts