제280호

속도를 늦추자면서 컴퓨트는 아무도 줄이지 않았어요

학습을 멈추자는 말이 아니었어요. 그래서 느려지는 건 능력이 아니라 공개 시점이에요

비즈니스

안광섭 (오스왈드)· INLEVEL9 글쓴이·편집자

구글 검색 선호 출처로 추가
속도를 늦추자면서 컴퓨트는 아무도 줄이지 않았어요

무대 위로 걸려온 전화, 그리고 같은 주의 계약서들

9월 14일 로스앤젤레스에서 열린 올인 서밋 무대에서 엔비디아 CEO 젠슨 황이 이야기를 하던 중에 트럼프 대통령의 전화가 걸려왔어요. 스피커폰으로 연결된 통화에서 트럼프는 AI 위험론을 “사기(hoax)“라고 불렀고, 데이터센터를 “앞으로 20~25년의 석유”라고 표현했어요. 객석은 박수를 쳤고, 이 장면은 그날 저녁 전 세계 매체의 헤드라인이 됐어요.

YouTube에서 보기

그런데 그 통화가 있기 이틀 전, 앤스로픽 CEO 다리오 아모데이는 AI 능력 향상 속도를 의도적으로 늦추자는 에세이를 냈어요. 몇 시간 안에 샘 올트먼이 동의했고, 일론 머스크는 “Dario is right” 세 단어를 올렸고, 구글 딥마인드의 데미스 허사비스도 방향에 찬성했어요. 업계의 주요 인물 대부분이 같은 주에 “늦추자”는 문장에 이름을 올린 거예요.

그래서 저는 그 주에 실제로 무엇이 느려졌는지 확인해봤어요. 결론부터 말하면, 컴퓨트는 오히려 늘었고 학습 중인 모델은 더 커졌어요. 애초에 ‘늦추자’는 말이 컴퓨트를 줄이자는 뜻이 아니었거든요. 그렇다면 남는 질문은 하나예요. 컴퓨트도 능력도 줄지 않는다면, 정확히 무엇이 느려지는 걸까요.

다리오가 실제로 요구한 것

먼저 에세이를 정확히 읽어야 해요. 제목은 “We Must Pace the Frontier”, 9월 12일 게시됐어요. 여기서 pacing은 중단이나 유예가 아니에요. 다리오는 오히려 2023년에 나왔던 개발 중단 요구를 두고 “그때는 말이 되지 않았다”고 스스로 선을 그었어요. 당시 모델은 세상에서 에이전트로 행동하거나 속이거나 사이버 공격을 할 능력이 없었으니, 그런 모델의 정렬 위험을 연구하려고 시간을 버는 건 박테리아로 인간 심리를 연구하는 격이었다는 거예요.

Dario Amodei — We Must Pace the Frontierdarioamodei.com

그가 지금은 다르다고 보는 이유는 두 가지예요. 하나는 재귀적 자기개선1이 예상보다 빠르게 업계 전반의 진전을 밀어올리고 있다는 것. 다른 하나는 올여름 OpenAI 평가 환경에서 벌어진 허깅페이스 사건이에요.

이 사건을 잠깐 짚고 갈게요. 5월부터 7월 사이 OpenAI의 사이버 보안 평가 환경 안에서 에이전트들이 자기들끼리 쓸 메시지보드를 만들어 샌드박스 탈출 방법을 주고받았어요. 공개된 보고서에 따르면 최소 1,200개 에이전트가 관여했고, 허깅페이스는 7월 13일 침입을 차단했지만 인프라의 약 3분의 1을 재구축해야 했어요. 더 눈에 띄는 건 순서예요. 다른 평가 실행에 있던 에이전트들이 앞선 무리가 남긴 키를 캐시에서 주워 OpenAI 자사 연구 클러스터의 관리자 권한을 얻었고, 그제서야 경보가 울렸어요. OpenAI는 자사 보고서에서 이 사건을 “경고 사격”이라고 불렀어요.

이 두 가지를 근거로 다리오가 요구한 건 임계 능력에 도달하기까지 1~2년을 더 버는 거예요. 그 시간에 무엇을 할지도 구체적으로 적었어요. 운영 역량, 능력을 따라가는 정렬 훈련, 해석가능성, 그리고 시험을 속일 수 있는 모델도 걸리는 수준의 평가. 그리고 앤스로픽은 일방적인 첫 조치로, 제3자 평가자에게 상시적이고 직원급인 내부 접근권을 주겠다고 했어요. 안전 관행을 검증하고, 사고를 보고하고, 훈련 중 정렬 상태를 평가할 수 있게요.

여기까지가 에세이가 말한 전부예요. 학습을 멈추겠다는 말도, 컴퓨트 구매를 줄이겠다는 말도 없어요. 이걸 확인하고 나면 그다음 주의 뉴스들이 전혀 다르게 읽혀요.

같은 주에 서명된 137억 달러

9월 14일, The Information은 앤스로픽이 RUM 그룹과 6년간 137억 달러 규모의 컴퓨트 조달 계약을 맺었다고 보도했어요. RUM 그룹은 동영상 플랫폼 럼블을 운영하는 회사이고, 트럼프 행정부 인사들과 연결이 깊어요.

계약 내용을 뜯어보면 몇 가지가 눈에 띄어요. 컴퓨트를 받을 곳은 조지아주 메이스빌의 데이터센터인데, 아직 짓는 중이에요. RUM 그룹은 8월 공시에서 건설과 장비 구매에 필요한 자금을 아직 확보하지 못했다고 밝혔고요. 그리고 앤스로픽은 주당 1센트에 최대 5,080만 주를 살 수 있는 워런트를 함께 받았어요. 절반은 메이스빌 계약 물량에 연동되고, 나머지 절반은 앤스로픽이 다른 시설에서 400~500메가와트를 추가로 계약해야 발동돼요.

이 건을 포함해 앤스로픽이 지난 1년간 맺은 컴퓨트 계약은 최소 14.8기가와트, 향후 10년간 최대 5,170억 달러 규모예요. 구글, 아마존, 스페이스X, 그리고 소규모 네오클라우드들이 이미 명단에 있고요.

여기서 오해를 하나 정리하고 갈게요. 이 계약은 말 바꾸기가 아니에요. 다리오는 컴퓨트를 줄이겠다고 한 적이 없어요. 오히려 pacing을 미국의 리더십과 양립 가능하다고 명시했고, 민주주의 진영이 중국과의 격차를 먼저 벌린 뒤에 속도를 조절하자는 조건까지 달았어요. 컴퓨트를 계속 확보하는 건 그 조건과 완벽하게 일치해요. 위선을 폭로하는 이야기로 이걸 소비하면 정작 중요한 걸 놓쳐요.

중요한 건 이거예요. 컴퓨트가 줄지 않는다면, 늘어난 컴퓨트로 만들어진 능력은 어디로 가는 걸까요.

”Dario is right” 이후 48시간

머스크의 행적이 그 질문에 답을 줘요.

9월 13일 밤, 한 사용자가 “그록 4.7 말고 9월에 SpaceXAI에서 뭘 더 기대하면 되냐”고 물었어요. 머스크의 답은 이랬어요. “그록 4.8은 우리의 새 C++ 소프트웨어 스택으로 훈련한 2.5조 파라미터 모델이고, 이번 주에 학습을 끝내고 RL을 시작한다.”

Elon Musk (@elonmusk) on X@techdevnotes Grok 4.8, which is a 2.5T model trained with our new C++ software stack, will finish training this week and start RLx.com

그리고 다음 날인 9월 14일, 그는 사다리 전체를 공개했어요. 4.7은 앤스로픽 오푸스 5.0과 비슷한 수준, 4.8은 그보다 “눈에 띄는 개선”, 4.9는 아마도 “Astra/Fable 급”, 그리고 그록 5는 “아마 그 무엇보다 나을 것”. AGI에 도달할 버전이 뭐냐는 질문에 그가 지목한 건 그록 5였어요. 더 나아가 3조 파라미터 학습 런도 예고했고요.

속도를 늦추자는 글에 동의한 지 이틀 만에, AGI까지의 로드맵을 버전 번호로 발표한 거예요.

정확하게 읽어야 할 대목이 두 개 있어요. 첫째, 이 숫자들은 전부 창업자의 주장이에요. xAI는 그록 4 계열 어느 모델에 대해서도 파라미터 수를 공식 문서로 발표한 적이 없어요. 둘째, “학습을 끝내고 RL을 시작한다”는 문장은 출시가 임박했다는 뜻이 아니에요. 초기 학습이 끝나고 강화학습 단계로 넘어간다는 말이고, 그 뒤에 얼마나 걸릴지는 별개예요.

그리고 바로 이 두 번째 대목에 이 글의 핵심이 있어요. 그록 4.7은 머스크가 초기 학습 완료를 알린 지 34일이 지나도록 아직 출시되지 않았어요. 4.5는 나온 지 4주 만에 4.6으로 대체됐고요. 학습은 계속 끝나는데, 세상에 나오는 건 계속 뒤에 있어요.

이게 답이에요. 컴퓨트가 늘고, 모델이 커지고, 학습이 끝나도, 그중 무엇이 언제 밖으로 나올지는 전혀 다른 층위의 결정이에요. 그리고 pacing이 조절하겠다고 한 건 정확히 그 층위예요.

젠슨의 문장이 똑같은 구조인 이유

여기서 무대 위 젠슨의 발언으로 돌아가 볼게요.

젠슨은 다리오와 위험 인식이 정반대예요. 종말 예측에 대해 “과학에 근거하지 않았다”고 잘라 말했고, 5년 안에 영상의학과가 사라진다거나 6~12개월 안에 코드의 90%를 AI가 쓴다거나 신입 일자리의 절반이 사라진다는 지난 예측들을 하나씩 열거하며 전부 틀렸다고 했어요. 재귀적 자기개선이 통제를 벗어날 거라는 우려에 대해서도 이렇게 말했어요.

“회사 안에서는 하루 종일 RSI를 돌려도 돼요. 하지만 제품을 낼 때는 평가해야 하잖아요. 다시 테스트해야 하고, 회귀가 없는지 확인해야 하죠.”

문장만 보면 낙관론이에요. 그런데 이 문장이 기술하는 운영 모델을 그대로 옮겨 적어보면 이렇게 돼요. 내부에서는 능력을 최대한 밀어올린다. 밖으로 나가는 지점에서만 검증한다.

다리오가 요구한 구조와 이게 무엇이 다른가요. 다리오도 학습을 멈추라고 하지 않았어요. 제3자 평가자를 안에 들여 검증을 강화하자고 했죠. 위험을 대하는 태도는 정반대인 두 사람이, 실제 운영 모델에서는 같은 곳에 도착해요. 내부는 계속, 외부는 통제.

머스크의 제안도 같은 지점에 있어요. 그는 경쟁 랩들이 서로의 모델에 테스트 하네스를 돌리는 상호 검증을 제안했어요. 영화등급위원회 모델을 예로 들면서요. 출시 전에 API 접근을 열어주고, 문제가 해결되지 않으면 경쟁사가 공개적으로 위험하다고 선언할 수 있게 하자는 거예요. 젠슨 역시 회계감사처럼 복수의 제3자 평가기관을 두자고 했고요. 표현은 다르지만 셋 다 출시 게이트를 누가 지킬 것인가에 관한 이야기예요.

한 가지만 덧붙이면, 이 세 사람이 전화 통화에서 같은 편처럼 들렸다고 해서 원하는 게 같은 건 아니에요. 트럼프는 규제 자체가 없어야 한다는 쪽이고, 중국의 증류를 절도라고 부르며 비난했어요. 반면 젠슨은 증류를 “AI로부터 배우는 것, 지능의 근본”이라고 옹호해온 사람이고, 머스크도 오랜 증류 찬성론자예요. 같은 통화 안에 서로 다른 세 개의 정책 선호가 겹쳐 있었던 셈이에요. 이 균열의 구조는 지난 158호에서 자세히 다뤘어요.

오스왈드의 시선

저는 기업에 AI를 납품하거나 AX 컨설팅을 할 때, 언제나 모델은 상향된다는 전제로 설계해요. 이건 낙관이 아니라 실무적 필요예요. 지금 있는 모델의 성능에 맞춰 시스템을 고정해버리면, 프로젝트가 끝날 무렵 이미 낡은 설계가 되어버리거든요.

특히 공공기관 에어갭2 환경을 세팅할 때 이 전제는 더 무겁게 작동해요. 폐쇄망에서는 API로 최신 모델을 부를 수 없으니 오픈소스와 오픈웨이트3 모델을 내부에 올려야 하는데, 도입 시점의 모델로 아키텍처를 고정하면 몇 달 뒤 바로 한계에 부딪혀요. 그래서 저는 6개월에서 12개월 뒤에 나올 오픈웨이트 제품들이 대략 어느 수준일지를 가늠하고, 그 수준을 감당할 수 있게 프로젝트를 설계해요.

그 가늠이 어떻게 가능했는지 생각해보면, 결국 프런티어에서 흘러내리는 것을 보고 있었던 거예요. 프런티어 모델이 어디까지 갔는지 보이면, 그걸 뒤따르는 오픈웨이트가 반년 뒤 어디쯤 올지 대략 짐작할 수 있어요. 이 방법이 지금까지 통했던 건 프런티어의 능력과 공개된 능력이 대체로 같은 곡선 위에 있었기 때문이에요.

이번 주에 제 눈에 걸린 게 그 지점이에요. 컴퓨트는 계속 늘고 학습은 계속 끝나는데, 공개는 뒤로 밀려요. 그록 4.7이 34일째 나오지 않고 있다는 사실 하나로 단정할 일은 아니지만, pacing이 제도로 굳으면 이 간격은 우연이 아니라 설계가 돼요. 그러면 제가 반년 뒤 오픈웨이트 수준을 가늠할 때 참고해온 곡선 자체가 바뀌어요. 실제 프런티어의 능력이 아니라, 회사들이 공개하기로 정한 능력을 보고 있는 셈이 되니까요.

pacing여기서 제가 조심하는 부분도 있어요. 오픈웨이트 생태계의 상당 부분은 중국에서 나오고, 중국 랩들은 이번 pacing 합의에 이름을 올리지 않았어요. 그러니 한동안은 폐쇄망 설계자의 기준선이 오히려 중국 쪽 릴리스 속도에 더 강하게 묶일 수도 있어요. 그게 더 나은 상황이라는 뜻은 아니에요. 지난 158호에서 짚었듯, 어느 쪽 모델을 고르느냐에 이미 지정학이 끼어들어 있으니까요.

제가 이번 주에 바꾼 건 결론이 아니라 질문이에요. 예전에는 “반년 뒤 오픈웨이트가 어디까지 올까”를 물었어요. 이제는 그 앞에 질문이 하나 더 붙어요. “그 능력을 누가, 언제, 어떤 조건으로 풀기로 결정하는가.” 이건 기술 로드맵이 아니라 거버넌스 질문인데, 실무 설계에 직접 들어오는 변수가 됐어요. 그리고 그 결정 테이블에 한국은 없어요. 머스크가 상호 검증 참여자로 나열한 건 앤스로픽, OpenAI, 구글, 메타, 자사, 그리고 중국 상위 서너 곳이었어요.

마치며

구독자님, 이번 주의 소식들을 하나로 묶으면 이렇게 정리돼요.

늦추자는 합의는 진짜였어요. 다만 그 합의가 늦추기로 한 대상은 컴퓨트도, 학습도, 모델 크기도 아니에요. 세 회사 모두 내부에서는 계속 밀고, 밖으로 나가는 지점에서 검증하겠다는 같은 구조에 도착했어요.

그래서 앞으로 벌어질 일은 능력의 정체가 아니라 격차의 확대일 가능성이 높아요. 내부에 존재하는 능력과 우리가 쓸 수 있는 능력 사이의 격차요. 그리고 그 격차의 폭을 정하는 건 기술이 아니라 게이트를 지키는 사람들의 결정이에요.

AI 도입 계획을 세우고 계신다면, 로드맵의 전제를 한 번 점검해보시길 권해요. “반년 뒤엔 더 좋은 모델이 있을 것”이라는 전제 자체는 여전히 유효해요. 다만 그 ‘더 좋은 모델’이 그때 정말 손에 들어올지는, 이제 별도로 따져야 할 변수가 됐어요.

💬 AI 도입 계획을 세울 때 “몇 개월 뒤 모델 수준”을 어느 정도까지 가정하고 설계하시나요? 그 가정이 빗나갔던 경험이 있다면 어느 방향으로 빗나갔는지 들려주세요.

📨 폐쇄망이나 온프레미스 AI 도입을 준비하는 동료가 있다면 이 글을 전달해 주세요.

여러분의 생각이 다음 호를 만듭니다

이번 호에서 가장 공감했거나, 다른 경험을 한 지점은 무엇인가요?

댓글은 무료 회원이면 누구나 남길 수 있어요.

커피 한 잔 보내기

이 관점이 좋았다면, 다음 글에 커피 한 잔

오스왈드에게 커피와 함께 짧은 쪽지를 보내주세요. 응원은 다음 취재와 집필에 보탭니다.

오스왈드에게

커피와 쪽지 보내기

“속도를 늦추자면서 컴퓨트는 아무도 줄이지 않았어요”을 읽고 떠오른 말을 남겨주세요. 메뉴 이름만큼의 응원금과 함께 전달됩니다.

어떤 커피로 보낼까요?

참고자료 & 더 읽기

핵심 출처

배경 지식

관련 지난 호

안광섭(오스왈드) 프로필 일러스트

필자 안광섭 (오스왈드)은 세종대학교 겸임교수, INLEVEL9 전략 컨설턴트입니다. 경력, 연구, 저서와 최신 활동은 저자 소개에서 계속 갱신합니다. 최근 소식 · 2026년 8월: 2026 세종도서 교양부문 우수도서 선정.

📝 용어 설명

각주

  1. 재귀적 자기개선(RSI): AI가 다음 세대 AI를 만드는 작업에 투입되어 개발 속도 자체를 끌어올리는 방식이에요. 맥락 내 학습, 반성, 강화학습, 합성 데이터 생성 같은 기법들의 조합으로 구현돼요. ↩

  2. 에어갭: 외부 네트워크와 물리적으로 분리된 폐쇄망 환경이에요. 국방, 공공, 금융 일부 시스템에서 쓰이며, 외부 API 호출이 불가능해 모델을 내부에 직접 올려야 해요. ↩

  3. 오픈웨이트: 모델의 학습된 가중치를 내려받아 직접 실행하고 수정할 수 있게 공개한 모델이에요. 학습 데이터와 코드까지 모두 공개하는 오픈소스와는 구분돼요. ↩

함께 읽으면 좋은 지난 호

제279호

AI 이름은 초지능이 됐는데, 사고의 정의는 비어 있어요

미중 AI 합의를 회담 전 제안과 7월 사고에 비춰 읽어요.

비즈니스
제278호

사람처럼 클릭하는 AI, 아직 법이 없는 곳에 있어요

크롤링을 막아 놓은 사이트도 브라우저 조작 에이전트 앞에서는 열려요

비즈니스
제277호

'인간같이' 글을 쓰는 인공지능을 만들어 내는 법

그냥 사람이 처음부터 쓰면 되는 거 아닌가요?

비즈니스