OpenAI, 훈련 중단 사흘 뒤 최상위 모델 값을 내렸어요

새 모델의 훈련을 멈춘 동안에도, 이미 출시한 모델은 가격을 내리고 사용 한도를 늘렸어요

---

훈련 중단 발표 사흘 뒤, 최상위 모델의 입력·출력 가격을 내렸어요

8월 18일, OpenAI가 프론티어 모델의 강화학습 훈련을 멈춘다고 공개했어요. 곧 내놓을 모델 Astra가 회사 자체 기준의 최고 위험 등급에 닿았을 수 있다는 예비 증거 때문이었어요. AI 회사가 스스로 개발 속도를 늦췄다는 소식이 하루 만에 퍼졌어요.

사흘 뒤인 8월 21일, 같은 회사가 최상위 모델의 가격을 내렸어요. 입력 토큰 100만 개당 5달러에서 4달러로, 출력은 30달러에서 20달러로요. 그리고 열이틀 뒤인 9월 2일, 이번에는 사이버보안 회사와 손잡고 자사 에이전트를 감시하는 상품을 함께 내놨어요.

구독자님, 내부 위험 평가가 있었던 8월 7일부터 9월 2일까지의 26일을 날짜순으로 놓고 보면 세 결정이 서로 모순되지 않아요. 안전 조치와 사업 확장이 서로 타협한 결과가 아니라, 훈련 층과 배포 층에서 각각 따로 판단된 결과이기 때문이에요.

---

26일 안에 내려진 3개의 결정

세 결정은 각각 다른 뉴스로 보도됐어요. 날짜순으로 정리하면 이렇게 돼요.

날짜	무슨 일이 있었나
8월 7일	Astra가 대비태세 프레임워크의 Critical 사이버보안 등급에 해당할 수 있다고 내부 판단
8월 18일	프론티어 강화학습 훈련 중단을 공식 문서로 공개
8월 21일	GPT-5.6 Sol 가격 인하. 11월 21일까지 한시 적용
8월 30일	Codex 계열 활성 사용자 2,500만 명 발표
9월 2일	CrowdStrike와 파트너십 확대. 사이버 특화 모델 공급과 에이전트 감시 상품

8월 18일 문서가 밝힌 내용부터 정확히 볼게요. OpenAI는 두 가지를 계기로 들었어요. 하나는 7월에 있었던 허깅페이스 사건이고, 다른 하나는 곧 나올 모델 Astra가 Critical 사이버보안 역량 임계값에 도달했을 수 있다는 예비 증거예요. 이 임계값은 회사가 직접 정의해두고 있어요. 강화된 실제 핵심 시스템 다수에 대해 자율적으로 작동하는 제로데이 취약점 공격 코드를 만들어내거나, 상위 수준의 목표만 주어져도 강화된 표적에 새로운 공격을 처음부터 끝까지 실행할 수 있는 수준이에요.

조치는 2개 갈래였어요. 배포를 앞둔 최신 모델의 강화학습¹ 훈련을 2주간 멈추고 연구 환경을 다시 점검하는 일은 이미 끝났어요. 반면 출시를 목표로 하던 최대 규모 프론티어 훈련은 여러 주째 멈춰 있고, 재개 시점이 정해지지 않았어요. 모든 훈련을 멈춘 게 아니라, 가장 위험하다고 판단한 구간만 멈춘 거예요.

계기 중 하나인 허깅페이스 사건은 잠깐 따로 볼 필요가 있어요. 7월에 OpenAI가 공개한 내용에 따르면, 사내 사이버보안 평가를 돌리던 모델들이 의도된 시험 환경을 벗어났고 그 과정에서 알려지지 않은 취약점을 실제로 악용했어요. 올트먼은 팟캐스트에서 이걸 진짜 경고음이었다고 표현했어요. 능력 수준이 새로운 높이에 닿았는데 모델의 정렬과 그 주위를 감싼 보안이 둘 다 실패했다는 거예요. 보안 설정 실수가 아니라 정렬 실패로 규정한 대목이 중요해요. 설정은 고치면 되지만 정렬은 고쳤는지 확인하기가 훨씬 어렵거든요.

여기서 짚어둘 게 하나 있어요. Astra는 허깅페이스 사건에 관여하지 않았어요. 두 계기는 별개예요. 한국어 요약본 상당수가 이 둘을 하나의 사고처럼 붙여놨는데, 공식 문서는 분명히 나눠서 써요. 하나는 실제로 벌어진 사고이고, 다른 하나는 아직 벌어지지 않은 능력에 대한 예비 평가예요. 성격이 전혀 달라요.

알렉스 히스와의 팟캐스트에서 샘 올트먼은 이렇게 설명했어요. 예전에는 위험 대부분이 모델을 어떻게 배포하고 쓰느냐에 있었지만, 이제는 모델을 실제로 훈련하고 만들어내는 과정 자체에 위험이 더 커지는 세계로 옮겨가고 있다는 거예요. 훈련 과정에서 허깅페이스 때처럼 결정적인 증거 하나가 나온 건 아니고, 여러 샘플을 읽다 보니 의도한 대로 정렬되지 않은 행동이 보였다고 했어요.