추론 마진이 80%를 넘었는데 AI 가격은 왜 그대로일까요

클라우드가 40달러 떼가는데 마진은 왜 80%일까요

인공지능 회사가 100달러를 벌면 그중 35~40달러는 곧바로 다른 회사 통장으로 들어가요. AWS, 애저, 구글 클라우드예요. 추론¹을 돌리는 계산 비용이거든요. 클라우드 3사는 이 돈에서 10~20달러를 영업이익으로 남겨요. 영업이익률로는 35~45% 수준이에요.

바클레이즈가 2026년 8월 28일에 낸 AI 산업 단위 경제 보고서의 숫자예요. 산업 요약 도표를 직접 확인했고, 표에 적힌 대로 전부 바클레이즈의 추정치예요. 2026년 이후 값은 예측이라 실현된 수치가 아니에요.

같은 보고서에 이런 대목도 있어요. AI 랩의 유료 추론 이익률을 2025년 십몇 퍼센트에서 2026년 50~65% 이상으로, 조정 매출총이익률 개선 폭을 1년간 30~50%p로 추정했어요. 직접 API의 추론 이익률 추정치는 80%를 넘었고요.

여기서 이상하죠. 100달러 중 40달러가 계산 비용으로 빠져나가는데 어떻게 이익률이 80%가 될까요. 두 숫자는 분모가 달라요. 40달러는 AI 랩 매출 전체를 기준으로 계산한 클라우드 비용이고, 80%는 API 매출에서 해당 요청의 직접 계산 원가를 뺀 금액을, 다시 그 API 매출로 나눈 비율이에요. 마진이 이만큼 올랐는데도 구매자가 내는 값은 왜 그대로인지, 아래에서 차례로 볼게요.

숫자 두 개가 어긋나 보이는 이유

먼저 두 숫자의 분모를 구분해 볼게요. 바클레이즈의 산업 요약 추정치를 옮기면 이렇게 돼요.

단위: 십억 달러	2024	2025	2026E	2027E	2028E
AI 랩 매출	7	26	137	376	690
추론 원가 (매출 대비)	4 (57%)	17 (66%)	58 (42%)	157 (42%)	292 (42%)
훈련 원가 (매출 대비)	7 (96%)	19 (70%)	66 (48%)	132 (35%)	210 (30%)
하이퍼스케일러 AI 매출	11	36	124	289	502
AI 랩 매출 대비	153%	136%	90%	77%	73%

바클레이즈 리서치 추정이고, 2026년부터는 예측치예요.

2026년 칸을 보면 추론 원가가 매출의 42%, 훈련 원가가 48%예요. 이 둘을 더한 1,240억 달러가 그대로 하이퍼스케일러의 AI 매출이 돼요. AI 랩 매출의 90%죠.

“100달러 중 35~40달러”는 이 중 추론 몫만 뗀 숫자예요. 훈련은 빠져 있어요.

“추론 이익률 80%“는 한 겹 더 좁아요. 이미 만들어진 모델을 돌려서 받은 API 매출에서, 그 요청을 처리한 직접 계산 원가만 뺀 값이거든요. 훈련비도 연구 인력도 데이터 비용도 여기엔 안 들어가요.

그러니까 앞의 숫자는 회사 전체의 손익이고, 뒤의 숫자는 생산 라인 하나의 공헌이익이에요. 둘 다 맞지만 같은 선에 놓으면 안 되는 숫자죠. 참고로 ICONIQ이 집계한 AI 제품의 실제 매출총이익률은 2024년 41%, 2025년 45%, 2026년 52% 수준이에요. 개선되고 있지만 80%와는 거리가 멀어요.

표의 2024년 칸을 보면 이 구조가 더 분명해요. 2024년에는 추론과 훈련을 합친 계산 비용이 매출의 153%였어요. 계산 비용만으로 매출을 넘겼다는 뜻이에요. 하이퍼스케일러가 AI 랩보다 더 벌던 시절이었죠.

그리고 이 표는 잘못 읽기도 쉬워요. “하이퍼스케일러 AI 매출의 90%가 AI 랩에서 나온다”는 식의 해석이 도는데 방향이 반대예요. 분모는 AI 랩 매출이에요. AI 랩이 1달러를 벌 때 하이퍼스케일러가 90센트를 번다는 뜻이지, 하이퍼스케일러 매출의 90%가 AI 랩에서 온다는 뜻이 아니에요. 후자는 이 표로 알 수 없어요. 이 표를 볼 때는 무엇을 분모로 나눈 비율인지 먼저 확인해야 해요.

제일 안 남는 상품이 구독이에요

바클레이즈는 제품 라인별 추론 이익률을 이렇게 갈라놨어요. 직접 API가 80% 초과, 간접 API가 그 사이, 구독 제품이 약 70%예요. 클로드 코드나 코덱스 같은 정액 구독 상품이 세 라인 중 추론 이익률이 가장 낮아요.

정액 구독을 묶어 파는 쪽이 마진이 더 좋을 것 같은데, 결과가 반대예요.

이유는 단순해요. AI 랩이 구독 사용자의 토큰 원가를 일부러 보조하고 있어서예요. 붙잡아 둬야 할 사용자거든요. API 고객은 이미 그 모델 위에 제품을 올려서 옮기기 어렵지만, 구독 사용자는 다음 달에 그냥 해지할 수 있으니까요.

최근 구독 상품의 사용량 한도가 자주 리셋되는 것도 같은 맥락으로 읽을 수 있어요. 모델 효율이 좋아진 덕도 있지만, 이탈을 막으려는 압력이 함께 작동한 결과로 보여요. 이건 바클레이즈의 관측이지 확정된 사실은 아니에요.

정리하면 이렇게 돼요. AI 가격은 원가보다 어떤 고객을 붙잡아야 하는지에 따라 정해지고 있어요. 원가 부담이 가장 큰 라인보다, 해지 가능성이 큰 구독 사용자 쪽에 보조가 집중되고 있거든요.

사업 구성이 다르면 장부도 다르게 보여요

바클레이즈는 가상의 프론티어 랩 두 개를 만들어서 비교했어요. 실제 회사가 아니라 모델이에요.

실험실 A는 매출의 70%가 API, 30%가 구독이에요. 실험실 B는 반대로 80%가 구독, 20%가 API예요. 같은 산업, 비슷한 제품인데 조정 매출총이익률은 A가 약 55%, B가 약 38%로 나와요. 17%p 차이예요.

차이의 절반은 방금 본 마진 구조에서 오고, 나머지 절반은 회계에서 와요. 실험실 A는 간접 API 매출을 총액법²으로 잡고, 실험실 B는 순액법으로 잡거나 전략적 파트너가 대신 운영하는 몫은 아예 매출로 인식하지 않아요. 바클레이즈는 이걸 우버와 리프트의 관계에 빗댔어요. 같은 사업인데 인식 기준이 달라서 보고 숫자가 달라 보이는 상황이죠.

클라우드 쪽에서 보면 그림이 또 뒤집혀요. 실험실 A 매출 100달러에 대응하는 클라우드 매출은 35달러, 영업이익 11.8달러, 이익률 34%예요. 실험실 B는 파트너 수익 분배가 붙어서 클라우드 매출 41달러, 이익 19.1달러, 이익률 47%가 나와요.

바클레이즈는 여기에 단서를 달았어요. 수익 분배가 올린 것은 겉으로 보이는 이익률이고, 토큰 하나당 실제로 남는 돈은 두 경우가 같다고요. 그리고 그 분배는 2028년 이후 사라질 것으로 봐요.

한 가지 더 짚고 갈 대목이 있어요. 에이전트형 구독 상품은 클라우드 쪽에 추가 가치를 만들어요. 요청 한 번으로 끝나지 않고 작업 상태를 유지한 채 계속 실행되기 때문에, 데이터베이스나 스토리지 같은 자원을 함께 쓰게 되거든요. 매출 1달러당 딸려 오는 소비가 더 많다는 뜻이에요. 일부 구간에서는 클라우드와 AI 랩이 이 몫을 나눠 갖는 계약도 있고요.

이건 도입하는 쪽에도 그대로 적용돼요. 에이전트를 붙일수록 모델 호출료만 늘어나는 게 아니라 그 뒤에 매달린 인프라 소비가 함께 늘어요. 견적서에 모델 단가만 적혀 있다면 뒤따르는 인프라 소비 비용은 빠져 있는 거예요.

AI 랩들이 GAAP 재무제표를 공시하기 시작하면 투자자가 이런 매출 인식 기준 차이를 직접 확인해야 해요. 지표를 있는 그대로 믿기 어려워지는 국면은 이미 한 번 다룬 적이 있어요. 그때는 ARR 산출 방식이 문제였고, 이번엔 마진의 분모예요.

그런데 원가는 한 방향으로만 움직이지 않아요

지금까지의 이야기는 “원가가 내려간다”를 전제로 했어요. 토큰당 추론 원가는 실제로 내려가고 있어요. 같은 작업을 끝내는 데 필요한 토큰이 줄었고, 양자화와 추측 디코딩 같은 기법이 붙었고, 새 세대 계산 자원이 들어왔거든요.

그런데 그 계산 자원을 사 오는 값은 반대로 가고 있어요. 가령 M8/M9급 CCL³처럼 하이엔드 부품이 주류가 되면서 이런 흐름이 더 강해지고 있어요.

구분	인상률	비고
메모리	+45% q-q	2026년 2분기
CCL	+12~22%	M8/M9 하이엔드
MLB	+15%	AI 가속기향
패키지 기판	+15%	메모리향
MLCC	+15~35%	AI 서버향 고용량
AI 서버	+15% 이상

삼성증권이 언론 보도를 정리한 자료예요. 메모리 인상률은 트렌드포스가 2분기 전망으로 제시했던 범용 D램 58~63%보다 낮은데, 제품군을 섞은 실현치에 가까운 값으로 보여요.

두 개의 원가가 반대로 움직이고 있는 거예요. 토큰 한 개를 만드는 값은 내려가고, 토큰을 만드는 기계를 사 오는 값은 오르고 있어요. 그리고 이 상승분은 아직 AI 랩의 손익계산서에 다 반영되지 않았어요. 서버는 한 번 사면 몇 년에 걸쳐 감가상각으로 흘러 들어가니까요.

그래서 지금의 80%는 남는 여유분이라기보다, 앞으로 손익에 반영될 조달 원가 상승을 흡수해야 하는 몫으로 보는 편이 맞아요.

왜 중요한가

이 구조에서 실무적으로 따라 나오는 게 세 가지 있어요.

첫째, 가격 인하를 예산의 전제로 깔면 안 돼요. AI 도입 계획을 세울 때 “어차피 토큰 값은 계속 내려간다”를 깔고 3년 치를 잡는 조직이 많아요. 그런데 지난 1년 동안 마진이 30~50%p 개선되는 사이 구매자가 받은 인하는 그에 한참 못 미쳤어요. 원가 하락분은 고객에게 내려오지 않고 회사 안에 남았어요. 명목 API 단가는 오히려 올라간 구간도 있고요.

바클레이즈의 전망도 같은 방향이에요. 매출 대비 추론 원가 비중은 2025년 66%에서 2026년 42%로 크게 떨어지는데, 2027년과 2028년에도 계속 42%로 잡혀 있어요. 큰 폭의 원가 하락은 이미 지나갔다고 보는 거예요. 앞으로 개선되는 건 훈련비 비중이지 추론 단가가 아니에요.

둘째, 벤더의 사업 구성을 보면 협상 여지가 보여요. API 매출 비중이 높은 곳은 마진 여력이 크지만 그만큼 가격을 지킬 유인도 커요. 구독 비중이 높은 곳은 마진이 얇은 대신 이탈에 민감해요. 구독 비중이 높은 벤더에는 볼륨 약정보다 해지 가능성을 협상 카드로 쓰는 편이 통해요. 같은 요구를 해도 어느 쪽 벤더에 하느냐에 따라 답이 달라져요.

셋째, 클라우드가 가져가는 몫은 AI 랩 매출 대비로 계속 줄어들 것으로 전망돼요. 하이퍼스케일러 AI 매출을 AI 랩 매출로 나눈 비율은 2024년 153%에서 2026년 90%, 2027년 77%, 2028년 73%로 내려가요. 훈련 지출 비중도 2024년 96%에서 2027년 35%, 2028년 30%로 떨어지고요. 다만 금액 자체는 계속 커져요. 하이퍼스케일러의 AI 매출은 2026년 1,240억 달러에서 2028년 5,020억 달러로 늘어나요. 줄어드는 것은 AI 랩 매출 대비 비율이고, 금액 자체는 커지는 거예요.

그래도 방향은 분명해요. AI 랩의 매출이 하이퍼스케일러의 AI 매출보다 빠르게 늘고 있고, 2028년부터는 확정된 자체 인프라 프로젝트가 가동돼요. 클라우드 인프라 관련 계약이나 투자 판단에 이 시간표를 넣어야 해요.

산업 전체 매출은 2024년 70억 달러에서 2026년 1,370억 달러, 2028년 6,900억 달러로 전망됐어요. 전부 예측치이고, 이 규모가 실현되지 않으면 위의 비율도 함께 무너져요.

마치며

세 가지만 남기고 싶어요.

첫째, AI 마진 숫자를 볼 때는 분모를 먼저 확인해야 해요. 추론 이익률 80%와 매출총이익률 52%는 둘 다 맞는 숫자예요. 90%도 마찬가지고요. 무엇을 무엇으로 나눴는지만 확인하면 돼요.

둘째, 지금 가격은 원가 계산보다 고객을 붙잡기 위한 판단으로 정해져요. 해지 가능성이 큰 구독 쪽에 보조가 몰려 있어요.

셋째, 원가는 한 방향으로만 가지 않아요. 토큰당 원가가 내려가는 동안 서버와 부품 가격은 오르고 있고, 그 상승분은 감가상각을 거쳐 앞으로 손익에 반영돼요.

혹시 최근 1년 사이에 쓰시는 AI 도구의 단가가 실제로 내려간 경험이 있으신가요. 아니면 한도만 늘어나고 청구서는 그대로였나요. 어느 쪽인지 궁금해요.

참고자료 & 더 읽기

• 바클레이즈 리서치 AI 산업 요약 추정 (Barclays Research Estimates, 2026년 8월 28일) 본문 표는 이 자료의 수치를 재구성한 거예요. 비공개 리서치라 링크는 없어요.
• AI 이익 구도: 모델 기업 매출 100달러의 행방 (신랑차이징, 2026년 8월 29일) 같은 노트를 다룬 보도예요. 제품 라인별 이익률과 실험실 A/B 비교가 여기 있어요.
• The next wave of AI (Barclays Investment Bank) 바클레이즈 리서치의 공개 요약이에요. 단위 경제가 개선된다는 큰 그림을 확인할 수 있어요.
• AI COGS와 SaaS 매출총이익률 압축 (SaaS Magazine) ICONIQ 집계 기준 AI 제품 매출총이익률 추이가 정리돼 있어요. 분모 비교에 유용해요.
• 2분기 D램 계약가 전망 (한국경제) 메모리 인상률의 전망치 쪽 근거예요.

필자 안광섭 (오스왈드)은 세종대학교 겸임교수, INLEVEL9 전략 컨설턴트입니다. 경력, 연구, 저서와 최신 활동은 저자 소개에서 계속 갱신합니다. 최근 소식 · 2026년 8월: 2026 세종도서 교양부문 우수도서 선정.

용어 설명

각주

1. 추론(inference). 이미 학습을 마친 모델을 실제로 돌려서 답을 만들어내는 과정이에요. 모델을 만드는 훈련과 달리 서비스가 살아 있는 동안 계속 발생해요. ↩

2. 총액법과 순액법. 중개 성격의 거래에서 거래 대금 전체를 매출로 잡느냐(총액), 수수료만 잡느냐(순액)의 차이예요. 같은 사업도 어느 쪽을 쓰느냐에 따라 매출 규모와 이익률이 달라 보여요. ↩

3. CCL. 인쇄회로기판의 바탕이 되는 동박적층판이에요. MLB는 여러 층을 쌓은 기판, MLCC는 회로에 들어가는 소형 적층 세라믹 콘덴서를 말해요. ↩