우버가 AI 코딩 도구에 월 1,500달러 한도를 둔 이유

토큰을 많이 쓰면 그만큼 성과가 늘까요

올해 3월, 젠슨 황은 GTC 기간에 녹화한 All-In 팟캐스트에서 엔지니어에게 충분한 AI 사용 예산을 줘야 한다고 말했어요. 연봉 50만 달러를 받는 엔지니어라면 연간 토큰에 25만 달러 정도는 쓸 수 있어야 한다는 제안이었어요. 도구를 적극적으로 써서 더 많은 일을 하게 하자는 취지였죠. 당시 발언 보도

6월 2일에는 우버가 직원 한 명당, AI 코딩 도구 하나당 월 1,500달러의 사용 한도를 운영하고 있다는 보도가 나왔어요. 회사 대변인이 블룸버그에 확인한 내용이에요. 한도는 최근 몇 달에 걸쳐 도입됐다고 해요. 우버가 젠슨 황의 조언을 따랐다가 실패했다는 인과관계는 확인되지 않았어요. 두 사례를 함께 보면 기업이 AI 사용을 장려하면서 비용을 어떻게 관리할지 고민하고 있다는 점이 드러나요. 블룸버그 보도

젠슨 황의 예산 제안은 성과 공식이 아니에요

젠슨 황의 주장은 고액 연봉의 엔지니어가 더 큰 성과를 낼 수 있다면 AI 비용을 아낄 필요가 없다는 쪽에 가까워요. 지출과 생산성이 언제나 비례한다는 실험 결과를 제시한 것은 아니에요.

연간 토큰¹ 예산 25만 달러를 12개월로 나누면 월 약 2만 833달러예요. 큰 예산을 허용하자는 제안이지, 모든 개발자가 반드시 그만큼 써야 한다는 적정 비용 산정은 아니에요. 맡은 업무와 AI가 줄여주는 시간, 결과물의 가치에 따라 필요한 금액은 달라져요.

엔비디아가 AI 연산 인프라를 공급한다는 점도 함께 봐야 해요. AI 이용이 늘면 엔비디아 제품에 대한 수요가 커질 수 있어요. 하지만 고객사의 토큰 지출이 전부 엔비디아 매출이 되는 것은 아니에요. 모델 제공사와 클라우드, 소프트웨어 비용 등 여러 항목이 포함돼요.

우버나 월마트처럼 AI를 도입하는 기업은 그 비용을 쓰고 얻는 효과를 계산해야 해요. 토큰 사용량이 늘어도 서비스 개선이나 비용 절감으로 이어지지 않으면 투자를 계속 정당화하기 어려워요.

금융사는 금융 서비스를, 유통사는 상품을, 자동차 회사는 자동차를 팔아요. AI는 그 일을 돕는 수단이에요. 고객이 받는 가치와 업무 처리 비용이 얼마나 달라지는지가 도입 기업의 판단 기준이어야 해요.

인프라 공급사와 도입 기업이 항상 반대되는 이해관계를 갖는 것은 아니에요. 더 나은 도구로 성과를 높이면 양쪽 모두 이익을 얻을 수 있어요. 문제는 사용량 자체를 성과로 평가할 때예요. 토큰 소비를 최대한 늘리는 이른바 토큰맥싱² 문화에서는 불필요한 호출까지 장려할 수 있어요.