AI 도입 예산을 잡을 때 먼저 보는 숫자는 견적서의 월 사용료나 토큰 단가입니다. 이 단가는 빠르게 바뀌고 있어서 오늘 받은 견적의 단가가 몇 달 뒤에는 시장 가격과 달라질 수 있습니다.
제조 기업에는 이 비용을 따로 기록해 둘 이유가 하나 더 있습니다. McKinsey가 97개국 기업 임직원 약 1,700명에게 소속 회사의 AI 활용을 물은 조사에서 AI로 비용을 줄였다는 응답이 가장 많은 업무 3가지 가운데 하나가 공장의 제조 업무였습니다. AI로 줄인 비용을 설명하려면 AI에 든 비용도 같은 기준으로 기록돼 있어야 합니다.
AI 비용을 단가와 사용량, 사내 구축 비용 3가지로 나눠 정리했습니다.
AI 비용은 단가와 사용량, 사내 구축 비용으로 나눠 봅니다
단가는 AI가 글을 처리하는 단위인 토큰 100만 개당 가격입니다. ChatGPT가 나온 2022년 11월에 같은 수준의 모델을 기업이 쓰는 가격은 입력과 출력 구분 없이 20달러였고 2026년 9월 출시된 최신 세대 GPT-6의 가장 낮은 등급 Luna는 입력 0.10달러입니다. 같은 모델의 가격이 내려간 것이 아니라 더 저렴한 새 모델이 나온 것이라서 모델을 바꿔야 이 효과를 봅니다. 한시 가격이나 예정된 인상이 있는지도 함께 확인합니다.
사용량은 업무에 쓰는 토큰의 양입니다. 여러 단계를 스스로 실행하는 에이전트와 답하기 전에 단계별로 생각하는 추론 모델은 한 작업에 쓰는 토큰이 많습니다. 단가가 내려가도 사용량이 더 많이 늘면 총액은 줄지 않으므로 업무별 사용량을 따로 기록합니다.
사내 구축 비용은 AI 서버를 회사 안에 직접 둘 때 드는 비용입니다. 클라우드 요금에 포함돼 있는 전기와 냉각 비용을 회사가 따로 내고 서버를 둘 건물에 전력 증설이나 냉각 설비 공사가 필요할 수 있습니다.
3가지를 나눠 적어 두면 AI 비용이 늘었을 때 단가 때문인지 사용량 때문인지 설비 때문인지 구분할 수 있습니다.
기업이 쓰는 AI 모델의 단가는 계속 내려갔습니다
ChatGPT가 나온 2022년 11월부터 OpenAI 모델의 가격을 시점별로 보면 이렇습니다. 가격은 모두 토큰 100만 개당이고 2023년까지는 입력과 출력 가격이 같았습니다.
ChatGPT가 나온 2022년 11월에는 20달러였습니다
ChatGPT가 공개된 2022년 11월에 같은 수준의 모델 text-davinci-003을 기업이 쓰는 가격은 20달러였습니다. OpenAI는 2023년 3월 ChatGPT에 쓰는 모델 GPT-3.5 Turbo를 기업용으로 출시하며 가격을 2달러로 정했습니다.
2024년 7월에 출시된 소형 모델 GPT-4o mini는 입력 0.15달러, 출력 0.60달러였습니다. OpenAI는 이 모델이 GPT-3.5 Turbo보다 저렴하다고 밝혔습니다. 2026년 9월에 출시된 최신 세대 GPT-6에서 가장 낮은 등급인 Luna는 입력 0.10달러, 출력 0.50달러입니다.
같은 모델의 가격이 내려간 것이 아니라 더 저렴한 모델이 나왔습니다
시점마다 모델이 다릅니다. 새 모델이 더 저렴한 가격으로 나오면서 단가가 내려갔습니다.
단가가 내려간 효과를 보려면 지금 쓰는 모델을 비슷한 용도의 새 모델로 바꿀 수 있는지 확인해야 합니다. 계약한 모델을 그대로 쓰면 단가도 그대로일 수 있습니다.
토큰은 AI가 글을 나눠 처리하는 단위입니다
AI 서비스는 대부분 토큰 수로 요금을 매깁니다. 사용자가 입력하는 글과 AI가 출력하는 글이 모두 토큰으로 계산됩니다.
같은 세대 안에서도 등급에 따라 가격이 다릅니다
OpenAI가 2026년 9월 출시한 GPT-6 계열은 등급이 3가지입니다. 입력 가격은 가장 높은 등급 Astra가 10달러, 중간 등급 Sol이 2달러, 가장 낮은 등급 Luna가 0.10달러입니다.
모든 업무에 가장 높은 등급을 쓸 필요는 없습니다. 업무별로 필요한 등급을 정하는 것이 단가를 낮추는 방법입니다.
출력 토큰이 입력 토큰보다 비쌉니다
GPT-6은 세 등급 모두 출력 가격이 입력 가격의 5배입니다. 짧게 묻고 긴 보고서를 받는 업무는 출력 토큰이 많아서 총액에서 출력 가격이 차지하는 비중이 큽니다.
견적을 비교할 때는 입력 단가만 보지 않고 업무에서 입력과 출력이 각각 얼마나 되는지 함께 확인합니다.
단가에는 한시 가격과 예정된 인상도 있습니다
단가가 내려가기만 하는 것은 아닙니다. OpenAI는 2026년 8월 GPT-5.6 Sol의 가격을 20% 넘게 내리면서 3개월 동안만 적용한다고 밝혔습니다. Google은 Gemini Flash 일부 모델의 지금 가격을 2026년 12월 31일까지만 적용하고 2027년 1월 1일부터 2배로 올린다고 가격표에 적어 두었습니다.
견적의 단가가 언제까지 적용되는지 확인합니다
견적서에 적힌 단가가 한시 가격인지, 인상 일정이 잡혀 있는지 확인합니다. 한시 가격을 기준으로 1년 예산을 잡으면 적용 기간이 끝난 뒤에 예산이 모자랍니다.
오늘 단가로 3년 예산을 고정하지 않습니다
새 모델이 나올 때마다 단가가 내려가면 3년 계약을 오늘 단가로 맺은 회사는 시장 가격보다 비싸게 쓰게 됩니다.
계약서에 단가 재조정 주기를 적어 두거나 1년 단위로 예산을 다시 계산합니다. 다시 계산할 때는 비슷한 용도의 더 저렴한 모델이 나왔는지도 함께 확인합니다.
에이전트와 추론 모델은 한 작업에 쓰는 토큰이 많습니다
에이전트는 목표를 받으면 여러 단계를 스스로 실행하는 AI입니다. 추론 모델은 답을 내기 전에 단계별로 생각하는 데 연산을 더 쓰는 모델입니다. 두 방식 모두 일반 대화형 AI보다 한 작업에 쓰는 토큰이 많습니다.
추론 모델은 정확도가 올라가는 대신 토큰 소모와 응답 시간과 비용이 늘어납니다. 복잡한 판단에는 효과가 있지만 정해진 양식을 채우는 반복 업무에 쓰면 필요 이상의 비용이 듭니다. 제조 기업이라면 매일 같은 양식으로 만드는 생산 일보나 주간 보고서가 반복 업무에 해당합니다.
업무별로 사용량을 기록합니다
단가가 내려간 만큼 비용이 줄었는지 확인하려면 업무별로 한 달에 쓰는 토큰 수와 작업 1건에 쓰는 토큰 수를 기록합니다. 에이전트나 추론 모델을 쓰는 업무는 따로 적습니다.
기록이 없으면 비용이 늘어난 원인을 구분할 수 없습니다
청구 금액이 늘었을 때 단가가 올랐는지, 사용량이 늘었는지, 더 비싼 등급의 모델로 바뀌었는지를 구분하려면 업무별 기록이 있어야 합니다.
추론 모델이 필요한 업무와 그렇지 않은 업무를 나눠 두면 반복 업무에는 낮은 등급 모델을 쓰는 결정도 할 수 있습니다.
사내에 직접 구축하면 전력과 냉각 비용이 따로 듭니다
클라우드 서비스 요금에는 서버가 쓰는 전기 요금과 서버를 식히는 냉각 비용이 포함돼 있습니다. AI 서버를 회사 안에 두면 이 비용을 회사가 따로 냅니다.
그래서 클라우드 월 요금과 서버 구매 가격만 비교하면 사내 구축이 실제보다 저렴해 보입니다. 서버 가격에 전기 요금과 냉각 설비, 설치 공사비를 더해야 클라우드와 같은 조건으로 비교할 수 있습니다.
사내 구축을 검토하는 이유가 비용이 아니라 보안인 회사도 있습니다. 외부 인터넷과 분리한 사내 서버에서 AI 모델을 쓰려는 회사입니다. 이 경우에도 아래 비용은 똑같이 듭니다.
최신 AI 칩은 1개가 최대 1,400W를 쓰고 액체로 식혀야 합니다
NVIDIA의 최신 데이터센터용 AI 칩 B300은 1개가 최대 1,400W를 쓰고 AI 서버 1대는 B300을 여러 개 씁니다. 전기를 많이 쓰는 만큼 열도 많이 나서 공기로 식히는 일반 냉방이 아니라 액체로 식히는 냉각 설비가 필요합니다.
서버를 둘 건물의 전력 용량과 냉각 설비부터 확인합니다
사내 구축을 검토한다면 서버를 둘 건물의 전력 용량에 여유가 있는지, 액체 냉각 설비를 설치할 수 있는지 먼저 확인합니다. 여유가 없으면 전력 증설 공사와 냉각 설비 공사가 서버 가격과 별도로 듭니다.
견적도 서버와 공사를 함께 받습니다. 서버 가격만 받아 비교하면 설치 단계에서 공사비가 추가로 생길 수 있습니다.
AI 서버용 메모리는 2026년 생산 물량이 사실상 모두 판매됐습니다
AI 서버에는 고성능 전용 메모리가 필요합니다. 시장조사기관 TrendForce는 2026년 2월 분석에서 이 메모리의 2026년 생산 물량이 사실상 모두 판매됐다고 밝혔습니다.
서버를 사기 전에 납기부터 확인합니다
부품 공급에 여유가 적으면 서버를 주문한 뒤 받기까지 오래 걸릴 수 있습니다. 사내 구축 일정은 공급사에 납기를 확인한 뒤에 잡습니다. 서버를 받기 전까지는 클라우드로 먼저 쓰는 방법도 있습니다.
AI 예산은 단가와 사용량, 사내 구축 비용을 나눠 적습니다
예산 표에 3가지를 따로 적는 방법입니다.
1 단가는 계약 조건과 함께 적습니다
지금 쓰는 모델의 입력 단가와 출력 단가, 계약 기간, 단가를 다시 정하는 주기입니다. 그 단가가 한시 가격인지, 인상 일정이 있는지도 적습니다. 1년마다 비슷한 용도의 더 저렴한 모델이 나왔는지 확인하고 예산을 다시 계산합니다.
2 사용량은 업무별로 적습니다
업무별 월 토큰 수와 작업 1건당 토큰 수, 쓰는 모델 등급입니다. 에이전트나 추론 모델을 쓰는 업무는 따로 적습니다. 생산 일보 같은 양식이 정해진 반복 업무는 낮은 등급 모델로 바꿀 수 있는지 봅니다.
3 사내 구축 비용은 전력과 냉각까지 적습니다
서버 가격과 전력 증설, 냉각 설비, 설치 공간, 납기입니다. 서버를 둘 건물의 전력 용량도 함께 적습니다.
4 클라우드로 먼저 쓰고 사용량이 일정해지면 사내 구축과 비교합니다
사용량이 매달 크게 바뀌는 초기에는 클라우드 서비스가 유리합니다. 사용량이 일정해지면 사내에 직접 두는 쪽이 경제성에서 유리해질 수 있습니다. 1번과 2번 기록이 있어야 이 비교를 할 수 있습니다.
다음 회의에서 확인할 것은 하나입니다. AI 비용이 늘었을 때 단가 때문인지 사용량 때문인지 구분할 수 있는 기록이 있는지입니다.
디피니트 블로그를 구독하세요
디피니트는 제조 기업의 원가와 손익을 설명 가능하게 만드는 회사입니다. ERP 숫자와 현장 인식이 다를 때 근거를 대지 못하는 상황을, AI가 원인을 항목 단위로 분해해 조치 방향까지 보여주도록 바꿉니다.
그 과정에서 알게 된 것들을 블로그에 정리하고 있습니다. AI를 어디까지 맡기고 어디서 사람이 판단할지 고민하고 계신다면, 디피니트 블로그를 구독하고 새 글을 먼저 받아보세요.