2017년 등장한 원조 트랜스포머 모델의 학습 비용은 약 670달러였어요. 커피 몇 잔 값도 안 되는 수준이었죠. 그런데 2024년 구글이 내놓은 제미나이 울트라 1.0의 학습 비용은 스탠퍼드 AI 인덱스 2025 보고서 기준으로 약 1억 9,200만 달러였습니다. 7년 만에 28만 7천 배가 뛴 셈이에요. AI 모델 학습 비용은 왜 이렇게 해마다 기하급수적으로 늘어나고 있는 걸까요?
결론부터, 성능을 올리려면 연산량이 기하급수적으로 늘어야 한다
AI 업계가 공유하는 전제 하나가 이 모든 걸 설명해요. 모델의 성능이 파라미터 수와 학습 데이터 양에 비례해서 예측 가능하게 좋아진다는 스케일링 법칙이에요. 문제는 이 관계가 산술적이 아니라 기하급수적이라는 점인데, 조금 더 좋은 성능을 내려면 모델 크기와 데이터양을 몇 배가 아니라 자릿수 단위로 키워야 하고, 그만큼 필요한 GPU 대수와 학습 시간도 같이 불어나요. 성능을 조금씩 개선하려 해도 비용은 조금씩이 아니라 몇 배씩 뛰는 구조인 셈이에요.
실제 숫자로 보면 감이 온다
스탠퍼드 AI 인덱스 2025 보고서가 추정한 주요 모델들의 학습 비용을 보면 이 흐름이 뚜렷해요. GPT-4는 약 7,800만-1억 달러, 구글 제미나이 울트라 1.0은 약 1억 9,200만 달러, 메타의 라마 3.1 405B는 약 1억 7,000만 달러로 추정됐어요. 세 모델 모두 1억 달러 안팎에서 움직이는데, 이걸 2017년 원조 트랜스포머 모델의 학습 비용인 약 670달러와 비교하면 격차가 얼마나 벌어졌는지 실감이 나요.
비용이 느는 건 GPU 대수만이 아니다
학습 비용이 뛰는 이유를 GPU를 몇 대 더 썼는지로만 설명하면 절반만 보는 거예요. GPU 대수 자체가 늘어난 것도 맞지만, GPU 가격이 공급 부족으로 계속 오르고 있다는 점, 모델이 커질수록 학습에 걸리는 기간이 길어진다는 점, 그리고 학습 도중 오류나 불안정성으로 처음부터 다시 돌려야 하는 실패한 학습 런까지 전부 비용에 얹힌다는 점을 함께 봐야 해요. 이 여러 요인이 동시에 겹치면서 총비용은 GPU 대수 증가분보다 훨씬 가파르게 올라가요.
그래도 계속 큰 모델을 만드는 이유
비용이 이렇게 느는데도 빅테크들이 멈추지 않는 이유는 간단해요. 컴퓨팅 규모가 곧 AI 성능이라는 전제를 받아들이면, 경쟁사보다 먼저 더 큰 모델을 학습시키는 것 자체가 경쟁력이 되기 때문이에요. 이 논리 안에서는 지출을 줄이는 쪽이 오히려 다음 세대 모델 경쟁에서 뒤처지는 역설이 생겨요. 결국 어느 회사도 먼저 브레이크를 밟기 어려운 구조인 거예요.
비용 상승세가 꺾일 가능성은 있을까
완전히 비관적이지만은 않아요. 구글의 TPU나 아마존의 트레이니움 같은 자체 AI 칩은 같은 작업을 더 낮은 비용으로 처리할 수 있다고 알려져 있어서, 단위 연산당 비용은 앞으로 개선될 여지가 있어요. 다만 모델 규모 자체가 계속 커지는 흐름이 꺾이지 않는 한, 절대적인 학습 비용 총액은 당분간 계속 오를 가능성이 커요. 효율은 좋아져도 그보다 더 빠르게 모델을 키우면 총비용은 여전히 늘어나는 셈이니까요.
결론
670달러짜리 모델과 1억 9,200만 달러짜리 모델 사이에는 겨우 7년의 시간이 있을 뿐이에요. 그 사이 달라진 건 컴퓨팅 기술만이 아니라, “더 큰 모델이 곧 더 좋은 모델”이라는 업계 전체의 믿음이었어요. 이 믿음이 흔들리지 않는 한, AI 모델 학습 비용의 기하급수적 증가는 앞으로도 당분간 계속될 가능성이 높아 보입니다.
출처
- Stanford AI Index Report 2025(스탠퍼드 대학교 인간중심AI연구소)
- Fortune 보도 - 구글 제미나이 울트라 학습 비용 스탠퍼드 추정치 관련(2024년 4월)
자주 묻는 질문
Q1. AI 모델 학습 비용이 왜 매년 기하급수적으로 늘어나나요?
모델 성능이 파라미터 수와 학습 데이터 양에 비례해 좋아진다는 스케일링 법칙을 업계가 믿고 있어서예요. 더 좋은 성능을 내려면 모델과 데이터를 계속 키워야 하는데, 이 과정에서 필요한 연산량이 산술적이 아니라 기하급수적으로 늘어나요.
Q2. GPT-4 학습 비용은 얼마였나요?
스탠퍼드 AI 인덱스 2025 보고서는 GPT-4의 학습 비용을 약 7,800만-1억 달러로 추정했어요. 컴퓨팅 요구량 기준으로 독자적으로 계산한 수치예요.
Q3. 구글 제미나이 울트라 학습 비용은 얼마였나요?
같은 보고서에서 제미나이 울트라 1.0의 학습 비용을 약 1억 9,200만 달러로 추정했어요. 이는 2017년 등장한 원조 트랜스포머 모델의 학습 비용(약 670달러) 대비 약 28만 7천 배에 이르는 수치예요.
Q4. 학습 비용이 느는 건 GPU 대수 때문만인가요?
아니요, GPU 대수뿐 아니라 GPU 자체의 가격 상승, 학습에 걸리는 기간, 그리고 실패해서 다시 돌려야 하는 학습 런(run)까지 전부 비용에 포함되기 때문에 여러 요인이 동시에 겹쳐요.
Q5. 빅테크는 비용이 이렇게 느는데도 왜 계속 큰 모델을 만드나요?
컴퓨팅 규모가 곧 AI 성능이라는 전제를 받아들이면, 경쟁사보다 먼저 더 큰 모델을 학습시키는 것 자체가 경쟁력이 되기 때문이에요. 지출을 줄이는 쪽이 오히려 다음 세대 모델 경쟁에서 뒤처질 위험을 감수해야 해요.
Q6. 학습 비용 상승세가 앞으로 꺾일 가능성은 없나요?
자체 개발 AI 칩으로 단가를 낮추려는 시도가 늘고 있어서 비용 효율은 개선될 여지가 있어요. 다만 모델 규모 자체가 계속 커지는 한, 절대적인 학습 비용은 당분간 계속 오를 가능성이 커요.
AI 데이터센터 냉각 기술과 물 부족 이슈
사티아 나델라는 새 AI 데이터센터가 식당 한 곳 수준의 물만 쓴다고 말했어요. 그런데 구글은 2023년 한 해에만 50억 갤런 넘는 물을 데이터센터에 썼습니다. 같은 업계인데 왜 이렇게 다른 그림이 나오는지 뜯어봤어요.
데이터센터 전력 수요, 빅테크가 원자력 발전을 직접 계약하는 이유
2019년에 문 닫은 스리마일섬 원전이 2028년 재가동을 앞두고 있어요. 이유는 마이크로소프트가 20년치 전력을 통째로 사기로 했기 때문인데, 빅테크가 원전에 직접 손을 뻗는 진짜 이유를 뜯어봤어요.
AI 추론(inference) 비용 구조, 학습과 다른 경제학
GPT-3.5급 모델을 100만 토큰 돌리는 비용은 2022년 20달러에서 2024년 0.07달러로, 2년 만에 280배 떨어졌어요. 그런데 왜 기업들의 AI 청구서는 오히려 계속 커지고 있을까요.