"1년 반 만에 700배 폭락"… 미친 속도로 떨어지는 AI 추론 비용 근황

요약 에포크 AI(Epoch AI)의 최신 보고서에 따르면 인공지능(AI)의 추론 및 성능 비용이 역사상 어떤 기술보다도 가파르게 폭락하고 있는 것으로 나타났습니다. 지난 3년 동안 동일한 수준의 AI 성능을 구현하는 데 드는 비용은 분기마다 평균 약 47%씩 감소했으며, 이는 연간으로 환산하면 무려 13배씩 가격이 하락하는 셈입니다. 실제 성능 지표와 가격 추이를 비교해 보면 하락 폭은 더욱 두드러집니다. 2025년 1월 기준으로 고난도 지식 벤치마크인 GPQA 다이아몬드에서 75% 정답률을 기록했던 오픈AI의 o3 모델은 질문당 약 0.30달러(약 400원)의 비용이 소모되었습니다. 반면 약 18개월이 지난 2026년 중반 공개된 GPT-5.6 루나(Luna) 모델은 거의 동일한 75% 수준의 성적을 내면서도 질문당 단 0.0004달러 수준에 불과했습니다. 1년 반 만에 약 725배에 달하는 파격적인 비용 절감이 이뤄진 것입니다. 보고서는 AI 모델이 단순히 더 똑똑해지는 데 그치지 않고, 동일한 지능을 발휘하는 데 필요한 추론 연산 비용 자체가 극적으로 줄어들고 있다고 강조했습니다. 이처럼 프론티어 최상위 모델들이 기존 모델 대비 압도적인 성능을 보일 뿐만 아니라 동일 성능 대비 운용 단가마저 비약적으로 저렴해지면서, 시장에서 오픈소스 모델이 프론티어 모델을 위협할 것이라는 우려가 실제보다 과장되었음을 보여주는 주요한 근거로 해석되고 있습니다.