핵심 요약
- IBM CEO가 실적 발표에서 오픈 웨이트 AI 모델이 프론티어 모델 대비 10% 비용으로 90%의 성능을 낸다고 밝혔습니다.
- 이메일 요약이나 계약서 검토 등 대부분의 기업 업무에는 10배 비싼 프론티어 모델을 쓸 이유가 없다는 점을 강조했습니다.
- 사내 AI 인프라 구축 수요가 급증하고 있으나 네트워크와 엔지니어링 인력 부족이 기업들의 과제로 지적됐습니다.
요약 IBM의 아르빈드 크리슈나(Arvind Krishna) CEO가 실적 발표 컨퍼런스콜에서 오픈 웨이트(가중치 공개) AI 모델의 가성비를 강력하게 치켜세웠습니다.
크리슈나 CEO의 설명에 따르면, 2024년만 해도 프론티어 폐쇄형 모델의 벤치마크 점수가 70점일 때 오픈 모델은 20~30점에 불과해 격차가 컸습니다. 하지만 2025년 말부터 그 격차가 70점 대 50점 수준으로 좁혀지기 시작하더니, 최근에는 프론티어 모델의 90%에 달하는 성능을 고작 10~25% 수준의 토큰 비용으로 제공하고 있다는 분석입니다.
그는 기업 입장에서 최고 수준 모델 대비 90% 성능을 10분의 1 비용으로 쓸 수 있다면 대부분이 10배나 비싼 비용을 굳이 치르지 않을 것이라고 강조했습니다. 이메일 요약, 계약서 검토, 고객 응대 등 실제 기업 업무의 대다수는 이처럼 훨씬 저렴한 모델로도 충분히 해결 가능하다는 설명입니다.
이에 따라 사내 구축형(온프레미스) AI 인프라에 대한 관심이 급증하고 있다고 덧붙였습니다. 랙 2~3개 분량의 하드웨어만으로도 유용한 AI 인프라를 구축할 수 있지만, 커널 엔지니어링이나 GPU 네트워크 최적화, 캐싱 등을 다룰 전문 인력을 확보하는 것이 기업들의 새로운 난제로 떠오르고 있다고 짚었습니다. 한편 IBM은 이번 분기 총매출 171억 달러를 기록했으며, 레드햇의 11% 성장과 온프레미스 인프라 수요에 힘입어 가상화 및 가속기 사업 확장을 기대하고 있습니다.
Sponsored · 광고