기타 Hacker News · 7시간 전

1조 파라미터 뚫어버린 미스트랄 라지 4 공개됨 ㄷㄷ

핵심 요약
  • 미스트랄 AI가 총 1.05조 파라미터(활성 파라미터 49B) 규모의 MoE 멀티모달 모델 '미스트랄 라지 4'를 공개했습니다.
  • 1.6B 비전 인코더와 100만(1M) 토큰 컨텍스트를 지원하는 오픈 웨이트 모델이라는 점에서 주목받고 있습니다.
  • 함수 호출, 에이전트, 문서 Q&A 등 주요 기능과 함께 구체적인 API 가격 정보도 함께 공개되었습니다.
요약 프랑스의 대표적인 AI 스타트업 미스트랄 AI(Mistral AI)가 차세대 대규모 언어 모델인 '미스트랄 라지 4(Mistral Large 4)'를 공개했습니다. 이번 모델은 미세 단위의 MoE(Mixture-of-Experts) 구조를 채택한 오픈 웨이트 범용 멀티모달 모델입니다. 공개된 기술 사양에 따르면 미스트랄 라지 4는 전체 파라미터가 1.05조 개(1.05T)에 달하며, 실제 추론 시 활성화되는 파라미터는 490억 개(49B) 수준입니다. 여기에 16억 개(1.6B) 규모의 비전 인코더가 결합되어 멀티모달 작업을 지원하며, 최대 100만(1M) 토큰의 방대한 컨텍스트 윈도우를 제공합니다. 개발자 API 이용 요금 또한 백만 토큰당 입력 0.68달러, 캐시 입력 0.07달러, 출력 2.09달러 수준(할인 기준)으로 제시되었습니다. 주요 기능으로는 구조화된 출력(Structured Outputs), 함수 호출(Function Calling), 문서 Q&A, 에이전트 및 대화 관리 기능 등이 포함되어 엔지니어 및 AI 개발 생태계의 큰 주목을 받고 있습니다.
Sponsored · 광고