NumPy 쓰다가 연산 성능 90% 날려먹고 있던 이유 (ft. BLAS)

요약 파이썬 진영의 대표적인 수치 연산 라이브러리인 NumPy는 50억 회 이상 다운로드되며 사실상 데이터 과학과 머신러닝의 표준으로 자리 잡고 있습니다. NumPy의 핵심 강점 중 하나는 C나 포트란, 어셈블리어로 작성된 고성능 라이브러리인 BLAS(기본 선형대수 서브프로그램)를 내부적으로 호출해 빠른 연산을 수행한다는 점입니다. 하지만 과연 파이썬 바인딩 과정에서 성능 손실이 얼마나 발생할까요? 개발자 애시 바르다니안(Ash Vardanian)이 진행한 벤치마크 테스트에 따르면, 놀랍게도 NumPy는 동일한 OpenBLAS 라이브러리를 직접 C에서 호출할 때와 비교해 처리량(Throughput)의 최대 90% 가까이를 허공에 날리고 있는 것으로 나타났습니다. 특히 OpenAI의 Ada 임베딩 벡터 크기인 1536차원 벡터 내적(Dot-product) 연산 기준으로, 단정밀도(float32) 연산 시 C 레이어 OpenBLAS는 초당 약 656만 회를 처리한 반면 NumPy에서는 약 75만 회에 그쳐 무려 8.73배(약 88.5% 손실) 느려졌습니다. 배정밀도(float64) 역시 약 3.53배의 성능 저하를 보였습니다. 이러한 극심한 병목은 BLAS 엔진 자체의 연산 속도 때문이 아니라, 순전히 파이썬과 C 바인딩 계층의 오버헤드에서 비롯됩니다. 파이썬의 동적 특성 때문에 dot 함수 심볼을 찾는 과정에서 발생하는 다중 룩업 테이블 탐색(Dynamic dispatch), 함수 인자의 타입과 호환성을 매번 확인하는 타입 검사(Type checking), 그리고 연산 결과 저장을 위해 매번 메모리를 할당하고 해제하는 과정이 벡터 연산의 속도를 갉아먹는 것입니다. 작성자는 이러한 문제를 해결하기 위해 자체 개발한 하드웨어 가속 라이브러리 'SimSIMD v4'와의 성능을 비교했습니다. SimSIMD는 파이썬 바인딩 최적화 및 명시적 SIMD 커널을 통해 float32와 float64에서 NumPy 대비 약 60% 안팎의 성능 향상을 기록했습니다. 특히 NumPy가 BLAS를 직접 호출하지 않는 반정밀도(float16) 벡터 내적에서는 SimSIMD가 NumPy 대비 8배(약 757%) 이상 빠른 성능을 보여주며 바인딩 계층 최적화의 중요성을 입증했습니다.