"항등 함수도 최적화한다"… Futhark 컴파일러의 기상천외한 GPU 복사 속도 향상 팁

요약 고성능 함수형 데이터 병렬 프로그래밍 언어인 푸사르크(Futhark) 개발진이 런타임 배열 레이아웃 정보를 활용해 GPU 상의 배열 복사 성능을 최적화하는 기법을 블로그를 통해 공개했습니다. 대부분의 일반적인 컴파일러는 수없이 많은 작은 단위의 메모리 복사를 발생시키기 때문에 런타임에 복잡한 최적화를 시도하는 것이 오히려 성능을 저하시킬 수 있습니다. 하지만 대규모 다차원 배열을 주로 다루는 언어인 푸사르크는 연산의 개수는 적은 대신 개별 연산의 크기가 매우 크다는 특성이 있어 특별한 런타임 분석 기법을 적용할 수 있습니다. 푸사르크는 다차원 배열의 인덱스 공간을 실제 컴퓨터 메모리의 1차원 주소 공간으로 매핑하기 위해 선형 메모리 접근 기술자(LMAD, Linear Memory Access Descriptors)를 사용합니다. LMAD는 각 차원의 크기(size)와 간격(stride) 쌍으로 구성되며, 이를 통해 물리적인 배열 복사 없이도 슬라이싱, 형태 변경(reshape), 전치(transpose) 같은 복잡한 연산을 가볍게 처리합니다. 기존에는 동일한 형태를 가진 배열 간의 복사를 수행할 때 단순 루프를 통해 처리하는 경우가 많았으나, 하드웨어 수준의 벡터화 등을 활용하는 memcpy나 GPU 전용 복사 루틴을 사용하는 것이 훨씬 효율적입니다. 이를 적용하려면 소스와 대상 배열의 레이아웃이 동일하고 메모리상에 빈 공간 없이 연속적으로 저장되어 있음을 검증해야 합니다. 푸사르크는 런타임에 LMAD의 인접 차원을 병합할 수 있는지 검사하는 탐색 알고리즘을 수행하여 연속성을 확인하며, 배열의 차원 수가 보통 적기 때문에 탐색 비용보다 복사 성능 향상으로 얻는 이득이 훨씬 큽니다. 개발팀은 이 기법이 실제 일부 프로그램의 성능을 향상시키며, 실용성 이상으로 구현 자체가 흥미로운 최적화라고 밝혔습니다.