개발자가 밝힌 '정수 오버플로와 0 나누기' 구현할 때 겪는 현실적인 딜레마

요약 고성능 함수형 병렬 프로그래밍 언어인 푸타르크(Futhark)의 개발자가 정수 연산과 오버플로 처리를 언어 차원에서 어떻게 설계해야 하는지에 대한 깊은 고민을 공유했습니다. 푸타르크는 C 언어 특유의 '정의되지 않은 동작(Undefined Behaviour)'을 허용하지 않는다는 기본 원칙을 가지고 있습니다. 병렬 프로그래밍이 복잡하거나 안전하지 않을 이유가 없다는 철학 때문입니다. 하지만 현실적인 구현 단계에서는 이상과 성능 사이에서 심각한 딜레마에 빠지게 됩니다. 가장 이상적인 방식은 Standard ML처럼 정수 범위를 벗어나는 모든 연산에서 오버플로 예외를 발생시키거나 0으로 나누기를 에러로 처리하는 것입니다. 푸타르크 역시 GPU 환경에서 동기식 중단 기법을 통해 0으로 나누기 에러나 범위 검사(bounds checking)를 구현해 둔 상태입니다. 하지만 배열 범위 검사는 최적화나 고차 함수(map, reduce) 덕분에 실제로 실행 시점에 검사하는 빈도가 적어 오버헤드가 4% 수준에 불과하지만, 정수 사칙연산은 코드 전반에 걸쳐 너무 자주 발생한다는 치명적인 문제가 있습니다. 모든 정수 연산마다 오버플로를 감지하고 정확한 발생 위치를 기록하며 즉각 중단하도록 만들면 엄청난 성능 저하가 불가피하기 때문입니다. 이에 개발자는 언어 설계자가 '정확성'을 어떻게 정의하느냐의 문제로 눈을 돌립니다. Pony나 Flix 같은 언어처럼 0으로 나누기 결과를 에러 대신 0 같은 특정 값으로 정의해 버리면 런타임 에러 검사 비용을 줄일 수 있습니다. 다만 이는 개발자의 논리적 버그를 숨길 위험이 따릅니다. 결국 성능과 수학적 엄밀함 사이에서 타협점을 찾아야 하는 프로그래밍 언어 설계자들의 유쾌하면서도 현실적인 고충을 잘 보여줍니다.