"AI한테 코드 최적화 맡겨봤습니다" 엘라스틱서치 개발팀의 성능 개선 파이프라인 실험기

요약 엘라스틱서치(Elasticsearch) 개발진이 방대한 코드베이스의 성능 최적화를 위해 AI 코딩 에이전트를 도입한 실험 과정과 전용 하네스(Harness) 파이프라인 구조를 공개했습니다. 엘라스틱서치는 대규모 색인 생성부터 실시간 검색, 분석까지 매우 다양한 워크로드를 처리하기 때문에 전체 코드 영역에 걸쳐 병목 지점을 일일이 사람이 분석하고 최적화하기에는 개발 인력과 시간의 한계가 명확했습니다. 개발진은 성능 최적화 작업이 AI에게 매우 적합한 이유로 세 가지를 꼽았습니다. 첫째, 체감이나 주관이 아닌 벤치마크 수치라는 객관적인 판정 기준(Objective verdict)이 존재한다는 점입니다. 둘째, 프로파일러를 통해 단순한 성공 여부를 넘어 다음 가설을 세울 수 있는 풍부한 가이드 신호(Dense guiding signal)를 얻을 수 있습니다. 셋째, AI의 코드가 잘못되더라도 변경 사항을 롤백하면 그만이라 실패 비용의 영향 범위(Bounded blast radius)가 제한적이라는 점입니다. 하지만 단순히 AI 에이전트에게 벤치마크를 맡기면 환경적 편차나 쓰로틀링 같은 노이즈로 인해 실질적인 성능 개선을 가려내기 어렵습니다. 이를 해결하기 위해 엘라스틱서치는 'atune'이라는 전용 CLI 도구와 '제안자-검증자(Proposer-Verifier) 루프'를 포함한 하네스를 구축했습니다. 시스템은 실제 워크로드 프로파일링을 통해 핫스팟을 찾는 '탐색(Exploration)', 인간의 승인을 거쳐 마이크로벤치마크 기반으로 최적화 코드를 반복 수정·커밋하는 '실행(Exploitation)', 그리고 실제 워크로드에서 최종 성능을 검증한 뒤 PR을 여는 3단계 파이프라인으로 설계되었습니다. 이를 통해 ES|QL의 문자열 변환 비효율 개선, NEON 벡터 내적 연산 향상 등 실질적인 성능 성과를 거두기 시작했다고 밝혔습니다.