"AI 코딩 매번 결과 다른 거? 사실 전혀 상관없습니다" 한 개발자의 고찰

요약 한 개발자가 LLM 기반 코딩에서 가장 큰 걸림돌로 꼽히던 '비결정론성(결과가 매번 달라지는 문제)'에 대해 생각을 바꾼 과정을 담은 에세이입니다. 글쓴이는 과거 동일한 프롬프트를 넣어도 매번 다른 코드가 출력되는 AI의 불확실성을 소프트웨어 엔지니어링의 치명적인 한계라고 여겼습니다. 정밀한 계산과 예측 가능성이 필수적인 시스템에서, 결과를 장담할 수 없는 도구를 기반으로 삼을 수는 없다는 입장이었습니다. 그러나 AI를 일상적인 코딩 도구로 정착시키는 과정에서, '결과물은 정확해야 하지만, 그 결과에 도달하는 경로까지 단 하나로 고정될 필요는 없다'는 점을 깨달았습니다. 프로그래밍 언어나 프레임워크가 달라도 동일한 문제를 해결할 수 있듯, 코드 자체는 최종 결과물일 뿐이며 LLM은 시스템 내부의 '확률적 행위자(Actor)'라는 시각입니다. 그는 엔지니어의 역할이 바로 이 확률 공간을 좁히는 것이라고 설명합니다. 컨텍스트 엔지니어링, MCP, 도구(Harness), 메모리 등을 통해 모델의 무작위성을 줄이고, 나아가 AI가 직접 작성한 결정론적 도구(검증된 함수나 API)를 호출하게 만듦으로써 미션 크리티컬한 작업에서도 정확한 결과를 얻고 토큰 낭비도 줄일 수 있다고 덧붙였습니다.