AI가 수학 난제 다 푸는데 인간은 이해 못함… 수학의 황금기일까 암흑기일까?

요약 필즈상 수상자인 세계적 수학자 테렌스 타오의 블로그에 프란체스코 마지(Francesco Maggi) 교수가 기고한 글에서, AI가 수학 연구에 본격 도입되며 맞이할 미래에 대한 깊이 있는 분석이 제기되었습니다. 기고자는 현재 LLM(대형 언어 모델)이 나비에-스토크스 방정식의 유한 시간 폭발해 구성이나 준 리만 가설 증명 시도 등 매우 복잡한 수학적 난제를 푸는 데 놀라운 성과를 내고 있음을 인정했습니다. 하지만 AI는 형식 증명 언어인 린(Lean)으로 수십만 줄에 달하는 코드를 작성하는 것에는 능숙하지만, 이를 인간이 이해할 수 있는 자연어로 번역하는 작업에는 심각한 한계를 보인다고 지적했습니다. 그 결과 기계적으로 검증된 정답 증명 코드는 존재하지만 인간 수학자가 직접 읽고 이해하기는 불가능에 가까운 기현상이 발생하고 있습니다. 저자는 이를 바탕으로 과학계가 두 가지 갈래길에 서 있다고 경고합니다. 새로운 세대의 과학자를 육성하고 개방적인 연구 생태계를 지키는 '황금기'가 될 수도 있지만, 극소수의 연구진만이 독점한 채 인간이 결코 이해할 수 없는 지식이 양산되어 인간 고유의 탐구력이 쇠퇴하는 '암흑기'로 이어질 수도 있다는 것입니다. 결국 인간의 인지적 이해가 배제된 수학은 인류 문화로서의 의미를 잃게 되므로, AI의 등장으로 수학이 끝났다고 볼 것이 아니라 AI가 쏟아내는 증명을 해석하고 인간의 지식으로 소화할 수 있는 더 많은 수학자가 사회적으로 필요해질 것이라는 게 핵심 주장입니다. 또한 과도한 speculative한 찬양을 경계하고 냉정한 과학적 회의론을 유지해야 한다고 강조했습니다.