AI 임베딩 논문 보고 "아무 단어나 10개 골라도 원 나온다"며 맥주 내기 건 괴짜 연구자

요약 인공지능 연구실 동료가 LLM과 워드투벡터(word2vec)의 임베딩 기하학에 관한 논문을 발표해 트위터 등에서 큰 화제를 모았습니다. 논문에서는 1월부터 12월까지 12개 월(month) 단어 벡터의 주성분 분석(PCA) 2차원 투영이 예쁜 원형을 이루고 그람 행렬(Gram matrix)이 순환 행렬(circulant matrix) 형태를 띤다는 점을 보이며, 언어 모델의 표현 기하학과 데이터 통계의 연결성을 증명했습니다. 이를 지켜보던 저자는 이 '너무나 완벽한 기하학적 형태'에 의문을 품고 흠집을 내보고 싶다는 생각에, 서로 아무 상관 없는 무작위 단어 10개만으로도 똑같이 예쁜 원을 만들어낼 수 있다는 데 맥주 한 잔 내기를 걸었습니다. 25,000개 단어 중 10개를 뽑는 조합의 수는 약 3×10^37에 달하므로, 정보이론상 충분히 원을 그릴 수 있는 조합이 존재할 것이라 본 것입니다. 저자는 코딩 에이전트의 도움을 받아 단 반나절 만에 탐색 알고리즘을 짰습니다. 처음에는 무작위 추출 후 PCA상 원에 가까운 것을 고르는 방식이었으나 한계가 있어, 최악의 단어를 버리고 최적의 단어로 교체하는 반복 탐색 방식으로 업그레이드하고 목표 함수도 목표 순환 행렬과의 일치도로 바꿨습니다. 그 결과, 아무 관계없는 10개 단어로 완벽하게 원을 그리고 순환 그람 행렬을 만족시키는 단어 세트를 찾아내 내기에서 이겼습니다. 저자는 이 실험이 저차원 기하학적 패턴을 찾는 과정에서 통계적 제약이 부족하면 허위 패턴(spurious pattern)에 쉽게 속을 수 있음을 보여준다고 설명했습니다. 비록 10개 단어 수준의 패턴이었고 신호의 진폭은 원래 '월' 단어들보다 낮았지만, AI 해석 가능성(interpretability) 연구에서 자동 특징 탐색 알고리즘이 우연의 일치를 실제 의미 있는 구조로 착각할 수 있다는 중요한 시사점을 던집니다.