"AI도 잠을 자야 똑똑해진다?" 구글이 공개한 LLM 수면 프레임워크

요약 구글 리서치 연구진이 대형 언어 모델(LLM)의 고질적 한계로 꼽히던 '지식 단절(Knowledge Cutoff)'과 '치명적 망각(Catastrophic Forgetting)' 현상을 극복하기 위해 인간의 수면 메커니즘을 모방한 '수면(Sleep) 프레임워크'를 발표했습니다. 기존 LLM은 학습이 완료되어 배포되고 나면 지식이 고정되어 추가적인 정보를 영구적으로 학습하기 어렵고, 새로운 데이터를 지속해서 학습시키면 이전 지식이 망가지는 치명적 망각 문제가 발생했습니다. 문맥 창(Context Window)을 통한 단기 기억 활용 역시 세션이 종료되면 사라진다는 한계가 있었습니다. 연구진이 제안한 수면 프레임워크는 인간 뇌가 수면 중 기억을 정리하고 장기 기억으로 전환하는 과정에 착안했습니다. 이 시스템에서 모델은 사용자와 상호작용하며 단기 메모리에 데이터를 축적하는 '활동(Wake) 단계'와, 새로운 입력을 멈추고 축적된 기억을 정리하고 강화하는 오프라인 '수면(Sleep) 단계'를 주기적으로 번갈아 거치게 됩니다. 수면 단계는 크게 '기억 강화(Memory Consolidation)'와 '꿈(Dreaming)'이라는 두 가지 과정으로 나뉩니다. 비렘(NREM) 수면을 본뜬 기억 강화 단계에서는 MoE(Mixture-of-Experts) 구조를 활용해 새로 할당된 메모리 블록을 열고, 지식 증류(Knowledge Distillation)와 강화학습(RL) 기반 모방 학습을 통해 단기 기억을 안전하게 장기 파라미터로 전환한 뒤 임시 기억 공간을 정리(가지치기)합니다. 이어 렘(REM) 수면에 해당하는 꿈 단계에서는 MoE 라우터가 무작위 전문가 블록을 활성화해 합성 데이터(꿈)를 생성하고, 이종 도메인의 지식을 결합해 스스로 성능을 개선하는 자율 훈련 루프를 수행합니다. 이를 통해 배포된 모델이라도 기본 구조를 해치지 않으면서 새로운 지식을 지속해서 흡수할 수 있게 됩니다.