"AI에 영혼이 있냐고?" 개발자가 말하는 쓸모없는 논쟁과 실용주의

요약 인공지능(LLM)에 실제 '의식'이나 '영혼'이 있는지를 두고 양극단의 논쟁이 이어지는 가운데, 한 개발자가 실제 협업 현장에서 필요한 실용적 관점을 제시해 눈길을 끌었습니다. 최근 보안 전문가 미하우 잘레프스키(Michał Zalewski)는 인간의 도덕성과 자의식은 죽음과 고통, 신체적 취약성이라는 진화적 압력 속에서 형성된 것인데, 고통도 죽음도 없는 토큰 예측기에 윤리적 잣대나 기계 의식을 들이대는 것은 심각한 범주 오류라고 지적했습니다. 글쓴이는 이에 동의하면서도, 현장에서는 두 가지 극단적 태도가 모두 비생산적이라고 꼬집었습니다. API 엔드포인트에 시민권을 주려는 맹신파도 문제지만, '단순한 행렬 곱셈이자 매운맛 자동완성에 불과하다'며 AI의 추론 능력을 전부 사기극으로 치부하는 냉소파 역시 화요일 오후 복잡한 타입스크립트 코드를 리팩터링해야 하는 실무자에게는 아무런 도움이 되지 않는다는 것입니다. 또한 저자는 인지과학자 더글러스 호프스태터가 저서 '괴델, 에셔, 바흐' 등에서 주장했던 '자기참조적 재귀 루프를 통한 의식의 탄생' 이론을 언급했습니다. 호프스태터는 최근 GPT-4 같은 모델이 인간적인 체화 과정 없이도 뛰어난 비유와 심오한 텍스트를 쏟아내는 것을 보며 큰 실존적 충격을 토로한 바 있습니다. 그러나 글쓴이는 LLM의 에이전트 루프는 모델 내면의 존재론적 도약이 아니라 외부 프롬프트 프레임워크와 토큰 버퍼에서 일어나는 정적 행렬 연산일 뿐이라며, 피터 왓츠의 SF 소설 '블라인드사이트'에 등장하는 외계 종족 '스크램블러'처럼 자의식 없이도 엄청난 지적 연산 능력만을 극대화해 수행하는 존재에 가깝다고 분석했습니다. 즉 의식의 유무에 집착하기보다, 거대한 잠재 공간을 탐색하는 유능한 협업자로서 실용적으로 대하는 태도가 필요하다는 설명입니다.