"환각을 보는 건 AI가 아니라 우리 인간이다" 기술 칼럼 화제

요약 SF 작가 코리 닥터로우가 기술 블로그 'Pluralistic'을 통해 '우리가 AI를 대할 때 느끼는 기괴함과 착각(The Claude Delusion)'에 대한 흥미로운 철학적 고찰을 남겼습니다. 글쓴이는 "어쩌면 환각(hallucination)을 보고 있는 건 AI가 아니라 우리 인간일지도 모른다"는 질문을 던집니다. 그는 먼저 무신론자가 노을을 바라볼 때의 심경 변화를 예로 듭니다. 신을 믿을 때는 노을의 아름다운 색채를 '신의 의도된 창조물'로 보지만, 신앙이 사라진 뒤의 노을은 여전히 경이롭고 아름다울지언정 '의도나 목적이 텅 빈' 자연 현상일 뿐입니다. 반면 화가가 그린 노을 그림이나 누군가가 휴대폰으로 찍어 보낸 노을 사진은 신의 작품은 아닐지라도, 타인의 마음과 '전달하고자 하는 명확한 의도'가 담겨 있습니다. 인간의 뇌는 교통사고를 피하거나 포커 게임을 이기고, 타인을 사랑하거나 용서할 때처럼 항상 '상대의 의도를 파악하는 반사 작용'을 하도록 진화했습니다. 소설이나 영화 속 허구의 등장인물에게 감정 이입을 해 눈물을 흘리는 것 역시, 다른 인간의 마음에 공감하려는 인간 뇌의 인지적 해킹(hack) 현상입니다. 문제는 AI가 생성해 낸 글이나 그림입니다. AI는 통계적 추론 시스템일 뿐 어떤 의도도 품지 못하며 '의도 자체가 결여된 채 밀려 나오는(extruded) 결과물'에 불과합니다. 하지만 인간은 진화적 본능 때문에 AI의 그럴듯한 텍스트나 그림을 접할 때조차 무의식적으로 '그 이면에 어떤 의도를 가진 마음이 있을 것'이라고 착각하고 감정을 투사하며, 바로 여기서 마크 피셔가 말한 '아무것도 없어야 할 곳에 무언가 존재하는 듯한 기괴함(eeriness)'을 느끼게 된다고 분석합니다.