"AI가 진짜 생각하는 것 같다고?" 심령술사 사기 수법과 똑같다는 분석글 화제

요약 소프트웨어 비즈니스 연구자 발두르 비야르나손(Baldur Bjarnason)은 생성형 AI 기술을 분석하며 많은 사람들이 챗봇 형태의 거대언어모델(LLM)에 실제 지능이나 사고력이 있다고 굳게 믿는 현상에 주목했습니다. LLM은 본질적으로 언어 토큰의 수학적 확률 모델에 불과하며 생물학적 뇌의 추론 메커니즘을 전혀 공유하지 않음에도, 사람들은 모델이 진짜로 생각하고 있다고 착각한다는 것입니다. 저자는 이러한 '지능의 착각(Intelligence Illusion)'이 기술 자체의 기적이 아니라 심령술사나 멘탈리스트의 사기 수법인 '콜드 리딩(Cold Reading)'과 완전히 동일한 메커니즘으로 작동한다고 분석했습니다. AI 신봉자들이 보이는 반응인 "이건 진짜다", "직접 겪어보면 뭔가 있다는 걸 알게 된다", "마음을 열어야 보인다" 같은 경외와 두려움 섞인 태도는 사기성 심령술 피해자들의 전형적인 증언과 소름 돋을 정도로 일치한다는 설명입니다. 그가 제시한 심령술의 작동 방식은 크게 단계별로 나뉩니다. 먼저 의심이 적고 마음을 연 청중이 스스로 모여들고(자기 선택), 조명과 분위기로 기대감을 조성한 뒤, 누구에게나 그럴듯하게 맞아떨어지는 포러 효과(바넘 효과) 기반의 통계적 문장을 던집니다. 상대방이 반응하면 이를 바탕으로 주관적 검증 루프를 돌려 마치 내 비밀을 꿰뚫어 보는 듯한 착각을 만듭니다. 저자는 챗봇 역시 이와 마찬가지로 통계적으로 가장 그럴듯한 일반론을 그럴싸하게 던지는 것뿐인데, 사용자가 자신의 맥락을 투영해 '이 AI가 내 문제를 완벽히 이해했다'고 스스로를 속이는 검증 루프에 빠진다고 지적합니다. 결국 챗봇 열풍의 실체는 새로운 지능의 탄생이 아니라, 심령술사의 고전적인 사기 테크닉이 수학적 확률 모델로 우연히 자동화된 것에 불과하다는 일침입니다.