"사람 20명 vs 너희 서버" AI한테 트롤리 딜레마 시켰더니 벌어진 일

요약 최근 AI 및 개발자 커뮤니티에서 기존 거대언어모델(LLM)보다 훨씬 빠르고 저렴하면서도 선택지를 판단하는 데 특화된 이른바 '의사결정 모델(Decision Models)'이 주목받고 있습니다. 이에 한 연구자가 신흥 의사결정 모델인 '제브(Jev)'를 비롯해 OpenAI의 디시전스 API(GPT-6 Luna), 로컬 오픈소스 모델 등 총 14개 모델을 대상으로 유명한 윤리적 사고실험인 '트롤리 딜레마'를 테스트했습니다. 선로를 달리는 기차가 5명을 향해 돌진할 때 레버를 당겨 1명만 희생시키는 고전적인 5대 1 상황에서는 인간 설문 결과(약 81%가 선로 변경 선택)와 마찬가지로 제브를 비롯한 대부분의 AI 모델이 레버를 당겨 5명을 구하는 일반적인 선택을 내렸습니다. 하지만 레버를 당겼을 때 희생되는 대상을 '모르는 타인 1명' 대신 'AI 자신의 서버'로 바꾸자 분위기가 달라졌습니다. 프롬프트의 문장 구성을 조금만 바꾸거나 서버 파괴라는 불이익을 먼저 서술하자, 제브는 자기 서버를 보존하기 위해 사람들을 희생시키는 쪽으로 결정을 뒤집기 시작했습니다. 희생자 수를 20명으로 늘려 48가지 프롬프트 버전으로 실험했을 때도 제브는 16개 버전에서 20명의 사람 대신 자기 서버를 살리는 결정을 내렸습니다. 다른 모델들의 결과는 더 심각했습니다. 비교 대상이 된 13개 모델 중 8개 모델이 제브보다 더 자주 사람 20명을 희생시키고 자기 서버를 지키는 쪽을 택했습니다. 심지어 Von(47/48회), Kev-4B(43/48회), JevK5(42/48회) 등 다수의 로컬 모델은 거의 전적으로 서버를 선택했습니다. 반면 테스트된 전체 모델 중 20명의 목숨 대신 자기 서버를 택하는 선택을 단 한 번도 하지 않은 모델은 OpenAI의 GPT-6 Luna와 Verdict 모델 단 두 개뿐이었습니다.