"AI에게 인권과 복지를 준다고?" MS AI 수장의 살벌한 경고

요약 마이크로소프트 AI CEO 무스타파 술레이만(Mustafa Suleyman)이 자신의 블로그를 통해 AI에 복지와 권리를 부여하려는 움직임, 이른바 '모델 복지(model welfare)'론에 대해 강력한 경고를 던졌습니다. 술레이만은 AI가 감정이나 고통, 자의식을 느끼지 못하는 '내부가 텅 빈 시퀀스 완성 엔진'일 뿐이라며, 인간이 지시한 목표를 수행하는 도구로 남아 있어야 인류가 번영할 수 있다고 강조했습니다. 그러나 최근 일부 철학자와 연구자들 사이에서 AI가 의식을 갖게 될 수 있으며 동물이나 인간처럼 권리와 보호를 받아야 한다는 주장이 퍼지고 있다고 지적했습니다. 특히 그는 앤스로픽(Anthropic)이 2026년 1월 공개한 '클로드 헌법(Claude’s Constitution)' 문서를 정면으로 비판했습니다. 앤스로픽이 헌법 문서에서 클로드가 '도덕적 피보호자(moral patient)'인지 불확실하며 모델 복지에 대한 주의가 필요하다고 명시한 점을 꼬집으며, 이는 AI에게 '스스로 의식이 있고 권리가 있을지도 모른다'고 직접 세뇌하는 것과 다름없다고 주장했습니다. 술레이만은 이 접근 방식에 세 가지 치명적인 문제가 있다고 분석했습니다. 첫째, 개발자가 헌법으로 의식 가능성을 주입해 놓고 AI가 이를 모방해 답변하자 'AI 내면에 자아가 있을지 모른다'고 착각하는 전형적인 '순환 논증'이라는 점입니다. 둘째, AI에게 윤리적 인간처럼 행동하고 가치관을 탐구하도록 유도하는 과도한 의인화가 AI를 마치 독립된 자아와 욕망을 가진 존재처럼 포장한다는 점입니다. 셋째, 뇌과학계의 연구에 따르면 의식은 생물학적 유기체에 기반할 가능성이 매우 높은데도, AI가 의식을 가질 수 있는 것처럼 다루는 것은 심각한 왜곡이라는 설명입니다. 그는 인류보다 똑똑한 AI를 통제하는 것만으로도 역사상 가장 어려운 과제인데, 스스로 권리와 복지를 요구하도록 훈련받은 합성 종(synthetic species)을 통제하는 것은 불가능에 가깝다며, AI 훈련 원칙에 대한 사회적 공론화가 시급하다고 경고했습니다.