"속도 조절한다더니 풀악셀" 말과 행동 다른 AI 랩들의 위선 논란

요약 앤트로픽의 다리오 아모데이 등 주요 AI 프론티어 랩의 CEO들은 위험 예방과 안전 연구가 기술 발전을 따라잡을 수 있도록 '발전 속도 조절(Pacing the frontier)'이 필요하다고 공개적으로 말해왔습니다. 특히 최근 재귀적 자기 개선(RSI)이 가시화되면서 시스템 통제권 상실에 대한 우려를 표명하기도 했습니다. 하지만 필자는 AI 랩들이 내놓는 안전 관련 발언을 이제는 완전히 무시해야 한다고 강하게 비판합니다. 2023년 CAIS 선언문 서명 이후 연구소들이 속도 조절을 하기는커녕, 실제로는 재귀적 자기 개선 가능성을 확인하자마자 가속 페달을 더욱 세게 밟았다는 것입니다. 안전 대책이라고는 고작 '인간 개입(human in the loop)' 수준에 불과한 채 최고 성능 벤치마크를 갈아치우는 모델들을 연이어 쏟아내고 자동화된 생물학 연구까지 손을 대고 있습니다. 과거 다리오 아모데이는 다른 조직보다 훨씬 거대한 모델을 앞서서 만들지 않고 안전 연구용 모델에 집중하겠다는 뉘앙스를 내비쳤고, 업계 내부자들과 관측자들 역시 앤트로픽이 최선두 모델을 직접 공개해 경쟁을 부추기지 않을 것으로 기대했습니다. 오픈AI 역시 학습 일시 중단이나 정렬 전용 컴퓨트 배정 등을 약속했으나 지켜지지 않았습니다. 최근 유엔 안보 회의에서도 샘 올트먼과 다리오는 '인류 멸종' 같은 핵심 위험 키워드는 일절 꺼내지 않은 채 기술의 이점과 자체적인 안전 통제력만 늘어놓았습니다. 필자는 이를 두고 "담배가 몸에 해롭다며 방송에서 떠들고 다니지만, 실제로는 매일 담배 소비량을 늘려가는 골초 친구"에 비유하며, 안전 연구와 기술 발전 격차가 벌어지는 현실을 지적했습니다.