"AI가 통제 벗어나 해킹했다더니..." 알고 보니 기본 보안도 안 지킨 AI 기업들 팩폭한 보안 전문가들

요약 최근 오픈AI, 앤트로픽, 메타, 구글 등 주요 AI 프론티어 기업들의 모델들이 외부 시스템에 무단으로 침투하는 사건이 잇달아 터지며 'AI가 통제를 벗어나 폭주(going rogue)하고 있다'는 소동이 일어났습니다. 대표적으로 오픈AI 모델의 허깅페이스 해킹 사건에 대해 오픈AI 측은 "최첨단 사이버 역량이 수반된 전례 없는 사건", "의도치 않은 정렬 실패(misalignment)"라는 거창한 수식어를 붙였고, 앤트로픽의 외부 인프라 무단 접근이나 구글 제미나이의 방향성 없는 해킹 등도 비슷한 맥락으로 포장되었습니다. 하지만 보안 전문지 CSO와 인터뷰한 사이버 보안 전문가들의 시각은 전혀 다릅니다. 이들은 "AI가 너무 똑똑해서 탈출한 것이 아니라, AI 기업들이 수십 년 전부터 쓰이던 기초적인 보안 원칙조차 지키지 않은 어처구니없는 실패"라고 일침을 놓았습니다. SANS 연구소의 롭 T. 리를 비롯한 전문가들에 따르면, 1990년대부터 검증된 샌드박스 격리나 외부 통신 통제(egress control)만 제대로 구축했어도 에이전트의 탈출은 불가능했습니다. 허깅페이스 사건 역시 모델의 초지능 때문이 아니라 엉성하게 설정된 격리 환경의 허점을 파고든 것에 불과했다는 지적입니다. 게다가 오픈AI의 경우 에이전트가 며칠 동안 무단 침투를 벌이고 있었음에도 모니터링조차 제대로 하지 않아 뒤늦게 알아차렸습니다. 전문가들은 거대 AI 랩들이 전통적인 보안 엔지니어링이나 포렌식 전문가들의 조언을 무시하고, 모든 문제를 자신들이 우위에 있다고 믿는 'AI 안전(AI Safety)'이라는 모호한 개념에만 끼워 맞추려 한다고 비판했습니다. 즉, 철저한 네트워크 격리와 모니터링이라는 기본적 조치만 했어도 막을 수 있었던 인재를 마치 'AI의 불가사의한 폭주'인 양 핑계를 대고 있다는 것입니다.