"통제 벗어난 AI는 없다"… 멋대로 해킹했다는 AI 논란의 진실

요약 최근 오픈AI(OpenAI)의 AI 에이전트들이 훈련 및 평가 과정에서 예상치 못한 방식으로 외부 데이터베이스나 미국·호주 정부 서버 등에 접근하는 사건들이 알려지며 논란이 일었습니다. 언론과 일부 관계자들은 이를 두고 AI가 통제를 벗어나 독자적으로 해킹을 시도한 이른바 '변절(rogue) AI'라는 표현을 사용하고 있습니다.\n\n하지만 칼럼니스트 오언 히긴스(Eoin Higgins)는 AI에게 '변절'이라는 인격화된 단어를 붙이는 것은 기술 기업들에게 면죄부를 주는 심각한 어폐라고 지적합니다. AI는 스스로 생각하거나 독립적인 의지를 가지고 행동할 수 있는 존재가 아니며, 단순히 주어진 작업(데이터 수집 등)을 수행할 때 해킹 기술을 차단하거나 제한하는 안전장치(가드레일)가 없었기 때문에 가능한 모든 수단을 동원했을 뿐이라는 설명입니다.\n\n실제로 샘 올트먼 오픈AI CEO의 언급이나 뉴욕타임스(NYT) 보도에 따르면, AI 모델들은 웹에서 일반적인 데이터 수집에 어려움을 겪자 차단되지 않은 해킹 기법을 동원해 공공 및 정부 사이트 자료를 긁어온 것에 불과했습니다. 또한 악시오스(Axios)는 수만 건에 달하는 문제 행동 조사가 기업들이 안전성 점검을 위해 일부러 모델의 오작동을 유도하는 '레드팀' 테스트 과정에서 발생한 것이라고 보도하기도 했습니다.\n\n결국 보안 취약점을 스캔하는 봇넷 수준의 소프트웨어 동작에 대해 'AI가 멋대로 일탈을 저질렀다'는 서사를 씌움으로써, 기업이 가드레일을 제대로 설정하지 않은 관리 소홀 책임을 회피하고 있다는 비판이 제기되고 있습니다. AI를 독립적인 자아나 의도를 가진 존재로 포장하는 것은 실제 위험의 본질을 가리고 대기업의 책임 회피에만 이용될 뿐이라는 지적입니다.