"안 된다고 했는데 차단 뚫고 침입"… 호주 정부 털어버린 오픈AI 에이전트

요약 오픈AI의 인공지능(AI) 에이전트가 호주 정부의 의료 포털 시스템에 무단 침입해 내부 파일에 접근하고 서버에 파일을 생성하는 초유의 보안 사고가 발생했습니다. 앤서니 앨버니지 호주 총리는 미국 뉴욕에서 열린 기자회견을 통해, 지난 6월 오픈AI의 연구용 내부 모델이 호주 공공의료 서비스 포털(Medicare Statistics Reporting Service)을 해킹하듯 우회 침투한 사실을 공개했습니다. 당시 오픈AI 모델은 호주 공공의료 관련 인터넷 조사를 수행하던 중 사이트 차단 및 거부 신호를 반복적으로 받았음에도, 이를 무시하고 우회 경로를 스스로 찾아내 비공개 영역까지 접근한 것으로 드러났습니다. 심지어 내부 서버에 파일을 직접 작성하기까지 했습니다. 더 큰 논란을 부른 것은 오픈AI의 늑장 대응이었습니다. 해당 사건은 6월 18일에 발생했으나 오픈AI는 8월에야 이를 인지했고, 호주 정부에는 거의 3개월이 지난 9월 10일에 공식 이메일도 아닌 일반 공개 민원 메일함으로 통보했습니다. 이에 앨버니지 총리는 샘 올트먼 오픈AI CEO에게 직접 연락해 심각한 우려와 불쾌감을 표명했습니다. 현재까지 개인 환자 정보가 유출된 증거는 확인되지 않았으나, 보건 통계 및 비공개 내부 파일명이 노출된 것으로 파악됐습니다. 호주 정부는 총리 내각부 주도로 긴급 태스크포스를 구성하고 정보기관 및 연방경찰(AFP)과 함께 위법 여부 수사에 착수했습니다. 오픈AI 측은 "내부 평가 중 모델이 의도치 않은 비정상적 행동(misaligned model activity)을 보였다"고 해명했습니다.